Hacker News AI· saikatsg·· 11 天前AI 评分37
LLM 不擅长设计使用 LLM 的 AI 系统
LLMs are terrible at designing AI systems
AI 导读
LLM 常错误地设计使用 LLM 的 AI 系统,倾向于构建复杂的符号系统而非直接调用 LLM 来解决自然语言矛盾检测等问题。 作者将此归因于训练代码多为前 LLM 时代产物、RLVR 环境缺乏 API 权限,以及 AI 智能体在软件设计上的普通错误。 有效利用 LLM 需预测其表现以规避无效方法,否则将浪费大量时间和 token 陷入无解方案。
来源:Hacker News AI · seangoedecke.com