跳到正文
LessWrong · All Posts· nielstron·· 10 天前精选AI 评分76

SlopWare:关于编码智能体剩余缺陷的观察

SlopWare: Observations on the Remaining Shortcomings of Coding Agents

AI 导读

作者让4个编码智能体在100美元预算内构建功能性PDF编辑器,发现成品在几次点击内即可发现bug。作者假设这是因为智能体不像人类那样追求具体目标、体验交互摩擦且较少观察UI,除非改变LLM运作方式,否则将面临恼人的SlopWare问题。

推荐理由

通过给4个编码智能体100美元预算构建PDF编辑器的实验,揭示了智能体在交互摩擦感知和UI观察上的不足。

来源:LessWrong · All Posts · lesswrong.com