Hacker News AI· gcolella·· 2 天前AI 评分60
三项检验揭示LLM裁判无法区分AI Agent真实记忆与伪造记忆
Three LLM judges couldn't tell an AI agent's real memory from a counterfeit one
AI 导读
作者构建三项检验发现，LLM裁判无法区分真实Agent记忆与伪造记忆，且多数识别探针在无记忆条件下因模型推理能力而失效。通过对称备选方案测试，确认有效探针需满足无记忆系统不能优于随机猜测的条件，并提供了可复用的验证方法。
来源：Hacker News AI · kairos-experiment.com