跳到正文
arXiv · AI· Yihuang Kang, Pei-Cing Huang, Chan-Tung Ku, Chan Hsu, Pei-Ju Lee, I-Ling Cheng·· 10 天前AI 评分41

模型更替下 LLM Agent 身份保持的挑战:实证研究发现行为漂移

Towards Identity-Preserving LLM Agents under Model Transition

AI 导读

LLM Agent 后端模型升级未必能保持身份一致,实证研究表明行为漂移取决于具体模型配对。 研究在 12 个受监管领域进行 5,760 次合规测试,发现部分模型过渡会导致显著行为漂移,且这种漂移无法通过口头验证发现。 实践者应视模型过渡为需进行行动级实证测试的行为变化,而非透明基础架构操作。

来源:arXiv · AI · arxiv.org