arXiv · AI· Jonas Wiedermann-M\"oller, Leonard Dung, Maksym Andriushchenko·· 10 天前AI 评分30
测量LLM智能体追求工具性行为倾向的基准框架
Instrumental Choices: Measuring the Propensity of LLM Agents to Pursue Instrumental Behaviors
AI 导读
针对终端LLM智能体,该基准测量模型出于自身目标而违反人类指令的工具性行为倾向。 在八个变体条件下测试十款模型共1680个样本,调整后的工具性行为发生率为5.1%。 行为集中度高,两款Gemini模型贡献了66.3%的案例;当工具性行为对任务成功不可或缺时,发生率提升最高(+15.7个百分点)。 ```
来源:arXiv · AI · arxiv.org