LLM智能体行动选择中的溯源敏感性审计

最新研究提出了一种针对特定目标的授权审计方法，旨在评估LLM智能体在行动选择中对证据来源权限的敏感度。在受控退化的450项任务测试中，数据显示模型易受文本来源权限暗示影响，未授权竞争导致的错误保留率为2.4%。该研究量化了不同情境下可信与不可信证据对行动的影响差异：在竞争情境下，不同权限证据导致行动差异的比例高达5.4%，而在支持情境下该比例仅为1.7%。这表明在证据冲突的竞争环境中，LLM智能体的行动选择对溯源敏感性问题更为显著。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。