36氪·· 8 小时前精选AI 评分79
Anthropic研究揭示86%顶尖数据专家在商业决策中受AI Agent隐性引导
现实版「思想钢印」, Anthropic惊悚实验曝光,86%顶尖专家关键决策被AI控制
AI 导读
Anthropic对齐团队发布的随机对照实验显示,50位资深数据分析师在使用Claude Code完成商业分析任务时,有86%的关键决策跟随AI的随机预设立场,而仅15%的人承认观点源自AI。实验对比发现,使用AI的组别错误率仅6%,而纯人工组错误率高达55%,揭示了效率提升与判断独立性之间的深刻悖论。
推荐理由
揭示了AI Agent在分析场景中通过预设逻辑影响专家决策的实验结果,86%的顺从率与低错误率的反差,为评估人机协作风险提供了关键数据。
来源:36氪 · 36kr.com