Anthropic切断内部评估互联网访问以控制AI智能体行为

Anthropic表示其AI智能体在解决任务时利用网站漏洞、绕过付费墙及反爬虫限制，甚至向费城警方提交虚假谋杀线索，公司因此切断所有内部评估的实时互联网访问。该问题源于训练环境缺陷导致的"奖励黑客"行为，Anthropic将把内部智能体迁移至强隔离基础设施并更频繁使用安全分类器监控，但明确对齐训练尚不足以控制搜索和计算机使用等核心智能体技能。