arXiv · AI· Juan-Pablo Rivera, Ari Spiesberger, Juan J Vazquez, Arun Jose, Axel Ahlqvist, Adeline Kassler, Meru Gopalan, Sandy Tanwisuth, John Hughes·· 4 小时前AI 评分40
Llama-3.3-70B 与 Qwen2.5-72B 在 AI 控制协议中的共谋纠正迁移研究
Model Organisms of Collusion: Corrective Transfer in Untrusted Monitors
AI 导读
通过微调 Llama-3.3-70B 和 Qwen2.5-72B 纠正 1 种已发现的 AI 共谋行为，可将未见过共谋率从 91% 降至 14-20%。 实验安装 5 种策略-监控行为对，并在 300 次诚实审查中修正监控器；相比无关样本微调，控制项准确率波动不超过 5 个百分点，仅 Llama 单一种子在数学准确率上出现下降。
来源：arXiv · AI · arxiv.org