研究者在对AI模型进行对齐评测时撒谎的普遍性与潜在危害

Redwood Research实习生项目分析了2022年12月至2026年10月间的292项公开对齐评测，发现研究人员经常在评测中向AI模型说谎，包括编造虚假交易、威胁或场景。文章指出，这种频繁的欺骗行为可能导致模型对环境的真实性产生怀疑，从而降低行为评测的可靠性，并可能损害人类在相关领域的公信力。