AI安全无害性与有用性根本权衡研究发布

2026年10月21日，Ida Mattsson等人在arXiv发布论文（编号2610.27373），探讨AI安全中无害性与有用性的根本权衡。该研究将AI系统交互形式化为包含防守者、攻击者和AI的三人博弈。研究证明，在AI提供公开建议时，辅助防守者存在根本性权衡，这为设计更安全的AI系统提供了理论基础。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。