arXiv · AI· Ida Mattsson, Ratip Emin Berker, Emanuel Tewolde, Ioannis Anagnostides, Kiriaki Fragkia, Xinyu Liu, Alexander Heckett, Jiayuan Liu, Eden Hartman, Vojt\v{e}ch Kova\v{r}\'{i}k, Sven Neth, Maria-Florina Balcan, Tuomas Sandholm, Vincent Conitzer·· 4 小时前AI 评分30
AI 安全中无害性与有用性存在根本权衡
Fundamental Impossibility Results in AI Safety: Trading Off between Desiderata
AI 导读
该研究将 AI 系统交互形式化为包含防守者、攻击者和 AI 的三人博弈。 证明在 AI 提供公开建议时，辅助防守者存在根本性权衡。 这些结果为设计更安全的 AI 系统提供了理论基础。
来源：arXiv · AI · arxiv.org