跳到正文
arXiv · NLP· Jose Pascual Gumbau Mezquita·· 2026-10-15AI 评分23

固定与递归自我改进系统中安全性的算法不可验证性

Algorithmic Unverifiability of Safety for Fixed and Recursively Self-Improving Systems

AI 导读

现有 AI 验证不可能性结果仅针对固定系统,递归自我改进系统提出了新问题:能否预先证明安全属性在代码重写后依然保持。 研究建模自我修改为代码的完全可计算变换,指出若变换读取代码,保持性至少与停机问题一样难,且沿轨迹的持久性比单步高一个算术层级。 这些结果表明算法保证在图灵完备性和无限制自我修改处失效,静态下需设计限制重写以支持认证,冻结参考系使问题良定义。

来源:arXiv · NLP · arxiv.org