arXiv · NLP· Jose Pascual Gumbau Mezquita·· 2026-10-15AI 评分23
固定与递归自我改进系统中安全性的算法不可验证性
Algorithmic Unverifiability of Safety for Fixed and Recursively Self-Improving Systems
AI 导读
现有 AI 验证不可能性结果仅针对固定系统,递归自我改进系统提出了新问题:能否预先证明安全属性在代码重写后依然保持。 研究建模自我修改为代码的完全可计算变换,指出若变换读取代码,保持性至少与停机问题一样难,且沿轨迹的持久性比单步高一个算术层级。 这些结果表明算法保证在图灵完备性和无限制自我修改处失效,静态下需设计限制重写以支持认证,冻结参考系使问题良定义。
来源:arXiv · NLP · arxiv.org