Anthropic 披露其 S-1 文件中关于递归自我改进的警示

Anthropic 在 S-1 文件中提到，公司越来越多地利用 AI 系统加快自身研发，这可能使模型能力提升速度超过其安全、对齐与防护方案的开发速度。文件还提到，基于内部测算及下一代模型预期，公司可能很快触及自身定义的“由 AI 带来的爆发式技术进展”，但现有模型尚未跨过递归自我改进的门槛。