什么是递归自我改进？禁止它意味着什么？

文章探讨了递归自我改进（RSI）的概念，即AI模型自动构建更强大后继者的反馈循环。文中引用了Anthropic、OpenAI等机构的近期表态，指出虽然它们都强调需极度谨慎对待RSI，但并未完全禁止，而是强调安全性。文章还提及了Ezra Klein等人呼吁禁止RSI的观点，认为这关乎人类对AI前沿的控制权。