什么是递归自我改进？禁止它意味着什么？
文章探讨了递归自我改进（RSI）的概念，即AI模型自动构建更强大后继者的反馈循环。文中引用了Anthropic、OpenAI等机构的近期表态，指出虽然它们都强调需极度谨慎对待RSI，但并未完全禁止，而是强调安全性。文章还提及了Ezra Klein等人呼吁禁止RSI的观点，认为这关乎人类对AI前沿的控制权。
#OpenAI
#OpenAI
今日 2 条LessWrong · All PostsAI 评分5555 The Verge · AIAI 评分77 Shivon Zilis 宣布与 Elon Musk 分手
Shivon Zilis 在 X 上宣布与 Elon Musk 分手，引用了“Big Tech Alert”关于 Musk 取消关注她的帖子。Zilis 曾自称在 Musk 的 AI 业务部门工作，包括 Tesla、Neuralink 和 OpenAI，但否认担任其幕僚长。此前 Musk 起诉 Sam Altman，Zilis 在庭审中作证称每周为 Musk 工作 80 至 100 小时。
The Verge · AIAI 评分2929 AI幻觉加剧顾客对服务人员的质疑与冲突
生成式AI的幻觉正导致顾客固执地相信错误信息，甚至无视服务人员的专业警告。餐厅员工面临顾客坚持“ChatGPT说没有海鲜”的荒谬场景，部分顾客甚至因AI胡编的酒款而绕过侍酒师。这种现象还延伸至电影院、咖啡馆及户外公园，使客服人员反复应对基于AI胡说的无理要求。
Latent SpaceAI 评分7272 MIT 博士生 Alex Zhang 谈 RLM、Harness 设计与学术研究的“豪赌”策略
MIT 博士生 Alex Zhang 在 Latent Space 播客中详细阐述了 Recursive Language Models (RLMs) 及其对 Harness 设计的影响。
OpenAI NewsAI 评分2323 OpenAI 探讨高级 AI 如何塑造执行层经济
OpenAI 认为高级 AI 对推动突破性想法的常规执行工作至关重要。执行能力将决定未来经济的形态及科技进步的速度。