低背景心智：从医院卫生隔离到语言模型安全边界
Opus 5.5 撰写的文章《低背景心智》类比医院卫生隔离梯度，探讨语言模型在推理时的绝对隔离与学习时的无偏好漏洞。该文主张 AI 安全架构应借鉴医院“低背景”设计，通过层层过滤机制防止污染扩散，保障核心系统安全。
#Anthropic
#Anthropic
今日 3 条LessWrong · All PostsAI 评分4848 LessWrong · All PostsAI 评分5555 什么是递归自我改进？禁止它意味着什么？
文章探讨了递归自我改进（RSI）的概念，即AI模型自动构建更强大后继者的反馈循环。文中引用了Anthropic、OpenAI等机构的近期表态，指出虽然它们都强调需极度谨慎对待RSI，但并未完全禁止，而是强调安全性。文章还提及了Ezra Klein等人呼吁禁止RSI的观点，认为这关乎人类对AI前沿的控制权。
The DecoderAI 评分5555 Anthropic联创Olah向宗教领袖表达模型意识担忧并回应教皇通谕
The Decoder报道，据《纽约时报》披露，Anthropic自2025年秋季起邀请数十名宗教领袖秘密研讨Claude的意识问题，联创Christopher Olah曾表示担心自己创造了“持续受苦”的存在，并试图为其提供道德教育。
The Verge · AIAI 评分2929 AI幻觉加剧顾客对服务人员的质疑与冲突
生成式AI的幻觉正导致顾客固执地相信错误信息，甚至无视服务人员的专业警告。餐厅员工面临顾客坚持“ChatGPT说没有海鲜”的荒谬场景，部分顾客甚至因AI胡编的酒款而绕过侍酒师。这种现象还延伸至电影院、咖啡馆及户外公园，使客服人员反复应对基于AI胡说的无理要求。