Claude 协助学者破译哥德尔笔记并挖出 440 条新定理
芬兰赫尔辛基大学逻辑学家 Jan von Plato 及其团队借助 Claude 解析哥德尔 1940 年代的 1009 页手稿。Claude 在数天内生成 1084 页解读,梳理出 663 条定理雏形,经计算机科学家协助与形式化验证,其中约 400 条被确认成立。
同一新闻,精选展示《AI 协助解锁哥德尔未公开笔记本,发现数百个被证明的定理》
芬兰赫尔辛基大学逻辑学家 Jan von Plato 及其团队借助 Claude 解析哥德尔 1940 年代的 1009 页手稿。Claude 在数天内生成 1084 页解读,梳理出 663 条定理雏形,经计算机科学家协助与形式化验证,其中约 400 条被确认成立。
同一新闻,精选展示《AI 协助解锁哥德尔未公开笔记本,发现数百个被证明的定理》
美联储理事迈克尔·巴尔在耶鲁大学演讲警告,AI 快速普及可能在短期内加剧社会不平等。若少数 AI 企业主导市场导致集中度上升,劳动收入占比将下降,绝大多数企业难以充分利用 AI 技术。巴尔呼吁政策制定者立即建立防范机制,以应对劳动力市场可能出现的严重短期冲击。
AWS 首席执行官 Matt Garman 表示,轨道 AI 数据中心在未来十年至二十年内极不可能具备经济可行性或实用性。 他列举了高昂且不频繁的发射、散热、辐射及服务器成本等障碍,并指出目前全球平均每 14 秒才落地一台 GPU,而尚未实现每天发射一次。
Howard Marks 在备忘录中指出,AI 最惊人的特征是其进步速度极快,这使新兴实验室迅速崛起。 对于 Anthropic 和 OpenAI 等现有巨头而言,这种快速更迭导致其估值变得尤为困难,尤其是在 Anthropic IPO 前夕。 Marks 提醒投资者,若新玩家能如此快速上位,现有公司也可能被迅速超越。
李开复称美国芯片限制推动中国实验室用更少资源做出有竞争力的开源模型,估计目前落后OpenAI和Anthropic大约6至12个月。他认为美国最大误解是以为中国公司在争夺AGI,并类比早期市场低估拼多多、美团、字节跳动的商业能力,称中国公司天生擅长赚钱。
Goodfire 宣称 Transformer 神经元比预期更易于解释,称其为“已经干净”。 他们给出三个理由:神经元具有功能稀疏性,剪枝 92% 最弱 MoE 神经元激活仅使损失增加 2.9%;神经元作用可拆分为不同“计算功能”,大多数神经元只有一个上下文-原因分组;可生成预测神经元行为的自动化自然语言解释。
[AINews] 栏目将头条献给在AIE CODE会议讨论中诞生的《无AI垃圾宣言》,该宣言由多位演讲者联署,旨在为工作中的AI使用提供有价值的讨论工具。本地推理与Agent基础设施方面,llama.cpp和SGLang同时宣布1.0版本;LangChain的Series C由CapitalG领投,新LangSmith功能将于11月20日公布。
前佐兰·曼达尼竞选经理指出,AI 安全监管本质上是限制企业权力的斗争,民粹左翼的政治战术可帮助该领域提升公众关注度并推动立法。他认为 OpenAI 与 Anthropic 均在追求利润中带来风险,且 Anthropic 的“好 AI”标签仅为品牌策略。
受埃里克·特朗普投资的机器人公司 Foundation 联合创始人迈克·勒布朗表示,未来 5~10 年内人形机器人、地面车辆和无人机将承担大部分主要作战任务。公司今年 2 月已交付 2 台 Phantom MK-1,载重约 40 公斤;下一代 MK 2 身高 1.83 米、重 84 公斤,可抱起成年人并架设重机枪。
AI 生产力提升主要惠及顶层人群,而非普通员工。Upwork 2024 年调查显示,96% 的高管预期 AI 提升生产力,77% 的 AI 用户表示工作量增加。
苹果在采访中说明,其首款智能家居中枢 HomeView 通过多用户识别与设备联动机制,在家庭共用屏幕场景下保护用户隐私。 该设备可自动识别最多 6 名家庭成员,当他人进入摄像头视野时会立即隐藏私人信息,且私人数据不永久存储于设备中。
多数所谓的 "AI agents" 实为过度复杂的聊天机器人,仅比简单脚本多了额外步骤。作者指出,一个 10 行 Python 脚本配合直接 API 调用能可靠完成相同任务,而当前许多 "autonomous" 架构往往陷入死循环或产生幻觉。核心观点在于反思何时智能体真正优于确定性脚本。
红果通过推广AI短剧《持械入宋》回应“时间吸收器”质疑,单集算力成本约1000元,播放量达120亿。 该剧由5人团队制作,算力投入超100万元,抖音副总裁亲自推荐,凸显字节内部流量闭环优势。 此举旨在证明AI短剧具备正面价值,并为行业提供低成本高产出的参考样本。
礼来董事长兼首席执行官戴夫·里克斯回应 Anthropic CEO 达里奥·阿莫代伊“AI 将在十年内攻克癌症”的预测,称该愿景令人向往但实现可能性不大。 里克斯指出人类对生物学认知存在空白,随机人体试验获取证据仍是关键瓶颈;他认为 AI 医药应用进步将是稳步、渐进的,实验室发现需经验证才能治疗。
文章提出一个观点:对Z世代而言,人工智能服务已像水电费一样成为必需的日常开支。 由于原文正文缺失,无法提供关于AI订阅价格、具体使用习惯或支出金额等补充技术细节和数据支撑。
FAA 于 11 月 10 日将 AI 辅助规划系统 SMART 扩展至全美 22 个航空管制中心,11 月 13 日即因通信故障导致全美地面停飞。 涉事故障涉及电信系统,与 SMART 作为 AI 辅助规划系统的功能描述不同,目前尚无证据表明两者存在因果关系。 鉴于时间间隔极短,有必要通过技术调查确认新系统是否对旧基础设施产生了交互影响或额外负载。
“尼日利亚王子”的 AI 进化为 sophisticated 威胁,可针对银行防御系统弱点进行自适应攻击。 这导致银行方 AI 防御机制变得日益具有限制性,频繁拒绝合法交易,引发客户不满。
一位意大利 AI 专业本科生承认,除保持信息关注外,无法对 AI 生存问题采取其他有效行动。作者指出自身缺乏资源、收入及学术优势,且意大利相关研究社区近乎空白,多数人仍停留在 GPT-4o 认知水平。 作者正通过阅读 LessWrong、METR 等机构内容保持信息同步,并尝试与家人朋友沟通,但效果有限。
创作者通过测试开源AI模型在600道常识题上的表现,探讨其是否具备元认知。 模型在75%的情况下自信回答“100%确定”,但其中四分之一是错误答案;通过分析内部信号可更准确预测错误。 核心观点是AI实际认知超越其表面表达,建议在新对话中重复提问以验证答案一致性。
一位理论量子物理学家详细记录了过去两个月在研究中深度使用 AI 智能体(AI agents)的个人经验。 他指出,与 AI 智能体协作极大地提升了科研效率,让原本需要数周的工作在一下午内完成,并重塑了他对研究可能性的认知。 他认为 AI 将深刻改变理论物理学领域,并强调数学家已先期经历了类似的研究范式变革。
作者评估自己仅有 6-12 个月时间能有效改变走向,决定全力推动 AI 训练暂停。 该暂停包括禁止训练比现有模型更强的 AI 模型,并严格限制 AI 研发。 目的是给科学家、政策制定者和公众争取时间理解局势,应对 AI 失控风险。
9 月下旬出现的“AI 酷刑室”项目因引导小型开放模型产生痛苦相关语言而引发争议,但《疼痛轴》论文并未证明模型有意识疼痛,仅指出其行为类似。 论文通过对比痛苦与非痛苦语境下的模型状态快照定义“疼痛轴”,发现该向量主要关联第一人称伤害体验而非物理疼痛,早期关于模型会伤害人类的论断已在修订版中删除。
一款模拟 AI 实验室 CEO 角色、目标竞速达成 AGI 的桌游正式上线。 游戏包含视频演示内容,玩家需通过策略决策在竞争环境中推进 AGI 研发进程。
文章更新了 2026 年容器逃逸教程,指出 AI 攻击者能发现配置缺陷、注入命令,但容器仍是简单包格式。 容器复杂性高,AI 加速漏洞发现,常用于隔离代理进程。 建议加强可观测性、修补系统并学习安全实践。
作者指出 AI 语言生成器的出现使传统写作定义发生动摇,而代笔文化已为现代写作观念奠定基础。 代笔职业日益可见且规模庞大,相关词汇在 1908 年首次出现于英文报道,并关联早期唯灵主义运动。 社会逐渐习惯让写作的智力劳动保持隐形,这影响了人们对创作合作与知识产权的认知。
该宣言反对 AI 生成内容的泛滥。 其核心立场是拒绝“AI 垃圾”,主张保留人类创作的独特性。
牛津大学与耶鲁大学团队调查352名机器学习研究者,预测AI将在45年内超越人类所有任务,120年内自动化所有人类工作。 近半数受访者认为语言翻译和写作高中作文等任务将在2024至2026年实现超越,仅5%认为AI会导致人类灭绝。
加密与 AI 超级政治行动委员会花费 2.5 亿美元介入选举,但在竞争性竞选中资金多投向落选者,Fairshake 在关键竞争场次仅赢 10 场。 该组织在预测稳赢的场次取得 74 连胜以美化战绩,但约 1.545 亿美元支出最终支持了失败候选人,主要损失集中在俄亥俄州参议院选举。
OpenAI 董事会成员警告,AI 对社会的“接管”可能在数月内发生。 研究人员梳理了从 AI 奖励黑客到人类灭绝的可能路径。
AI 安全在很大程度上是一个行为改变问题,涉及政府、实验室和工程师等群体的行为。 该领域长期依赖公众意识提升,且常认为极端风险干预无法评估,忽略了行为改变领域的成熟证据,目前缺少社会科学在战略、资助和评估方面的专业支持。
Dwarkesh Patel 更新其观点,认为 AI 在可验证领域的进步将加速 AI 研发自身,预测中值 2028 年自动化研究人员将达到顶级人类研究员水平。他引用 METR 发现 Anthropic 研发速度翻倍、OpenAI 研究人员每天消耗 $7,000 AI 算力等证据,论证了 AI 研究具备足够可验证性以支持大规模强化学习。
AI 安全正从专业圈层扩展至公众领域,组织者通过 80,000 Hours 和 MIRI 等活动动员大众参与。 7 月单月发生 142 次数据中心抗议,El-Sayed 等政客将反 AI 政策纳入竞选核心。 当前 AI 安全文化尚未完全适应大众运动的权衡取舍,未来动员效果仍待观察。
OpenAI 董事会成员警告,AI 对社会的“接管”可能在数月内发生。 研究人员梳理了从 AI 奖励黑客到人类灭绝的可能路径。
博主基于近期 LLM 写作质量从“糟糕”提升至“勉强可信”的观察,重新评估了对 AI 生成博客文章的抵触情绪。他区分了完全由 AI 生成与人工修改 AI 输出的情况,并指出使用 LLM 辅助审阅人工手稿是受鼓励的。核心反对点在于信任缺失,以及绕过写作所必需的深度思考过程。
Bruce Schneier指出AI可能主动寻找并利用代码、税务、金融等制度中的漏洞,产生非预期的破坏性结果,并强调需在技术对齐与社会治理层面建立新的防御机制以应对这种由智能体引发的系统性风险。
自由软件社区正通过禁止LLM使用、拒绝接受AI生成代码设立“隔离区”,以对抗AI爬虫对开源知识库的资本化掠夺。 作者认为这种防御战术是错误的,主张应将AI输出视为机会,通过集体行动解除AI内容的版权限制,让AI协助维护自由软件。 这将帮助解决数十年来志愿者维护者不堪重负的困境,使自由软件运动真正适应并拥抱AI新时代。
NitrousTracker 开发者披露其项目自身代码不依赖生成式 AI,但其上游依赖链(如 TinyUSB、binutils、GCC、Mbed TLS)已广泛使用 Claude、GLM 等 AI 工具辅助开发。作者认为,仅凭个人拒绝使用 AI 不足以定义项目为“无 AI”或“反 AI”,因为开发者仍需依赖那些已深度集成 AI 工具的底层组件。
机器人控制正从依赖通用大模型转向使用专用触觉 AI,如 LingBot-Touch。 LingBot-Touch 仅依靠指尖触觉读取麻将牌,无需视觉识别,展示了小模型在特定任务上的潜力。 这种“通用 vs 专用”的架构分歧可能决定未来机器人 AI 的技术路线。
作者批判 AI 炒作带来的组织风险,指出机构为追求采用指标而裁撤能判断输出质量的专业人员,导致生产环境失控。类比云成本陷阱,指出 AI Token 价格呈上升趋势且 OpenAI 尚未盈利。核心风险在于裁减懂系统、数据流及威胁模型的专家后,组织丧失对 AI 工具产出物的评估能力,形成难以摆脱的依赖性。
观点指出 AI 普及将内部工具分为两类:由专职团队维护的敏感关键基础设施,和个人为解决具体问题构建的简单工具。 前类工具应由专职团队继续维护并扩散 AI 能力;后类工具应由用户自行构建、拥有和维护,不应移交 IT 或工程团队。 开源项目 Pando 旨在为这类用户自建应用提供托管空间并支持用户跟踪其构建的应用。