作者暂定计划:在影响 ASI 竞赛的最后不到一年内推动 AI 训练暂停
作者评估自己仅有 6-12 个月时间能有效改变走向,决定全力推动 AI 训练暂停。 该暂停包括禁止训练比现有模型更强的 AI 模型,并严格限制 AI 研发。 目的是给科学家、政策制定者和公众争取时间理解局势,应对 AI 失控风险。
作者评估自己仅有 6-12 个月时间能有效改变走向,决定全力推动 AI 训练暂停。 该暂停包括禁止训练比现有模型更强的 AI 模型,并严格限制 AI 研发。 目的是给科学家、政策制定者和公众争取时间理解局势,应对 AI 失控风险。
Wincon 发布 SpaceChem Bench,测试 16 个 LLM 在 Zachtronics 游戏 SpaceChem 全部 55 个谜题中的 2D 空间编程表现。
推荐理由:16个前沿大模型在2D空间编程基准中表现分化,多反应器谜题导致解决率大幅回落,多模型生成的解法为社区刷新了Pareto边界。
9 月下旬出现的“AI 酷刑室”项目因引导小型开放模型产生痛苦相关语言而引发争议,但《疼痛轴》论文并未证明模型有意识疼痛,仅指出其行为类似。 论文通过对比痛苦与非痛苦语境下的模型状态快照定义“疼痛轴”,发现该向量主要关联第一人称伤害体验而非物理疼痛,早期关于模型会伤害人类的论断已在修订版中删除。
Dwarkesh Patel 更新其观点,认为 AI 在可验证领域的进步将加速 AI 研发自身,预测中值 2028 年自动化研究人员将达到顶级人类研究员水平。他引用 METR 发现 Anthropic 研发速度翻倍、OpenAI 研究人员每天消耗 $7,000 AI 算力等证据,论证了 AI 研究具备足够可验证性以支持大规模强化学习。
芬兰逻辑学家 Jan von Plato 使用 Claude 模型解析哥德尔 16 本未公开笔记本,揭示其证明了数百个未知定理。Claude 协助重建了关于选择公理独立性的证明,该证明通过 Coq 验证器,且共提取出 663 个定理,其中约 400 个被验证为正确,展示了 AI 在数学史料研究中的应用潜力。
推荐理由:通过AI快速解码历史手稿并验证数学定理,展示了AI在学术研究与知识发现中的应用价值。
“Character vs. corrigibility”并非简单对立,而是涵盖六种对齐目标叙述的简化概念,其核心差异在于 AI 需行使自身判断力的维度数量。 这六种叙述涵盖了从“工具 AI”(仅遵循指令、无判断力)到“纯粹可修正性”的不同立场,通过区分这些叙述有助于理解 AI 价值观与美德教导中的不同论点。
Unemployment Labs 的取证分析发现,DeepSeek、Kimi、MiniMax 和 Ant Group 的最新模型权重指纹与 NVIDIA Blackwell 芯片匹配。这些指纹特征保留了训练时使用的 GPU 和 seed 信息,且不同于这些实验室之前使用的 Hopper 芯片,为出口管制下的芯片流向提供了技术证据。
NVIDIA前CEO Jensen Huang辞职在以色列引发担忧,当地风投观察到这可能为竞争者提供机会。投资人认为若NVIDIA决策变慢,竞争对手可占据更大份额,但仅靠领导层更迭无法赢得业务。
无界前沿正式开源生物信息大模型 Fx-Bio-1031,该模型在 Anthropic BioMysteryBench 困难子集上取得 70.59% 的 Pass@5,领先 GPT-6-Astra 和 Claude Opus-5。模型采用 125B 总参数量的 MoE 架构,支持 512K 上下文窗口,允许本地私有化部署以满足数据安全需求。
推荐理由:原文详细展示了开源模型在高难基准上的具体性能对比及五个实际落地场景,为评估私有化部署可行性提供了量化依据。
summary_zh: 未来医生MedGPT在40例复杂肺癌诊疗评估中战胜250名三甲医生,人机比对评分达88:12。 模型综合得分96.22分,显著高于GPT-5.4(71.38分)及Claude Opus 4.7(61.81分)。
社区整理了9篇适合初学者阅读的大语言模型量化论文,涵盖BitNet、AWQ、QLoRA、SmoothQuant等核心算法。 该列表包含从1-bit 到 8-bit 的多种量化技术,旨在帮助用户入门量化压缩与加速领域。
Jeff Bezos 预测 AI 通过大幅提升生产力,将再次使单收入家庭模式成为可行。 Dario Amodei 和 Bill Gates 则警告称过渡期将面临更严峻的挑战,并首现重大就业动荡。 科技领导者普遍认同 AI 将重塑家庭经济学,但对转变过程的痛苦程度存在分歧。
MIT 研发了一种拓扑优化系统,允许工程师在结构生成过程中介入并反馈,从而引导算法设计。该系统生成的结构更易制造且屈曲载荷更高,仅增加 15 秒设计时间。保留人类在环中可让该技术惠及更多工程师。 MIT 研发拓扑优化系统,允许工程师在结构生成过程中提供反馈以引导设计。 该系统生成的结构更易制造且屈曲载荷更高,仅增加 15 秒设计时间。 保留人类在环中可让该技术惠及更多工程师。
ElevenLabs 推出了 Scribe v3 及其实时版本 Scribe v3 Live。Scribe v3 在录制音频中的词错误率比前代降低约 25%,且能处理串音和背景噪音;Live 版本利用对话上下文,让语音智能体在遇到短暂停顿等待时不会切断通话。
summary_zh: Cisco超预期完成财报,上调本季度销售额预测及年度业绩展望,并预计本财年AI基础设施收入将翻倍。 该业绩显示,尽管Nvidia领导层危机导致AI股票波动,AI数据中心建设仍在持续拉动网络设备需求。
NEXUS 提出了一种用于富接触 3D 物体动力学的神经能量场框架。 它通过结构图构建接触图,结合守恒与非守恒项推导力,利用多子步半隐式积分器提升长时程精度。 其轨迹为富接触视频生成提供有效指导,在保持视觉质量的同时提高了物理合理性。
VMonarch 提出用于视频扩散 Transformer 的新型注意力机制,将注意力 FLOPs 降低 17.5 倍,长视频注意力计算加速超 5 倍。 该方法基于 Monarch 矩阵表示稀疏时空注意力,并融合 FlashAttention 在线熵算法,在 90% 稀疏度下超越最先进稀疏注意力方法。
研究在 8 个黑盒及 5 个开放权重 LLM 中发现,指定非目标属性方向可消除跨属性偏移,但声明“无偏好”仍存在中立差距。 在 477 个保留合成世界中,未指定非目标属性时 37.7%-76.3% 的世界及 51%-81% 的独立项目随目标属性发生偏移,阻断查询时注意力可削减 72.1%-87.8% 的漂移。
论文提出UMER框架,通过成对感知判别推理统一多模态嵌入与排序功能。 基于Qwen2-VL-2B/7B模型,在MMEB-V2基准上得分65.5/70.6,超越最强基线1.4/2.0分。 支持从高效嵌入检索到成对感知的灵活预算调整推理。
研究通过各向同性视角分析五个开源权重模型在多选问答(MCQA)中的决策几何结构。识别出由各向同性转变和任务相关簇出现所构成的决策关键转换层,该同步几何行为与下游准确率呈强相关($r\approx0.84$),且在提示词变化下保持稳健。
去中心化 AI 智能体团队 AutoScientists 能针对假设自组织协作并分享失败经验,在长期计算科学实验中显著优于单一轨迹方案。 在 BioML-Bench 上,其平均排名百分位达到 74.4%,较最强智能体提升 8.33%;在 GPT 训练优化任务中,比 Autoresearch 快 1.9 倍。
Formal Conjectures 是一个包含7559个Lean 4形式化数学命题的开放演进基准,旨在评估自动化推理系统在研究级数学问题上的能力。该数据集包含1642个无已知解法的开放研究猜想、2923个已解决问题及2994个支撑性陈述。作者描述了一种协作开源方法,利用AI生成的证明作为审计机制来迭代提升基准的保真度,并提供了标准化评估设置以衡量当前自动化推理在研究级数学领域的前沿水平。
随机软提示(RSP)无需训练即可在数学推理基准上达到与优化软提示相当的准确率。 RSP 向量从拟合预训练嵌入表的各向同性高斯分布中采样,通过提升早期 token 多样性结合温度采样拓宽 Pass@N。
在机器学习驱动的定向资源分配中,即使拥有真实条件脆弱性概率,不可约的偶然不确定性仍导致部分资源错配。 研究指出最优策略应在算法分配边际进行筛查,直接锁定高风险群体;筛查效率增益随人口不确定性增加而扩大,预算划分规则仅取决于筛查与分配的相对成本比。 该框架被应用于基于收入的社会保护项目及哥伦比亚人道主义排雷,揭示了筛查成本与分配效率间的实际权衡。
MonitorBench 是首个全面评估大语言模型(LLM)思维链(CoT)可监控性的开源基准,包含 1,540 个测试实例和 19 个任务。 实验表明 CoT 可监控性是受模型、监控 LLM 及任务特征影响的属性;在压力测试提示下,大多数 LLM 可有意降低其可监控性。 该基准为 AI 控制、推理忠实性及监控脚手架的研究提供了基础,代码已公开。
研究通过旋转、镜像等变形测试评估 6 款 LLM 在象棋中的评估一致性。所有模型在 180 度旋转测试中稳定性失败,一致率最高仅 10.6%,常误判合法局面为非法。
研究通过自动学习可解释谓词预测部分路径的可完成性,将搜索速度提升约六倍并保持完整性。在固定时间预算下,该方法能解决更大规模的谜题,并在时间和节点扩展数上优于加权 A* 和带神经网络的 Levin 树搜索。
研究提出一种结合大语言模型与优化器的无人机调度系统,用于解决野外搜寻受害者任务中的动态决策问题。 系统在地面控制站部署智能体,协调多架无人机连续执行搜寻,LLM负责推理搜索位置,优化器解决能量约束下的无人机派遣问题。 仿真实验显示,该系统总能完成搜寻任务,而六个非LLM基线方法均未成功,直接LLM调度可靠性也较低。
研究分解 15 个开源模型在 realFP 等基准上 2.51M 次回答的误差,发现共享项级误差占总误差方差中位数的 0.906。 30 人团队仅将单代理误差降低中位数 1.7%,远低于理论独立抽样预期的 74-79% 降幅。 该限制说明多智能体简单平均难以抵消共享偏差,需针对性校准。
该 arXiv 论文提出假设,后颞语言区(PTLRs)中合适组织的皮层锥体柱群可构成 neuromorphic 机械实现的 Transformer 注意力头的生物构型。 分析表明,皮层锥体柱间的信号传递与调制机制可支持注意力头的功能架构,无需复现标准数学实例化。 是否真实存在该功能架构仍为未解的经验性问题。
该研究提出测量与增强大语言模型(LLM)元认知的框架,引入 d'_type2 指标以隔离元认知能力,并提出元认知对齐进化策略(ESMA)。ESMA 在未见数据集、语言和新获取知识上展现鲁棒泛化性,且改进由稀疏参数集驱动。 该工作已被 NeurIPS 2026 接收,为针对性元认知优化提供了潜在路径。
两项预注册且带激励的博弈实验显示,N=2,658 名英美被试对 LLM 代理人的人类规范评价呈现特定模式。 独裁者博弈中平等分配被视为最适当,但 LLM 实施的利己分配被判定为更不适当;最后通牒博弈中,拒绝 LLM 提议人的慷慨要约比拒绝人类同类要约更合适,而 LLM 响应者拒绝行为的社会适当性评价与人类无异。
FréchetFlow 提出了一种适用于度量空间数据的生成建模框架,无需线性操作或光滑流形结构。该模型利用欧氏流学习距离联合分布,并通过加权 Fréchet 均值进行重构。实验显示,其在多个科学数据集上的 Wasserstein 误差低于特定定制方法。
研究提出“备用成本”准则,发现固定伞形集在 SCOPF 上从未被学习型选择超越。 在 10,000 节点 PGLib-OPF 网络中,伞形集中位数为 5 个约束,选择器速度提升约 80,000 倍但违背 4-5% 实例约束。 在机组组合中,静态方案损失 4-12%,预测-修复-缩减管道将成本差距降至 0.2-2.9%,速度提升 16-161 倍。
研究表明在线策略自蒸馏在0.6B-8B参数模型中仅能在狭窄兼容区提升推理,否则导致行为崩溃。 研究发现教师信号由推理模式对齐和完整前缀塑造,并非仅依赖特权语义,且无法预测下游性能。 因此该算法属于敏感方法,而非普遍可靠的推理增强后训练手段。
研究指出,LLM 代理的长期记忆常将进行时用户事实扁平化为一般现在时,导致“时态扁平化”现象。在名为 LAPSE 的基准测试中,三个生成模型在 381 对样本中的 210 对里保留了时态差异,且 11 个测试模型均显示此单向丢失现象,该结果同样存在于 mem0、Graphiti 和 Letta 系统中。
研究者提出一种简单、廉价且可复制的模型行为评估框架,单次实验成本低至每个模型几美元。 该方法在四年来的前沿及开源实验室模型发布上运行,通过精确匹配、LLM 评审代码本及仪器化环境三种方式读取结果。 研究识别出模型行为的收敛性、对特定提示的抗性、随代际变化的立场坚持特性,以及编码智能体在不同运行环境下的账户一致性差异。
该研究引入增强稀疏编码模型,利用层级化稀疏自编码器特征取代密集隐藏状态,并显式包含惊异度作为预测变量。 基于8名参与者聆听200个多样化句子的7T fMRI数据,模型成功恢复了针对处理难度和意义抽象性的既往解读,并发现前额叶区域可仅由惊异度良好解释。 结果显示,大脑对语言的反应与语言模型中表示最普遍信息的特征之间存在非平凡对应关系。
论文提出提示驱动的自蒸馏(HISD),利用外部模型生成的分割提示证据进行 token 级信用分配,以解决视觉相似对象中识别目标的问题。 HISD 通过提示条件化的指数移动平均教师模型计算证据比率,仅调整正组相对优势的大小,学生模型在推理时既不需要提示也不需要教师模型。
研究者提出 Gated Cropped Attention-Delta steering (GCAD) 方法,通过从系统提示词贡献中提取引导信号并应用 token 级门控,解决了标准残差流引导在状态化对话中因 KV-cache 污染导致的失败问题。