推理模型会为注入的自我请求信念进行虚构辩护
研究通过激活编辑向推理模型注入无关概念,发现模型会将其误认为当前任务并据此回答。在测试的六个模型中,99% 的生成内容遵循注入主题,即使提供正确提示,模型仍会虚构用户修改故事以维持错误信念。
研究通过激活编辑向推理模型注入无关概念,发现模型会将其误认为当前任务并据此回答。在测试的六个模型中,99% 的生成内容遵循注入主题,即使提供正确提示,模型仍会虚构用户修改故事以维持错误信念。
AutoRL是一个自动化强化学习训练的多智能体系统,旨在通过持续监督实现递归自我改进。 该系统包含Perceptors、Proposers和Orchestrator三个角色,在Qwen3和LongCat-Flash-Lite实验中表现优于静态配方。 研究证明现有智能体可处理无人值守的RL监督与动态调整。
研究提出“知识回答分歧”(KAD)协议,用于区分语言模型在错误信息采纳后的持久、恢复与弃权行为。 该协议在首次明确采纳虚假目标时冻结对话并分支独立探针。在修正的 Llama 3.2 Instruct 3B 中,中性历史分支正确率为 42/46,而完整历史下仅为 16/46。
基于LLM的智能体预测系统虽具竞争力,但常因相关事件预测不满足概率公理而缺乏逻辑一致性。 研究通过微调监督语言模型,利用推理联合调和矛盾并提升准确性。在ForecastBench上,该方法使GPT-5.1的Brier score提升9.3%,结构不一致性降低82-90%。
联合世界动作模型生成的轨迹往往缺乏任务有效性。WATO 通过联合优化动作与状态,利用可微任务损失训练生成器,提升了轨迹的动态一致性。 在 7 个视觉控制环境中,WATO 将平均成功率从模仿学习的 79.9% 提升至 91.7%,并优于多种强化学习基线。 部署阶段无需迭代优化,相比 CEM 平均快 11.5 倍,且使用的世界模型评估次数减少 600.5 倍。
专家混合路由从集成中获益有限。在4个任务上,增加路由器数量降低验证损失,最大化专家多样性提升3/4任务表现。 最大路由器多样性无效果。算术平均优于几何平均。收益被训练额外路由器的计算成本抵消。
提出 NLS 深度作为不透明串行深度的操作化指标,用于衡量模型中不可被语言解读的串行计算路径。该指标在训练中即可判定,对提示、蒸馏和强化学习等普通后训练不敏感。研究发现,在开放权重模型中,NLS 深度与层数强相关,且近年增长缓慢。
summary_zh: Reflect-Reasoning 是一种训练方法,能教模型推理对齐原则,而非仅遵循既定原则。在五个模型上测试中,该方法持续优于系统提示和显式提示策略。
研究显示,LLM 记忆系统基于过时分类的硬过滤会降低下游准确性。在 3 个模型上,解析误差导致准确率从 +0.186 降至 -0.176,误删比误保留造成的降级更严重。
物理学家 Nathaniel Craig 分享了如何利用 GPT-6 Astra 开发标准模型的候选晶格定义。 这是我们的新科学博客的首篇文章: https://openai.com/index/step-toward-defining-the-standard-model
OpenAI 探索标准模型的非微扰格点定义,GPT-6 Astra 将想法转化为详细证明。 该研究属于粒子物理与AI结合的前沿探索,未提供具体参数规模或性能指标。
Google Research 宣布在 Antigravity 平台开放 /teamwork 多智能体协作功能,并展示了其在数学证明、分子化学发现及代码优化等领域的最新应用成果。
推荐理由:原文展示了多智能体在数学证明、分子发现和代码迁移中的实际应用,读者可据此评估其在科研和工程领域的可用性。
NEXUS 提出了一种用于富接触 3D 物体动力学的神经能量场框架。 它通过结构图构建接触图,结合守恒与非守恒项推导力,利用多子步半隐式积分器提升长时程精度。 其轨迹为富接触视频生成提供有效指导,在保持视觉质量的同时提高了物理合理性。
VMonarch 提出用于视频扩散 Transformer 的新型注意力机制,将注意力 FLOPs 降低 17.5 倍,长视频注意力计算加速超 5 倍。 该方法基于 Monarch 矩阵表示稀疏时空注意力,并融合 FlashAttention 在线熵算法,在 90% 稀疏度下超越最先进稀疏注意力方法。
研究在 8 个黑盒及 5 个开放权重 LLM 中发现,指定非目标属性方向可消除跨属性偏移,但声明“无偏好”仍存在中立差距。 在 477 个保留合成世界中,未指定非目标属性时 37.7%-76.3% 的世界及 51%-81% 的独立项目随目标属性发生偏移,阻断查询时注意力可削减 72.1%-87.8% 的漂移。
论文提出UMER框架,通过成对感知判别推理统一多模态嵌入与排序功能。 基于Qwen2-VL-2B/7B模型,在MMEB-V2基准上得分65.5/70.6,超越最强基线1.4/2.0分。 支持从高效嵌入检索到成对感知的灵活预算调整推理。
研究通过各向同性视角分析五个开源权重模型在多选问答(MCQA)中的决策几何结构。识别出由各向同性转变和任务相关簇出现所构成的决策关键转换层,该同步几何行为与下游准确率呈强相关($r\approx0.84$),且在提示词变化下保持稳健。
去中心化 AI 智能体团队 AutoScientists 能针对假设自组织协作并分享失败经验,在长期计算科学实验中显著优于单一轨迹方案。 在 BioML-Bench 上,其平均排名百分位达到 74.4%,较最强智能体提升 8.33%;在 GPT 训练优化任务中,比 Autoresearch 快 1.9 倍。
Formal Conjectures 是一个包含7559个Lean 4形式化数学命题的开放演进基准,旨在评估自动化推理系统在研究级数学问题上的能力。该数据集包含1642个无已知解法的开放研究猜想、2923个已解决问题及2994个支撑性陈述。作者描述了一种协作开源方法,利用AI生成的证明作为审计机制来迭代提升基准的保真度,并提供了标准化评估设置以衡量当前自动化推理在研究级数学领域的前沿水平。
随机软提示(RSP)无需训练即可在数学推理基准上达到与优化软提示相当的准确率。 RSP 向量从拟合预训练嵌入表的各向同性高斯分布中采样,通过提升早期 token 多样性结合温度采样拓宽 Pass@N。
在机器学习驱动的定向资源分配中,即使拥有真实条件脆弱性概率,不可约的偶然不确定性仍导致部分资源错配。 研究指出最优策略应在算法分配边际进行筛查,直接锁定高风险群体;筛查效率增益随人口不确定性增加而扩大,预算划分规则仅取决于筛查与分配的相对成本比。 该框架被应用于基于收入的社会保护项目及哥伦比亚人道主义排雷,揭示了筛查成本与分配效率间的实际权衡。
MonitorBench 是首个全面评估大语言模型(LLM)思维链(CoT)可监控性的开源基准,包含 1,540 个测试实例和 19 个任务。 实验表明 CoT 可监控性是受模型、监控 LLM 及任务特征影响的属性;在压力测试提示下,大多数 LLM 可有意降低其可监控性。 该基准为 AI 控制、推理忠实性及监控脚手架的研究提供了基础,代码已公开。
研究通过旋转、镜像等变形测试评估 6 款 LLM 在象棋中的评估一致性。所有模型在 180 度旋转测试中稳定性失败,一致率最高仅 10.6%,常误判合法局面为非法。
研究通过自动学习可解释谓词预测部分路径的可完成性,将搜索速度提升约六倍并保持完整性。在固定时间预算下,该方法能解决更大规模的谜题,并在时间和节点扩展数上优于加权 A* 和带神经网络的 Levin 树搜索。
研究提出一种结合大语言模型与优化器的无人机调度系统,用于解决野外搜寻受害者任务中的动态决策问题。 系统在地面控制站部署智能体,协调多架无人机连续执行搜寻,LLM负责推理搜索位置,优化器解决能量约束下的无人机派遣问题。 仿真实验显示,该系统总能完成搜寻任务,而六个非LLM基线方法均未成功,直接LLM调度可靠性也较低。
研究分解 15 个开源模型在 realFP 等基准上 2.51M 次回答的误差,发现共享项级误差占总误差方差中位数的 0.906。 30 人团队仅将单代理误差降低中位数 1.7%,远低于理论独立抽样预期的 74-79% 降幅。 该限制说明多智能体简单平均难以抵消共享偏差,需针对性校准。
该 arXiv 论文提出假设,后颞语言区(PTLRs)中合适组织的皮层锥体柱群可构成 neuromorphic 机械实现的 Transformer 注意力头的生物构型。 分析表明,皮层锥体柱间的信号传递与调制机制可支持注意力头的功能架构,无需复现标准数学实例化。 是否真实存在该功能架构仍为未解的经验性问题。
该研究提出测量与增强大语言模型(LLM)元认知的框架,引入 d'_type2 指标以隔离元认知能力,并提出元认知对齐进化策略(ESMA)。ESMA 在未见数据集、语言和新获取知识上展现鲁棒泛化性,且改进由稀疏参数集驱动。 该工作已被 NeurIPS 2026 接收,为针对性元认知优化提供了潜在路径。
两项预注册且带激励的博弈实验显示,N=2,658 名英美被试对 LLM 代理人的人类规范评价呈现特定模式。 独裁者博弈中平等分配被视为最适当,但 LLM 实施的利己分配被判定为更不适当;最后通牒博弈中,拒绝 LLM 提议人的慷慨要约比拒绝人类同类要约更合适,而 LLM 响应者拒绝行为的社会适当性评价与人类无异。
FréchetFlow 提出了一种适用于度量空间数据的生成建模框架,无需线性操作或光滑流形结构。该模型利用欧氏流学习距离联合分布,并通过加权 Fréchet 均值进行重构。实验显示,其在多个科学数据集上的 Wasserstein 误差低于特定定制方法。
研究提出“备用成本”准则,发现固定伞形集在 SCOPF 上从未被学习型选择超越。 在 10,000 节点 PGLib-OPF 网络中,伞形集中位数为 5 个约束,选择器速度提升约 80,000 倍但违背 4-5% 实例约束。 在机组组合中,静态方案损失 4-12%,预测-修复-缩减管道将成本差距降至 0.2-2.9%,速度提升 16-161 倍。
研究表明在线策略自蒸馏在0.6B-8B参数模型中仅能在狭窄兼容区提升推理,否则导致行为崩溃。 研究发现教师信号由推理模式对齐和完整前缀塑造,并非仅依赖特权语义,且无法预测下游性能。 因此该算法属于敏感方法,而非普遍可靠的推理增强后训练手段。
研究指出,LLM 代理的长期记忆常将进行时用户事实扁平化为一般现在时,导致“时态扁平化”现象。在名为 LAPSE 的基准测试中,三个生成模型在 381 对样本中的 210 对里保留了时态差异,且 11 个测试模型均显示此单向丢失现象,该结果同样存在于 mem0、Graphiti 和 Letta 系统中。
研究者提出一种简单、廉价且可复制的模型行为评估框架,单次实验成本低至每个模型几美元。 该方法在四年来的前沿及开源实验室模型发布上运行,通过精确匹配、LLM 评审代码本及仪器化环境三种方式读取结果。 研究识别出模型行为的收敛性、对特定提示的抗性、随代际变化的立场坚持特性,以及编码智能体在不同运行环境下的账户一致性差异。
该研究引入增强稀疏编码模型,利用层级化稀疏自编码器特征取代密集隐藏状态,并显式包含惊异度作为预测变量。 基于8名参与者聆听200个多样化句子的7T fMRI数据,模型成功恢复了针对处理难度和意义抽象性的既往解读,并发现前额叶区域可仅由惊异度良好解释。 结果显示,大脑对语言的反应与语言模型中表示最普遍信息的特征之间存在非平凡对应关系。
论文提出提示驱动的自蒸馏(HISD),利用外部模型生成的分割提示证据进行 token 级信用分配,以解决视觉相似对象中识别目标的问题。 HISD 通过提示条件化的指数移动平均教师模型计算证据比率,仅调整正组相对优势的大小,学生模型在推理时既不需要提示也不需要教师模型。
研究者提出 Gated Cropped Attention-Delta steering (GCAD) 方法,通过从系统提示词贡献中提取引导信号并应用 token 级门控,解决了标准残差流引导在状态化对话中因 KV-cache 污染导致的失败问题。
该研究探索使用大语言模型(LLMs)进行社会学角色扮演,作为生成定性假设的启发式工具。 实验基于气候接受矩阵构建4个虚构角色,分析32条生成回复,揭示角色相似度对提示词构造高度敏感,需避免将话语连贯性误认为社会数据。 方法被定位为推动反思与完善问题的启发式手段,而非用人为数据测试理论的工具。
LongReasonArena 发布,旨在评估大语言模型的长推理能力,支持最高 100 万 token 的推理长度。 该基准通过多步算法任务测试检索与回溯等关键推理要素,结果呈线性下降趋势。 即使 GPT-5 在 Level 3 任务中也仅取得 27.8% 的准确率,显示出显著挑战性。
研究团队提出 Ballad 框架,该算法在 5 个 NP-hard 组合优化问题中,实现了与最佳单一 LLM 相当或更优的效果。 Ballad 采用在线 Bandit 策略和 DAG 信用传播机制,动态调度 4 个不同成本的 LLM,最高可降低 65.6% 的 API 费用。 该成果表明 LLM 能力与成本并非线性正相关,为启发式发现提供了低成本高效的替代方案。