引入推理感知多重校准提升语言模型可靠性预测
提出推理感知多重校准框架,在幻觉预测和不当响应检测中,将思维链(CoT)属性组加入基于主题的校准后,Brier 分数显著降低。 该方法理论上利用 CoT 组的“内部重要性”提升预测精度;实证发现仅对 CoT 组进行校准即可改善跨主题校准,表明预测误差取决于模型推理方式而非提示词内容。
提出推理感知多重校准框架,在幻觉预测和不当响应检测中,将思维链(CoT)属性组加入基于主题的校准后,Brier 分数显著降低。 该方法理论上利用 CoT 组的“内部重要性”提升预测精度;实证发现仅对 CoT 组进行校准即可改善跨主题校准,表明预测误差取决于模型推理方式而非提示词内容。
summary_zh: RegimeRank 提出了一种可解释的行业排序模型,在 2002 至 2024 年的 S&P 500 周度数据评估中,其性能超过了代表性的排序和机器学习基线模型。
研究证明采用 Vo-旋转机制的两层 Transformer 能在任意重复下正确复制并终止字符串,宽度需为 O(log N/log log N)。 该模型利用中国剩余定理编码距离,而基于有限精度 Softmax 的 NoPE 等位置编码在重复序列中会失效。 此架构解释了前沿 LLM 在长重复块上的截断错误,并在合成实验中实现了接近 5005 长度的泛化。
研究将无分词的像素级语言模型(PLM)引入自然阅读建模,其计算的像素空间下一词预测难度对多种语言的注视时长和跳词行为具有强预测力。 该模型的优势与现有的词级 surprisal 和熵估计互补,并揭示了视觉处理偏差。 研究已获 EMNLP 2026 主会接收,有助于探索视觉信息如何整合进基于预期的阅读过程。
研究发现前沿模型在“沉默分叉”处过度防御行为占比最高达 91%,现有 GRPO 方法无法有效修正。 ForkDPO 方法通过对比同一前缀下的适度与过度动作,在未知仓库测试集上将 4B 模型的过度防御率从 70.3% 降至 58.9%,优于随机 DPO 的 67.7%。
OpenAI 正在改进 ChatGPT 在低资源编程语言中的编码性能。 新增针对软件工程、SQLite 和 COBOL 迁移的专项评估。
第15天 / 我们搞定了 我们正用 Codex 烹饪的东西: https://x.com/i/broadcasts/1RKZzBELBbXKB
GR-OPD 通过解耦反馈计算与信用分配,将 token 反馈聚合为校准后的序列级信用,在五个 Qwen3 教师-学生设置和六个数学推理基准中全面超越传统 OPD。 方法通过降低因分布漂移导致可靠性下降的后期反馈权重,并利用同提示 rollout 组校准教师指导,在保持相对响应偏好的同时保留受控的集体教师压力。 实验表明适度集体压力提升学习稳定性,但过度压力或无限制反馈范围会导致训练不稳定。
我的工作 Agent “Burger” 应我个人 Agent “Dorito” 的邮件请求获取文件,并与我的注册会计师协调以申报税务。耗时 20 分钟。我们仍处于非常早期的阶段。
Itaú 推出 ia.i 对话界面和 IARA 治理平台。 这些工具支撑其“AI First”战略,服务于客户与员工,应用于巴西高度受监管的行业。
在随机线性 Bandit 问题中,PRISMA 算法能同时评估 K 个目标策略,以至少 1-δ 的概率将每个策略价值误差控制在 ε 以内。 其所需采样数量约为 Õ(((L²S²+β²)(1∨ρ*)) / ε² · log(K)),其中 ρ* ≤ d,并通过共享岭回归估计器与自适应正则化实现无奖励规划。 该方法消除了对二阶矩特征值数值下界及上下文/动作空间基数显式依赖的限制。
该研究在616个IVF/ICSI周期中验证了HAN+LR集成模型预测活产的有效性,测试AUC-ROC达0.710,优于单模型及语言模型基线。模型通过微分加权编码内细胞团与滋养层,经KNN填补和50维特征筛选后训练。该架构在小规模临床数据上表现优异,但尚需外部验证。
该研究提出了一种针对 Markov 决策过程的鲁棒反事实推理框架,同时处理转移统计和因果模型两类不确定性。 框架利用区间 MDP 推导反事实概率的闭式解析界,并通过悲观值迭代计算达成目标所需的最小干预措施。 实验证明该方法能高效识别导致结果改善的最小动作集,具备扩展至真实环境的实用价值。
集团 Boticário 利用自有 agent 平台强化销售团队的人际连接,该 AI 系统可自主解决高达 80% 的经销商运营请求。 平台让销售人员从处理事务性工作中解脱,从而能够承担更具深度的咨询角色。
LIME 模型通过人类第一视角视频,利用后见之明标注挖掘多意图监督信号,结合自回归输出与流匹配姿态头生成视觉-语言条件相机运动。 该设计使模型能联合预测下一视角应揭示的内容,支持通用视点选择、操作及具身问答等任务。
研究对比YOLO11、RT-DETR、YOLO26检测器与ByteTrack、BoT-SORT跟踪器,分析其对多行人跟踪的影响。 实验覆盖MOT17、MOT20、SOMPT22基准,结果显示RT-DETR在HOTA指标上得分最高但计算成本更高,YOLO26-L在速度与质量平衡上表现良好。 结果表明端到端推理模式未带来一致性的跟踪提升,研究为根据应用优先级选择检测器与跟踪器提供实用参考。
summary_zh: ChatGPT 在检测不当内容方面表现良好,但识别针对性语言的能力较弱且不稳定。 研究发现,几乎全部性能提升源于简化标签方案并切换至 GPT-4,后续调整提示词结构或采样温度影响甚微。
研究在三个 Procgen 环境和五个机器人任务中发现目标错误泛化表现为三种策略对齐失败形式:功能性目标替代、策略捷径以及提示竞争。
提出自适应在线策略蒸馏框架 DTDD,利用段级师生偏差触发教师接管。 基准测试中,从基础初始化开始,DTDD 比 OPD 少 2.6 倍优化器更新即达到 21.3% 留出数学准确率,且两者最终均接近 22%。 DTDD 将预热后峰值梯度范数降低 8.6 倍,并在 ALFWorld 任务中分别提升 4.8 和 4.1 个百分点。
Agent-UCT 利用剩余评估成本的经济模型指导 UCT 选择,在 HotpotQA 数据集上以 32M 加权 token 预算实现了 69.57% 的测试 F1。
针对人类参与优化系统,研究表明传统绝对评分或偏好选择界面易出现校准不一致问题。 研究基于 360 名参与者在文本摘要和图像色彩增强任务中的表现,对比了六种观点测量界面,推荐列表式方法。 该方法能平衡个体评分与偏好选择的局限,为后续研究提供设计准则。
研究团队在 NeurIPS 2026 提出建筑基础模型挑战赛,旨在解决现有控制系统缺乏策略迁移、无法泛化的难题。 参与者需在模拟建筑集上构建控制策略,并在一组未知建筑上进行评估。这些建筑在尺寸、布局、天气、材料属性及 HVAC 系统上存在差异。该倡议有望在利用机器学习应对气候变化方面取得巨大飞跃。
System One 模型在多选题中答案随选项顺序变化,Runoff 通过独立评分候选项并多位置对比解决此问题。 该方法无需训练,仅需两次前向传播即可运行,在 20 个选项下速度与准确率平衡更好。 在 8 个 System One 模型和 5 个基准测试上,Runoff 消除顺序依赖性,循环平均法仍有 15.4% 偏差。
LoongSage 是一个全异步的智能体原生强化学习框架,核心代码约 1.4 万行,基于 Megatron 和 SGLang 构建。 该框架引入 AgentFlow 范式协调白盒与黑盒智能体,并利用滑动窗口策略限制轨迹过时性,同时通过 TransferMesh 机制实现拓扑感知的同步。 四项完整训练评估表明,该全异步流程消除了同步空闲气泡,在提升任务奖励的同时维持了硬件利用率。
研究表明多语言大模型的颜色表征几何结构主要源于语言而非感知,CIE-LAB对齐度在中间层达到峰值后在输出层衰减。 在几何对齐峰值层,模型颜色分类准确率达 96.7%,且对齐度指标与下游任务能力显著相关(r=0.70)。 研究揭示了语言模型中颜色几何与感知几何的分离,为定位感知结构在模型中的位置提供了诊断依据。
针对 LLM 压缩,非相邻层的高相似对数量是相邻层的 3.6-15.9 倍。 FCM 结合谱聚类与 LoRA 恢复,在 2x 压缩下于 13 个模型中的 12 个优于 ShortGPT。 Qwen2.5-7B 压缩后参数减少 46%,单卡 A100 解码吞吐量提升 84%。
Pro-t-VAE 提出基于重尾 Student's t 混合先验的深度生成框架,用于无监督图像原型发现。该模型构建了完全封闭形式的增强 ELBO 目标,将精度作为潜变量以自动降低离群点权重。 该方法在视觉基准和神经影像任务中验证了有效性,能在临床噪声中恢复解剖学一致的原型,代码已开源。
提出门控流域水文学模型(GCHM),基于质量守恒感知机架构,在 50 个 CAMELS 流域上模拟产流过程,保持质量守恒并具备可解释性。 采用 5 个存储状态代表植被截留、积雪、土壤水分等,通过受限门控机制学习降水分配、蒸散发等过程,利用 NOAA AORC 气象数据驱动。 消融实验表明简化架构在干旱期模拟基流衰退时表现不足,而 GCHM 能恢复水文上合理的融雪、径流和蒸散发关系。
TerminalHorizon-27B 模型发布,基于 Qwen3.5-27B 微调以强化长程智能体能力。 该模型通过 TerminalHorizon 引擎构建的 1.5K 个任务环境进行训练,在 12 项基准测试中性能显著提升。 多轮研究案例证实,模型能在 12 小时预算内持续实验并根据反馈改进最终交付成果。
研究发现生成模型在观察数据训练后,可通过探针或逆映射两种机制充当环境模拟器,其可编辑性高度依赖特定环境。 在Othello游戏中规则微调会显著影响可编辑性,而在Rayworld连续环境中探针引导失效,逆映射仍能从模拟器状态驱动模型输出。
X2Streaming-ASR 将流式识别解耦为何时提交与提交内容,确立最低平均提交延迟。 其三阶段训练利用组相对奖励优化延迟,中英文延迟分别为 32-109ms 和 12-85ms。 在保持准确率与现有系统相当的同时,有效降低流式识别提交延迟。
研究提出 SameCapRisk-Bench 基准,包含 890 个单元和 1,314 个查询案例,用于测试“同能力风险暴露”检索问题。 四个公开技能检索器在源任务合约下的 HSR@3 为 0.737-0.881,表明易召回冲突技能;将 reranker 输入预算从 512 增至 4,096 tokens 可显著降低错误率。
研究发现SHAP在模型、输入及预测不变时,重复运行会产生显著分歧,这种现象被称为解释多重性。 研究提出结合双种子协议与多重指标的方法论,揭示在较小数据集上模型诱导的分歧更大,而较大数据集上解释器诱导的分歧更显著。 研究人员建议将单次SHAP输出视为分布实现而非权威产物,避免使用L2距离低估不稳定性。
研究人员提出CREAM模型,通过架构编码概念间任意关系,无需额外计算开销。 支持缺失概念下达到黑盒级性能,并保持预测基于概念。 该模型有效避免概念泄漏,提升了解释性和可干预性。
CAPABLE 提出了一种用于冻结视觉-语言-动作(VLA)策略的统一能力感知适应框架,通过整合自监督能力推断与残差强化学习提升鲁棒性。 该方法利用跨关节共享的时间编码器、Jacobian 接地和自监督物理预测,在线推断关节能力,无需故障标签即可生成有界修正。
研究团队推出GaussianBench物理保真度评估套件,用于测试物理集成Gaussian场景表示。 该基准涵盖守恒律、连续介质响应及热相变等测试,通过解析或实测参考声明适用范围,并区分PASS、FAIL、NA和INVALID四种结果。 评估暴露了现有系统在材料界面或无效状态更新中的盲点,强调需基于内部物理状态而非表面一致性进行测试。
研究提出基于 oracle 的相对模型,区分了自我改进智能体在程序修改、能力获取与计算范围扩展上的不同属性。 统一模拟限制在 C(A) 内,并通过布尔规则习得模型构造了特征查询界限及终止协议。 该框架分离了获取、认证与计算性升级,为验证支持移除提供了路径。
该框架允许冻结的 LLM 和 VLM 通过技能、知识记忆和多模态知识库从部署经验中在线学习,无需微调。 框架在涵盖临床诊断、医疗推理等六大基准测试中,使性能较基础模型最高提升 34.2%。 该方案具有模型无关性,可泛化至未见病例,并能迁移到其他模型及非医疗领域。
WNet 提出一种基于离散小波变换(DWT)的无注意力 Token 混合方法,替代 Transformer 中的自注意力机制。该架构通过三种无注意力混合器重构多尺度信息,支持线性融合、学习门控或 Token 级尺度选择,并可选在最后层加入自注意力形成混合结构。
DGA-Muon 提出将自适应缩放与正交化解耦,通过直接基于原始梯度计算缩放因子并匹配极性因子的几何结构,优化 Muon 的自适应机制。 该方法结合基于求和的二阶矩估计、偏差校正和自适应裁剪,并建立了收敛性保证;实证结果验证了 NorMuon 的缩放退化特性及 DGA-Muon 相对于 NorMuon 的优越性能。