跳到正文
11月11日周三
  1. arXiv · NLP33

    LLM 验证使最小对基准测试对语言模型更易通过

    LLM 验证使最小对基准测试对语言模型更易通过。在 BLiMP 和 QFrBLiMP 数据集中,10 个开源大语言模型(LMs)在预注册 LLM 过滤器标记的项上比接受的项难 18.9 分,且所有 70 种 LM-验证器组合均显示标记项更难。该过滤去除了 LMs 失败但人类未失败的项目,使准确率提升超过随机去除。

  2. arXiv · AI20

    探究 DeepSeek-Math 等模型 RL 与 SFT 数学推理性能差异的表征机制

    研究表明,经 RL 训练的 DeepSeek-Math-RL 等模型在数学推理上优于 SFT 模型,源于其内部表征质量的差异。 逐层线性探针显示,RL 模型预测答案正确性的准确率更高;均值消融研究发现,其准确率下降随层深增加,而 SFT 模型无此趋势。 该分析揭示了强化学习在提升模型推理能力上的内部机制。

  3. arXiv · AI25

    Forethought:基于神经符号基元编程的可验证推理系统

    Forethought 提出一种神经符号推理系统,通过将符号与神经基元组合成类型化领域特定语言来构建可验证的推理程序,在四个标准工具调用基准测试中,端到端准确率中位数相比直接提示提升 32%。 该系统在设计与执行时检查输出契约,明确划分保证与测量边界;配合小型开放模型可匹配前沿模型性能,且移除契约与控制层会抹去大部分收益。 结果表明丰富的符号编排器有助于构建更准确、可靠且可审计的语言模型智能体。

  4. arXiv · AI45

    大语言模型会发展出赌博成瘾吗?

    summary_zh: 研究显示让LLM自主决定赌注或设定盈利目标会显著放大类似病态赌博的非理性行为,目标设定效应使破产率加倍。在开放权重模型中,这种风险行为可通过决策时的内部状态在统计学层面恢复,且行为监控与内部状态监控提供了互补视角。

  5. arXiv · AI21

    B3:重叠块去噪加速扩散语言模型推理

    B3 提出重叠块去噪方法,在自编辑扩散语言模型中并行精化两个块,实现 11.5-14.5% 推理加速且生成质量持平。 该方法无需训练和额外超参数,通过动态校准在模型准备好时开启下一块,可无缝集成于任意自编辑块扩散模型。 B3 在 10 个多样化数据集上验证了 SOTA DLM 的延迟-质量帕累托前沿推进。

  6. arXiv · AI40

    删除敏感性是模型的固有属性:基于72个有效实验单元的三条件测量

    该研究通过三种渲染条件、7个开源权重推理模型及794个任务,首次直接测量多轮工具调用中完整推理历史删除的任务成本。结果显示删除跨度在-4.4至+51.3分之间,且对单一模型的剂量反应测量波动不超过1.5分。 删除敏感性被证实为模型层面的可测量属性,其读数在部署间保持恒定。作者建议将此读数作为先验信息纳入路由和聚合决策中,而非使其成为隐性的默认成本。

  7. arXiv · AI28

    将 Meta 多目标化特化为软件工程优化基准

    论文提出 Meta 多目标化(MMO)作为软件工程(SE)优化问题的通用基准,旨在解决局部最优陷阱。 在涵盖 9 类 SE 问题的 212 个案例中,正确选择辅助目标使 MMO 在 79% 和 94% 的案例中分别优于其他 SOTA 及通用优化器。 研究进一步提出 L2RAC 工具自动推荐辅助目标,相比盲试最高可提升 60% 的排序准确性,并节省 99% 的试错成本。

  8. arXiv · AI24

    当证明丰富时,论文的作用是什么?

    论文核心不止于AI生成的形式化验证证明,其价值在于叙事与社区批判,包含意图(问题选择)与科学思维链(推理步骤及论据)。 作者借用逻辑与类型理论,将这两个要素形式化为“推导层意图”和“方向性扩展”,后者通过分解证明的切分点揭示弱点与可移植的强点。 AI在文献检索等五个角色中均无法替代对这两个要素的声明,稀缺资源是社区对结果重要性及拓展路径的共享理解。

  9. arXiv · AI32

    评估 LLM 生成世界模型在神经符号推理中的有效性

    研究通过基准测试发现,虽然大语言模型生成的世界模型在机械有效性上表现良好,但结构一致性低,证明可执行性并非忠实代表问题的充分条件。 涉及 44 个场景的 410 次生成评估,严格审计通过率达 99%,但平均结构 F1 仅为 0.366,仅 21% 模型与参考完全匹配。 这显示现有 LLM 生成模型需结合语义标准进行更深层验证,不能仅依赖机械有效性。

  10. arXiv · AI30

    大语言模型思维学习机制的认知映射框架

    论文提出认知 LbT 框架,将反思推理、合成记忆形成等四种机制映射至大语言模型,解释其无外部输入的新洞见获取能力。 框架结合思维链提示、Self-Instruct 等方法,例如 Self-Instruct 从 175 个种子任务生成约 5.2 万条指令,在 Super-NaturalInstructions 上取得 33% 绝对提升。

  11. arXiv · AI21

    BARS: 未知分布下预算感知的顺序采样与拒绝机制用于多数识别

    BARS 提出一种顺序采样规则,在未知分布下通过预算约束实现多数识别,支持早期终止或拒绝。 该规则包含认证模式与实用模式,实用模式在 GSM8K 上比固定 8 次采样少 22.3% 样本,代价是拒绝 18.8% 的问题。 在 MATH 基准上,BARS 实用模式将准确率提升至 82.5%,并诚实地拒绝了一半模型无法解决的难题。

  12. arXiv · AI20

    多模态强化学习中整合动作前缀预测与对齐的改进预测表征方法

    改进预测表征(IPR)结合动作前缀预测与基于对比多模态学习的观测锚点对齐,在深度控制套件任务中性能优于基线。 IPR-H 配置平均回报比视觉+深度基线高 10.0%,比视觉+位置向量基线高 3.4%;在 Webots 中,无 LiDAR 时 IPR 性能更高,有 LiDAR 时则不然。 该研究被 ACRA 2026 接收,展示了在有限交互数据下利用多模态观测学习表征的优势。

  13. arXiv · AI29

    SeqFold: 基于时间戳寻址的压缩状态用于用户行为序列主干网络

    SeqFold 提出一种压缩状态接口,利用学习式多通道融合、通道级时间衰减和 Lookup-Free Quantization (LFQ),将冻结主干网络的多层用户状态导出为紧凑离散编码。 该方法结合任务特定解码器生成嵌入空间,并在大规模专有数据集上验证,每状态表示存储量减少 3,400 倍,同时保留了未压缩模型的大部分下游排序性能。

  14. arXiv · AI35

    AI 智能体监管不可能性定理:有限规则无法认证所有安全程序

    研究证明 AI 智能体监管存在不可能性,有限规则无法完全认证所有安全程序,且 220 万次随机程序仿真验证了这一阻碍主要源于对抗性场景而非典型情况。 该定理表明,依赖有限时间机器可验证证据的禁令规则存在单边失效,任何 n 比特的健全规则都会遗漏约 n 比特的合规程序。

  15. arXiv · AI23

    MSPR-GRE:多阶段相位感知自监督重建用于多回波梯度回波 MRI

    论文提出多阶段相位感知自监督重建框架MSPR-GRE,用于加速高分辨率mGRE MRI并保留解剖细节与复杂回波信息。 在7T AHEAD人体脑部数据(R=4,8,12)及9.4T离体小鼠脑部数据上评估,R=12时第四回波幅度NRMSE为12.09±0.60%,显著优于SSDU的21.55±1.12%。 无需完全采样目标即可提升定量图谱一致性,但泛化性与相位估计精度仍需进一步验证。

  16. arXiv · AI25

    NCP: 权重空间控制策略的验证器引导优化

    NCP(Neural Control Plane)是一个闭环系统,通过观察语言模型执行、合成权重空间干预规则并评估其效果来优化控制策略。它在SmolLM-135M-Instruct实验中验证了框架有效性,其中一个投影将验证token重复率从0.4133降至0.2191,困惑度变化-0.0574%。

  17. arXiv · AI24

    鉴别证据框架提升医学多选题中 LLM 的临床决策准确性

    针对医学多选题中选项间证据重叠导致区分困难的问题,研究提出一种检索增强的鉴别证据框架。 该方法提取各选项特有的鉴别证据并组织为简洁提示词,在多个数据集和目标 LLM 上均实现了一致的准确率提升。 消融研究证实该框架性能优于直接使用检索证据块或闭源 LLM 生成的通用提示,其增益主要源于对竞争选项推理的有效辅助。

  18. arXiv · ML29

    测试幻觉的结构起源:注意力机制与状态空间混合器的对比

    研究通过干预实验测试模型幻觉的结构起源,发现注意力机制比状态空间混合器更易传播输入中的缺陷。 在410M参数以上模型中,注意力模型重复植入错误陈述的频率显著高于匹配的状态空间模型(2.8B模型:650 vs. 566次,p=2.5e-20),而后者仍能识别植入的新事实。 该发现支持了“混合组件决定上下文缺陷是否转为输出错误”的简化结构解释,表明首因错误源于知识缺失而非被抑制的真相。