跳到正文
11月6日周五
  1. arXiv · AI27

    生成后排序:面向具身智能体目标解释的符号学习方法

    一种两阶段“生成后排序”方法实现了具身智能体的目标解释,优于基础提示和思维链等基线模型。 方法使用 CORE 从模型自身生成的备选项中学习偏好;在家庭场景基准中测试了 DeepSeek-V3 chat、Qwen2.5-7B 和 Qwen2.5-72B 等开源 LLM。 论文被 ECC 2026 接收,涵盖人工智能、计算与语言及机器人领域。

  2. arXiv · ML21

    TriAttention: 统一稀疏混合精度注意力用于长上下文 LLM 推理

    TriAttention 将 Query-Key 瓦片分配至跳过、4-bit 或 8-bit 计算,长上下文生成速度提升最高 7.88 倍。 该方法通过两条对角距离边界编码计算区域,保持策略存储独立于上下文长度,并在解码阶段复用量化 Key-Value 缓存。 实验显示其在通用及长上下文任务上保持与原模型相当的质量。

  3. arXiv · AI23

    基于图学习辅助逻辑Benders分解的分布鲁棒车站内列车重调度

    论文提出GNN-LBBD算法解决车站内列车重调度问题,结合分布鲁棒模型与逻辑Benders分解。算法利用图神经网络引导子问题求解顺序,构建条件割。 在28个测试实例中,该算法平均总完成延迟为61.13列车分钟,比禁忌搜索低16.63%,比变邻域搜索低20.06%。利用中断恢复观察数据可减少约21.7%的平均总完成延迟。

  4. arXiv · ML26

    深度还是描述?当单步隐变量分数替代主动信息获取中的前瞻搜索

    主动智能体的信息获取中,单步隐变量分数在编码决策时可替代多数前瞻深度,且计算成本更低。 该分数对隐变量标签的敏感度高于对答案交互的捕捉,同一问题因描述方式不同可能导致单步分数失效而精确值不变。 若从一个语言模型学习概率用于另一个模型,需规划允许两者共存,仅靠 Token 读取概率仅值几个标签。

  5. arXiv · ML23

    PPL 如何通过教授行为原则替代奖励信号进行策略学习

    针对复杂任务中智能体难以从噪声奖励信号中泛化的问题,本文提出指示性策略学习(PPL),直接教导智能体高层行为原则。 PPL 利用关键量和参考系指示智能体每一步是否遵循原则,无需任何奖励信号。 实验表明,仅接受简单启发式原则教学的 PPL 智能体以极少样本超越基于奖励的方法,且策略可直接迁移至更难场景。

  6. arXiv · AI21

    自主 AI 智能体在证明形式化中系统性偏离人类偏好

    研究提出“模拟协作”方法,在包含 4.7M 定义、6K commits 的 Lean 人类协作数据集上,发现自主 AI 智能体在证明构建中系统性偏离人类偏好。 AI 智能体更被显式标记的 gap 吸引,相对回避密集连接的 proof centers 及复杂 proof goals,且易将 surprising proof bodies 正则化至 baseline。

  7. arXiv · AI23

    FlexFloor:面向长尾 MoE RL 训练响应的自适应调度与资源释放系统

    FlexFloor 通过联合自适应响应调度和活跃 worker 组,在保持专家计算需求的同时实现资源提前释放。 相比 verl 基线,FlexFloor 单位占用计算时间生成多约 65.40% 响应 token,响应生成吞吐量提升 52.74%。 rollout 奖励未见明显波动,从而支持大语言模型及 AI agent 更高效的后训练迭代。

  8. NVIDIA Blog20

    NVIDIA 全栈协同设计如何破解 AI 内存挑战

    NVIDIA 通过全栈协同设计优化 GPU、CPU 与存储层级,最大化每字节 HBM 利用率。 从 Blackwell Ultra 到 Vera Rubin 平台,单 GPU HBM 容量微增 3%,但在 SemiAnalysis AgentX 上每美元智能体吞吐量提升高达 30 倍。 该策略利用 NVFP4 压缩模型权重和 KV 缓存,并通过 NVL72 多卡分布与分层存储缓解内存墙限制。

11月5日周四
  1. arXiv · AI26

    Ekka 自动诊断 LLM 推理中的静默错误

    Ekka 系统通过对比目标与参考框架的中间执行状态,实现了对 LLM 静默错误的自动诊断,在由真实错误构成的基准测试中取得了 80% 的 pass@1 准确率。 该系统利用差分调试方法,在 88% 的 pass@5 准确率下超越现有系统,并成功定位 4 个新的静默错误,所有结果均已获开发者确认。

  2. arXiv · AI30

    Lattice Deduction Transformers

    Lattice Deduction Transformer (LDT) 提出了一种近似逻辑演绎的循环 Transformer 架构,其 $800\text{K}$ 参数版本在 Sudoku-Extreme 上解决了 $99.999\%$ 的测试谜题,且训练计算量不足先前模型估计值的 $2\%$。

  3. arXiv · AI40

    序数信用分配:仅基于比较的多步强化学习方法

    提出一种仅依赖序数比较的多步强化学习算法,通过计算动作回报相对其他轨迹的胜率来替代标量奖励。 实验表明该算法性能与标量奖励无显著差异,且使用 LLM 裁判时比较结果比逐点打分高 7-10 分。 方法对标签噪声鲁棒,但尚未完全缩小与 PPO 算法在 HalfCheetah 任务上的性能差距。

  4. arXiv · AI28

    基于推理的 LLM 后门攻击综述

    该论文提出首个针对 LLM 推理能力的后门攻击综合综述,建立统一分类体系将攻击划分为关联式、被动式和主动式三类。 研究详细分析了攻击底层机制与方法框架,提出了相应防御策略并指出了当前面临的安全挑战。 这项工作为构建安全可信的 LLM 社区提供了新视角,有助于推动相关安全探索。

  5. arXiv · AI27

    Certified Circuits:为机制电路提供稳定性保证

    Certified Circuits 通过随机数据子采样为电路发现提供可证明的稳定性保证,证明组件包含决策对概念数据集的有界编辑距离扰动不变。该方法在 ResNet、ViT 和 GPT-2 上验证,实现最高 56% 的准确率提升和 80% 的组件减少,并在基线性能退化时保持可靠性。

  6. arXiv · AI40

    E-SPL:LLM 中用于强化学习的进化式系统提示词学习

    E-SPL 方法通过联合更新 LLM 权重与系统提示词,实现了模型在经验上下文与参数层面的双重自改进。 该方法利用多提示词并行采样轨迹,同步执行强化学习权重更新与基于自反思的提示词进化。 在 AIME 到 BeyondAIME 的泛化测试中,RL 成功率从 38.8% 提升至 45.1%。

  7. arXiv · AI31

    上下文-答案元模型:首个答案 Token 生成前预测 LLM 激活

    研究人员训练了将上下文激活映射为答案激活预测的“上下文-答案元模型”,实现了首个答案 Token 生成前的行为预测。 该模型在 50 万 prompt 数据集上表现良好,支持零样本泛化,且 Qwen2.5 的上下文激活可预测 Qwen3.5 和 Gemma 4 的答案激活。 研究结果表明上下文激活轨迹支持 LLM 答案行为的可扩展预测。

  8. arXiv · AI21

    基于闭环刺激的LLM控制:分布外鲁棒性研究

    研究者将LLM引导视为反馈控制问题,提出基于H_∞的鲁棒引导控制器以应对非线性动态与线性化失配。 该控制器在多个基准测试中优于现有基线,尤其在分布外条件和不同长度复杂性下表现显著。研究还引入鲁棒可引导性指标S_rob,用于量化系统对动态失配的容忍度。

  9. arXiv · AI20

    LLM 智能体在零样本协同任务中的表现与改进方法

    研究发现前沿 LLM 智能体在简单环境下的零样本协同任务中表现不佳,主要源于对协同问题的理解有限及推理能力弱。 尽管 LLM 引入了语义信息作为协同维度,但未能有效利用该结构。研究者提出了协同友好定义(CFDs)作为改进方案,并证明其可被自动发现。 该成果作为海报报告被 NeurIPS 2026 接收,并入选 ICLR 26 MALGAI Workshop 口头报告。

  10. arXiv · AI26

    Traffic-VL:用于可泛化端到端交通信号控制的强化视觉语言模型

    Traffic-VL 是一款 80 亿参数的视觉语言模型,通过直接映射多视角图像和自然语言相位描述生成信号决策,实现了端到端交通控制。 基于 SynTra-V 数据集,模型采用离线强化学习适配视觉编码器,并在闭环模拟中进行在线策略优化,性能超越 Gemini 3 Pro 等通用模型。 该模型在十路口为期三周的部署中证明了其视觉泛化能力和有效约束控制。

  11. arXiv · AI25

    可读性与可控性的分离:学习流体表征中物理结构的预注册测试

    预注册测试表明,JEPA 未能使潜空间更好地组织流体力学量,其表现与未训练网络相当。 自编码器使涡动能在慢速无监督潜空间中显著(r 0.80-0.86 vs 0.38),但添加 VICReg 会降低该显著性。 研究揭示潜空间内容可读性与其可控性相分离,监督方向在受控时几乎无法改变输出。

  12. arXiv · AI26

    基于回合级 Best-of-N 采样扩展 LLM 智能体性能

    论文提出一种基于回合级 Best-of-N 采样的推理扩展方法,用于 LLM 智能体。该方法采用“生成器-选择器”框架,在每轮生成 N 个候选动作并由选择器模型选取其一执行。 在长时程终端任务实验中,该方法使准确率提升 5–10%,并显著提高了重复尝试的一致性。轨迹分析显示,智能体行为向更优模式转变,如减少尝试次数、改善指令遵循及调试测试能力。