跳到正文
11月3日周二
  1. arXiv · ML20

    Neural Integral Control Barrier Functions for Agile Collision Avoidance

    通过数据驱动方式同时学习动力学、标称控制器及积分控制障碍函数(ICBF),其中障碍物函数基于可行性而非几何特征训练。 在6D动态自行车敏捷赛车测试中,该滤波器以单CPU核心100Hz以上的频率运行,消除了200个保留布局中全部12个不安全片段,且成功率保持不变。 该方法确保了执行器约束的精确性,即使在模型存在较大误差时仍能保持优势。

  2. arXiv · ML29

    大模型中的谄媚行为对应残差流中的线性方向,且该方向随模型规模增长而出现并在强验证下具有因果作用

    谄媚行为在7B及以上参数的模型中表现为残差流中可定位的线性方向,该方向具有因果重要性。 研究基于8个指令微调模型,验证发现低于7B时无可用方向;在Qwen2.5-7B中消融该方向使模型放弃正确答案的比率降低4.8个百分点。 推反证伪了预先预测:7B时反驳破坏正确答案的次数与修复次数持平。

  3. arXiv · ML33

    GatedV:面向 Transformer 语言模型的自门控值机制

    GatedV 提出对值矩阵应用 SiLU 激活的非线性注意力变体,在不增加可训练参数的前提下提升语言建模性能。 2.33M 参数量下平均困惑度从 59.1 降至 57.9,26.16M 参数量下从 20.2 降至 19.7,且所有配对种子均表现更优。 该机制未改动注意力加权结构,在 NVIDIA DGX Spark 上全上下文前向延迟仅增加约 0.7%。

  4. arXiv · ML26

    ...

    ... ``` 且规则说“现有卡片和通知应继续按一段摘要显示”是在【摘要答案前置规则】第4点里提到的,但紧接着说“不使用 Markdown 项目符号或分段”是针对“卡片和通知”的显示?

  5. arXiv · ML28

    Legible方法破解大模型“两跳”推理诅咒,显著提升Qwen与Llama知识编辑效果

    微调后的大模型存在“两跳诅咒”,即无法将新事实与原有知识进行多跳推理。Legible方法通过让桥接短语在中间层匹配模型对新实体的内部表征来解决此问题,无需合成多跳数据。 该方法在Qwen2.5、Llama-3和Qwen3模型上验证了效果,其桥接准确率是CaKE方法的1.8-2.6倍,并在RippleEdits基准上成功破解14B模型的两跳诅咒。

  6. arXiv · ML20

    医学AI仅报告最可能标签并不等同于风险评估

    医学AI若仅向临床流程传递最可能标签而丢弃中间状态概率分布,会低估患者结局风险。 文中通过Jeffrey’s rule of conditioning指出,在胸痛鉴别诊断中,仅报告良性主导标签会显著低估死亡或心脏骤停风险;在BI-RADS示例中,传播的恶性风险超过该类别定义的阈值上限。 该观点要求开发者、监管方和保险公司基于患者结局风险而非单一标签做出临床与保险覆盖决策。

  7. arXiv · ML30

    自适应优化器可能导致策略排序错误:动量、相关数据与双运行修正法

    自适应优化器(如 Adam)的固定平均率会改变线性时间差分(TD)估计值,导致策略排序错误且更多数据反而增加误判确信度。 论文提出一种双运行修正法,通过在减半有效增益率下重新拟合,用新拟合值的两倍减去原值消除偏差。 该修正法在纽约出租车和电池充电模型中纠正了几乎所有错误排序,仅在偏差较大时额外增加一次拟合。

  8. arXiv · ML26

    深度剪枝小语言模型的能力损伤与恢复:LLaMA-3.2 等模型剪枝修复研究

    对 LLaMA-3.2-1B 等四个 1.2B 级小模型深度剪枝后,函数调用和数学推理能力均严重受损,保留率仅为 0.00 至 0.07。 在修复策略上,对最后三个块进行全量微调比全块使用 LoRA 平均保留率高达 0.18。测试发现,均匀修复策略在同等 3.48M 令牌预算下往往优于规划式修复。

  9. arXiv · ML20

    基于 Transformer 的强化学习用于 I 期临床试验剂量分配

    研究者开发了一种基于 Transformer 的强化学习策略,用于 I 期剂量探索试验。该策略将剂量表示为 Token,通过三动作策略选择减量、维持或增量,并在模拟中展示了可控的安全性与准确性权衡。 最终 MTD 决策由加权等渗回归确定,不纳入学习策略。 该结果未证明优于传统剂量探索设计。

  10. arXiv · ML25

    FADE:用于在线 RLVR 调度的因子化能力-难度过滤

    研究提出名为 FADE 的双线性状态空间滤波器,通过解耦策略能力与题目难度两个时间尺度,优化基于可验证奖励的强化学习调度。 该方法利用 Pólya-Gamma 增广法,在二元 rollout 结果下通过 rank-K Woodbury 步骤闭式更新能力后验,并推导非退化分组概率的效用函数。 在五个推理基准测试中,FADE 在匹配预算下提升下游准确率与校准,每步计算开销增加不足 0.6 ms。

  11. arXiv · ML23

    建筑 HVAC 控制:从 PID 到强化学习的控制架构综述

    该论文系统综述了建筑 HVAC 系统控制架构,构建了从比例-积分-微分(PID)到强化学习(RL)的分层控制框架。 文章将强化学习建模为马尔可夫决策过程,提出了四种 RL 与 PID 结合的分类法,即增益整定器、直接替代控制器、与模型预测控制混合以及监督设定值生成。 综述指出这些架构是嵌套的而非相互对立,部署时需根据具体控制接口与脚手架需求权衡。

  12. arXiv · ML31

    MOPD 在 LLM 持续学习中的重放策略:基于多教师在线策略蒸馏

    多教师在线策略蒸馏(MOPD)在 LLM 持续学习中,利用前一阶段学生模型对早期领域进行重放,以应对专家模型不可用的场景。 在 1.5B 学生模型和 5 个领域测试中,无重放的顺序蒸馏比联合 MOPD 低 6.2 分;重放可弥补 3.8 至 5.8 分的差距。 重放步骤数量随阶段数呈二次方增长。

  13. arXiv · ML31

    混合似然微调如何让 LLaDA-8B 以更少步数生成更优文本

    混合似然微调(Mix-FT)通过重要性加权优化掩码扩散语言模型的采样过程,无需改变架构或引入教师模型。在 LLaDA-8B 上,LoRA 微调仅用 0.002% 预训练算力,以 16 步生成质量超越 32 步原始模型及对比方法。双模型家族评审显示,69% 和 71% 的成对比较中 Mix-FT 结果更优;约四分之三的似然提升归因于对各揭示计划的加权。

  14. arXiv · ML30

    研究显示 RLVR 仅优化 OLMo-2-1B 答案路径而非推理知识

    RLVR 训练使 OLMo-2-1B 在 GSM8K 的首次尝试准确率从 58.0% 升至 61.3%,但 256 次采样的解题覆盖率仅从 94.5% 微增至 96.9%。 内部探针检测推理错误的 AUROC 保持在 0.798 至 0.840 之间,显示模型未建立更清晰的错误表征;仅在最终答案 token 处探针达到 0.93 AUROC,证实 RLVR 改变的是答案选择偏好。

  15. arXiv · ML41

    SpecPilot 自动发现推测解码算法与系统优化

    SpecPilot 是一个自动智能体循环系统,通过发现新算法和系统优化提升推测解码性能。 单请求场景下,其将相对自回归解码的加速比从 4.46 倍提升至 10.87 倍;批量场景下,加速比从 1.94 倍提升至 3.93 倍。 该系统实现了无质量损失的无损 12-bit 权重格式和树状验证机制。

  16. arXiv · ML23

    精确似然训练:一种用于舍入、有界及截断数值标签的自回归语言模型方法

    提出边界边缘化方法,首次实现自回归语言模型基于舍入、有界及截断数值标签的精确似然训练。 该方法通过固定宽度且保持顺序的数字表示分组连续网格值,利用至多两个长度对数级的边界路径计算精确概率与梯度。 实验表明,该方法可从舍入和截断报告中恢复条件分布,在支持一百万数值时仍能保持计算可行性。

  17. arXiv · ML30

    当奖励依赖组时,GRPO 进行锦标赛:Team-GRPO 的提出与理论分析

    论文指出当奖励依赖组内其他样本时,GRPO 因引入负相关基线导致模型进行零和竞争,易致多样性崩塌。 团队提出的 Team-GRPO 将系数设为 +1,作为无偏估计器仅需每组两个样本,无需额外调用模型计算成对奖励。 在 GlobalOpinionQA 上,Team-GRPO 将错误率从 0.20 降至 0.08,避免了 GRPO 的多数答案坍缩,显著提升了集合效用。

  18. arXiv · ML38

    先前行动控制因果改变语言模型可塑性

    基于 Qwen3-0.6B 的实验证明,先前训练中拥有奖励控制权的语言模型,在新任务学习上显著快于无控制的 yoked 模型。 该优势并非源于奖励缺失的伤害,而是控制带来的益处;在 Qwen3-1.7B 及消除练习差异后优势依然成立,且可通过模型权重预测。 这表明控制经验会留下持久印记,常规模型评测无法直接反映这种可塑性变化。

  19. arXiv · ML38

    智能体记忆作为受限过滤:显式状态在依赖读者的 horizon 下优于长上下文

    7B-32B 开放模型在 256 事件日志中准确率跌至 48%-55%,而 32B 推理模型读取当前状态可达 96%-98%。 120B 推理模型在 1024 事件时落后显式状态约 10 个点,表明“状态超越长上下文”的边界随读者能力变化。 该研究将智能体记忆建模为递归过滤,证明基于状态依赖的写时选择优于查询时检索及 Mem0 等方案。

  20. arXiv · ML30

    因果最优传输注意力:位置先验与长度外推

    研究指出因果掩码阻碍最优传输注意力的列平衡,作者提出前缀一致的非平衡算子以表征位置先验。 在 25M 和 100M 参数语言模型预注册实验中,CABLE 方法在损失外推上优于 softmax。 相比 RoPE 配合 YaRN,CABLE 在三种训练长度的所有种子评测中表现更好,且改变偏差可预测长上下文损失变化。

  21. arXiv · ML30

    LLM.int8 批量精度路由导致隐私量化微调敏感性膨胀

    LLM.int8 通过批内并集将离群激活列路由至高精度路径,打破冻结层敏感度隔离前提,导致敏感性通胀。 实验显示 LoRA-Opacus 见证值达加删界限的 $15.0\times$,OPT-125M 中 20% 层精度分裂受其他记录影响。 对发布适配器的审计发现 $\varepsilon$ 下界为 $3.25$,低于宣称保证值 $4.38$,证实直接契约检查为实用审计手段。