跳到正文
11月19日周四
  1. arXiv · ML20

    TabPFNv2 式表格基础模型:可靠扩展定律与 nanoTabPFN 开源训练管线

    研究表明 TabPFNv2 类模型的扩展定律在合成分数与真实数据集间存在差异,依赖少量数据集选参会导致性能高估。 需同步扩大合成预训练数据集规模以优化计算分配,增加预训练时采样的最大行数与特征数可改善性能并产生更可预测的扩展趋势。 这些洞察通过 nanoTabPFN 开源训练管线指导更高效模型的开发。

  2. arXiv · AI27

    PSG-GAN 合成睡眠呼吸暂停信号数据用于 AI 训练

    PSG-GAN 生成了包含阻塞性睡眠呼吸暂停特征的长段多信号合成数据。 自动评分模型仅用合成数据训练,睡眠分期和呼吸事件分割在健康志愿者和患者测试集上的 kappa 值分别为 0.71/0.63 和 0.57/0.60。 证明了合成数据支持睡眠诊断算法开发的潜力,源代码已开源。

  3. arXiv · AI28

    RAA 将分辨率作为注意力以提升 Agent 记忆感知效率

    RAA 提出以视觉分辨率作为注意力分配机制,动态调整过往交互的感知粒度,在多个任务和模型骨干上将 token 消耗降低超 50%,且不损害任务性能。 该方法将历史交互渲染为图像,通过轻量级相关性估计器优化感知保真度,可作为插件层集成到现有记忆管理中。

  4. arXiv · AI25

    Risk-Triggered Search (RTS) 实现行为保持的安全控制

    针对预训练视觉世界模型难以避免碰撞的问题,提出风险触发搜索(RTS)方法。 RTS 基于冻结 JEPA 模型,通过轻量级风险头预测动作条件未来风险,仅对触发警报的计划执行 CEM 搜索。 该方法在五项任务上将 Safe Arrival Rate 提升 12.67–41.67 个百分点,并降低 17.71–70.41% 控制器时间。

  5. arXiv · ML27

    DUAC 基于流场不确定性的自适应动作时域选择

    提出 DUAC(基于散度的不确定性感知自适应动作分块)方法,利用预训练视觉语言动作(VLA)模型的流场向量,通过单次生成和雅可比-向量积计算动作级不确定性,无需重训练或多端点采样。 在 LIBERO 系列和 RoboCasa 基准测试中,DUAC 的自适应时域选择在保持高任务成功率的同时,实现了低不确定性估计延迟。 该方法确立了流向量场作为机器人决策中高效、轨迹条件化预测不确定性来源的地位。

  6. arXiv · AI28

    CaDO:一种形式化验证引导的多智能体因果数据集修复与生成框架

    CaDO 框架在 18 组实验中的 16 组显著优于最强数据清洗基线,将下游模型准确率提升高达 9.1%。 该框架通过形式化因果推理、多级诊断和自动修复生成三阶段工作,95% 以上标记样本确认为缺陷,在 CLadder 上错误修改正确标签比 LLM 裁判少 92.2%。 代码和数据已公开可用,可促进高质量因果推理数据集的发展。

  7. arXiv · AI41

    长程智能体通过按需证据实现语义上下文交接 (SCH)

    SCH 提出状态-证据分离,将语义状态与证据解耦,按需恢复早期证据以解决长程智能体上下文膨胀问题。 SWE-bench 150 项任务中,SCH 在 token 使用量基本不变的情况下,将 Pass@1 从 80.0% 提升至 86.9%。 相比最强基线,SCH 在性能持平或更优时,减少 43% token 和 41% 运行时间。

  8. arXiv · AI30

    多模态模型在自主科学图表证据验证中的表现评估

    研究在 31 篇完整手稿上测试 6 个多模态模型自主验证图表一致性,结果显示 1,445 份审查中仅 3.3% 被评分标准认可为成功诊断矛盾。 尽管 60.6% 的审查提及了错误图表,但明确指出矛盾的低得多;当直接指明图表名称时,诊断率升至 20.4%,而仅靠文本审查无法识别矛盾。 表明评估多模态文档理解需重点考察模型提出验证目标的能力,而非仅测试其回答给定问题的能力。

  9. arXiv · AI33

    automodel:面向智能体模型发现的技能

    automodel 是一种通用模型发现的智能体技能,可赋予商业编码智能体发现或改进模型的能力。 案例研究涵盖天体物理、心血管动力学、精准农业、交通流及车辆轮胎动力学等领域,证明配备该技能的智能体能识别出新颖且具有科学相关性的模型。 将模型发现方法编码为便携式智能体技能,为领域特定的自动化发现管线提供了简单、交互性强且适用范围广泛的替代方案。

  10. arXiv · ML34

    UCLIR: 基于独立表征的无监督持续学习方法

    提出UCLIR方法,利用无监督正则化独立学习互补表征,通过分解输入限制参数干扰,提升多任务知识保留。 方法受EDR启发,使用独立自编码器学习输入局部成分,推理时结合线性分类器。 在MNIST、CIFAR-10及Tiny ImageNet等基准上,结果与监督及基于回放的方法具有竞争力。

  11. arXiv · AI38

    超时级联策略降低编码智能体推理成本

    研究提出超时级联策略,优先运行小模型,仅在必要时升级大模型。 该策略在 SWE-bench Verified 基准上将总 GPU 小时成本降低 33%,整体任务降低 16.4%,且准确率无损失。 级联策略性能接近最优任务路由器,为生产环境部署低成本编码智能体提供了低工程复杂度的实用路径。

  12. arXiv · ML23

    VESPA:基于可验证符号策略适应的安全强化学习框架

    VESPA 框架通过利用形式验证生成的反例对决策树策略进行定向微调,实现不安全策略向安全策略的转化。 该框架在 CartPole 环境中将平均验证安全步数从 63.8 提升至至少 92.7,在 MountainCarContinuous 环境中 60 次运行有 53 次成功将不安全策略转为安全策略。 验证器生成的反例被证明是有效的训练信号,可系统性提升强化学习策略的安全性。

  13. arXiv · ML26

    MRPD 提出多专家重放策略蒸馏,实现长程 RL 专家高效整合

    该研究提出多专家重放策略蒸馏(MRPD),通过重放专家训练日志进行整合,无需额外采样或调用环境。该方法计算成本仅为原 RL 训练成本的大约七分之一。 在推理、搜索和 SQL 三个长程智能体领域,MRPD 生成的学生模型显著优于在线 RL 基线。实验表明日志顺序比数量或奖励更重要,表明专家训练日志实质上是课程学习而非数据混合。

  14. arXiv · AI31

    OpenKAGE:基于知识共享智能体群进化实现开放世界开放式终身学习

    OpenKAGE提出智能体群进化框架,支持在开放世界中通过经验积累实现开放式终身学习。 框架包含两层知识表示(记忆层与经验层)及知识共享机制,将可执行技能原样共享,并将文本经验语义整合为持续演化的共享知识图谱。 在Minecraft中,该框架使智能体群达到高级技术里程碑,且积累的知识可迁移至不同骨干模型的新智能体群,提升其生存与探索进展。

  15. arXiv · ML26

    更快得出错误答案:联邦优化中本地更新的代价

    联邦优化中的本地计算虽能改善更新条件数,却会引入偏差导致固定点偏离全局最优。研究表征了给定条件数界下可实现的最坏情况最小偏差。 针对强凸二次目标,建立了精确的最坏情况偏差公式,证明小步长本地梯度下降与近端更新可达此界,并将非交换 Hessian 矩阵问题简化为标量曲率分布。 分析进一步扩展至非二次的光滑强凸目标,并量化了非精确本地求解引入的误差。

  16. arXiv · ML24

    OMNIS+:面向动态分割神经网络的语义 RAN 切片与量化框架

    提出 OMNIS+ 框架,结合动态神经压缩与自适应量化实现语义 RAN 切片,支持多蜂窝边缘计算。 采用新型“box”量化方案增强抗传输比特错误能力,通过多智能体分布式优化解决 QoS 与队列稳定性约束下的推理精度最大化问题。 相比基线,OMNIS+ 将 QoS 违规概率降低最多 1.75 倍,实现更优的精度-违规权衡。

  17. arXiv · AI38

    多模态对齐中重新思考物理事件:从点到轨迹

    论文指出主流多模态对齐架构通过压缩时序生成单点嵌入,导致无法区分相同条件下的孪生物理事件。 作者证明时序池化表示随序列增长收敛至稳态,并提出轻量插件模块 CounterPoint。 CounterPoint 通过去除模态时序均值评分帧级跨模态一致性,在四种 SOTA 对齐器上超越现有方法。

  18. arXiv · ML36

    Kernel Ridge Attention: 结合非线性特征与选择性遗忘的循环序列混合器

    新型循环序列混合器 Kernel Ridge Attention (KRA) 结合学习非线性特征与协方差引导的记忆更新。 通过递归岭回归存储关联,利用 Ornstein-Uhlenbeck 过渡控制保留率,使推理状态大小独立于上下文长度。 在语言建模实验中,KRA 预测质量优于注意力及循环基线模型,并实现高效的分布式训练吞吐量。

  19. arXiv · ML23

    基于参与者级别的评估揭示sEMG运动耦合中缺乏特异性神经肌肉关联

    研究发现,冻结双向模型在82名健康人和43名卒中患者测试中,主要依赖共享的步态相位模式。 移除完整源模态使重建RMSE增加6.90%至11.38%,而参与者间替换仅增加1.68%,且学习不对称性预测POMA分数表现不如基线。 结果表明模型缺乏明确的受试者特异性耦合及额外临床价值。

  20. arXiv · ML37

    TabBioMed:生物医学表格学习的大规模基准

    研究人员发布大规模生物医学基准 TabBioMed,包含 94 个精选公开表格数据集,涵盖电子健康记录、药物发现及单细胞组学等领域。 该基准统一了预处理和评估框架,对 23 个模型进行了测试,发现基础模型在家族层面表现最强,但树模型和多层感知机在成本约束下极具竞争力。 TabBioMed 提供了数据集、代码及结果,为生物医学机器学习的模型选择与方法开发提供了可复现的基准。

  21. arXiv · AI26

    注意力并非相关性:挑战自动驾驶中注意力的因果性

    研究在8万多个合成驾驶场景中基于PlanT 2.0模型分析发现,注意力机制提供的是相关性而非因果性的物体重要性指示。 注意力方法无法一致识别所有相关物体,且常错误地将对驾驶影响微小的物体判定为相关;其在简单单车道直线场景中表现尚可,但在多车道和路口等复杂场景下准确率显著下降。 这些结果凸显了注意力作为物体重要性代理的局限性,呼吁开发能准确捕捉单个物体对车辆驾驶因果影响的新方法。

  22. arXiv · ML29

    小最优子空间系统性分析:n-DAS 与物理信息神经网络

    研究者提出主导对齐子空间(DAS),主张 Hessian 曲率最高的方向并非优化路径,并证明 DAS 约束训练在低维梯度对齐子空间内即可收敛。 基于物理信息神经网络(PINN)在抛物线、椭圆及双曲算子上的基准测试显示,即使投影 Hessian 病态,DAS 限制训练配合线搜索仍能达到全空间训练效果。

  23. arXiv · AI29

    Test-Time Symmetrization: Scaling Laws for Model-Agnostic Learning under Structure

    研究证明 $O(\log |G|)$ 次随机重写足以替代单一表示的重复采样,恢复所有 $|G|$ 次重写提供的信息,且该对数扩展律在一般情况下是最优的。 理论表明,只要模型答案依赖于输入写法,在相同前向传递次数下,将计算预算用于重写输入而非重复采样原始提示词,准确率会显著提升。