跳到正文
11月18日周三
  1. arXiv · AI36

    测量多语言 LLM 推理能耗:揭示语言间能源鸿沟

    这项研究揭示了多语言 LLM 推理中的显著能源鸿沟,不同语言间单位 token 能耗差异高达 8.3 倍。 固定请求集的总能耗差异达 179 倍,英语最低(17.6 kJ)而普什图语最高(3,147 kJ),且高能耗语言通常任务准确率更低。 研究建议社区将能源纳入一级评估指标,扩展模型卡报告项,并采用部署侧优化以提升能效。

  2. arXiv · AI36

    SKYPART:基于原型语义部件发现的跨视角气象鲁棒地理定位

    SKYPART作为轻量级模块,在SUES-200等基准上实现单次检索无重排的SOTA性能,其26.95M参数量为对比中表现最佳的最小模型。 该方法通过可学习原型、海拔条件调制及图注意力读出机制,使模型在十种WeatherPrompt腐败条件下精度优势进一步增加。 论文已被Neurips 2026接收,代码已开源,为低空经济中GNSS失效场景下的无人机自主定位提供了可靠替代方案。

  3. arXiv · AI28

    PINK 指标识别多行手写数学 OCR 中 VLMs 的过度修正

    研究揭示视觉语言模型(VLMs)在多行手写数学 OCR 中存在过度修正失败模式,提出 PINK 指标以 LLM 评分并惩罚此类错误。 对 FERMAT 数据集上 15 个 VLMs 评估显示排名反转,GPT-4o 因激进修正受重罚,Gemini 2.5 Flash 转录最忠实。 PINK 与人类判断一致性达 55.0%,优于 BLEU 的 39.5%,为教育评估提供更可靠框架。

  4. arXiv · AI31

    AI基础模型经济学:开放性、竞争与治理

    基于双期博弈模型,研究发现随着模型使用带来的经验学习增强,基础模型的最优开放策略呈先降后升的非单调特征。 模型使用者在 incumbent 模型上积累的特定经验形成数据飞轮,降低后续适应成本,从而促使 incumbent 在初期限制开放性以留存用户。 当跨模型经验不可转移时,可能因福利损失产生“开放性陷阱”,而强制全面开放或小额使用补贴可能反而推高费用并降低整体福利。

  5. arXiv · AI28

    QUTCC:针对成像逆问题的分位数不确定性训练与保形校准

    QUTCC提出一种基于U-Net架构的分位数回归方法,实现非线性、空间自适应的保形校准,提供像素边际覆盖保证。 该方法在去噪、加速磁共振成像及定量相位显微成像任务中,于相同覆盖率下生成比先前保形方法更紧的不确定性区间,并预测条件概率密度。 高不确定性区域有助于定位模型预测中的幻觉现象。

  6. arXiv · AI22

    利用大语言模型与知识表示实现类人语义导航以应对自动驾驶动态场景

    研究探索利用大语言模型将非正式导航指令转化为答案集编程规则,解决自动驾驶在动态城市环境中依赖预定义地图导致的适应性难题。 答案集编程提供非单调推理能力,使车辆能在道路布局变化或地图数据缺失时进行自适应决策,增强了导航的可解释性。 该方法通过自动翻译逻辑规则支持基于语义的决策制定,提供了与人类沟通导航意图高度一致的动态规划框架。

  7. arXiv · ML23

    低损失区域不对齐引发 Grokking:基于模态连通性的机制分析

    研究揭示低损失区域不对齐是引发 Grokking 的关键机制,并在标准模块算术任务中构建了“反-Grokking”反例,挑战了现有关联解释。 基于模态连通性的分析框架表明,当训练与验证划分的低损失区域对齐良好时,仅调整超参数无法产生 Grokking,模型动态将坍缩为可训练或不可训练状态。

  8. arXiv · ML20

    预训练表征中的直觉向量引导扩散推理

    预训练视觉表征的几何结构支持抽象推理,直觉向量能区分794项任务,准确率最高达87.2%。 直觉向量在ARC测试集上性能优于完整示范条件,测试时计算量减少近六倍,并支持零样本推理。 预训练视觉表征为抽象推理提供了可迁移的基础,实现了由关系结构引导生成式推理的模块化方法。

  9. arXiv · AI25

    Agentic In-Context Learning:Transformer 在闭环交互中能学习哪些算法?

    研究提出 Agentic In-Context Learning (Agentic ICL),构建因果 Transformer 近似主动学习、bandits 及在线 RL 算法。 通过蒸馏实验验证 Transformer 能执行三种递归,发现优化过程奖励可保持最大化最终结果的行为策略。 研究指出改进过程监督与结果最优动作偏好的一致性,会改变预训练语言模型在文本复述下的决策行为。

  10. arXiv · AI32

    提出多粒度上下文增强多模态知识图谱以改进 GraphRAG

    研究提出 CEMMKG 框架,通过多粒度设计在局部和全局范围内为图像补充文本上下文,解决现有 MMKG 处理方法中图文语义鸿沟导致的 GraphRAG 性能瓶颈。 局部上下文不仅包含图像周围文本,还引入语义相关句子;全局上下文提供全文摘要。多数据集实验表明,该框架能有效利用上下文信息提升基于 MMKG 的 RAG 性能,且适用于不同的 RAG 方法。

  11. arXiv · ML20

    离线偏好轨迹评估:解决智能体系统评估中平局过多问题

    现有智能体系统离线评估多将轨迹简化为二元成功值,导致约 75% 实例出现平局,降低统计效率。 提出的偏好轨迹评估法通过比较不同时刻的回报分布直接对比轨迹对,将平局率降至约 35%。 该方法提升了区分度与排序稳定性,表明基准测试饱和现象可能源于评估指标设计而非数据或难度问题。

  12. arXiv · AI41

    EMRD:面向关键安全场景下视觉语言模型就绪度的基准测试

    EMRD框架提出了一种评估视觉语言模型在关键安全场景下探索、映射、记忆和决策能力的基准测试方法。该框架将空间推理分解为四个阶段,并使用18个指标对11个开放和闭源VLM进行了评估。 实验在16栋建筑中进行,包括三种环境压力。结果显示,开放权重模型在95%的案例中未能访问所有房间,而闭源模型在添加外部记忆后表现更佳。 该基准测试为评估VLM在具身智能控制中的可靠性提供了重要工具。

  13. arXiv · ML26

    FoundCause:用于含潜在混杂因子观测数据的因果发现基础模型

    FoundCause 提出了一种仅用合成结构因果模型训练的摊销因果发现基础模型,通过单次前向传播将数据集映射为因果图。模型采用置换等变 Transformer,结合成对依赖统计量引导注意力机制,并显式预测潜在混杂因子对。在 14 个数据集上,FoundCause 在归一化结构汉明距离(SHD/d)上显著领先(0.875 vs 0.956),且在双变量因果关系预测中表现最佳。

  14. arXiv · ML26

    Graph Cascades:基于传播的介观重连策略用于结构感知的图机器学习

    研究提出Graph Cascades介观重连策略,优化图神经网络(GNN)和图Transformer(GT),捕捉中间尺度图结构。 算法通过固定级联参数的传播扩散,在O(|V|+|E|)时间内构建稀疏辅助图,将多跳强化的节点对提升为直接邻居。 理论分析了强化重连提升标签对齐度的充分条件,实验显示该方法在异质性及中等至高程度的同质性图上带来最可靠性能提升。

  15. arXiv · ML28

    SKMD:用于主动学习原子间势的 Stein 核化分子动力学

    研究者提出 SKMD 采样方法,通过交互粒子动力学为机器学习原子间势(MLIP)获取信息丰富的训练构型。 该方法采用全局原子描述符内核以感知对称性,保持 Boltzmann 分布为平稳分布,并在 Müller-Brown 势能、MACE 模型等案例中,比基线方法以更少迭代次数实现更高精度。

  16. arXiv · ML24

    噪声代理协变量下的半监督学习:泛化界与分布回归

    针对预训练表示作为噪声代理协变量且标签稀缺的场景,研究提出一种半监督回归两阶段估计器。 该估计器利用所有代理协变量学习核特征,并在有标签数据上拟合岭预测器。 理论推导显示,当代理扰动可控且无标签样本充足时,可恢复快速样本收敛率,实验在低标签场景优于基线。

  17. arXiv · ML28

    SDRL:基于切片散度的多变量分布强化学习

    提出切片分布强化学习(SDRL),通过投影将一维散度扩展至多变量回报分布,并在单一标量折扣下证明均匀切片的 Bellman 收缩性。 方法引入最大切片变体以支持通用稠密折扣矩阵,分析 Wasserstein、Cramér 及 MMD 散度,在 Atari 等环境完成评估,文章发表于 ICML 2026。

  18. arXiv · ML21

    Latent Q-Barrier Shielding 用于安全上下文强化学习的研究

    提出 Latent Q-Barrier Shielding 方法以改善安全上下文强化学习(ICRL)在分布外(OOD)部署中的表现。 该盾牌在部署前学习上下文表示、潜在动力学及集成成本评估器,无需参数更新即可筛选候选动作。 在 5 个安全 ICRL 基准测试中,该方法在 4 个基准测试中实现了更高的回报,且在全部 5 个基准测试中保持或降低了平均单集成本。

  19. arXiv · ML25

    BBO-Pile:首个面向超参数优化基础模型的开源训练数据集

    BBO-Pile 是首个开源数据集,包含 3,095 个任务中评估的超过 50 万个优化轨迹。 使用 BBO-Pile 训练了参数量从 2M 到 80M、训练 token 数从 2 亿到 20 亿不等的一系列基础模型,并研究了其随算力的扩展行为。 大规模预训练被证明是模仿超参数优化方法的一种可行且有效的方法,为未来研究铺平了道路。

  20. arXiv · ML20

    RelPrism: 面向关系数据库的多视角自监督学习框架

    提出 RelPrism,一种针对关系数据库(RDBs)的多视角自监督学习框架,通过构建内在、关系及混合属性并结合多粒度聚类生成伪任务池,提升下游任务适应能力。 在 5 个真实数据集的 14 项任务实验中,RelPrism 相比最先进基线将分类任务的 ROC-AUC 提升 4.15%,并将回归任务的 MAE 降低 10.75%。 代码已公开,为关系型数据系统的预测任务提供了更强的预训练基础。

  21. arXiv · ML28

    PEARL:基于对比学习的工业级直播推荐无偏分位数估计

    非参数对比框架 PEARL 通过建模相对偏好信号消除用户行为强度偏差,无需辅助分布估计模型。 在线 A/B 测试显示,该框架在数亿用户规模的直播平台部署后,观看时长提升 2.10%,报告率下降 6.91%。 已被 KDD 2027 ADS Track 接收,验证了其在大规模推荐系统中的有效性与鲁棒性。

  22. arXiv · AI29

    OPT* 如何在扩展搜索空间中进行类优化推理

    研究人员提出可扩展的类优化任务族 OPT*,包含可行性检查器与评估器,通过复杂度参数扩展 LLM 的搜索空间。 该框架对比了求解器引导的在线策略优化(使用 rank-based reward shaping)与无求解器时的搜索型离线 RL,并在理论层面关联了搜索预算下的信息提取效率。 在 OPT* 上的训练被证明能提升 LLM 逐步类优化推理的表现。