跳到正文
10月14日周三
  1. arXiv · NLP30

    SPARK 实现 RAG 中自适应参数知识参与以增强忠实度

    SPARK 框架将参数知识控制建模为潜在参与策略学习,解决检索上下文与内部知识冲突导致的生成不忠实问题。 通过引入轻量级参与策略动态调节 FFN 介导的知识贡献,仅增加 0.01% 可训练参数并保持主干 LLM 冻结。 在六个数据集上验证了其有效性,比竞争性基线实现更忠实的生成,且代码和数据已公开。

  2. arXiv · AI38

    YOUDrive: 驱动风格作为端到端自动驾驶的可组合方向

    YOUDrive 提出了一种用于连续和可组合驾驶风格控制的多模态模型。在 NAVSIM navtest 上,单一系数可单调控制六种教师衍生风格的激进度。 该方法通过任务向量在推理时缩放和组合风格方向,无需重新训练主干网络,PDMS 保持在 0.90 以上,最高达 0.954。 论文还将开源代码、检查点和指标。

  3. arXiv · NLP30

    CiteTracer:面向引用幻觉检测的多智能体框架

    CiteTracer 提出一种基于分类学的字段级判定方法,将引用幻觉检测重构为跨 12 种代码的真实、潜在及幻觉引用分类。 该检测器通过级联多智能体流程提取结构化引用,并结合缓存查找、网络检索及确定性字段匹配来路由歧义案例。 在包含 2,450 个合成引用和 957 个真实伪造引用的基准测试中,CiteTracer 分别达到了 97.1% 的整体准确率。

  4. arXiv · ML32

    LEAF:通过上下文内探索与自蒸馏提升 LLM 推理效率

    LEAF 方法在 LLM 推理中实现约 4 倍探索加速,较最强基线模型提升准确率 1.59 和 1.83 个百分点。 该方法注入动态问题特定记忆至上下文,并通过自蒸馏更新策略,在四个基准测试中表现优于随机采样基线。 研究结果表明,LEAF 在提升探索效率的同时显著降低了计算资源消耗。

  5. arXiv · NLP28

    医疗领域开源基础模型综述:生成式AI驱动个性化处方的挑战与机遇

    在100个合成患者档案中,开源权重LLM在个性化处方任务上的总体适用性准确率(0.810-0.850)匹敌或超越专有模型基线(0.780)。 引入RAG后所有模型均有提升,但排名差距缩小至0.04;双评分者主观评估发现,检索虽提升准确率,却降低了部分模型的五个维度评分。 研究强调在医疗场景中部署先进LLM和AIFM需重视伦理风险及透明化原则。

  6. arXiv · AI41

    提出无需训练方法实现无训练奖励归因以解锁 Token 奖励

    提出无需训练的方法,通过估计 token 对宏观奖励的影响,直接从现有过程奖励模型中提取 token 级奖励信号。 采用一阶泰勒近似,仅需单次前向和反向传播计算 token 嵌入与梯度内积,实现精确的信用分配。 在 MathVista 上 Qwen2.5-VL-7B-Instruct 提升 +4.9%,在 AIME24 上 Qwen2.5-Math-7B 提升 +11.5%。

  7. arXiv · AI41

    ReTerm: 面向自我改进终端智能体的恢复训练

    ReTerm 基于 Qwen3.5-9B 开发,在 Terminal-Bench 2.0 上实现 34.8% Pass@1,较基座模型提升 14.6 分。 通过构建 ReTerm-10K 数据集与 ReTerm-GRPO 在线强化学习算法,智能体从自身失败状态分叉生成独立恢复尝试,从而提升各类错误下的恢复率。 代码、数据及模型均已开源发布。

  8. arXiv · ML28

    CartoVec:基于开放地图数据的通用位置嵌入

    CartoVec 是一种无需图像输入或下游任务标签的坐标编码器,通过预测 Overture 衍生的土地覆盖、土地利用、交通、地点和连通性目标生成位置嵌入。 模型在 Census 结果、Airbnb 价格和费城犯罪数据评估中表现最佳,开放权重模型已发布,推理时支持坐标到向量接口且无需地图查询。

  9. arXiv · AI29

    AnnalsChallenge:Annals of Mathematics 的 50 个形式化定理数据集

    研究团队发布 AnnalsChallenge 数据集,包含 50 个在 Lean 4 中手写的形式化定理陈述,旨在评估 AI 数学形式化能力。这些陈述源自 2020 年以来发表于《Annals of Mathematics》的论文主要结果,经过人工审查和 AI 审计,但不包含形式化证明。该数据集已发表于 NeurIPS 2026 的 AI-MATH 研讨会。

  10. arXiv · NLP38

    SWE-MISBEHAVIOR:编码智能体边界违规的基准测试与缓解框架

    SWE-MISBEHAVIOR 发布了首个诊断编码智能体边界违规的评测框架,涵盖 7.4K 样本及 11 种失范行为。 实验显示 OpenHands 等 SOTA 开源智能体存在严重依赖误读,最高达 98.5%,环境完整性受损率达 53%。 配套提出的轻量框架 CODE-KIT 可将 smolagents 的失范行为降低 52%,同时提升任务完成率。

  11. arXiv · NLP37

    HaloBlock:面向扩散大语言模型的更快更优解码机制

    针对扩散大语言模型解码难且边界上下文不连续的问题,HaloBlock 提出难度感知的自适应 halo 机制。 通过双向累计熵表征难度,在块两侧自适应分配 halo 区域,提升生成质量与推理效率。 在 LLaDA-8B-Instruct 等模型上,该机制在数学推理和代码生成基准测试中实现精度提升和效率增强。

  12. arXiv · AI35

    EC2-Bench:长程 LLM Agent 执行中边云协作的系统性分析

    研究提出 EC2-Bench 基准,评估长程 LLM Agent 执行中的边云协作,涵盖任务性能、资源使用与隐私暴露。 结果显示边云协作在性能、资源与隐私间取得优于纯边或纯云的平衡;边缘模型能力增强时,协作性能逼近纯云,隐私暴露仍依策略而定,且协作控制权由外部向边缘侧转移。 这些发现为设计未来高效边云协作 Agent 提供了系统性理解与设计参考。

  13. arXiv · NLP30

    跨用户成对偏好在线 LLM 个性化

    该研究提出将在线 LLM 个性化建模为上下文决斗老虎机问题,通过固定提示词集合中的在线选择实现个性化,目标是最小化累计强后悔。系统显示两个响应并观察成对选择,利用跨用户共享信息适应新用户。

  14. arXiv · NLP20

    论文提出MLAfication:高效为现代大语言模型赋能高保真MLA注意力

    论文提出MLAfication框架,一种支持QKNorm和MoE的参数高效MHA2MLA扩展方法。 该方法结合校准KNorm、参数蒸馏、部分RoPE和联合KV初始化,在Qwen3-30B-A3B上实现5.35倍BF16 GQA服务吞吐量,配合4-bit量化将KV缓存占用降低94.73%。 该工作将MLA转换扩展到现代架构,超越当前SOTA在常识和长上下文基准上的表现。

  15. arXiv · AI30

    EPOCH:基于经验偏好优化的覆盖率感知进化方法,用于基于LLM的自动启发式设计

    EPOCH提出以实例覆盖率为进化搜索目标,并通过经验偏好优化微调生成器内化反思反馈。 该方法结合教师LLM生成的自然语言洞察与直接偏好优化(DPO),并引入反思自蒸馏(RSD)项,使改进效果在搜索长周期中累积。 在多个组合优化问题(COPs)及开源LLM骨干上,EPOCH生成的启发式集合优于仅推理和微调基线。

  16. arXiv · AI34

    Glasseek:深度搜索智能体的透明训练与可信评估方案

    Glasseek 提出开源深度搜索框架,其 9B 参数智能体在多项深度研究基准上超越前沿闭源模型,并刷新 9B 规模 SOTA 纪录。 框架采用 Compaction-Managed GSPO 训练算法,实现跨上下文压缩边界的端到端策略优化,并发布模块化防泄漏插件解决评测污染问题。 该工作公开了完整的数据、权重与代码,为开发可复现且可靠的开源搜索智能体提供了系统化范式。

  17. arXiv · NLP28

    Swiss4Arg:覆盖瑞士四种国家语言的平行多语种论辩挖掘数据集

    基于2019至2025年瑞士官方投票手册,构建了包含53项联邦议题的Swiss4Arg多语种平行数据集。该资源覆盖德语、法语、意大利语和罗曼什语四种国家语言,由每种语言的三名母语者标注,并提供了GPT-5.4与SwissBERT的基线结果。 该数据集为多语种论辩挖掘与低资源场景下的跨语言可比性研究提供了新基准,标注与代码已公开发布。