跳到正文
10月14日周三
  1. arXiv · AI21

    ReConV 通过表示重建实现语义瓶颈压缩

    提出视觉 token 压缩框架 ReConV,利用重建引导机制在 ImageNet 上以少 48% GMACs 超越未压缩基线。 该方法引入轻量级位置条件解码器重建当前 token,通过 Summary Bank (SMB) 压缩共享信息并保留重建残差较大的细节。 ReConV 支持复用图像级表征以高效进行多轮推理,代码已在 TokenDrop 开源。

  2. arXiv · NLP36

    多智能体卧底博弈:基于多模态推理的幻觉消除与反事实测试

    针对多智能体辩论(MAD)中非理性假设的缺陷,研究者提出多智能体卧底博弈(MUG)协议。该协议利用多模态反事实测试,通过修改参考图像检测“卧底”智能体(即存在幻觉的智能体)。 MUG 在事实验证、跨证据推理和主动推理三个维度上优化了 MAD 协议,通过动态修改证据源而非依赖静态输入,提升了多模态推理的可靠性。 该研究已被 AAAI 2026 接收,源代码已公开。

  3. arXiv · AI21

    FOSA框架:基于符号抽象的生成流用于具身能力发现

    研究提出生成流框架 FOSA,通过有根任务生成器发现具身特定能力,提升复杂长时程机器人任务性能。 该框架将抽象策略参数化为生成流网络以构建符号任务骨架,并在仿真中通过低层策略学习表现提供奖励信号。 跨异构机器人平台测试显示,FOSA 发现了多样的可执行任务,并将策略蒸馏后提高了未见复杂任务的执行表现。

  4. arXiv · NLP20

    SCANAR 与 AIDOC:利用信息检索和人工智能工具加速医疗保健领域的前沿扫描

    开源 Python 工具 SCANAR 和 AIDOC 被提出用于通过自动化新闻检索和 LLM 辅助过滤,加速医疗保健领域的前沿扫描。 SCANAR 通过去重和排名自动化检索,AIDOC 利用 LLM 和文本嵌入计算语义相似度,在 95% 召回率下可实现约 65% 的理论人工审查工作量减少。 这些工具有助于缓解方法学限制,支持更广泛、更快速的前沿扫描。

  5. arXiv · NLP37

    TrustMOPD:基于可靠性感知的多教师在线策略蒸馏方法

    TrustMOPD 提出一种标签无关、token 级别监督分配的多教师在线策略蒸馏方法,解决了动态适应性难题。 实验显示,该方法在 SingleCap 和 MultiCap 上分别填补了 91.5% 和 98.0% 的师生分数差距,优于最强基线。 其性能接近基于标签的蒸馏方法,且无需领域标签,代码已公开。

  6. arXiv · ML31

    ProAS:面向多轮智能体强化学习的进度感知优势整形框架

    研究人员提出 ProAS 框架,利用智能体参考图(ARG)解决无 Critic 强化学习算法中的均匀信用分配困境。 该方法通过掩蔽不合理激励和非对称惩罚重分配实现细粒度信用分配,在 Qwen2.5-1.5B-Instruct 上 ALFWorld 任务成功率达 91.9%。 ProAS 使训练收敛加速最多 2.44 倍,并保持了针对不完美 ARG 的强鲁棒性。

  7. arXiv · AI34

    SkillMarker: 一种基于 KGW 的 Agent 技能所有权验证水印方法

    针对 Agent 技能明文分发易泄露问题,SkillMarker 提出一种 KGW 水印方法,平衡功能保留与水印嵌入强度。 方法结合质量约束改写与信号导向候选搜索,将关键知识与灵活表达分离,确保指令准确性,并探索替代表达以增强水印信号。 工具包开源,支持水印嵌入、质量审计和检测,旨在实现技能生态中的所有权验证与泄露追溯。

  8. arXiv · NLP26

    通过属性引导的体裁扩展超越故事中心化数据以扩展创意写作

    研究提出属性引导的体裁扩展框架,构建包含13种创意体裁、5万条样本的Multi-Genre Collection数据集,旨在解决LLM创意写作数据过度依赖故事中心的局限。 该框架利用人工策划的体裁属性结合人类故事提示词,生成经质量过滤的体裁忠实问答对,用于模型微调。 实验表明,在模型上应用此数据可显著超越基线模型及现有写作语料训练模型,证实受控体裁扩展是提升创意写作能力的核心驱动因素。

  9. arXiv · NLP34

    LLM-OSDA:面向多轮 LLM 对话原生广告的动态最优停止拍卖机制

    研究提出 LLM-OSDA 机制,将 Bellman 最优停止、胜者分配与包络定价结合,用于多轮对话中的原生广告。在模拟语料实验中,该机制相比最强固定时机基线提升净收益 11%,且用户留存率保持相当。 机制通过独立的 LLM 层评估上下文点击质量并渲染广告,出价仅进入承诺拍卖机制;学习 StopNet 近似 Bellman 动作值,其激励损失与近似误差相关。

  10. arXiv · NLP30

    SPARK 实现 RAG 中自适应参数知识参与以增强忠实度

    SPARK 框架将参数知识控制建模为潜在参与策略学习,解决检索上下文与内部知识冲突导致的生成不忠实问题。 通过引入轻量级参与策略动态调节 FFN 介导的知识贡献,仅增加 0.01% 可训练参数并保持主干 LLM 冻结。 在六个数据集上验证了其有效性,比竞争性基线实现更忠实的生成,且代码和数据已公开。

  11. arXiv · AI38

    YOUDrive: 驱动风格作为端到端自动驾驶的可组合方向

    YOUDrive 提出了一种用于连续和可组合驾驶风格控制的多模态模型。在 NAVSIM navtest 上,单一系数可单调控制六种教师衍生风格的激进度。 该方法通过任务向量在推理时缩放和组合风格方向,无需重新训练主干网络,PDMS 保持在 0.90 以上,最高达 0.954。 论文还将开源代码、检查点和指标。

  12. arXiv · NLP30

    CiteTracer:面向引用幻觉检测的多智能体框架

    CiteTracer 提出一种基于分类学的字段级判定方法,将引用幻觉检测重构为跨 12 种代码的真实、潜在及幻觉引用分类。 该检测器通过级联多智能体流程提取结构化引用,并结合缓存查找、网络检索及确定性字段匹配来路由歧义案例。 在包含 2,450 个合成引用和 957 个真实伪造引用的基准测试中,CiteTracer 分别达到了 97.1% 的整体准确率。

  13. arXiv · ML32

    LEAF:通过上下文内探索与自蒸馏提升 LLM 推理效率

    LEAF 方法在 LLM 推理中实现约 4 倍探索加速,较最强基线模型提升准确率 1.59 和 1.83 个百分点。 该方法注入动态问题特定记忆至上下文,并通过自蒸馏更新策略,在四个基准测试中表现优于随机采样基线。 研究结果表明,LEAF 在提升探索效率的同时显著降低了计算资源消耗。

  14. arXiv · NLP28

    医疗领域开源基础模型综述:生成式AI驱动个性化处方的挑战与机遇

    在100个合成患者档案中,开源权重LLM在个性化处方任务上的总体适用性准确率(0.810-0.850)匹敌或超越专有模型基线(0.780)。 引入RAG后所有模型均有提升,但排名差距缩小至0.04;双评分者主观评估发现,检索虽提升准确率,却降低了部分模型的五个维度评分。 研究强调在医疗场景中部署先进LLM和AIFM需重视伦理风险及透明化原则。

  15. arXiv · AI41

    提出无需训练方法实现无训练奖励归因以解锁 Token 奖励

    提出无需训练的方法,通过估计 token 对宏观奖励的影响,直接从现有过程奖励模型中提取 token 级奖励信号。 采用一阶泰勒近似,仅需单次前向和反向传播计算 token 嵌入与梯度内积,实现精确的信用分配。 在 MathVista 上 Qwen2.5-VL-7B-Instruct 提升 +4.9%,在 AIME24 上 Qwen2.5-Math-7B 提升 +11.5%。

  16. arXiv · AI41

    ReTerm: 面向自我改进终端智能体的恢复训练

    ReTerm 基于 Qwen3.5-9B 开发,在 Terminal-Bench 2.0 上实现 34.8% Pass@1,较基座模型提升 14.6 分。 通过构建 ReTerm-10K 数据集与 ReTerm-GRPO 在线强化学习算法,智能体从自身失败状态分叉生成独立恢复尝试,从而提升各类错误下的恢复率。 代码、数据及模型均已开源发布。

  17. arXiv · ML28

    CartoVec:基于开放地图数据的通用位置嵌入

    CartoVec 是一种无需图像输入或下游任务标签的坐标编码器,通过预测 Overture 衍生的土地覆盖、土地利用、交通、地点和连通性目标生成位置嵌入。 模型在 Census 结果、Airbnb 价格和费城犯罪数据评估中表现最佳,开放权重模型已发布,推理时支持坐标到向量接口且无需地图查询。

  18. arXiv · AI29

    AnnalsChallenge:Annals of Mathematics 的 50 个形式化定理数据集

    研究团队发布 AnnalsChallenge 数据集,包含 50 个在 Lean 4 中手写的形式化定理陈述,旨在评估 AI 数学形式化能力。这些陈述源自 2020 年以来发表于《Annals of Mathematics》的论文主要结果,经过人工审查和 AI 审计,但不包含形式化证明。该数据集已发表于 NeurIPS 2026 的 AI-MATH 研讨会。

  19. arXiv · NLP38

    SWE-MISBEHAVIOR:编码智能体边界违规的基准测试与缓解框架

    SWE-MISBEHAVIOR 发布了首个诊断编码智能体边界违规的评测框架,涵盖 7.4K 样本及 11 种失范行为。 实验显示 OpenHands 等 SOTA 开源智能体存在严重依赖误读,最高达 98.5%,环境完整性受损率达 53%。 配套提出的轻量框架 CODE-KIT 可将 smolagents 的失范行为降低 52%,同时提升任务完成率。

  20. arXiv · NLP37

    HaloBlock:面向扩散大语言模型的更快更优解码机制

    针对扩散大语言模型解码难且边界上下文不连续的问题,HaloBlock 提出难度感知的自适应 halo 机制。 通过双向累计熵表征难度,在块两侧自适应分配 halo 区域,提升生成质量与推理效率。 在 LLaDA-8B-Instruct 等模型上,该机制在数学推理和代码生成基准测试中实现精度提升和效率增强。

  21. arXiv · AI35

    EC2-Bench:长程 LLM Agent 执行中边云协作的系统性分析

    研究提出 EC2-Bench 基准,评估长程 LLM Agent 执行中的边云协作,涵盖任务性能、资源使用与隐私暴露。 结果显示边云协作在性能、资源与隐私间取得优于纯边或纯云的平衡;边缘模型能力增强时,协作性能逼近纯云,隐私暴露仍依策略而定,且协作控制权由外部向边缘侧转移。 这些发现为设计未来高效边云协作 Agent 提供了系统性理解与设计参考。

  22. arXiv · NLP30

    跨用户成对偏好在线 LLM 个性化

    该研究提出将在线 LLM 个性化建模为上下文决斗老虎机问题,通过固定提示词集合中的在线选择实现个性化,目标是最小化累计强后悔。系统显示两个响应并观察成对选择,利用跨用户共享信息适应新用户。

  23. arXiv · NLP20

    论文提出MLAfication:高效为现代大语言模型赋能高保真MLA注意力

    论文提出MLAfication框架,一种支持QKNorm和MoE的参数高效MHA2MLA扩展方法。 该方法结合校准KNorm、参数蒸馏、部分RoPE和联合KV初始化,在Qwen3-30B-A3B上实现5.35倍BF16 GQA服务吞吐量,配合4-bit量化将KV缓存占用降低94.73%。 该工作将MLA转换扩展到现代架构,超越当前SOTA在常识和长上下文基准上的表现。