跳到正文
10月23日周五
  1. arXiv · AI31

    LLM 原生广告机制设计:通过点击稀疏化实现真实性与高福利保证

    研究人员提出一种名为“点击稀疏化”的计算高效机制,解决了生成式 AI 广告中出价真实性与福利最大化的矛盾。 该机制在期望意义下保持真实性,并保证至少获得最优福利的 50%。 当展示上限为 K 且点击率不超过 δ 时,近似因子可优化至 2-(1-δ)^(K-1),且该效率在保持订单规则下是最优的。

  2. arXiv · AI25

    解决 Flood-It 谜题:定制化 A* 搜索与声明式求解器方法对比

    该研究提出基于 A* 搜索优化 Flood-It 谜题最小移动序列的方法,并对比 SAT、整数规划及约束规划求解器。在测试实例中,A* 在约 75% 的情况下找到最小解的速度最快。 随着复杂度(即最小解长度)增加,SAT 方法性能超越 A*。 对于决策问题,A* 在多数谜题中表现最佳,但 SAT 在更高复杂度时占优,尽管交叉点较低。

  3. arXiv · ML20

    Lean Finder V2:通过对抗训练与查询重写实现 Mathlib 语义搜索歧义消除

    研究人员推出 Lean Finder V2,这是一个专为 Mathlib 设计的语义搜索框架,能通过模型级对抗训练和输入级查询重写消除用户查询中的歧义。 该框架在人类标注的 MathlibQR 基准测试中取得了新的 SOTA 成绩,相较于之前最好的 Mathlib 语义搜索引擎实现了至少 11% 的相对提升。

  4. arXiv · ML26

    FedGRAG:联邦图检索增强生成框架

    为解决隐私约束下分布式知识图谱无法直接共享的问题,研究人员提出 FedGRAG 统一框架,实现多客户端的图检索与知识增强生成。 框架通过联邦知识路由机制利用轻量索引定位客户端,并采用受控披露方法将证据子图转换为证据摘要,避免泄露敏感实体。 实验显示 FedGRAG 在检索及下游生成任务中持续优于现有基线,确立了联邦环境下部署 GraphRAG 的新范式。

  5. arXiv · AI28

    AgentTriage:跨异构 Agent 运行时的可重放安全诊断框架

    AgentTriage 提出一种跨异构运行时的可重放安全诊断执行合约,支持基于规范事件的可验证结论,并在证据缺失时强制弃权。 该框架覆盖 5 种运行时共 159 次适用执行,在 120 个已裁决案例中实现 0.858 的 grounded joint diagnosis,较最强基线提升 0.175(95% CI [0.092, 0.258]),且无需语言模型判断即可复现诊断。

  6. OpenAI Codex Releases27

    OpenAI Codex v0.164.0 发布

    OpenAI Codex 发布 v0.164.0,新增十组预设槽位以保存提示词与斜杠命令,并支持内联参数直接设置模型与权限。 该版本允许在支持 Kitty 或 Sixel 的终端全屏预览图像,启用 Amazon Bedrock 向导,并修复了会话恢复与压缩故障导致的摘要丢失问题。

  7. arXiv · NLP37

    开放 LLM 在西班牙 MIR 考试中的不确定性、推理与图像使用研究

    研究评估四个参数量 8 至 270 亿的开放模型在西班牙 MIR 考试中的表现,三个大模型预计排名在约前 600 至 3000 名之间,可报考 41 至 43 个专业。 模型从不弃权,因为即使最不确定的答案正确率也高于 25% 的盈亏平衡点;医疗微调降低了过度自信但降低准确率且未改善置信度区分力,且 13%-38% 的正确答案基于临床依据不足的原因,移除或替换图像后准确率不变。

  8. arXiv · NLP22

    Delta N-gram:向语言模型原生 N-gram 记忆的前向连续写入方法

    Delta N-gram 提出一种前向写入路径,将证据存入哈希 N-gram 表,预训练表 T^0 保持不变。 方法包含 4.1M 参数写入器,通过块平均 delta 规则更新;在 Qwen3.8-Flash-Next 上测试,delta writer 抗干扰保留率达 70%。 清除 Δ 可恢复原始模型,解决了在线梯度写入易遗忘的问题。

  9. arXiv · NLP20

    新晋尼泊尔-英语语码切换 ASR 基准:1.3 万条自发播客音频

    新基准包含 13,044 条尼泊尔-英语自发播客音频(共 15.45 小时),并公开了转录文本、时间戳及重建脚本,以应对语码切换自动语音识别中的书写系统混淆问题。 采用两阶段合成到真实适配框架:第一阶段通过 0.95 小时双引擎 TTS 合成语音微调,将混合错误率(MER)从 23.40% 降至 21.52%;第二阶段使用 GRPO,使语言切换点错误率(SPER)进一步降至 28.70%。

10月22日周四
  1. arXiv · NLP28

    TabAgent:将LLM智能体组件蒸馏为低成本分类器

    TabAgent框架通过用紧凑的分类器替换LLM生成式决策组件,在AppWorld基准测试中消除短期调用,降低延迟约95%并减少85-91%的推理成本。 该方案利用执行轨迹提取结构化特征(TabSchema),结合合成监督(TabSynth)训练轻量级分类器(TabHead),目前已扩展至七个智能体基准测试。

  2. arXiv · ML23

    DriftNeRF: 面向稀疏视角神经辐射场的跨射线密度漂移正则化

    DriftNeRF 提出了一种无需预训练模型或额外几何信息的跨射线密度共识正则化,旨在解决稀疏视角 NeRF 中邻近 3D 点密度相互矛盾的问题。 该正则化通过掩模指数核聚合邻近射线密度生成 stop-gradient 目标,在 NeRF-Synthetic 上使残余分歧降低一个数量级,在三个数据集上将 3-view PSNR 提升 0.42-0.65 dB。

  3. arXiv · AI31

    AI 驱动的软件定义汽车(SDV)端到端设计与软件开发

    基于 CeCaS 项目,研究者提出了一种整合大语言模型与模型驱动工程的 AI 工具链,将自然语言需求自动转化为系统架构、可执行软件及验证工件。 该技术强调可追溯性与一致性,支持功能安全汽车开发要求。在支持自适应巡航控制与紧急制动的集中式车辆计算平台上,通过硬件在环(HiL)和软件在环(SiL)环境完成了验证。 这将推动汽车软件开发向高度自动化、高可靠性及少人工干预的方向演进。

  4. arXiv · ML30

    基础模型知识蒸馏在高效 Jet Tagging 中的应用研究

    研究人员通过知识蒸馏将六个教师模型性能迁移至小型学生模型,用于大型强子对撞机 Jet Tagging。 所有教师模型均能提升对应学生模型表现,增益主要取决于教师强度。 2 万参数的 L-GATr-slim 学生模型性能超过从零训练的公开模型,2 千参数版本性能匹配参数量为其 1000 倍的 ParT 模型,推理成本大幅降低。

  5. arXiv · ML29

    GaP-MoE 通过正交梯度累积与投影实现专家专业化

    针对稀疏混合专家模型中专家表示坍塌问题,GaP-MoE 通过直接操作专家输出梯度诱导专业化,而非修改损失函数。 该方法在训练步骤中随机选择 $TopK$ 专家之一作为领导者,并将其余专家的梯度投影到领导者近期梯度张成子空间的正交补集上,消除了梯度方向重叠。

  6. arXiv · ML41

    2:4 稀疏性在 LLM 推理中是否仍值得使用?半结构化稀疏与量化的对比分析

    当更低精度可用时,在相同比特数下添加 2:4 稀疏性比降低精度更差,因其导致精度更低且速度更慢。 当量化达到硬件最低精度时,2:4 稀疏性可使线性层加速 1.3–1.7 倍;在 H100 上,经重新训练的 2:4 模型以 FP8 通过 vLLM 服务时,prefill 吞吐量比密集 FP8 模型高 27%,GSM8K 准确率相当,但需重新训练恢复困惑度,且在 Blackwell 架构上损失更大。

  7. arXiv · ML20

    DDF 框架:在 SDAE 智能体评估管道中量化边际数据价值

    论文提出数据差异化框架(DDF),结合互信息、边际效用和治理输入,评估候选数据资产在组织现有数据组合中的边际价值。 DDF 扩展了 mRMR 相关度减冗余原则至资产层面,在信用卡欺诈基准(284,807 条交易)上验证,唯一真正差异化的资产通过显著性检验(DeLong p = 1.4×10⁻⁹),DDS 评分 +0.663。

  8. arXiv · ML29

    RL-IF: Tracking Non-local Training Data Influence for Online Reinforcement Learning

    在线强化学习(RL)框架 RL-IF 通过轨迹级 leave-one-out 量(RL-LOO)量化训练实例在多个训练轮次间非局部的数据影响力。 RL-IF 提出了一阶估计器,通过解耦优化效应与策略诱导采样效应来追踪影响,并在此基础开发了实际的数据过滤方法 RINSE。 在标准控制基准和 RLHF 毒性缓解场景中,RINSE 相较于 PPO 基线提升了训练效率并最终性能。

  9. arXiv · ML26

    CALLIOPE: 无需嵌入向量、支持差分隐私的AI使用主题层级发现框架

    论文提出支持差分隐私的顶层框架CALLIOPE,用于在不依赖向量嵌入的情况下直接从非结构化LLM对话语料中发现主题层级。实验表明,该方法在差分隐私设置下尤其是高隐私度环境中,效用优于现有基于嵌入的方法,并利用多种聚类指标和新型效用指标评估输出质量。

  10. arXiv · ML33

    MoE 模型拒答转向机制分解:单一专家可恢复 78% 转向效果

    研究显示在 3 个开源 MoE 大语言模型中,单一专家可平均恢复 78% 的全局拒答转向效果,表明拒答机制在架构中分布不均。 当受限使用全层转向的位置时,专家级转向仅能恢复 54% 的效果,且该差距在安全相关系统提示词下进一步拉大。 研究证实 MoE 复杂路由模式不会抑制转向性能,且拒答信号与专家路由行为所捕捉的信号存在差异。

  11. arXiv · ML29

    不确定性控制噪声下的规划:PUN 神经算子实现高成功率与低延迟

    PUN 神经算子通过学习噪声感知值场,在 4D 重规划基准中实现 95-100% 成功率,且运行时间最短。 它在 4D 最高噪声水平下,成功率相对提升 10.7-60.6%,速度提升 3.29-32.15 倍,优于对比规划器。 该方法通过蒙特卡洛标签摊销计算,避免昂贵收敛,支持未见几何环境的可靠导航。