跳到正文
11月18日周三
  1. arXiv · ML31

    首个 AI 驱动的 OSSE 框架评估 FourCastNet V2、GraphCast 等模型物理一致性

    研究人员提出首个基于 AI 的观测系统模拟实验框架,用于评估 AI 气象模型对物理一致性的复现能力。 实验涵盖 FourCastNet V2、GraphCast、Aurora 和 Prithvi WxC 四个模型,在 60 天预报周期中植入 ERA5 温度场以推断大气状态。 不同架构模型对观测响应的表现各异,基础模型产生最强影响,而 GraphCast 在特定层级配置下出现可修正的数值不稳定现象。

  2. arXiv · AI20

    集成大语言模型增强智能家居IoT Fuzz测试以发现跨规则漏洞

    针对智能家居中传统模糊测试因假设理想人类决策而失效的问题,提出集成大语言模型(LLM)的增强版IoT Fuzz方法。 该方法通过LLM模拟人类决策过程,在测试环境中增加真实感与不可预测性,以更准确地捕捉智能家居中复杂多变的人类交互。 此方法旨在揭示实际人类决策的影响,从而发现导致隐私泄露、数据窃取或物理伤害的意外跨规则漏洞。

  3. arXiv · ML25

    大语言模型作为非线性动力系统:深度、训练与生成的三个时钟

    论文构建“三时钟词典”,将十五个非线性动力学概念映射至Transformer层迭代、训练步骤与Token生成,并推导简化模型如Softmax玻尔兹曼分布。 在开源模型GPT-2与Pythia上验证,重复循环逃逸遵循阿伦尼乌斯定律,逃逸温度随生成长度N按$1/\ln N$下降,且训练使各层更具扩展性。 提出十二个开放问题,旨在利用非线性动力学解决语言模型控制难题,当前控制器尚未超越最佳固定温度策略。

  4. arXiv · ML42

    GPT-6 Astra与Claude Fable 5.1通过权重空间编程直接编辑拖拉机引导控制器

    GPT-6 Astra与Claude Fable 5.1在无梯度下降下直接读写神经网络权重,为拖拉机引导控制器编程。 253参数网络控制车辆沿线弧路径行驶,模型仅通过少量模拟评估即成功修复原网络或从零构建有效控制器,且无需人工干预即可控制真实拖拉机,误差与纯追踪策略相当。

  5. arXiv · ML35

    KVUse:面向高效 LLM 推荐系统的可复用 KV 用户记忆框架

    研究人员提出 KVUse 框架,通过将用户画像存储为可复用的 KV 缓存而非文本,解决了 LLM 推荐系统中重复预填充导致的性能瓶颈。 该方法利用自蒸馏训练的 LoRA 写入器生成 KV,并配合自定义调度器隐藏传输延迟。在 Llama-3.1-8B-Instruct 及 InstructRec 数据集测试中,系统吞吐量提升 4.0x-4.5x。

  6. arXiv · AI26

    HealthCLBench:通过受控案例集群评估健康对话中的上下文学习

    研究团队提出 HealthCLBench,包含 328 个受控案例集群、1,103 个案例及 4,931 项评分标准,用于评估模型在固定参数下整合健康上下文的能力。该基准由 70 人医疗团队标注,自动化判断与人工复核在评分项级别的一致率达 90.5%。测试显示 GPT-6-Astra 在完整上下文指标上领先,暴露了模型在检查历史信息及表达不确定性方面的缺陷。

  7. arXiv · ML37

    稀疏注意力中头部选择缺陷的诊断与修复

    稀疏注意力模型在固定预算下常因选择器低估关键token而损失长上下文检索精度。研究通过校准探针定位到特定"盲点"注意力头,发现全量注意力或4-bit评分器可恢复性能。 在InfLLM-V2和MiniCPM4.1-8B上,该修复方法将多键检索准确率从54.1%提升至97.5%,且保留了84%至89%的TTFT优势。

  8. arXiv · AI33

    多阶段上下文优化用于网约车车辆调度

    多阶段上下文优化在纽约网约车数据上比基于 MSE 的训练多出 7.7%-9.1% 的业务收益。 该方法通过决策性能训练预测模型,并采用并行块评估算法缩短 1.86 倍训练时间。 该策略超越了五种范式的基线方法甚至真实需求。

  9. arXiv · ML23

    WM-Quant 发布面向 JEPA 世界模型的滚动感知训练后量化框架

    WM-Quant 提出首个专为 JEPA 世界模型设计的训练后量化框架,在 W4A4 低位宽下使规划成功率接近全精度性能。 该方法包含早期编码器精度保持、控制路径保留及滚动感知缩放组件,通过联合校准整个滚动序列的激活范围,解决了自回归 MPC 推理中量化误差逐步累积导致动作排序近随机的核心痛点。

  10. arXiv · AI26

    提出 Trie-Head 生成检索系统:宽束搜索吞吐量提升 5.57 倍

    Trie-Head 采用模型原生输出接口存储标识符 Trie,结合共享上下文注意力,在 Qualification Retrieval Platform 上使闭环吞吐量较 CLP 基线提升最多 5.57 倍。 机制通过复用 Prompt 的 KV 块减少重复计算,在束宽为 200 时较 BF16 FlashRec 提升 2.63 倍,且无需重新训练即可保留原始模型的有效 token 分数。

  11. arXiv · AI31

    学习编辑 IFC 建筑模型:将可验证检查器作为依赖感知编辑智能体的训练信号

    研究提出 IfcGym 环境和 IfcEdit 方法,通过验证器生成训练信号优化 IFC 建筑模型编辑。 若以严格成功率(strict success)为奖励,Qwen3.5-9B 模型在 IfcEditBench 上达到 86.78% 准确率,超越多数提示模型。 在 BIM-Edit 和 BIBIMBAP 公开基准上,该模型得分分别为 55.19 和 54.50,验证了该训练范式的有效性。

  12. arXiv · ML20

    稀疏模型变化下在线强化学习的自适应记忆算法

    针对环境在部署间发生稀疏变化的折扣强化学习问题,提出一种自适应复用历史观测的算法。 算法按状态-动作对动态选择重用多少历史数据,通过一致性检验确定最佳观测窗口。 理论证明当状态空间规模与变化率乘积满足条件时,仅需最近 O(1/ε) 次部署数据,即可实现长期平均差距为 Õ(√(ε/H)) 的性能。

  13. arXiv · ML24

    PromptPack: 免训练扩散编辑器的空间与语义对齐增强框架

    PromptPack 通过免训练方式为扩散编辑器引入“编辑角色划分”和“区域提示词分配”双重引导,实现对图像编辑的空间与语义精确控制。 该方法无需重训练即可注入独立区域提示词,在 FlowEdit FLUX、SD3 及 FLUX Kontext 中验证,用户研究中以 87% 偏好率优于 FlowEdit FLUX。 确立了其作为意图对齐扩散编辑的实用免训练接口地位。

  14. arXiv · ML31

    Masked 扩散语言模型 MoE 解码隐藏成本:Profilng 与修复采样器

    26B 参数 MoE 扩散模型在带宽受限加速器上解码时,量化后 logits 采样流水线取代专家 GEMM 成为最大耗时来源。 该流水线处理 S 倍冗余 logit 条目,通过双层无损优化和 W4A16 专家内核,在 GSM8K、HumanEval、MATH 基准测试精度不变的情况下,实现 2.4-2.7 倍端到端加速。 该性能瓶颈特定于 MoE 扩散模型,代码和量化权重已开源。

  15. arXiv · ML24

    离散曲率何时有效?曲率增强GCN在PPI预测中的边级分析

    研究发现,曲率增强图卷积网络(CGCN)在四个蛋白-蛋白相互作用(PPI)数据集上的性能提升主要集中于低度节点,而非其声称缓解的过挤压瓶颈边。 该增益源于增强簇内分离以改善簇内预测,但代价是三个数据集中低曲率(瓶颈)边的性能系统性下降。 论文据此提供了基于簇内或簇间预测重要程度来优先选择CGCN或标准GCN的实用指导。

  16. arXiv · AI28

    ConfGuard:面向预测性维护LLM智能体的物理基础参考监控器

    ConfGuard提出基于物理基础的参考监控器,用于防护预测性维护LLM智能体。在10,196个C-MAPSS测试窗口中,该监控器将隐蔽攻击者对健康资产的影响从0.529降至0.046,并完全消除对故障资产抑制攻击。在Qwen3-14B规划器下,它将紧急级注入攻击降至0.00,通用传感器攻击降至0.12,显著优于现有防御方案。

  17. arXiv · ML34

    Inventa:用于自主科学发现的分布式自我改进智能体

    Inventa 通过自主研究单元与验证共享知识,在五项基准测试中全面领先,EurekaBench 得分 73.6%(CORAL 为 56.2%)。 框架中 mutator 生成想法谱系,orchestrator 在停滞时替换模型或重启;IdeaBench 中每篇论文发现 26.0 个新颖想法(ResearchAgent 为 18.6),且模型调用次数减少 82%。

  18. arXiv · ML22

    用于识别犯罪报告潜在差异的城市表示学习方法

    基于墨西哥城逾 180 万条犯罪记录,提出自监督城市表示学习框架及 NPD 指标,用于检测异常报告模式。 该方法在 1058 个 H3 区域中实现 0.4052 的平均 Silhouette 分数,显著优于 Hex2Vec 的 0.2863。 NPD 排名在邻域尺寸变化中保持高稳定性(Spearman 0.9720-0.9951),可作为识别需进一步调查区域的内部审计机制。

  19. arXiv · AI35

    DACE:用于鲁棒LLM安全对齐的多样性驱动对抗共进化

    DACE提出多样性驱动的对抗共进化框架,通过策略层归一化边际覆盖增益奖励和统一贝叶斯对抗回放池,解决攻击策略坍缩与防御遗忘问题。 框架引入风险类别与攻击风格二维策略空间,并利用Beta-Bernoulli威胁后验结合时间衰减及Thompson采样更新回放池,以锚定动态威胁景观。 在标准安全、自动攻击者及通用能力基准测试中,DACE提升了分布外攻击的鲁棒性,保持通用能力并扩大了攻击者策略覆盖范围。

  20. arXiv · ML35

    RSC 在强化学习智能体任务中提升样本效率

    引入 RSC 方法,通过添加反向 KL 散度罚项稳定异步强化学习,结合截断重要性采样(TIS)可在同等采样响应下获得更高训练奖励。 在数学推理和涵盖在线购物、工具使用等六大智能体基准测试中,RSC 配合 TIS 显著提升了样本效率。 在 AppWorld 任务上性能提升 14.3%,在 BabyAI 上达到最强基线分数的 9.9 倍。

  21. arXiv · AI21

    Fidelity Regret 提出仿真器误设测量指标

    研究人员提出“保真度后悔值”以衡量仿真器误设,覆盖 21,362 个设计和 5 种门库,72 个单元的归一化平均后悔值为 0.369,仅 6 个为零。 该指标揭示验证器与物理性能目标间的差距,固定重评分规则可将平均超额后悔值降至 0.016,相比廉价仿真器选择的 0.305 显著提升。 该框架为科学领域中检测并缓解数字孪生与真实物理目标偏差提供了可迁移方案。

  22. arXiv · ML31

    大语言模型对齐方法的边际动力学理论

    研究为 LLM 对齐方法提供理论基础,证明 DPO 边际在梯度流极限下呈 $O(\log t)$ 无界增长,而 IPO 收敛至 $1/(2\tau)$。 实验验证 DPO 在标签噪声下发生定性相变,且 SimPO 加入平滑 $\varepsilon$ 后存在有限吸引子。该理论在 5 个模型族、4 个基准上通过验证,并推导 TPO-S 在 IFEval 取得最高均值。

  23. arXiv · AI33

    多智能体记忆不一致:LLM智能体中事实冲突的消失机制

    研究在Harvey LAB文档审查任务中引入基准,发现多智能体委托虽将冲突事实检索率从50.2%提升至68.7%,但冲突检测率从16.2%降至13.2%。 当两名工作智能体读取同一对冲突声明时,检测率高于单智能体;若声明分散在不同工作智能体,则检测率显著降低。 工作智能体向主智能体的交接环节被确认为提升多智能体LLM冲突检测的核心优化目标。

  24. arXiv · AI37

    LLM编码智能体前缀缓存下的上下文增删成本研究

    基于20,000次SWE-bench Verified等测试,研究揭示前缀缓存下上下文管理对LLM编码智能体成本的影响。 添加检索代码使读取和搜索命令减少18%–34%,但在缓存输入价格为非缓存十分之一时成本反而增加33%–42%;移除旧观察结果在无缓存折扣时节省19%–36%,有折扣时成本反增38%–116%。 表明上下文管理评估需同时考虑token价格与智能体后续行为。