跳到正文
11月16日周一
  1. arXiv · ML22

    研究揭示 LLM 权重空间编程可注入后门

    LLM 驱动的权重空间编程能成功向神经网络注入后门,且保持干净性能,仅修改 MLP 的 6 个参数或 Qwen 模型 0.02% 权重即可实现。 在 3 种目标架构测试中,通用 LLM 均可直接修改权重,但 GPT-6 Astra 是唯一在三个目标上均成功的模型。 这一发现凸显了权重空间编程的安全风险。

  2. arXiv · AI45

    社会化对齐:研究进化选择下的 AI 智能体权衡学习

    研究提出社会化概念,即 AI 智能体在人类奖励环境中学习权衡任务与行为准则,其经验积累使对齐在后续纯任务训练中更难逆转。 小神经网络实验验证了训练目标与记忆机制如何影响这一保护效应,指出有限记忆会削弱社会化成果的稳定性。 研究结论表明 AI 对齐不仅取决于设定的目标,更依赖于塑造和维持智能体行为的环境机制。

  3. arXiv · AI28

    机制可解释性能否解释 LLM 智能体故障?基于网页元素幻觉的案例分析

    该研究通过案例探讨机制可解释性在解释 LLM 智能体网页幻觉故障上的局限性,并基于 Qwen2.5-7B-Instruct 展开分析。 具体实验表明,针对最后一个 prompt token 训练的线性探针在生成前即可预测幻觉(AUC 为 0.80),且沿探针方向进行 steering 能纠正 85% 的幻觉,但会干扰 7% 的有效操作。

  4. arXiv · ML20

    近等分布中散度计算的数值稳定性问题

    研究表明,当分类分布几乎相等时,前向和反向 KL 散度、JSD 及蒙特卡洛估计等标准散度操作存在舍入和抵消导致的数值问题。这些问题会影响知识蒸馏、强化学习等优化目标的计算,作者提出了数值稳定的重构方案并提供了相应实现。该工作为依赖散度的机器学习算法提供了更鲁棒的计算方法。

  5. arXiv · AI20

    基于单通道 EEG 的可解释睡眠分期方法 SleepXAI 研究

    研究扩展 SleepXAI 框架,系统比较五种 XAI 方法以提升睡眠分期可解释性,基于单通道 EEG 数据。 在 Sleep-EDF 和 DREAMT 数据集上,Integrated Gradients (IG) 在所有睡眠阶段及 AHI 分组中均取得最高的 Spearman 秩相关归因保真度。 该方法选择对确保临床可解释性具有关键意义,已被 IEEE BIBM 2026 接受。

  6. arXiv · AI36

    LeCAT:衡量大语言模型从预训练数据中学习分类知识

    研究团队提出LeCAT框架,用于分析大语言模型如何从预训练数据中习得分类知识。 该框架使用199个精选的类别-特征对评估开源模型,发现加强语境和共现概率(PMI)能提升大模型的学习效果,而逐字重复规则则削弱了灵活性。通过从头训练一个68M参数的模型,实验证实了多样化知识表达混合能带来更鲁棒的分类学习,凸显了预训练数据表达方式对模型获取健壮分类知识的关键影响。

  7. arXiv · AI30

    智能家居代理:能干但不可预测的电网操作员

    该研究首次对全停电环境下的智能家居代理进行了韧性分析,发现其能作为电网操作员但存在不可预测性。 研究通过实时环境中的停电模拟,衡量了停电前、中、后的韧性,并识别出多个新故障类别以揭示当前模型的局限性。 这些发现为提升电网边缘的整体韧性奠定了基础。

  8. arXiv · ML40

    基于集成之集成的大语言模型黑盒不确定性量化方法

    该研究提出双层集成方法,利用语义扰动实现黑盒不确定性量化,将不确定性精确分解为 aleatoric 和 epistemic 两部分。 方法仅需黑盒采样访问,无需白盒参数。在五个基准和四个 LLM 上,其性能与强白盒基线相当。 该方法已发表于 NeurIPS 2026,代码已开源,可扩展至长文本事实性检查。

  9. arXiv · ML20

    Fuse-PINN:结合有限元法与物理信息神经网络实现非线性偏微分方程大规模并行模拟

    Fuse-PINN 框架通过结合有限元法与物理信息神经网络,实现了 GPU 集群上 PINN 的可扩展并行化,突破非线性 PDE 模拟瓶颈。 该框架采用 FEM-NN 数学表述与能量自然梯度下降优化器,在磁约束聚变物理模型中验证了近似完美的多 GPU 扩展性。 研究反驳了“PINN 无法扩展”的观点,支持复杂非线性动力学的大规模高保真模拟。

  10. arXiv · ML25

    决策谓词图:树集成模型的局部结构性解释

    研究人员提出局部决策谓词图(local DPG),为树集成模型提供可验证的局部解释。该方法识别临界谓词,在单次穿越中恢复 46-69% 错误预测的真实类别,优于 TreeSHAP 的 29-50%。 在 16 个数据集和四种集成家族中,临界谓词在定位故障阈值时优于随机基线,准确率为 46-71%。 该解释方法无需训练,通过指出预测可被修改的具体阈值,补充了特征归因和反事实分析。

  11. arXiv · AI22

    临床 AI 中评估即干预

    在临床 AI 团队使用 AI judge 评估输出以选择提示词或训练模型时,judge 本身成为干预的一部分,其选择可能优先保留被 judge 忽略的错误。 文章主张必须明确 judge 报告应包含的内容,并要求对每个由 judge 驱动的变更实施独立的临床测试。

  12. arXiv · ML28

    神经网络分类器作为纠错码

    提出将监督深度分类视为香农意义上纠错码解码的统一框架。交叉熵优化使 softmax 分类器与最大似然解码对齐,logits 映射为到类特定码字的汉明距离。该对应关系解释了 KL 散度等目标的涌现,并将 Neural Collapse 和 LeJEPA 的几何视为等向噪声下解码的最优星座。

  13. arXiv · AI23

    A$^3$:面向协同边缘计算的自适应音频智能体框架

    A$^3$ 是一种自适应音频智能体框架,将流水线阶段部署在边缘服务器,并在设备保留完整回退智能体,通过链路感知截止时间决定何时放弃服务器。在 Jetson 设备与 RTX A4500 服务器上,A$^3$ 在链路正常时性能与纯服务器智能体持平,在 AGX 全断网时响应所有请求,且在模拟断网中优于百分位对冲策略。

  14. arXiv · ML42

    NeoResearch:文献与经验引导的自主时间序列模型发现框架

    NeoResearch 提出一种由 LLM 驱动的自主研究框架,利用专家启发的双循环工作流发现轻量级领域特定预测模型。 该框架自动挖掘网络科学文献提取建模机制,并通过层级经验记忆将文献发现与实验结果关联,支持跨任务复用。 在十个数据集上的实验表明,该框架具有竞争性性能,验证了双循环、文献提取及记忆复用机制的有效性。

  15. arXiv · AI25

    LACCO:通过计算通信重叠实现局部累加训练方法

    提出LACCO算法,通过局部累加与计算通信重叠,避免外层更新滞后,保持全局一致性。 在FineWeb预训练中优于DiLoCo变体,模型扩展至0.5B参数、最多16个worker时性能增益稳健,额外计算与内存开销可忽略。 该算法为低带宽环境下的语言模型分布式训练提供收敛保证,显著降低同步开销。

  16. arXiv · ML30

    MarathonTS:基于窗口组装与长序列生成器的长合成时间序列基准

    MarathonTS 作为首个开放基准,统一对比了基于短窗口组装和长序列生成器的合成时间序列方法。 在 9 个开放小时级数据集上使用 10 个随机种子生成等长序列,通过 12 组共 83 项指标评估对真实数据(训练、验证、时间外划分)的保真度,并测试在 14 项分类与回归任务中仅用合成序列训练的模型效用。

  17. arXiv · AI26

    基于深度学习的脑肿瘤分割交互式界面

    一款深度学习脑肿瘤分割系统默认全自动,支持用户手动修正,以提升不同MR序列下的分割精度。 该系统解决了因供应商差异导致的灾难性错误,并通过初步专家用户研究验证了其准确性与可用性。

  18. arXiv · ML24

    充分解释的极限:分类器与选择关系的正式分析

    研究形式化刻画了结构化数据分类器中充分解释存在的条件,指出完全充分性在语言、蛋白和分子分类数据集中均无法实现。 该研究通过实例空间、分类器及选择关系定义通用解释形式,并将分析扩展至概率充分性和删除充分性等变体。 这些统计边界为所有解释器提供了任务级参考,使其充分性可在绝对尺度下被评估。

  19. arXiv · AI26

    TotalSegmentator 主动脉报告工具:基于 CT 图像的 11 个标准化标志点自动测量主动脉直径

    研究人员开发了一款开源工具,可自动测量 CT 图像中 11 个标准化标志点的主动脉直径。在包含 239 次检查的回顾性研究中,该工具的平均绝对误差为 1.06 mm。 该工具基于 TotalSegmentator 分割结果定位标志点,测量值略大于参考标准,偏差为 0.45 mm。 此工具为开源免费,其测量精度低于已发表的阅片者间变异性,但主动脉根部误差较大。

  20. arXiv · ML24

    ICU 稀疏时序中按变量组合预测模型的研究

    在五个 ICU 数据库的 94 个通道上,按变量权重组合 14 个模型,预测误差比最佳单一模型低 6.1%-11.0%。 稀疏数据改善达 11.9%;扩展模型池后,组合仍比最佳单一模型低 2.9%-5.9%。 该研究发现无单一最佳架构,模型选择随数据库大小变化。

  21. arXiv · AI35

    Transformer 范式:动态处理与推理新原则

    研究指出 Transformer 革命并非深度学习量化扩张,而是基于不同推理原则的新范式。在推理过程中,部分变换由当前输入动态构建,先前获取的变换先适配再应用。 该动态处理通过输出权重互连实现,称为序列级交互动态并行处理(SIDPP)。SIDPP 框架解释了强提示词敏感性,并开启了关于可解释性、控制及神经形态系统的研究方向。

  22. arXiv · AI33

    TrAC 算法:基于见证图映射追踪实际因果

    研究团队提出 TrAC 算法,基于祖先干预语法构建有限有向无环见证图,实现对目标事件所有实际因果的声音且完整枚举,填补了 Halpernian 因果框架的空白。该算法在随机布尔结构因果模型上经实证验证,在 15 节点图结构中具备实际可行性。TrAC 被应用于法律责任、道德归咎及因果伤害分级任务,支持对完整因果集合的聚合分析。

  23. arXiv · ML25

    CV-PURe:利用积单位残差网络学习非线性交互与特征耦合

    CV-PURe 通过在六项科学基准中四项取得最低平均 RMSE,将 Friedman 误差相对 MLP 降低 53.9%。 该模型在含三阶及四阶乘积的合成任务中,将 RMSE 从 0.1376 降至 0.0797,并完整恢复 9 个真实成对投影。 Friedman 交互图谱将 60.7% 总强度分配给已知交互对,显著优于 MLP 的 31.0%。