跳到正文
11月4日周三
  1. arXiv · NLP21

    NeurIPS 2026 论文:视觉语言模型中图像检索头的分析

    该研究分析了大型视觉语言模型(LVLMs)内部的图像检索机制,提出了ICIR-MCQ探测工具和“指针头”与“书写头”两种头部分析方法。 研究发现,基于注意力的指针头与基于输出的书写头识别出的关键头部集合重叠度低,仅35至47个头同时满足两种标准,但最一致的因果效应出现在两者的交集头部中。

  2. arXiv · NLP23

    LLM 模拟临床专家对比人类在边缘型人格障碍分析中的表现:基于 GPT、Gemini 与 Claude 的混合方法评估

    研究评估了 GPT、Gemini 和 Claude 在边缘型人格障碍质性临床分析中的能力,采用混合方法由盲评专家及神经嵌入方法对比人机语义差异。 结果显示 AI 分析与人类解释重叠率波动在 0 至 58% 之间,且所有模型均识别人类遗漏的主题;在盲评内容效度及语义风格嵌入上,Gemini 2.5 Pro 表现与人类专家无显著差异,外部评估者亦无法可靠区分人机主题。

  3. arXiv · NLP28

    TEMPO:基于离散分词化实现时间序列理解

    TEMPO 通过有限标量量化扩展 LLM 词汇表,利用冻结的 Tokenizer 将四步补丁映射至 625 码本,结合 Qwen3-4B 骨干模型实现时间序列理解。 在任务特定微调后,TEMPO 在活动识别、睡眠分期和轴承故障诊断中分别取得 89.0%、85.0% 和 86.0% 的宏观 F1 分数。 该方法证明了离散词汇扩展在整合信号表示与文本语境方面的效用。

  4. arXiv · NLP35

    ReListen:基于冻结音频语言模型的免训练小时级音频证据定位

    提出免训练方法 ReListen,利用冻结音频语言模型通过 Jev 风格扫描定位小时级音频中的关键证据。 模型对 20 秒窗口进行评分,选出最高分的一分钟作为证据,在 VoiceGiraffe 数据集上 88.5% 的问题定位优于转录检索,准确率比全转录高 9.2 分。 该方法推理速度优于所有基于转录的系统,且显存占用恒定,无需额外训练即可处理超长音频。

  5. arXiv · ML33

    双节点 NVIDIA DGX Spark 远程分布式 NanoChat 预训练与网络安全微调可行性测试

    研究在两台 NVIDIA DGX Spark 上通过 Tailscale VPN 远程部署分布式 NanoChat 预训练,896.5M 参数模型处理 52.2 亿 token。 利用 200 Gb/s 光纤直连,4980 步训练耗时 4 天,平均 63.4 秒/步。 验证了桌面级加速器多节点训练可行性,但 CTI 微调在未见威胁情报泛化能力接近零。

  6. arXiv · ML26

    DynaFLIP:基于三模态动力学引导表征重构机器人感知

    DynaFLIP 提出动力学感知多模态预训练框架,通过图像-语言-3D 流三元组监督训练纯图像编码器,将运动理解前置至感知层。 该方法在共享超球面空间最小化三模态单纯形体积,结合余弦正则化与对比目标,表征在下游 VLA 策略中表现优于基线。 在多样仿真与真实场景中验证,分布外(out-of-distribution)场景性能提升达 +22.5%。

  7. arXiv · ML20

    SpellerSSL:基于 P300 聚合的自我监督学习脑机接口框架

    SpellerSSL 框架结合自我监督学习(SSL)与 P300 聚合,旨在解决脑机接口信噪比低及泛化差的问题。 该模型采用 1D U-Net 骨干网络预训练,在 II-B 数据集上以 94% 识别率实现 21.86 bits/min 的最高信息传输率。 SSL 将校准数据需求减少 60%,是首个应用于 P300 拼写器的 SSL 研究,推动了 EEG 基础模型发展。

  8. arXiv · ML35

    Tadpole 发布

    Tadpole 被 NeurIPS 2026 录用,是用于 3D PDE 的新基础模型。它通过自编码方式在合成 3D PDE 数据上预训练。 该模型可扩展至数百 TB 的训练数据。它利用 LoRA、潜在空间转换和重新引入的跳跃连接实现参数高效微调。 Tadpole 展示了其在动力学学习和生成建模等下游任务中的强大性能。

  9. arXiv · ML32

    PROVE:通过自博弈视觉-语言验证器提升组合理解

    研究提出自博弈框架 PROVE,通过“扰动-修复-验证”闭环训练视觉-语言验证器,无需外部标注或更强裁判,提升细粒度组合理解。 该框架基于同一多模态骨干网络,通过 Mutator 引入对象、属性或关系扰动,Verifier 提供文本反馈,Repairer 生成忠实描述,从而生成结构化奖励以优化共享参数。

  10. arXiv · ML20

    MiCaDe:自动驾驶中在线 LiDAR-相机外参失准变化检测

    研究人员提出 MiCaDe 方案,利用 3D/2D 边界框几何一致性指标,在线检测自动驾驶系统中 LiDAR 与相机的外参失准变化。 该方案无需标定靶板或修改感知栈,通过 Change Point Model 监测似然流,在多组长序列及真实诱导失准数据集上验证了可靠性。 代码已公开,可支持长期部署下的传感器校准监测。

  11. arXiv · ML28

    3D World Simulator:基于混合粒子体素动力学的多模态 3D 世界模拟框架

    3D World Simulator 框架通过混合粒子体素自编码器与动作条件潜在动力学模型,统一预测外观、几何和触觉观察。 该模型在统一 3D 表示支持下实现 50 Hz 的交互式长时域多模态预测,并可用于策略训练的数据生成。 该方法扩展至包含多样化物体和机器人配置的大规模数据集,支持模型基于规划,验证了混合粒子体素动力学在 3D 世界模拟中的基础潜力。

  12. arXiv · ML26

    Spin Spherical Fourier Neural Operators: 球面旋量场的高效等变学习模型

    研究者扩展了球面傅里叶神经算子(SFNOs),构建了可处理任意自旋场的 Spin SFNOs。通过提升球面卷积实现精确旋转等变性,在现有基准测试中达到最先进性能。 该模型基于旋转群上的 Mackey 函数框架,利用球面与旋转群的采样定理实现高效计算。实证测试显示旋转等变性保持至机器精度,且旋量感知模型在新基准上优于标量模型。

  13. arXiv · ML28

    点云分类旋转不变架构统计鲁棒性基准研究

    10种点云架构在5个领域下的姿态、噪声和遮挡测试表明,3种旋转不变(RI)架构具备最佳姿态鲁棒性,但在5个领域中的4个领域噪声鲁棒性排名最低。 通过为嵌入引入简单不变损失并重训所有架构,不变训练在目标扰动族上提升显著(平均遮挡+10.5,激光雷达+13.4准确率百分点),且最优标准骨干与最优RI架构在未见腐蚀上性能持平(各种子内差距2.5个百分点以内)。

  14. arXiv · ML25

    BEND 2.0:评估 DNA 设计能力所需基准

    研究团队发布 BEND 2.0 基准,测试 DNA 语言模型预测基因变化效果及指导序列设计的能力。 该基准包含基于五个实验数据集构建的八项任务,发现冻结表征上的线性读出性能可匹敌或超越模型原生输出。 基准揭示基因组模型具备通用性但尚未在简单任务上达到饱和。

  15. arXiv · ML27

    Web 用户偏好多代理解释的审计框架:识别边界与弃权

    提出审计 Web 用户偏好多代理解释的框架,区分点识别、部分识别与弃权。在特征依赖代理偏差下,未污染归因的严格多数中值可恢复潜在归因的方向与幅度。 在冻结基准和 Amazon 研究中验证,中值聚合降低了比较器相对条件符号错误,6 个预指定对比的 Bonferroni 区间排除零。 该框架揭示当前代理配置极少支持严格符号结论,比较器校准限制了证据范围。

  16. arXiv · ML25

    利用注意力偏差优化 Transformer 计算效率

    该研究提出在 Transformer 注意力公式中引入输入相关偏差项,以明确 token 的绝对重要性并实现注意力图剪枝。 这一方法在多种模型尺寸下显著降低了 FLOPs 和推理延迟,同时保留了大部分分类精度。 代码和模型已公开,论文被 WACV 2027 接收。

  17. arXiv · ML27

    RGDM:一种鲁棒图扩散模型

    研究团队提出鲁棒图扩散模型(RGDM),旨在生成能无缝融入现有图的带标签合成结构,提升对抗鲁棒性。 该模型由鲁棒图自编码器(RGAE)和潜在扩散模型(LDM)组成,利用边缘选择机制和低秩正则化,在对抗攻击下仍能生成高质量结构。 实验表明,基于增强图训练的图神经网络(GNN)在半监督节点分类任务中显著提升了针对多种图对抗攻击的鲁棒性。