跳到正文
11月18日周三
  1. Microsoft Research20

    Microsoft Research 探讨 AI 塑造健康未来

    Microsoft Research 专家在《The Shape of Things to Come》播客中探讨 AI 对医学未来的影响。 对话聚焦 AI 辅助诊断、医学影像、虚拟细胞及生物基础模型在科学发现中的作用。 他们分析了研究转化为临床应用的挑战,强调高质量生物数据与真实世界验证的必要性。

11月17日周二
  1. arXiv · ML20

    CB-LNL:利用带噪标签学习实例分割

    提出结合前景与背景证据指导局部监督的CB-LNL方法,旨在应对噪声标签下的实例分割挑战。 该方法基于COCO和LVIS标注审计,并引入覆盖人类标注及SAM2弱提示掩码的基准测试。 实验显示,相较于直接教师掩码替换,CB-LNL在程序化轮廓噪声训练上性能更优且有害编辑更少。

  2. arXiv · AI29

    Project Imaging-X:面向基础模型开发的1000+开放获取医学影像数据集综述

    研究团队发布了迄今最大规模的医学影像数据集综述,系统梳理了1000多个开放获取数据集。该工作指出现有数据集规模有限且碎片化,并提出了元数据驱动的融合范式(MDFP)以整合共享模态或任务的数据。团队同步发布了一个交互式发现门户和统一结构化表格,旨在加速数据发现,支持构建更强大的医学基础模型。

  3. arXiv · ML29

    PDE发现的事后评估:Pde-Check 协议解决多面性挑战

    研究指出 PDE 发现的事后评估需兼顾预测精度、物理一致性、可解释性及分布外泛化能力,且这些属性往往相互冲突。现有文献多仅关注局部指标,易导致结论偏差及方程排序改变。 作者提出首个 PDE 评估指标分类体系,并发布基于规则的 Pde-Check 协议,指导根据数据可用性和物理先验等场景选择评估策略。

  4. arXiv · ML27

    稀疏 Delta 记忆(SDM):通过稀疏性扩展线性 RNN 状态

    研究提出稀疏 Delta 记忆(SDM),扩展 Gated DeltaNet 架构,利用稀疏寻址方案将门控线性 RNN 隐藏状态容量提升数个数量级。 SDM 用大型显式记忆中的稀疏读写替代密集键值外积。在 isoFLOP 约束及参数数量相同条件下,更高状态记忆容量显著提升了上下文学习和长上下文检索性能。

  5. arXiv · AI31

    RenalCLIP:用于肾癌精准肿瘤学的疾病中心视觉-语言基础模型

    研究人员开发了肾癌视觉-语言基础模型 RenalCLIP,旨在通过无创评估提升诊断精度。 该模型利用 27,866 例 CT 扫描数据,采用两阶段预训练策略,在十个核心临床任务上性能显著超越通用模型,且仅用 20% 数据即达基线峰值表现。 RenalCLIP 展现出强大的零样本诊断能力,有助于优化肾实质的预后分层与个性化治疗管理。

  6. arXiv · ML20

    LLM 后训练量化的自适应逐层变换框架

    提出自适应逐层变换框架,将 LLM 量化中的激活和权重离群值转化为可微分优化问题,并根据权重分布峭度指导逐层选择最优变换。 在 LLaMA-3-8B 模型的 W3A3KV2 低比特量化下,该方法比现有最优方法 FlatQuant 降低高达 4.58 点的困惑度,并将六项零样本任务的平均准确率提升 2.11%。 该工作证明了采用异构逐层变换策略对于实现最优 LLM 量化是必要的。

  7. arXiv · AI21

    大语言模型中逆关系方向性的分析

    研究首次系统分析大语言模型对逆关系方向性的建模能力,基于包含5457个实例、覆盖27类逆关系标签的基准,评测了5个开源LLM。 发现模型在逆关系分类中存在系统性不对称,关系描述未带来一致性能提升,且模型性能对实体表示的变化较为敏感。 该研究已被EACL 2027 Findings接收。

  8. arXiv · ML28

    无外部数据生成式数据增强:深度网络的实证与理论研究

    该研究探讨无外部预训练数据的生成式数据增强对分类器测试准确率的影响,通过四个骨干网络在六个数据集上的实验,界定了合成数据带来的超额风险上限。 理论表明,当生成与真实数据分布差异较小时,合成数据增益最大;总变差距离下界较大的生成器在六个数据集中的五个上效果较弱。

  9. arXiv · ML28

    少步生成中闭式耦合的局限性分析

    研究指出,在有限高维数据集上使用闭式概率流向量场进行少步生成是行不通的。 高维扩散过程的解析解近似于线性变换,训练效果与独立配对无异。 理论量化表明,漂移携带的端点能量比例随数据集规模 $N$ 和对数关系 $\frac{\log N}{d}$ 变化。

  10. arXiv · AI28

    GAAMA:面向AI智能体的图增强关联记忆方法

    GAAMA通过以话题为中心组织对话,结合LLM提炼事实与概念,在LoCoMo10基准上取得79.1%最高平均分,且GRAFT机制能离线修复检索不足。 该方法定义了四种节点类型与五种结构边,利用话题概念提供跨切路径避免超大节点;检索融合最近邻相似度搜索与基于边类型的个性化PageRank。 概念链接事实比实体关系三元组提升3.0个百分点奖励,GRAFT将接地答案记录为新事实,使后续查询直接命中。

  11. arXiv · AI38

    Concept Influence:利用可解释性改进训练数据归因的性能与效率

    研究人员提出Concept Influence方法,将模型行为归因于语义方向(如线性探针或稀疏自编码器特征),而非单个测试样本,从而克服传统影响函数计算成本高且偏向句法相似性的缺陷。 探针归因法作为一阶近似,性能相当但速度快一个数量级以上,实验验证其在新兴错对齐基准和真实后训练数据集上具备可扩展性,支持通过数据更可控地管理模型行为。

  12. arXiv · AI36

    重读并非免费:LLM 软件工程中 Token 轨迹与缓存感知能耗估算

    基于 10 周真实软件开发场景分析,缓存上下文读取占 API 报告 Token 的 94.8%,缓存感知混合估算器评估该工作负载能耗约为 250 kWh。 现有基于输出的 EcoLogits 估算器仅评估 10 kWh,两者存在 25 倍差异;父会话日志对委托子代理 Token 存在 10 倍低估。 研究凸显工作流级能耗核算的必要性,需涵盖上下文累积、缓存复用及委托执行场景。

  13. arXiv · ML31

    物理索引专家记忆缓解灾难性遗忘:进化神经可塑智能体

    ENA架构通过进化搜索生成专家网络,结合环境检测和贝叶斯策略重用,旨在缓解持续强化学习中的灾难性遗忘。 在30次重复的非平稳CartPole消融实验中,完整架构在5个测试环境中的平均成功率达到83.2%。 该架构在CartPole上适应速度低于PPO,且在HalfCheetah上的收益低于SAC。

  14. arXiv · ML23

    MegNIST:用于非侵入性内心言语解码的基准

    MegNIST 发布首个非侵入性 MEG 内心言语解码基准,基于单参与者想象数字 0-9 的 12,000 次试验,支持 BIDS 格式。 包含 306 通道 250 Hz 数据,提供 10,000 训练、1,000 验证及 1,000 测试集,基线解码显著高于偶然,配套 PyTorch 加载器降低门槛。 标准化分割与验证基线降低非侵入性脑机接口解码方法的开发与评测门槛。

  15. arXiv · ML38

    潜反馈是算力与数据放大器

    潜反馈(Latent Feedback)机制在固定数据或算力时,分别比标准Transformer减少48%算力和47%数据消耗。 该结论基于60M至778M参数模型的实验与缩放定律拟合,预测误差控制在0.3%以内。 当数据而非算力成为瓶颈时,潜反馈是给定规模模型更高效的算力利用方式。

  16. arXiv · ML33

    联邦数据集模拟:跨任务诱导无标签异构性

    论文提出联邦数据集模拟任务,通过预训练嵌入和视觉语言模型标准实现无标签划分,覆盖四类数据集。实验显示其诱导的异构性不低于标签偏斜方法,并开源了包含模拟、测量及训练全流程的模块化包 fds。该方法解决了非分类任务缺乏模拟方法的问题,为联邦学习评测提供了新基准。

  17. arXiv · ML28

    介观神经算子:基于分子动力学学习非线性本构定律以实现可扩展断裂预测

    研究提出介观神经算子(MNO),一种从分子动力学数据学习的非局部本构模型,用于大尺度断裂模拟。 模型内置归一化核与重缩放临界键伸长率以保证跨尺度物理一致性;在粗粒度MD数据中,学习到的应变能密度和临界能量释放率误差在3%以内。 该框架在面积扩大4000倍的含缺陷板材上成功复现了动态脆性断裂及分叉网络特征。

  18. arXiv · ML21

    PBit1:一个可编程 P-Bit 对应一个参数——预训练网络的有限控制表示

    PBit1 将预训练网络每个参数映射为一个可编程 p-bit,12-bit 指令设定其概率,通过共享仿射范围映射至权重域,并以时间观测重建权重用于推理。 在 GPT-2、DistilBERT 和 LFM3-1.7B 上,转换所有可学习标量且无微调,困惑度分别增加约 0.66% 和 0.26%,DistilBERT 准确率从 87.51% 变为 87.49%。

  19. arXiv · AI20

    HARMONIX:知识引导生成系统中结构约束的局限性评估

    HARMONIX 框架揭示了局部有效的决策未必能维持人类决策中的上下文关系。 该研究利用 19,745 条记录进行实验,发现综合约束在稳定结构中提高约 5 个百分点的根音程一致性,但在转调跟踪情境下降低近 9 个百分点。 这一结果证明可解释约束可能引入被整体准确率指标掩盖的系统性失败。

  20. arXiv · ML26

    理解预训练中推理数据的作用

    研究表明,在预训练中,原子训练信号的最优权重随推理链长度增加而增大,并随未纳入推理监督的事实比例增加而减小。 该结论在线性 Transformer 及包含 MLP 的全 Transformer 层中均得到验证,且在多跳推理和数学预训练的自然语言设置中确认了推理复杂性与数据覆盖率的调节作用。

  21. arXiv · AI26

    LABEL:Qwen2.5 在药物适应症与禁忌症文献不对称中的表现研究

    Qwen2.5 在药物文献中展现适应症与禁忌症的记录不对称(LABEL),574 种药物中适应症提及频率约为禁忌症的 2.19 倍。 Qwen2.5 从 0.5B 扩容至 14B 时,适应症准确率提升 18.3 个百分点,而禁忌症准确率接近随机猜测;提供检索片段或路由至 FDA 标签可显著改善安全性问答效果。

  22. arXiv · AI23

    Meta CLEAR 系统通过可编辑自然语言兴趣层实现透明可控的个性化推荐

    Meta 部署的 CLEAR 推荐架构将用户偏好转化为可检查、可修改的自然语言兴趣层,取代不可见的向量表示。 用户评价约 88.5% 的显示兴趣准确;离线测试中 3B 专用生成器 F1@10 达 0.3967,优于 Gemini 2.5 Pro。 该系统已在 Instagram 和 Facebook 运行超一年,支持用户对推荐兴趣进行纠正和引导。

  23. arXiv · ML35

    ECOD: 用于多轮智能体的经验校准策略蒸馏

    提出ECOD方法,在ALFWorld和WebShop基准上,使用Qwen2.5-1.5B和7B模型时,将标准OPD的相对成功率提升最高4.06%。 通过在任务、轨迹和回合层面分配教师监督,ECOD在ALFWorld未见任务上实现6.20%平均相对增益,WebShop增益介于2.29%至21.60%。 该机制可作为跨不同蒸馏目标的可复用监督分配方法。