LoCo:面向判别式开放词汇多标签识别的选择性局部竞争
提出 LoCo 框架,通过空间一致视觉编码器和选择性 Softmax 处理局部语义稀疏性,增强开放词汇多标签识别(OV-MLR)的判别能力。 独立使用 LoCo 在四个基准上将平均 F1 和 mAP 分别提升 3.4% 和 3.8%;结合 DualPrompt 后优势扩大至 4.8% 和 5.2%。 代码已开源,该论文被 NeurIPS 2026 接收。
提出 LoCo 框架,通过空间一致视觉编码器和选择性 Softmax 处理局部语义稀疏性,增强开放词汇多标签识别(OV-MLR)的判别能力。 独立使用 LoCo 在四个基准上将平均 F1 和 mAP 分别提升 3.4% 和 3.8%;结合 DualPrompt 后优势扩大至 4.8% 和 5.2%。 代码已开源,该论文被 NeurIPS 2026 接收。
研究提出 Hindsight Critics,一种 Soft Actor-Critic 的非对称扩展,用于缓解部分可观测环境中的感官延迟。 该方法通过回溯对齐的状态-动作转移训练 critic,使 actor 在部署时无需修改观测数据即可利用特权价值估计。在 DelayBench 基准测试中,该方法能部分补偿观测延迟。
研究团队发布 Longtail-SWE 基准测试,包含 13 种现有基准覆盖不足的编程语言共 202 个任务。 其构建流程使用求解器-裁判-修复器管道,并通过修正测试与描述来筛选任务。 评测了 9 种模型配置并分析了任务解决表现、一致性及相关资源开销。
NeurIPS 2025 发布 FAIR 宇宙弱透镜机器学习不确定性挑战,作为包含多种系统偏差的基准数据集和评估研究,以测试不确定性下的鲁棒宇宙学推断。 冠军方案包括条件最优传输数据增强、AI 智能体驱动的参数推断、集成学习、基于 Vision Transformer 的架构以及物理信息特征融合。 该工作将基准数据集与获胜方案结合,为开发弱透镜宇宙学机器学习方法提供社区资源。
针对现有基于 agent 的问题定位方法因长上下文累积压缩推理空间及扁平探索结构失衡的问题,论文提出层级式 NINJA 架构。该架构将仓库探索分解为全局导航与局部检查:navigator 维护全局搜索状态并执行文件级搜索,inspectors 在独立上下文中进行函数级探索,通过多轮交互返回可疑位置以更新全局状态。
Hydra 是一种结合时序 GNN 局部特征与谱学习模块的新架构,旨在解决时序图的多任务预测问题。在多任务分类中,其 AUC 比最强竞争者相对提升 8.9%;在回归任务中,MAE 相对提升 8.2%,且训练时间减少 22%。研究证明时序图多任务迁移学习有效,为开发适应时序图的自适应基础模型提供了新方向。
SmoothedTurboMPC 提出结合 SQP 与 log-barrier 平滑 ADMM 的 GPU 并行可微 MPC 求解器,配合 SHAC 一阶强化学习算法,使端到端训练吞吐量提升至 SOTA 的 4.4 倍。
Channels4World发布包含10万户外场景的无线基础模型数据集。 数据集含52.43B基站-用户配对、104.86B频率评估及29.14TB载荷,支持3.5/7GHz频段。 实验表明训练在更广场景集上的模型在留出场景泛化能力更强。
Sage-Taiyi提出元认知架构,在Taiyi-Bench全部8项指标上排名第一,Overall得分54.0,高于最强基线AI Scientist-v2的47.9。 该基准包含10个学科50篇论文的265个任务。系统通过专家协作,将钴催化羰基化产率提升至84%,光催化烯丙胺化提升至69%。 结果支持元认知调节作为科学构思方法,并向实际验证迈进。
针对企业端点上的未授权 LLM 智能体(Shadow AI),研究提出了九类智能体分类学与六层端点足迹模型,并发布开源 Windows 检测器 Agent Detector。
DForkTree 是一种免训练方法,通过重新锚定分支并使用点互信息优化草稿树,在 Qwen3.5-4B 和 9B 模型上实现最快解码速度。 该方法比 DFlash 快 41.5%,比 DDTree 快 15.1%,平均加速比最高达 4.75 倍。
ALETHEIA是首个针对无损检测神经PDE求解器的3D基准数据集,包含4700多个高分辨率样本,覆盖1-100kHz的10个激励频率。 数据集模拟导电固体中的涡流致热及瞬态热传播,支持从表面红外测量进行缺陷的逆向重建,并包含真实裂纹铁轨样本。 该数据集为在真实无损检测条件下评估神经PDE求解器提供了统一平台,支持数据驱动的逆向建模。
提出即插即用模块 MCSA,通过聚合不同截止半径的径向核增强多尺度几何表示,提升 SO(3) 等变 GNN 性能。 利用径向核紧支撑特性在角度张量积运算前融合权重,避免冗余计算并保持旋转等变性。 在能量、力、应力及声子色散等预测上实现一致改进,验证了物理动机制截距选择的有效性。
scBIG++ 提出了一种全基因扰动预测框架,通过建模细胞表达异构性支持基因功能发现。框架包含 Gene-Relation Clustering 和 Dynamic SoftSub 等模块,在6,539至19,451个基因的实验环境中,展示了在未见靶标下具有竞争力的扰动效应恢复能力。
研究团队发布 LEGION 基准,包含 Legion-Sim 模拟器和 74 个对抗场景,用于评估语言智能体在稀疏信号下的调查效率与准确率。 测试显示五种智能体架构召回率高达 0.82-0.88,但精确率仅为 0.61-0.72,且失败模式跨推理层级一致。 该基准已开源,旨在提升网络安全调查中区分真实指标与攻击相关指标的可靠性。
CABrain 提出了一种基于图卷积网络(GCN)的条件位置编码方法,并引入自适应掩蔽策略,用于提升 EEG 基础模型的表示学习能力。 在 10 个基准数据集上,该模型单独或结合上述策略,均达到了最先进的性能或具有竞争力的结果。
Hydro-Dataset v1.1 发布了一个融合瑞典和芬兰 582 个气象站 2015-2024 年数据的开源管道,生成 180 万条注释站天记录。 该数据集包含雪水当量、融雪速率等 6 类衍生参数,可作为水文基础模型的基准标签;ERA5-Land 交叉验证显示观测锚定 SWE 比再分析数据更具可靠性。
针对持续模型合并中任务组件纠缠导致奇异几何扭曲的问题,作者提出 GS3R 方法。 该方法通过恢复保留的奇异几何并分离任务子空间,公平重新分配秩资源;结合预合并恢复与刷新(PRF)机制降低内存开销。 在视觉、NLP 和多模态基准测试中,GS3R 实现了强准确率与效率平衡,已被 NeurIPS 2026 接收。
LoMASA 是一款训练无关、完全在单台桌面电脑上运行的本地多智能体系统,用于辅助B2B报价。 在500个模拟回合中,该系统将 38.0% 的决策自动化(中位延迟 2.67 秒),将 42.5% 通过硬性规则升级至经理,销售仅需手动处理 19.5% 的决策。 其在自动处理决策上的准确率与规则基线持平(0.894),且导致利润率低于底线的承诺更少(2.61% 对比 4.53%)。
研究者提出代数树决策图(ATDD)的因子秩,其最大秩精确等于图的宽度。 ATDD 是比 TDD 更简洁、比结构确定性 DNNF 具有准多项式级简洁度的规范形式。 结果在 Lean 中形式化验证,并提供了 TDD 和 ATDD 的原型编译器。
arXiv 论文《No Second Run: Does RSI Stop at Frontier Pre-training?》提出将递归自我改进(RSI)应用于从零开始的前沿预训练,并开源 30B-A3B MoE 模型 801-30B-A3B-Base 及轻量 SFT 数据。
公开 LoRA 适配器存在基础模型不匹配及近零 delta 范数,导致遗忘测量干扰增大约 10pp。 研究在 Llama-3.1-8B-Instruct 上提出双项审计,发现原生合并使 GSM8K 下降 10.5pp、HumanEval 下降 18.3pp,而 Task Arithmetic 性能接近基线。
SimuLean是一款基于Unity引擎的开源3D离散事件仿真器,专为AI智能体编程设计。在18项制造建模任务中,前沿智能体单次构建有效模型成功率为86%。 该智能体能在约2分钟内通过领域级命令完成建模。工业案例显示,智能体重建模型与修正后的专家模型偏差在1%以内。 独立参考模型是确保智能体仿真结果可信的关键。
研究提出Sequence Pruning(SP)动态剪枝框架,在DNA语言模型预训练中移除易预测序列,最高将数据处理量降低96%。 SP在五个预训练设置及五个基因组基准上验证,适度剪枝使性能提升1.2 MCC,最高节省场景仅用4%基线GPU时长且性能损失微小。 SP在多数对比中优于InfoBatch和BPAS动态剪枝方法,代码已开源。
FedLoVA 提出仅共享 LoRA 中 value projection 的联邦微调框架,相比现有基线通信成本最高降低 7.8 倍。 该框架在本地对 query 和 value projections 均训练 LoRA adapters,观察到 value projection 收敛显著快于 query projection。
ProofDiff 旨在支持人类审查而非验证数学正确性。给定两个文档,系统独立构建基于源文本的论证图谱,提出图谱间对应关系,并记录连接主张与推理步骤的类型化关系。 该系统集成人类审查层,允许修订图谱与对应关系以保留可审计历史,通过比较图谱检查文档是否遵循相同数学路径。 已在四个 AI 生成证明示例对上演示,早期版本获 NeurIPS 2026 研讨会接收。
META-IR 提出一种基于元学习的元内省推理框架,用于增强 LLM 的安全对齐。 该框架采用双循环架构,结合 SI-MCTS 进行结构化风险分析与自我修正,并通过动态越狱模拟实现无监督持续改进。
研究团队推出开源平台AYO,专为安全、系统地研究儿童与对话式LLM的互动而设计。 AYO提供儿童友好界面、可配置的基于年龄的安全护栏、研究人员监控及保护隐私的数据实践。 该平台支持横截面、纵向及实验性研究,旨在生成证据以指导更安全的AI系统、教育实践和相关政策。
研究团队发布 VEX-Bench,基准涵盖 7 个前沿 LLM、7 种生成方法及 60 个真实主题,共生成 5,880 篇虚假文章。 VEX 分数整合诱发率与核实复杂度,发现 LLM 能以低 3 倍至 169 倍的成本生成高 VEX 虚假信息。 这导致稀缺的核实资源被系统性错配,代码已在 GitHub 公开。
提出策略多样化强化学习(SDRL)框架,训练开源 LLM 解决工业级优化问题。 该框架通过正确性门控的层级多样性奖励防止策略坍缩,支持自包含文本与文件基实例混合训练。 在工业级优化任务上,SDRL 的平均性能优于 DeepSeek-V4-Pro 和 GPT-5.5,代码与数据已开源。
论文提出 Transformer 通信图谱,通过权重几何映射所有潜在通信通道。分析显示 70-89% 的注意力头对呈现显著非随机耦合特征。 研究恢复了归纳电路结构,并通过消融二维残差流子空间,在高达 Pythia-6.9B 的六个模型中使归纳功能失效。 作者开源了通信图谱、统计工具及干预套件,支持模型机制可解释性研究。
Program-as-Weights (PAW) 提出模糊函数编程范式,将自然语言规范编译为本地可执行的神经工件。PAW 使用 4B 编译器基于 10M 样本的 FuzzyBench 数据集,为冻结的 0.6B Qwen3 解释器生成参数高效适配器。
PithTrain 提出 ATE 维度并引入 ATE-Bench,在吞吐量上具备竞争力的同时实现更高 Agent 任务效率。 在新增功能任务上,PithTrain 比 Megatron-LM 少 62% Agent Turns,比 Megatron-LM 和 TorchTitan 分别少 44% 和 64% Active GPU Time。
提出保形聚合方法处理 CoT 推理的聚合不确定性,替代多数投票,提供置信错误率的有限样本保证。 该方法在推理时运行且无需再训练,在 GSM8K 基准上以低于 10% 的置信错误率实现了 90.1% 的选择性准确率。 被 NeurIPS 2026 接收。
提出“前缀一致性”测试时推理技巧,通过截断并重生成 Chain-of-Thought 轨迹来加权候选答案。 该方法无需访问 token log-probabilities,在五个推理模型和四个基准测试中,以中位 4.6 倍更少的 token 达到多数投票精度。 论文已被 NeurIPS 2026 接收,代码已公开。
VHG框架提出验证器支持的数学难题生成,通过三方自玩结合独立验证器,在不定积分和通用数学推理任务中显著优于所有基线方法。 框架约束出题者奖励由问题有效性(验证器评估)和难度(解题者评估)共同决定,并实现了两种验证器变体:硬性符号验证器和软性基于LLM的验证器。 研究被NeurIPS 2026接受,相关代码已开放获取,旨在弥补现有生成方法中因奖励欺骗导致无效难题的问题。
研究提出 SignCert-PO 方法,通过认证符号保持半径缓解 RLHF 中的奖励黑客现象。 该方法在策略优化阶段降低非鲁棒补全权重,无需多个奖励模型或训练数据,在 TL;DR 和 AlpacaFarm 基准上提升胜率。
ChartHal提出了一套图表理解中的幻觉细粒度分类体系及包含1,062条人工验证样本的基准数据集。 实验显示,最先进的模型GPT-5和o4-mini在该基准上的准确率仅分别为34.46%和22.79%。 研究表明,涉及图表缺失或矛盾信息的问题最容易触发模型幻觉,凸显了开发更强健缓解策略的迫切需求。
dMoE 框架通过将 token 级专家分布聚合为块级分布,解决了扩散 LLM 与 MoE 架构中的路由失配问题,显著降低推理时的内存瓶颈。该框架将平均独特激活专家数量从 69.5 减少至 16.6,同时保留 99.55% 的性能,内存使用率降低 74.36% 至 76.78%,端到端延迟加速 1.36 至 2.04 倍。该论文已被 NeurIPS 2026 接收。
该论文激活 SwiGLU 块中的 $\beta$ 信号,结合超网络动态生成参数,构建了 Meta-Gated LLM。 在任务、领域、人设等条件测试中,该方法优于微调基线,并能泛化至未见的任务或指令。 代码已开源,全文共 33 页,发表于 ICML 2026。