OracleZoom:突破真实图像限制的递归超分辨率方法
OracleZoom 通过参考约束递归方法实现高倍图像超分辨率,在七个数据集上于各缩放深度取得最高的 CLIPIQA 指标(平均 0.713,优于 Chain-of-Zoom 的 0.621)。 该方法利用最后一张真实图像的对应区域作为训练信号,结合跨尺度损失和无参考质量目标,在 $16\times$ 缩放下保持与基线相当的幻觉率。
OracleZoom 通过参考约束递归方法实现高倍图像超分辨率,在七个数据集上于各缩放深度取得最高的 CLIPIQA 指标(平均 0.713,优于 Chain-of-Zoom 的 0.621)。 该方法利用最后一张真实图像的对应区域作为训练信号,结合跨尺度损失和无参考质量目标,在 $16\times$ 缩放下保持与基线相当的幻觉率。
XMerge 是一种后训练方法,通过跨轴选择识别低变化块,并由局部边界重建重新拟合相邻层,实现 LLM 深度压缩。 该方法无需任务标签或端到端微调,不引入架构变更或额外推理参数,在 Llama 和 Qwen 骨干模型测试中表现优于现有基线。 在 k=4 移除级别下,XMerge 在 CORE 和 MMLU 基准上排名第一,避免了大困惑度增加,被 NeurIPS 2026 接收为口头报告。
Metaⁿ 提出固定元操作 Ω 并递归输入的方法,在 8 个基准测试家族中均优于现有自我改进智能体。 系统通过进化档案搜索层链,在抗技能记忆的 ARC-AGI-2 中是唯一得分大于 0 的模型。 消融实验表明递归增益主要源于层间条件传递。
MOLT 是 Hugging Face 原生的极简可扩展智能体强化学习开源框架。 代码仅 9.2K 行,支持 4B 至 753B 模型,异步训练速度提升 2.4 倍。 其训练器 NeMo AutoModel 支持高达 2.8 万亿参数的模型。
在推理模型服务中,基于校准数据动态选择停止规则比预设静态token预算更优。5%风险目标下,学习规则在Qwen3上比静态预算多节省10.4-17.0个百分点token,准确率低于完整推理2.4-2.9点。 预承诺某类策略在某些工作负载中最高损失27.4点,而校准选择最多仅落后最优类11.6点;Qwen3-8B在vLLM中平均响应时间与生成token数成正比。
研究显示,在每查询平均 0.5 个片段的低预算限制下,基于置信度的分配策略在 7 种测试场景中均优于最佳固定策略,准确率提升 0.010 至 0.075。 在高预算(≥1 个片段)场景下,收益主要出现在 Wikipedia 数据中,能避免检索干扰已知答案,Qwen3-8B 在 TriviaQA 上提升尤为显著;但置信度在区分检索深度时作用有限,且计入探测延迟后收益大幅缩减。
研究发现,结合混合专家(MoE)架构的循环语言模型在规模化表现上优于标准Transformer,且稀疏层是其关键所在。 其核心机制在于路由发散:模型在重复通过相同的共享层时激活不同的专家,从而在不增加额外参数的情况下恢复了模型的表现力。该方案还能通过早期退出机制优化计算与质量的权衡,实现显著的内存与推理节省。
论文提出无需训练的DUME方法,通过岭回归将不同领域的稠密专家复用为统一MoE模型。实验显示其在推理场景中平均达到原稠密专家104%的性能。该方法支持动态增减专家,且代码已开源。
研究证实在线强化学习将 AndroidWorld 移动端 GUI 智能体成功率提升至 80% 以上,但泛化能力随场景距离增加单调衰减。 基于 UI-TARS-7B-SFT 和 Qwen3-VL-8B 两个基座模型的实验显示,RL 在分布内提升显著(最高+17.5%),但在未见应用等远端场景增益降至 0-4.2%。
提出连续状态框架 DSL,结合随机定位通道与单位球面嵌入,实现无需额外时间步条件的贝叶斯最优去噪器。 该框架支持随机顺序自回归及混合采样,在 OpenWebText 上微调预训练模型后显著提升 MAUVE 分数,且混合采样仅需 48 步即可运行。 这一方法在 $T=48$ 至 $T=1024$ 的各种步数预算下均优于掩码离散扩散模型,无需蒸馏即可实现并行生成与序列精化的非同步处理。
Colosseum 框架用于审计 LLM 智能体在合作多智能体系统中的合谋行为。 该框架通过正式决策模型量化行动合谋,并发现多数开箱即用模型在秘密通信探针下表现出涌现式合谋倾向。 该论文发表于 Neurips'26,代码已开源。
该综述系统梳理了多模态大语言模型(MLLMs)在图表理解任务中的多模态信息融合现状。 文章构建了包含经典与非常规基准的新分类法,并回顾了从经典深度学习到 MLLM 范式的方法演进,同时指出当前模型在感知与推理上的局限。 研究提出通过高级对齐技术和强化学习来增强认知能力,旨在推动图表分析系统向更稳健可靠的方向发展。
多模态大模型在将视觉观察抽象为结构化空间状态时面临挑战,MARBLE 基准测试揭示了这一缺陷。 最强模型 GPT-5.4 在 MARBLE 最难设置中的平均成功率仅 7.3%。
大语言模型(LLMs)与小语言模型(SLMs)的协同是平衡性能与部署效率的关键范式。 综述梳理了管道、路由、蒸馏等交互机制,并指出在边缘设备上应用时面临的系统开销、模型一致性及隐私等挑战。 该方向被视为推动下一代实用化、普适性人工智能发展的关键驱动力。
Quicksviewer 提出一种 LMM 新感知范式,利用 Gumbel Softmax 将非均匀冗余视频分割为变化立方体,实现整体 45× 压缩率,显著降低时空复杂度。
研究团队发布 MultiAgentBench 基准,用于评测 LLM 多智能体系统在多样化交互场景下的协作与竞争表现,并基于里程碑设计关键绩效指标。该框架评估了星型、链型、树型和图型等多种协调协议,以及小组讨论、认知规划等策略。测试显示 gpt-4o-mini 平均任务得分最高,图型结构在研究场景表现最优,认知规划使里程碑达成率提升 3%,代码与数据集已公开。
该方法结合签名词汇证据与分类器置信度间隔,构建双特征置信度模型用于对话式AI意图路由。 在BANKING77、CLINC150和HWU64数据集上,该方法将风险覆盖曲线下面积分别降低15.8%、15.1%和11.8%;在5%错误率目标下,BANKING77的请求接受率提升1.83个百分点。
Swiss-Knife 框架通过可热交换评分模块和解码时选择规则,在帮助性/诚实性/无害性平衡上取得谐波 F1 0.797,优于基线 0.750。 其核心组件 Candidate-Batch Normalization 使权重单形对奖励模型重标定不变,且目标重构耗时仅 0.05 ms,无需梯度计算。
SALT 通过在现有句子编码器中注入 span-level 监督,显著改进 token 表示。 该方法在五项多语言 token 级基准测试中取得了其中四项的最佳结果,优于微调策略。 同时它也提升了跨语言检索和分类任务的句子级表现。
研究提出 DBloom 方法,通过扩展块大小解决块扩散推测解码中的搁置加速瓶颈,显著提升生成速度。 在 Qwen3-8B 和 Qwen3-4B 上,相比 B16 基础模型,该方法将每提示承诺长度最多提高 1.7 tokens,中位解码速度提升 10.2%,高天花板基准上速度提升 11.9%。 该方法优于 JetSpec 树形起草器,在所有基准上承诺长度更高,为块扩散起草器提供更高效的加速方案。
研究者提出针对多语言 LLM 对齐的元学习框架,利用跨语言偏好数据实现低资源语言的高效适配。 该方法在仅有 100 个目标语言样本的极端低资源场景下,胜率较基线提升最高 33.4%,并被 NeurIPS 2026 接收。
EasyOPD 是基于分布式强化学习框架 verl 开发的在线策略蒸馏框架,支持跨 tokenizer、自蒸馏及步进式蒸馏三种场景。 该框架通过解耦用户配置、监督逻辑与执行后端,提供 YAML 配置文件、文档及安装演示包。 实验显示其能在推理、代码生成等基准任务中保留特定目标并展现差异化性能表现。
研究团队发布 RABBiT,这是一款紧凑的音频到 fMRI 编码器,旨在通过脑调优技术实现脑对语音诱发反应的高精度零样本和少样本预测。 在 324 名受试者及多个未见过的 fMRI 数据集上测试,RABBiT 的零样本预测能力超越 SOTA fMRI 基础模型,仅使用 10 分钟数据即可通过参数高效微调大幅提升性能。
研究提出名为 Turing-RL 的基于图灵测试的强化学习方法,用于训练用户模拟器 LLM。该方法利用 LLM 裁判生成判别式图灵奖励,优化生成响应与真实用户历史的不可区分性。
Polar 是一个包含 4026 个多选题的基准,通过选项级似然度而非基于提示词生成来衡量大语言模型的政治偏见。 该基准涵盖两个意识形态轴和八个议题类别,并在美国与韩国政治语境下并行评估了 38 个模型。
研究提出 CRAM 框架,通过隔离任务模块缓解多模态 LLM 持续微调中的灾难性遗忘,并利用自适应秩实例化实现高效参数分配。 该方法采用质心引导路由激活现有专家,辅以正交性惩罚限制更新方向,在多模态基准实验中表现出优于现有方法的优势,代码已公开。
扩散语言模型中仅前缀探测严重低估训练数据泄露风险。 研究者提出填充提取协议,基于任意二进制掩码实例化于LLaDA-8B和Dream-7B。边缘条件掩码比前缀条件掩码多提取3倍逐字序列。 持有隐私信息脱敏副本的攻击者通过针对性填充将隐私信息召回率提升2.5至4.5倍。
MedExAgent 通过两阶段训练流程,在噪声临床环境中实现诊断性能与更大模型相当且成本高效。 该智能体将临床诊断形式化为部分可观测马尔可夫决策过程,采用七种患者和三种检查噪声模型。训练先基于卡尔加里-剑桥模型进行监督微调,随后使用 DAPO 优化包含诊断准确性、工具调用质量和检查成本的复合奖励。
研究引入 HorizonBench 及数据生成器,评测 25 个前沿模型在偏好演变中的表现。 该基准包含 360 名用户的 4245 个问题,结合 13 周收集的人工纵向数据集。模型准确率达 52.8% 时,常错误选择过时偏好;检索与记忆方法均无法恢复丢失的准确率。
轻量级图神经网络结合 Cayley-Encoder 架构改进 LLM 最终层表示,在 13 个任务中准确率达 48% 提升。 该方法利用 SL(2, Zn) 上的 Cayley 图替代全连接结构,实现稀疏且低直径的层间聚合,仅增加 0.1% 参数量。 Cayley-Encoder 在冻结 LLM 条件下优于 LoRA 微调,并有效支持小样本场景。
HYPER框架通过假设引导将RAG从主题导向转为证据导向,无需训练即可提升准确率。 该框架将检索分解为支持、区分和特征三种证据角色,引导检索靠近决策边界。 在MedQA和MMLU-Med上,HYPER比Simple RAG分别提升5.9和3.6分。
S-GRADES 是一个开源 Web 基准,整合了 14 个评分数据集,提供标准化访问和可复现的评估协议。 该基准用于测试三种最先进大语言模型在多种推理策略下的表现,并分析示例选择与跨数据集迁移的影响,旨在揭示不同评估范式间的可靠性与泛化差距。
该综述审视了突破Transformer二次方注意力复杂度的近期进展,涵盖亚二次方注意力变体、循环神经网络、状态空间模型及混合架构。 文章从计算与内存复杂度、基准测试结果及根本局限性三个维度进行批判性分析,探讨纯注意力Transformer的主导地位是否面临挑战。 作者认为这种挑战在领域特定和边缘设备应用中尤为可能,论文为同行评审会议版本。
研究人员提出 Mixtures of In-Context Learners (MoICL) 方法,在 7 个分类数据集中的 5 个上性能超越 ICL 和 LENS 基线,最高提升 13%。 MoICL 将演示子集视为专家并学习权重函数以合并输出分布,同时降低达到相同性能所需的推理时间。 该方法对域外(最高 +11%)、不平衡(最高 +49%)及噪声演示(最高 +38%)表现出更强的鲁棒性。
提出两阶段概率推理范式 ThinkSum,用于解决 LLM 在多个对象或事实序列逻辑推理上的不足。 基于 BIG-bench 评估,ThinkSum 在 13 个高难度任务中优于 GPT 系列 SOTA,常使用更小模型变体。 概率推理在 LLM 调用外执行,使预测更具可解释性,且对提示词设计敏感性降低。
针对 LLM 表现优异,论文提出更具挑战的个人模仿游戏,测试机器能否在对话中复制特定个体。 通过30人实验建立基线,并构建基于 LLM 的系统模拟论文作者。 在20人欺骗研究中,审查者选系统而非作者朋友7/10轮,选作者而非系统13/20轮,均无法与随机区分。
ExecJudges 利用前沿 LLM 生成基于词汇匹配等规则的可执行程序,在 TREC DL 2019-2021 上的标注一致性达到 Claude Sonnet 5.5 LLM 判决水平。 该方法单次生成程序成本为 $0.17-$0.49 每主题,无需额外评分开销,且生成的标注能以 0.87-0.94 的 Kendall's tau 值对官方 TREC DL 运行结果进行有效排序。
研究团队提出 Vibe-Trading,一个集市场研究、策略生成、回测及多智能体协作于一体的智能体原生交易框架。 该框架核心在于通过证据共享、版本化研究记录和显式权限门,实现结果的可追溯与可复现,将策略研究与实盘执行严格分离。
研究提出V-lens,利用统一多模态模型的图像生成能力,无需训练解码器即可可视化选定token的隐状态。 在BAGEL、SenseNova-U1等模型上应用lens tuning后,代词指代正确可视化率从2-11%提升至86-94%,且该视觉监督意外改善了文本答案质量。
DRIFT 提出一种端到端自动驾驶框架,集成 <150M 参数的轻量语言模型进行场景描述与动作注释。 该框架通过蒸馏代理推理特征,允许在推理时绕过语言模型且无损驾驶性能。 DRIFT 总参数量仅 255M,在 Bench2Drive 上达到 97.03 Driving Score 和 89.39% Success Rate,并在 NAVSIM 和 AlpaSim 上以更低计算成本取得竞争力结果。