HEST双曲熵探针提升LLM稀疏激活转向效果
研究人员提出双曲熵转向(HEST)框架,通过Poincaré球嵌入模型隐藏状态并基于熵值执行地理测地线移动,优化了稀疏激活转向。在Qwen2.5-Math和Llama-3.1系列指令微调模型上,HEST使MATH-500和GSM8K基准的贪心准确率在六种设置中的五种里提升最高1.8分,且增益集中在模型高熵犹豫问题上。
研究人员提出双曲熵转向(HEST)框架,通过Poincaré球嵌入模型隐藏状态并基于熵值执行地理测地线移动,优化了稀疏激活转向。在Qwen2.5-Math和Llama-3.1系列指令微调模型上,HEST使MATH-500和GSM8K基准的贪心准确率在六种设置中的五种里提升最高1.8分,且增益集中在模型高熵犹豫问题上。
提出 LINEUP 框架,通过复用低秩个性化因子和 8 个可训练标量,取代传统需 419 万参数的私有 LoRA 配置。在涵盖分类、预测和生成的 6 项任务 12 项指标中,LINEUP 均优于最强基线,例如将 LaMP-3 的 RMSE 降低 11.4%。该设计将个性化容量主要依赖于可复用的共享部分,证明在受限历史条件下仍能维持性能优势。
研究者提出 SovereignNegotiation-Bench,这是一个包含 1,764 个成对场景的基准测试,用于评估个人 AI 智能体在委托谈判中的五项法律责任。在测试的 17 个开源模型中,忠实成功率(faithful success)介于 6% 至 75% 之间,且 48% 的协议至少违反了一项义务。该基准代码、场景及日志将开源发布。
利用 Gemma 3 4B/12B IT 和 Qwen3-8B 的稀疏自编码器特征分析,研究发现 LLM 在临床分诊中表现差异主要源于答案映射阶段而非信息处理阶段。 多选题决策 token 处的医疗特征活性消失,而脚手架特征贡献了 91% 以上的无符号归因,直接导致分诊准确性波动。
FastKernels 基准测试包含 384 个任务,足以重新实现 94.6% 的 HuggingFace Transformers 架构。在评估 5 个代表性 Agent 时,发现 1.6-6.6 倍的 Kernel 级加速在端到端测试中缩减至最高 1.25 倍,且仅 20% 的优胜 Kernel 集合能直接正确运行。
研究团队提出 LEAF,首个针对事件增强预测任务的动态基准测试,涵盖趋势、事件及时间序列预测。 LEAF 结合递归检索智能体系统与双智能体交叉验证以获取及时辅助上下文,由 47 名领域专家对 500 个任务进行审计,将未来信息泄漏率从 8.6% 降至 1.6%。 在 16 个前沿专有及开源模型的评测中,LLM 能有效利用经验证的事件信号提升预测表现。
提出 KD-Brain 框架,利用先验知识引导图学习以解决 Transformer 方法在脑功能子网络交互建模中因训练样本有限而面临的挑战。该模型通过语义条件交互机制和病理一致性约束,在多种精神障碍诊断任务中取得了最先进的性能。
研究者提出基准 SovereignPA-Bench,评估个人智能体在动态意图及平台中介下的合规能力,测试覆盖 1920 个预订及 288 个取消场景。 测试显示 17 个开源权重模型的自主成功率在 2% 至 82% 之间,其中注入式评论会导致 41% 的概率泄露用户隐私细节。
KGPFN 是基于 Prior-Data Fitted Network 构建的知识图谱基础模型,通过在推理时结合可迁移关系表征与结构化上下文学习,实现无需参数更新的知识推理。该模型在 57 个知识图谱上取得了最优平均 MRR 指标,代码已开源。
AutoTarget 通过测量无缓存复用误差,为特定模型、求解器和复用调度选择最优缓存张量。实验表明,该策略在 PixArt-LCM 和 FLUX.1-schnell 上的校准排序与保留集结果一致。方法降低了 DiT 评估次数并减少缓存存储,生成质量接近未缓存基准。
研究团队推出 SyntaxBench,这是一个针对大语言模型字符级推理能力的诊断性基准与统计评估框架。该框架包含字符计数、回文检测等五项核心任务及一项子串提取压力测试,在 2B 至 32B 参数规模的八个开源权重模型上进行了评估。 评估结果显示,分词方式显著影响准确性,且推理模式并非总是有益;其中 index_to_span 任务表现最差,最佳四样本精确匹配准确率仅为 6.75%。
LiBRA 提出一种通过双向隐空间优化移除 AI 生成图像数字水印的攻击方法。该攻击旨在使水印变得不可检测,同时避免传统方法中过度反转导致的图像质量不必要退化。LiBRA 允许攻击者对隐空间进行有界修改,引导解码置信度趋向随机猜测,并利用精确的双侧二项检验来验证移除效果。
针对时序域泛化中过拟合噪声与参数复杂度的问题,论文提出 AdaSpecK 框架。该方法结合谱正则化 Koopman 动力学建模与自适应上下文提取,在八个分类与回归基准测试中取得 SOTA 性能。代码和数据集已开源。
TPBench 评测了 P1、P2、P3 三个信息目标在共享保留预算下的表现。在保留比例为 0.30 时,Llama 读者下所有压缩方法均低于完整上下文。删除携带更新的回合会显著降低当前值准确率,而删除无关回合则影响不变。
研究者提出 LEAP 框架,通过训练小型草稿模型生成动作提案,将 LLM 智能体的端到端执行时间最多加速 60%。该方案使用 0.6B 参数模型,在保持任务成功率不变的前提下,实现了显著的速度提升。LEAP 支持在线训练,无需预采集轨迹即可匹配离线训练效果。
论文推导了选择性状态空间模型(SSM)的架构感知梯度平滑界,并分析了 FedAvg 和 FedProx 的收敛性,以弥补现有联邦学习方法对 SSM 结构特性考量不足的空白。 研究者基于该理论分析了递归稳定性、输入依赖离散化和状态投影范数对优化过程的影响,并在六个文本域上使用 Mamba2 对九种联邦学习算法进行了语言建模实验验证。
研究团队推出 OpenGameEval 基准,用于在 Roblox Studio 中评估 AI 智能体的编程与探索表现。该框架对 13 个前沿模型进行测试,最优模型在 84 个核心任务中的单次通过率仅为 51.7%,且六项任务无一模型能解决。探索行为直接预测成功率,深入检查所有相关对象的运行通过率比不检查的高出 13.4 个百分点。
乔治亚理工学院开源了基于微虚拟机的 macOS 沙箱 SideKernel,专为提升 AI 编码智能体的本地隔离与可用性设计。用户调查显示不足 40% 的开发者在沙箱中运行智能体,主要障碍是易用性。SideKernel 与 Docker Sandboxes 在 23 项能力测试中表现最佳。
针对 Qwen3-4B 的符号验证器框架 SymCE 揭示,反例微调导致真定理识别率从 0.27 崩至 0.00,而强化学习可将其修复至 0.66。该 4B 模型在 GSM8K、MATH-500 等基准测试中表现优于 7B 开源数学模型。
开源工具 Isaac-Net 实现了 GPU 批处理 5G NR 仿真,支持在单块 GPU 上对约一百万个机器人环境进行 Network-in-the-Loop 训练。 其引擎在 32 个机器人/环境闭环测试中,中位延迟误差仅为 9%,且能准确复现信息年龄(AoI)。
DeskForge 构建了一个可控桌面环境,生成包含 159.7M 元素实例的 1.2M 标注观测语料库 DeskForge-1M。在 200K 定位样本上微调 Qwen3.5-4B 等四个模型后,其在 ScreenSpot-Pro 和 OSWorld-G 基准上的准确率分别提升 11.51 和 10.11 个百分点。
RxnOptBench 发布,专为评估大语言模型在有机化学反应条件优化中的表现。该基准包含 9 个前沿 LLM 和 3 个化学 LLM,结果显示化学专用模型表现不及随机基线,而开源权重模型已缩小与专有模型的差距。
该研究提出EVOL框架,利用知识追踪模拟器通过进化搜索合成专家演示,训练无部署策略以解决学习路径推荐中奖励稀疏且缺乏专家数据的问题。在ASSIST15等三个数据集上,EVOL性能超越8个基准模型。
summary_zh: 研究人员提出TradeGrad框架,利用LLM文本梯度优化量化交易策略,解决传统方法短视及忽视时间鲁棒性的问题。 该方法引入跨期鲁棒目标(CPRO),通过多尺度修订提升策略在不利市场环境下的表现。
CreateScore 提出一种基于贝叶斯网络的 LLM 简历筛选路由方法,利用 8B 本地模型解决低不确定性决策,120B 模型处理高不确定性升级,降低 65.2% 的 token 使用量。
研究提出递归自重写(RSR)框架,利用 Qwen-3.8-27B 将多工具环境下的成功轨迹重构为通用环境下的训练数据。在约 3K 个终端任务中,该框架将 2001 条源轨迹扩展为 11094 条重写轨迹用于监督微调。 微调后的模型在 Terminal-Bench 2 上的 pass@3 从 57.0% 提升至 74.2%,在 Terminal-Bench 4 上从 1.5% 提升至 9.1%。
研究提出分段在线策略蒸馏方法 Seg-OPD,通过教师模型重写学生模型的中间推理片段来监督其修订过程。该方法结合不确定性指标选择片段,保留 token 级监督,在数学推理和竞赛编程任务中使推理准确率平均相对提升 5.22%。代码已开源。
针对低维点云平方欧氏代价的 FlashSinkhorn 2 (FS2) 求解器,通过在单块 A100 GPU 上将两个阶段耦合以解决大规模离散熵最优传输 (EOT) 问题。其采用莫顿有序块稀疏结构,在合成基准测试的 32 个问题中均达到目标残差,并在 2.5 小时内解决了两个 1.34 亿粒子测度间的离散 EOT 问题,边际残差低于 0.01。
SatisDive 提出了一种免训练的推理时方法,用于在文本生成图像任务中遍历满意度与多样性的帕累托前沿。 该方法通过设定奖励下限与多样性截断值,利用基于批次的相对奖励阈值区分高低奖励候选项。
美团 LongCat 团队构建了 MineExplorer,一个在开放世界中做到分钟级长程任务的评测基准,并开源了相关数据和代码。基准包含 813 个人工验证的高质量任务实例,支持 1 到 4 级多跳推理任务。
推荐理由:文章给出了18款多模态大模型在MineExplorer动态环境中的具体成绩,读者可以据此判断感知与长程规划之间的实际能力断层。
美团技术团队分享 8 篇 KDD 2026 论文,涵盖 MTFM 推荐基座、MTGenRec 分布式训练等系统,并解读获 KDD Cup'26 DataAgents 赛道冠军的智能体解题策略。
Microsoft 与 Hugging Face 联合发布了 ThinkingBox 沙箱环境和 ThinkingBox-Bench 基准,现可通过 Hugging Face 和 OpenEnv 访问。
推荐理由:原文提供了 507 个有状态业务工作流的 20 次重复基准数据,以及按次成功成本与可靠性成本对比,可据此判断模型在真实数据库记录变更中的表现差异。
百灵推出 Ling-3.1-flash 模型,总参数约 560B,激活参数约 25B,上下文窗口上限 1M。该模型在办公、医疗、软件工程等真实任务评测中表现突出,支持长达数十小时的持续代码开发与调试,并计划在免费体验期结束后同步开源。
推荐理由:文中提供了架构参数、具体任务基准及对比数据,帮助判断模型在长程任务与多场景下的实际表现与开源计划。
DeepSeek 正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang、DeepGEMM、DeepEP 等,与此前英伟达平台组件一一对应。TileLang 昇腾版本封装 Ascend C 指令,支持 DeepSeek V4 系列模型训练中大部分算子的高性能实现,相关项目链接已同步发布于 GitHub。
推荐理由:开源昇腾平台适配的 TileLang 与核心计算组件,为构建自主可控 GPU 软件生态提供可直接复用的基础工具。
NVIDIA 在 Hugging Face 和 GitHub 发布开源表格基础模型 Kumo Tabular,它基于 Transformer 架构,针对表格数据的列、行和上下文注意力设计,支持分类和回归任务,无需训练、调参或特征工程即可通过单次前向传播进行预测。
推荐理由:文章给出了模型规模、基准排名与调用代码,读者可以据此判断它是否适合替代传统树模型流程。
Ling-3.0-flash-Fin 近日在 FrontierFinance System Performance 与 Vals AI Finance Agent v2 两项金融智能体评测中取得领先成绩。
知擎科技推出 AI 应用构建平台 superun,支持用户通过自然语言生成前后端完整应用并配置发布。平台接入 Qoder Cloud Agents(QCA)作为云端 Agent 底座,兼容 Anthropic CMA API 架构,提供智能体模板、用户身份隔离、精确计量计费及 IM 渠道接入等企业级能力。
Holo4 发布 27B 稠密版和 35B-A3B MoE 两个规格,均可在 H Models API 使用,并通过 GUI、代码、MCP 和 API 等接口完成跨界面操作。
推荐理由:发布双规格智能体模型并开放跨接口使用与轨迹,读者可对照任务与成本判断实际落地空间。
Hugging Face 在 Hub 上新增 RL Environments 筛选器,将强化学习环境作为带 rl-environment 标签的数据集仓库托管,支持 Harbor、Verifiers、OpenEnv 和 NeMo Gym 四类框架标签。
推荐理由:Hugging Face 将强化学习环境定义为数据集仓库并统一标签体系,让不同框架用户无需手动移植即可共享任务集与奖励信号。
NVIDIA 联合 Google DeepMind 等全球研究机构,向 AlphaFold 数据库开放了 2800 多种病毒蛋白复合物的预测 3D 结构,以助力未来大流行病应对。