HyperSkill: 免训练全模态 GRPO 与超图索引技能库演进
HyperSkill 提出免训练全模态 GRPO 框架,冻结骨干模型,利用超图索引技能库替代梯度更新。在 11 个基准测试中,其平均 F1 分数比最佳基线高 13.0 点。 该框架包含训练时蒸馏、门控超图检索和执行协议,软件与数据已公开。
HyperSkill 提出免训练全模态 GRPO 框架,冻结骨干模型,利用超图索引技能库替代梯度更新。在 11 个基准测试中,其平均 F1 分数比最佳基线高 13.0 点。 该框架包含训练时蒸馏、门控超图检索和执行协议,软件与数据已公开。
研究人员构建了包含 21 个设计实例的开源基准,并开发了精确求解器 GEO-Exact。 该求解器证明其分配方案最优(相对原对偶间隙小于 $8.2 \times 10^{-16}$),平均耗时比启发式算法快 8.1 至 40 倍。 GEO-Exact 已开源,数据表明在标称间距下,滑动窗口启发式方法距最优解仅差 0.011%。
SynthCorp 是一个通过模拟商业事件创建定制化数据资产与基准的平台。 该平台生成包含7个数据资产(最高1K张操作表)和跨5个领域的256个任务的基准测试,并生成经验证的黄金程序。 作者希望社区利用 SynthCorp 生成更具挑战性的数据资产,以促进企业数据智能体的开发。
提出多任务自进化框架,同一冻结模型既作 solver 又作 proposer 直接编辑自身 Harness。 从 49 行种子起步,GLM-5.3 和 GPT-5.6 Sol 在 5 个基准上提升约 5 分,达到或超越 Claude Code 与 Codex 表现。 在 5 个分布外基准上 GPT-5.6 Sol 表现与 Codex 持平,且进化出输出截断、历史压缩等机制。
引入 JAREX 贝叶斯主动学习获取函数,用于多目标制药过程表征。 结合乐观联合可行性掩码与随机跨界多目标扩展,将采样聚焦于失效联合边缘。 基准研究显示,在批量实验中较全因子设计减少超一半迭代次数,且精度更高,已开源。
STRATA 作为首个全球风暴分辨率大气自回归 AI 模拟器,利用 4.9 公里分辨率、17 天 SCREAM 输出数据训练。 该架构采用 3D patch embedding 与 StereoRoPE,每 MWh 可模拟 48 天,能效比 SCREAM 物理模型提升 50 倍以上。 此成果为基于 AI 的全球大气模拟提供了高效计算方案,显著降低能耗。
针对小标签大无标签样本场景,AIPW 方法在预测分与结果尺度错位时效率可能低下。 研究者提出“Calibrated Prediction-Powered Inference”,通过在标签样本上后置校准预测分提升估计精度,无需重新训练。 模拟与真实数据实验显示,该校准估计器常优于 PPI,且与 AIPW 和 PPI++ 表现相当或更优。
Nepco 系统通过将网络基础模型卸载至 NVIDIA BlueField-3 SmartNIC,解决了流量分析中通用性与效率难以兼得的问题。 针对加密流量标签依赖高及边缘分析延迟痛点,Nepco 采用硬件友好的原始字节序列嵌入与观察驱动卷积架构,动态提取语义特征。 Nepco 实现的宏观 F1 分数与 8 个最先进网络基础模型的最佳表现具有竞争力,该成果已被 NDSS 2027 接收。
研究提出基于连续时间强化学习的均值-方差组合选择方法,直接在扩散过程市场学习投资策略,无需估计市场系数。 针对无因子多股票 Black-Scholes 市场,算法推导了基于 Sharpe 比率的亚线性后悔界,并在 S&P 500 成分股上进行实证验证。 该方法在多变熊市中表现位居前列,且显著优于基于模型的连续时间策略。
MixerLoop 在 15M 参数规模下的 CORE 综合得分超过 FullLoop,证明无需重复执行 Dense FFN 即可保留循环深度收益。 该架构通过循环 Gated DeltaNet mixer 并单次应用 Dense FFN,在 110M 参数下保留 41.5% 的 CORE 提升,同时减少 45.9% 的循环主干投影 FLOPs。
PertReason 提出细胞状态条件扰动效应机制推理基准 PertReasonQA 及参考 LLM PertReasonLM,用于分离正确预测与正确推理。 PertReasonQA 结合单细胞扰动数据与知识图谱动态条件化通路,评估模型在新细胞或组合外推下的鲁棒性。 PertReasonLM 通过监督微调和强化学习提升预测准确率,数据集已发布支持研究。
研究揭示动态系统重建中存在动态-概率一致性差距,优化有限时程概率目标可能削弱动力学学习或使预测不确定性与局部切动力学解耦。 提出可微分扩展卡尔曼滤波训练框架 KAFFEE,联合学习动力学与噪声协方差;在随机超混沌Lorenz-96上,KAFFEE改善了不变量重建与预测得分,并在13个混沌系统上提升了预测似然。 该文已被NeurIPS 2026主会接收。
研究发现 LLM 标注误差不仅依赖类别,还依赖特征空间区域,同一类别内不同集群的可信度差异显著。 针对该问题,文章提出 CANE 框架,无需真实标签即可估计集群条件 LLM 可靠性,并据此筛选或纠正伪标签。 在多个图基准测试和 GNN 骨干网络上,CANE 表现优于最强无标签基线,在强集群条件噪声数据集上增益最大。
提出 ROSU 方法,通过限制扰动方向为正交于保留梯度,解决了 Min-Max 遗忘中正向耦合导致的保留损失恢复问题。 在视觉任务中,ROSU 相比重训练的准确率差距最小;在 TOFU、WMDP 等语言基准上表现也具有竞争力。
研究提出顺序成员推断(SeMI)攻击,通过利用模型更新序列并控制目标注入时间实现更紧密的隐私审计。 开发基于梯度访问的白盒和基于损失的黑盒攻击方法,实验表明SeMI攻击效力优于依赖快照的基线。 论文已被NeurIPS 2026接收,代码已开源。
CUDA-L2系统结合LLM与强化学习优化HGEMM CUDA内核,在1,000种配置下系统性超越cuBLAS等基准。 离线模式下平均比cuBLAS快19.2%,服务器模式下比cuBLAS快26.0%,验证了LLM引导的自动化优化潜力。 该项目表明即使高度优化的内核也可通过系统化探索配置空间得到显著提升。
研究团队推出开源模型 ActiNet,用于基于自监督深度学习对腕部加速度计数据进行活动强度分类。 该模型采用 18 层改进型 ResNet-V2 架构并结合隐马尔可夫模型(HMM)平滑处理,在 CAPTURE-24 数据集上取得 0.80 的平均宏 F1 分数和 0.85 的 Cohen's kappa 系数,显著优于随机森林加 HMM 的基准性能。
针对现有FedADMM方法依赖超参数调优的问题,论文提出非精确且自适应算法FedADMM-InSa。 该算法设计了独立的非精确性判据以降低局部计算成本,并通过动态调整惩罚参数增强鲁棒性。 数值实验证明,FedADMM-InSa显著降低了客户端计算负载并加速了学习过程。
ArchSpace 作为公开平台,通过记录实验与推理、社区评审及引用机制,填补了大语言模型架构创新中缺乏成功与失败文档记录的空白。 平台利用缩放定律从小型实验预测大规模模型损失,以替代高成本训练,并提供了 Qwen3.5 和 OLMo3 基线、拟合的缩放定律及可复用训练配方。 验证的想法将成为新基线,旨在拓宽塑造下一代模型的范围。
该研究提出一种草图算法,用于估计语言模型提示词的留一法(LOO)归因值。在稳定性假设下,该算法仅需 O(√(log(1/ε))/ε) 次模型评估,即可将误差控制在 ε 范围内。 这一效率远高于直接计算所需的 n 次评估,且理论证明该复杂度下界是匹配的。 技术核心基于满足稳定性条件的算术电路草图,并通过对反向传播电路应用前向微分来降低方差。
STeP-C 框架通过解耦空间编码与时间预测,在实时 DAS 流上实现 98.85% 的文件压缩率,PSNR 达 31.04 dB。 该架构利用 GPU 侧符号计算和并行算术编码解决熵编码瓶颈,平均吞吐量达 535 MB/s,满足 1 kHz、81 km 传感流需求。 STeP-C 无需重训练即可应用于未知信道范围,且保持 96.62% 的高置信度类别一致性,显著优于传统编解码器。
Joint Null-Space Projection (JNSP) 提出无数据模型合并方法,在 8 个 CLIP 图像分类任务上将 ViT-B/16 专家模型平均准确率提升至 89.45%,超越 TIES-Merging 11.88 个百分点。 该方法移除任务向量在其他任务子空间中的分量,无需前向传播,但在 RoBERTa-large 上表现低于纯任务算术。
该研究提出四层框架评估可验证 AI 中零知识证明的开销,对 6 种证明器和 7 个内核进行了原始测量,指出成本随证明系统和输入长度变化,低秩微调中固定权重承诺成本在 64 到 2048 长度间保持恒定。
CADET 生成 10 万块无设计规则违反(DRV)的合成交互板及其演示,结合行为克隆与强化学习训练布线策略,将真实测试板上的完整无违反路由率从 38.0% 提升至 67.2%。 该比率与开源自动布线器 FreeRouting 相当,并优于其他基线,包括 GPT-6 Astra,相关数据与代码已开源。
研究评估四种 ZACH-ViT 变体及两个基线模型,在七个 MedMNIST+ 数据集及三个外部基准上训练,所有模型参数量少于 260,000 且为 CPU 可训练。
AutoOntic 管道通过规范化实体类型、归纳层级结构和挖掘约束自动构建本体。 在 Wikidata-TekGen 和 DBpedia-WebNLG 上,超过 90% 的诱导类型与参考类对齐;使用 AutoOntic 构建的知识图谱在 MINE 中实现 88% 检索准确率。 该工具旨在解决缺乏类型层级和域/范围约束的扁平图谱问题,提升图增强生成的检索质量。
研究通过微调 Qwen 2.5-3B 验证保留能力检测的脆弱性,发现两轮重训练使文本审计 AUC 从 0.978 降至 0.560,且攻击在 8 个种子中的 7 个有效。激活探针误报良性微调的 99% 样本,且跨运行迁移率极低。这表明针对固定攻击的现有检测器无法有效应对自适应攻击。
研究人员提出 Metal Sandbox 基础设施,通过跨节点命令级调度优化 Apple Silicon 上 GPU 编码智能体的执行效率。 在 4 台 Mac mini M4 节点上,集中需求下命令吞吐量提升 1.68 至 2.05 倍;动态调度使平均工具等待时间降低 18.8%。 该项目已与 Harbor 集成,并在 GitHub 开源。
FedBrew 是一个旨在实现可控、可复现联邦学习实验的研究代码库。 它通过配置检查、可识别客户端数据分区、检查点恢复检查及自描述运行记录,验证实验实现是否符合预定协议。该结构为研究人员或 AI 编码智能体提供新算法和数据集的扩展点与自动化检查。
基于 Mamba-3 的时间序列基础模型 ci-proto 在 fev-bench 的 100 项预测任务中刷新 SOTA。 其 5 个变体在参数量和运行时间上包络了 Pareto 前沿,训练支持并行计算,推理耗时随序列长度线性扩展。 架构交替使用循环时序处理与跨变量注意力,支持多变量概率预测。
研究者提出轻量级 SOAP 变体 FOAM,通过输入侧预条件和行列统计因子化二阶矩估算器,在 124M 至 760M 参数 LLM 预训练中匹配 SOAP 和 Muon 基线的验证损失。 FOAM 使用 SOAP 一半的优化器状态内存,运行时间达到 Muon 级别,且在 3 倍学习率范围内保持鲁棒性,代码已开源。
针对联邦学习中类集中非独立同分布(non-IID)数据导致特定类别失效的问题,提出 Class-Competence Aggregation(CCA)方法。 该方法利用客户端验证 F1 分数作为输出层聚合权重,在 CIC-DDoS2019 数据集上,将 LDAP 类别 F1 从 0% 提升至 84.83%,整体宏观 F1 达 91.64%,显著缩小了与中心化模型的差距。
MutAtlas 构建了覆盖 PDB 的突变增强数据集,整合物理能量模型、蛋白质语言模型及逆折叠模型的突变信号。通过无监督多源突变偏好蒸馏框架,模型在 ProteinGym 基准测试中超越了零样本基线及简单多源融合策略。该工作已接受 ICML 2026 会议录用,并公开了数据集与评估流程。
summary_zh: Flow-CAD 提出了一种基于 Flow Matching 的上下文异常检测框架,在 20 个基准数据集上与 13 个竞品对比,取得 PR AUC、ROC AUC 和 P@n 的平均最佳排名。
Wayfinder 是一种利用下游 Agent 引用反馈来更新内部表示的自适应路由器,解决了传统静态描述无法区分重叠资源的问题。 该方法通过资源增强进行离线强化学习以抑制过拟合,并构建了 NFCorpus 等三个受控测试集。 在语义重叠内容场景中,Wayfinder 的路由性能优于监督及工具检索基准。
该研究在有限样本随机块模型下,证明了图神经网络链接预测目标能保证节点分类的线性可分性。 理论界由优化残差、架构近似残差及统计项组成,统计项在有限稠密场景下量级为 $\tilde{O}(\sqrt{d/n})$。 论文被 NeurIPS 2026 接收,并通过合成实验验证了从链接预测风险到分类误差的理论链条。
MT-HTA利用事件层级结构实现乒乓球、羽毛球和网球跨运动项联合预测下一击属性。模型结合时间Transformer与特征-token路径,支持3-4级层级结构,在4个数据集上取得最高平均任务F1。代码已开源以支持复现。
TabOmics 是参数为 7.3M 的开源表格基础模型家族,v2.5 版本在 46 个分类任务中取得 0.943 平均 AUROC。 该模型使用 8 个集成成员,在 32 个任务上以约 30 倍更少的参数优于 TabPFN-3.5;单成员平均 AUROC 达 0.941。 代码、模型权重及实验产物均已公开。
针对柔性作业车间调度问题,论文提出双表示增强扩散策略强化学习调度器 DredRL。该模型结合自注意力、交叉注意力机制与扩散模型策略网络生成调度决策。 在合成、公开及随机基准测试中,DredRL 表现优于最先进学习方法,在合成实例上最大降低 5.44% 的完工时间(makespan),并在四个公开基准中的三个取得最佳学习性能。
G2Image 框架将图转换为 TopoGrid 和 GraphGrid 两个互补的固定大小张量视图,在图分类和分子预测基准中表现强劲。该框架利用轻量级 2D 编码器处理数据,并通过监督式跨视图对比目标进行对齐,无需改变架构即可扩展至富属性分子图。结果表明,固定预算图图像为图表示学习提供了实用且可复用的接口。