BeyondArena:表格基础模型在 11 种模型和 142 个数据集上的统一基准测试
BeyondArena 支持 IID、时序和分组任务,覆盖多特征类型与学科,是首个统一的表格数据综合基准。 基于 142 个策划数据集和 11 个模型的评估显示,当前开源表格基础模型在 10 万行以下数据集中具有竞争力,而传统树模型和深度学习模型在分组或大规模数据上仍占主导。 该基准引导模型研究聚焦于表格数据领域最具挑战性的场景。
BeyondArena 支持 IID、时序和分组任务,覆盖多特征类型与学科,是首个统一的表格数据综合基准。 基于 142 个策划数据集和 11 个模型的评估显示,当前开源表格基础模型在 10 万行以下数据集中具有竞争力,而传统树模型和深度学习模型在分组或大规模数据上仍占主导。 该基准引导模型研究聚焦于表格数据领域最具挑战性的场景。
DRScaffold 是一个监督微调框架,将监督目标分解为四个因果有序阶段,以提升轻量级 VLM 在密集场景中的推理能力,且无需修改模型架构。 该框架基于新建的 DRBench 基准(包含 14,573 个问题、2,943 张图像,涵盖三个渐进推理层级的五个任务类别)。
EvoMemBench 是一个从自演化视角评估 LLM Agent 记忆的基准,对比了 15 种记忆方法与长上下文基线。基准沿记忆范围和内容两个维度组织,发现现有记忆系统尚无通用解,检索法在知识密集场景强,程序化记忆在任务匹配时更有效。 该工作已被 NeurIPS 2026 接收。
研究团队基于 Rust 原生图数据库 Samyama 构建开放生物医学知识图谱生态系统,单库合并 22 个图谱后包含 3.28 亿节点和 14.4 亿边,加载耗时 37 分 49 秒。 在 40 题 BiomedQA 基准测试中,专用 MCP 工具准确率达 98%,高于独立 GPT-4o 的 75%,且零模式错误。 该系统实现了跨知识图谱集成与 AI 智能体高效访问。
InstruBPM 通过指令微调开源 LLM,利用参数高效微调与量化实现本地部署,从自然语言生成 BPMN 模型。 该方法在 BLEU、ROUGE-L 及结构保真度上优于未调优基线及专有模型,资源消耗更低。 生成的图表符合 BPMN 最佳实践,降低建模工作量,模型与脚本已公开。
研究团队提出自动化流水线 RiskyPy,用于生成经模型能力校准的安全导向代码生成数据集。该方法基于 Python 语言及 2025 年 CWE Top 25 中的 18 个 CWE 领域,共构建了 101 个提示词。
该研究提出 Geo-FSRL 方法,通过最小化条件 KL 散度诱导的几何因子来选择最优随机策略。 在等向高斯转移族中推导出唯一闭式优化器,结合梯度尺度匹配推导闭环策略梯度权重。Geo-FSRL 在 4 步设置下于图像与视频生成任务中取得优于 Flow-GRPO 和 Flow-CPS 的最终奖励分数,代码已开源。
RECAST 是一种基于重构的框架,能在不使用隐藏推理渠道的情况下,从 Claude-Sonnet-5.5、GPT-6.1 和 Gemini 3 等前沿闭源模型中重构出第一人称结构化推理数据。
Noura 结合 LLM 规划与可执行的个人规范,在基于 NHANES 的评估中表现优异。 该方法将执行过的计划转化为监督信号进行微调,使 Qwen3-14B 的完整计划通过率从 24.0% 提升至 72.5%,规则违规率降低 97.5%。
商汤开源日日新 SenseNova Loop-9B-Preview 模型,采用 Looped Transformer 架构引入循环计算,通过参数共享模块扩展有效计算深度,在 9B 参数规模下性能媲美 27B 级模型。
推荐理由:商汤开源了基于 Looped Transformer 架构的 9B 模型,通过循环计算扩展有效深度,为社区提供了替代单纯扩大参数规模的模型架构实践参考。
inclusionAI 开源扩散语言模型并行树形推测解码方案 UBTree,在 Qwen3-8B 上实现平均 6.94× 加速,并在 Ling3-Flash-124B MoE 模型上取得 3.43× 平均加速比。
研究构建了具备置换等变性及指定 Weisfeiler-Leman 层级位置的量子图神经网络,实现消息传递功能。 在多达 56 量子比特的大规模模拟中,该框架在合成图、分子性质预测及旅行商问题上得到验证。 该研究为具有理论保证的近期量子算法提供了路径,推动图学习原则应用于量子电路设计。
针对 MedSAM 在临床场景中体积过大且压缩易损边界的问题,提出结构化剪枝框架 MedCore。该框架通过保留 SAM 到 MedSAM 适配后重要结构及高边界杠杆结构来实现压缩。在息肉分割基准测试中,MedCore 减少 60.0% 参数和 58.4% FLOPs,同时实现 0.9549 Dice 和 5.14 HD95。
研究者提出 FAQ 方法,将大语言模型基准测试视为有限总体推断,在固定查询预算下追求紧置信区间。 该方法利用贝叶斯因子模型和混合方差缩减策略自适应选择问题,在两个基准套件上比基线方法带来高达 5 倍的有效样本量增益,且计算开销可忽略。 代码和数据集已开源以支持可复现性。
首个虚拟传感器多任务模型在超过180亿样本的评估中,将计算时间最多降低415倍,内存需求减少951倍。 该模型同时预测多种虚拟传感器并保持计算效率,与现有单一传感器模型相比,在相近推理速度下生成更优预测,且能以近乎恒定的参数数量扩展到数百个传感器。
论文提出记忆递归单元(MRU),利用多稳态实现持久记忆,并解决状态空间模型(SSM)缺乏该能力的问题。 核心实现为双稳态记忆递归单元(BMRU),兼容并行扫描算法,在长程依赖任务中表现良好,可与 SSM 结合构建混合网络。
针对预训练自回归图像模型无法进行推理时编辑的问题,提出未来感知位置嵌入和顺序课程两种组件实现任意顺序生成。 在 LlamaGen 和 RAR 四个基座模型上,该方法在 ImageNet 修补任务 FID 达 6.21,优于 MaskGIT 的 10.44,且兼容现有 AR 推理栈。 额外计算成本仅为预训练的 13-33%,论文已被 NeurIPS 2026 接收。
模块化贝叶斯基础模型利用 SBNN 编码器实现无标签专家路由,在七个数据集上显著降低不确定性并提升校准度。 该模型比确定性版本节省 63.8% 存储,平均 ECE 降至 0.072,平均 NLL 降至 0.836,PICP90 升至 89.03%。 SBNN 参数量比 MC Dropout 少 63.9%,实现高效概率预测。
研究者推出 MCCL,这是首个支持多节点 PyTorch 训练的金属通信集合库,解决 Apple MPS 缺乏分布式后端的问题。 MCCL 在 24 个节点测试中,大型 all-reduce 操作达到 TCP 良吞吐量的 98-99.7%。
研究提出无模型框架 DECIDE,用于量化数据科学生命周期中每项分析决策对结论的影响。该框架基于“多元宇宙”结果分布计算重要性,避免依赖模型预测假设。文中提供了多元宇宙(multiverse)的正式定义,并将其应用于真实案例分析。
summary_zh: 研究收集1616集水下操作数据训练14个VLA模型,在泳池任务中最佳模型成功率为93.3%。 案例研究显示单任务ACT策略(47.9%)显著优于通用SmolVLA(7.9%),相关工具已开源。
Dual DeltaNet 提出双侧 delta 规则,扩展 Kimi Delta Attention (KDA) 以实现值侧记忆重组,在语言建模、零样本下游任务和检索任务中表现优于 KDA、GDN-2 和 Mamba-3。 该方法包含分块并行训练算法及 rank-2 递归推理机制,以提升算术强度,代码已开源。
论文提出GSCM-PFN,一种基于SCM先验预训练的图PFN,在23个基准上优于现有GFM和PFN-GFM,且不使用真实图数据预训练。 其核心是联合特征-边-标签SCM引导合成图生成,证明先验表达力更强,并设计具有理论保证的特征置换不变双路图网络。
ParaTTT 算法通过迭代精化内部梯度轨迹,实现任意深度非线性记忆的并行化计算。 该算法在 4K 上下文下比 TTT-MLP 快 32 倍,1.3B 参数模型性能优于 Gated DeltaNet 和 Mamba-2。
HotPOT通过共享编码器与异构神经数值专家,在大规模PDE预训练中超越了MoE-POT模型。 模型在每个匹配规模对比中均表现更优,平均降低50.7%的rollout误差,17M参数模型甚至优于更大规模的MoE-POT。 该优势扩展至未见物理条件下的零样本预测,相关代码已公开。
各向异性信赖域扭曲(ATR warping)通过仿射重缩放输入空间,修正了先验数据拟合网络(PFN)在目标函数长度尺度超出元训练先验分布时,预测对数似然及优化性能落后于高斯过程(GP)的问题。
开源工具 Rebuild Dossier 在编码前锁定应用接口,并通过自动化检查强制“一次一测试”构建流程。 对比显示合规智能体在保留测试中失败,而违规者全部通过;在大应用上该工具甚至未运行自动化检查。 该工具采用 MIT 协议,支持在自有应用中端到端复现。
ADTT 通过显式对齐历史 triplanes 并预测残差变化,在 Occ3D-nus 上实现了 SOTA 预测性能。该方法采用 ego-motion 补偿,使用查询条件 Transformer 仅预测场景变化,从而减少参数并提高 FPS。代码已公开。
研究提出规模条件评估协议,检验无关会话累积下 Agent 记忆证据的可用性。 在 LongMemEval 上,HippoRAG 维持双调用预算但可靠性损失 16-20 个百分点;LiCoMemory 表现因 Qwen3 模型版本而异。 该研究被 NeurIPS 2026 接收,支持构建依赖智能体、界面和规模的记忆声明框架。
小型 Transformer 结合 PENCIL 框架学会执行 MicroPy 程序,实现通用计算。 模型在随机生成的 MicroPy 程序上训练后,泛化至二进制算术与 SAT 求解等人类编写程序。 研究为 Transformer 充当通用计算机提供了实证支持,发表于 EMNLP 2026 Findings。
研究人员发布开源逐样本指标 MuQ-Eval,基于冻结 MuQ-310M 特征与 MusicEval 数据集训练。 该指标在系统级 SRCC 达 0.957,话轮级 SRCC 为 0.838,且在单张消费级 GPU 上支持实时运行。 LoRA 适配仅需 150 条数据即可实现个性化评估,优于现有开源基准。
TaskFrame 提出分层规划-控制框架,通过 GRPO 优化任务规划器并连接帧级键鼠控制。 规划器将目标分解为原子指令,其隐藏状态作为目标嵌入复用;因果 Transformer 控制器结合观测预测离散动作与连续相机运动。 实验显示,TaskFrame 在 Minecraft 闭环评估中的战斗成功率优于基线。
LLM Agent 在 FPGA 上实现 CPU 候选项并利用板载测量指导设计决策,最终单周期 RV32I 核心发展为三发射乱序 RV32IM 核心。
研究提出稀疏对抗微调方法 SAFT,通过更新仅约 5% 的参数实现高效对抗训练。 基于对抗梯度显著性定位鲁棒性关键参数,冻结其余参数进行微调,方法在多个架构和数据集上优于 LoRA,并接近或超过全参数训练效果。
summary_zh: Lev-3B 是开源 3B 参数决策模型,基于 Granite-4.1-3B-Base 构建。其训练配方包含两阶段课程学习:先学习无日志的自然语言决策,再混合 35 项辅助任务处理日志数据。
Tracekit Box 是一款开源(MIT 协议,v0)系统,让 AI 智能体在 Firecracker 微VM中运行,无网卡,出口由宿主机签名器裁定。 每个任务使用 vsock 通道,密钥与元数据地址被拒,变更以补丁形式返回。13 项端到端检查通过,15 个模糊测试发现 9 个问题均已修复。 结果打包为 .tkb 文件,支持离线验证。
研究评估了 Jev 及多个开放模型在 10 个答案引擎上的引用预测能力。Jev 与两个 27B 开放模型得分最高(0.575-0.578),微调后的 GEO Citation Ranker 4B 达 0.542-0.549。团队发布了模型、基准测试及所有评分器的预测代码。
针对机器学习 Kohn-Sham 哈密顿量模型中元素级误差无法保证本征值准确的问题,研究提出新训练信号“累积局域态密度(FermiScope)”。 该方法通过计算给定能量阈值下空间各点的电子数,完整捕获误差并确定哈密顿量,避免了梯度消失。 在 QH9 数据集微调三个模型后,FermiScope 在降低 HOMO-LUMO 能隙误差的同时,未增加元素级误差。
提出 Kairos 系统,通过语义感知动态编排 5 种异构引擎,实现从 STRIPS 到 PDDL+ 的广泛覆盖。在 1,756 个任务中,Kairos 在完整资源限制下解决的实例数超过各评测套件最强规划器。
CLIK 模型通过单次前向传播生成 LoRA 参数,将上下文知识直接内化至冻结基模型,无需任务级优化或推理时保留输入。 该方法在文档问答任务中显著优于无上下文基模型及现有超网络生成器,且可迁移至多轮对话。 分析表明上下文依赖部分集中于生成适配器的紧凑子结构中。