生成后排序:面向具身智能体目标解释的符号学习方法
一种两阶段“生成后排序”方法实现了具身智能体的目标解释,优于基础提示和思维链等基线模型。 方法使用 CORE 从模型自身生成的备选项中学习偏好;在家庭场景基准中测试了 DeepSeek-V3 chat、Qwen2.5-7B 和 Qwen2.5-72B 等开源 LLM。 论文被 ECC 2026 接收,涵盖人工智能、计算与语言及机器人领域。
一种两阶段“生成后排序”方法实现了具身智能体的目标解释,优于基础提示和思维链等基线模型。 方法使用 CORE 从模型自身生成的备选项中学习偏好;在家庭场景基准中测试了 DeepSeek-V3 chat、Qwen2.5-7B 和 Qwen2.5-72B 等开源 LLM。 论文被 ECC 2026 接收,涵盖人工智能、计算与语言及机器人领域。
TriAttention 将 Query-Key 瓦片分配至跳过、4-bit 或 8-bit 计算,长上下文生成速度提升最高 7.88 倍。 该方法通过两条对角距离边界编码计算区域,保持策略存储独立于上下文长度,并在解码阶段复用量化 Key-Value 缓存。 实验显示其在通用及长上下文任务上保持与原模型相当的质量。
将 A-life 智能体的神经网络策略蒸馏为紧凑的符号策略,通过 Transformer 替代传统搜索方法,大幅加速了蒸馏过程。 Transformer 架构通过神经架构搜索得出,预训练数据为随机感知-动作数据,实证结果展示了不同蒸馏方法及符号空间对种群动力学的影响。
D^2-OPD 将 On-Policy 蒸馏中的外推方向与距离解耦,通过固定 KL 约束限制目标偏移,并结合教师策略更新与初始差距确定方向。 该方法在三种数学推理场景下均取得最高分,较最强基线提升最多 9.45 分,验证了各组件的有效性。
本研究提出了 Skillware,一种开放架构框架和能力注册表,它将逻辑系统想要执行的任务与执行该任务的方法在形式上分离。Skillware 通过模块化、版本化的软件能力束来增强模型,而非依赖松散的文本指令或 Prompt 工程。
FlashOffloading 提出一种基于主机 DRAM 的推理架构,将 LLM 服务中 prefill 和 decode 阶段的 KV cache 完全卸载至主机内存,在 30 ms TPOT SLO 下分别将 GLM-5.2 + MTP3 推测解码的 prefill 吞吐提升 1.38×、decode 吞吐提升 1.91×。
论文提出GNN-LBBD算法解决车站内列车重调度问题,结合分布鲁棒模型与逻辑Benders分解。算法利用图神经网络引导子问题求解顺序,构建条件割。 在28个测试实例中,该算法平均总完成延迟为61.13列车分钟,比禁忌搜索低16.63%,比变邻域搜索低20.06%。利用中断恢复观察数据可减少约21.7%的平均总完成延迟。
主动智能体的信息获取中,单步隐变量分数在编码决策时可替代多数前瞻深度,且计算成本更低。 该分数对隐变量标签的敏感度高于对答案交互的捕捉,同一问题因描述方式不同可能导致单步分数失效而精确值不变。 若从一个语言模型学习概率用于另一个模型,需规划允许两者共存,仅靠 Token 读取概率仅值几个标签。
提出SAVeR²方法,通过分解安全目标为四个可验证奖励信号并引入梯度投影机制,消除安全税。 实验覆盖1.5B至671B模型,证明其在多个基准测试中实现更优的安全性,且显著降低过度拒答率,不损害通用推理能力。
针对复杂任务中智能体难以从噪声奖励信号中泛化的问题,本文提出指示性策略学习(PPL),直接教导智能体高层行为原则。 PPL 利用关键量和参考系指示智能体每一步是否遵循原则,无需任何奖励信号。 实验表明,仅接受简单启发式原则教学的 PPL 智能体以极少样本超越基于奖励的方法,且策略可直接迁移至更难场景。
研究提出可扩展贝叶斯高斯过程分类框架,基于 Phikon 嵌入和 RPCholesky 加速计算,在约 30 万训练点下实现可处理的 HMC 后验采样。 框架在 PCam 和 CAMELYON17-WILDS 基准测试中,将期望校准误差降低最高 88%,假阴性率降低最高 90%,在分布偏移场景下效果显著。
研究提出“模拟协作”方法,在包含 4.7M 定义、6K commits 的 Lean 人类协作数据集上,发现自主 AI 智能体在证明构建中系统性偏离人类偏好。 AI 智能体更被显式标记的 gap 吸引,相对回避密集连接的 proof centers 及复杂 proof goals,且易将 surprising proof bodies 正则化至 baseline。
LowRAM 提出一种非对称 KV 缓存压缩管线,通过测试时拟合轻量级逐头预测器实现值缓存摊销,达到 4 倍近无损值压缩。该方法结合跨层低秩键压缩,可将峰值解码吞吐量提升至 5 倍,并与量化及驱逐技术组合,在长上下文下实现 26.9 倍压缩且保持 94.5% 基线性能。
FlexFloor 通过联合自适应响应调度和活跃 worker 组,在保持专家计算需求的同时实现资源提前释放。 相比 verl 基线,FlexFloor 单位占用计算时间生成多约 65.40% 响应 token,响应生成吞吐量提升 52.74%。 rollout 奖励未见明显波动,从而支持大语言模型及 AI agent 更高效的后训练迭代。
Octopus 是一种单模型多智能体强化学习框架,所有线程共享同一骨干网络并通过 GPU 驻留 DAG 协调 KV 状态。 该框架在 Qwen3.5-4B 上端到端训练,在 BrowseComp-Plus 准确率达 49.6%,OpenResearcher 达 51.2%,训练吞吐量提升 3.3 倍且峰值 KV 内存降低 2.8 倍。
NVIDIA 通过全栈协同设计优化 GPU、CPU 与存储层级,最大化每字节 HBM 利用率。 从 Blackwell Ultra 到 Vera Rubin 平台,单 GPU HBM 容量微增 3%,但在 SemiAnalysis AgentX 上每美元智能体吞吐量提升高达 30 倍。 该策略利用 NVFP4 压缩模型权重和 KV 缓存,并通过 NVL72 多卡分布与分层存储缓解内存墙限制。
SPARK 采用保留-校正分解策略,通过冻结任务分布并针对性调整,在保持 LLM 持续学习效用的同时有效抑制敏感个人信息。 该框架结合自蒸馏重学与任务后隐私校正,将非敏感行为锚定于参考检查点,确保敏感内容概率降低且知识保留能力维持在多样化场景中不变。
Ekka 系统通过对比目标与参考框架的中间执行状态,实现了对 LLM 静默错误的自动诊断,在由真实错误构成的基准测试中取得了 80% 的 pass@1 准确率。 该系统利用差分调试方法,在 88% 的 pass@5 准确率下超越现有系统,并成功定位 4 个新的静默错误,所有结果均已获开发者确认。
Lattice Deduction Transformer (LDT) 提出了一种近似逻辑演绎的循环 Transformer 架构,其 $800\text{K}$ 参数版本在 Sudoku-Extreme 上解决了 $99.999\%$ 的测试谜题,且训练计算量不足先前模型估计值的 $2\%$。
提出一种仅依赖序数比较的多步强化学习算法,通过计算动作回报相对其他轨迹的胜率来替代标量奖励。 实验表明该算法性能与标量奖励无显著差异,且使用 LLM 裁判时比较结果比逐点打分高 7-10 分。 方法对标签噪声鲁棒,但尚未完全缩小与 PPO 算法在 HalfCheetah 任务上的性能差距。
CompilerKV 通过离线编译校正表,将在线 KV 压缩决策简化为 O(1) 查找,在 512-token 预算下于四个基座模型上实现 SOTA。 该策略提升了跨提示词的统计规律性,平均比最强 prefill-only 基线高 1.67 分;在 128k RULER 基准上得分约为 73,优于 SnapKV 的 38 分。
研究提出 OpInf-LLM 框架,利用算子推理和大语言模型求解参数化偏微分方程。 该框架使用少量数据预测未见参数和边界条件,并整合自然语言任务指定。 该方法降低了计算需求,提高了异构场景下的执行成功率。
该论文提出首个针对 LLM 推理能力的后门攻击综合综述,建立统一分类体系将攻击划分为关联式、被动式和主动式三类。 研究详细分析了攻击底层机制与方法框架,提出了相应防御策略并指出了当前面临的安全挑战。 这项工作为构建安全可信的 LLM 社区提供了新视角,有助于推动相关安全探索。
RADT 提出一种决策变换器方法,实现无奖励、基于离线轨迹的回避学习,并在 17 个任务中优于基线模型。 其通过 hindsight relabeling 和 prompt tokens 处理回避区域,在零样本设置下归一化成本较基线提升 35.7%。 该方法也被应用于生物学细胞重编程,展示了其跨领域的通用性。
提出 KV-PRM 过程奖励模型,利用生成阶段的 KV-Cache 替代文本重编码,将评分计算复杂度从 O(L^2) 降至 O(L)。 在 MATH、GSM8K 和 AIME 基准上,KV-PRM 的性能匹配或优于文本型 PRM,且评分 FLOPs 降低 5000 倍,延迟降低 37 倍,单序列内存占用降低 34 倍。
Certified Circuits 通过随机数据子采样为电路发现提供可证明的稳定性保证,证明组件包含决策对概念数据集的有界编辑距离扰动不变。该方法在 ResNet、ViT 和 GPT-2 上验证,实现最高 56% 的准确率提升和 80% 的组件减少,并在基线性能退化时保持可靠性。
E-SPL 方法通过联合更新 LLM 权重与系统提示词,实现了模型在经验上下文与参数层面的双重自改进。 该方法利用多提示词并行采样轨迹,同步执行强化学习权重更新与基于自反思的提示词进化。 在 AIME 到 BeyondAIME 的泛化测试中,RL 成功率从 38.8% 提升至 45.1%。
论文提出 MinPRO 目标函数以稳定离策略 LLM 强化学习后的训练。 MinPRO 利用最小 token 级比率替代不稳定的累积前缀比率,在 dense 和 MoE 模型的多项数学推理 benchmark 上显著提升了训练稳定性与峰值性能,已被 NeurIPS 2026 接收。
研究人员训练了将上下文激活映射为答案激活预测的“上下文-答案元模型”,实现了首个答案 Token 生成前的行为预测。 该模型在 50 万 prompt 数据集上表现良好,支持零样本泛化,且 Qwen2.5 的上下文激活可预测 Qwen3.5 和 Gemma 4 的答案激活。 研究结果表明上下文激活轨迹支持 LLM 答案行为的可扩展预测。
开源权重智能体 SARBLOH 证明在 ARC-AGI-3 中,空间感知而非规划能力主导交互推理。其零参数感知引擎将单帧处理时间压缩至 35ms,通过生成对象库存与几何简报,将评分从 3/28 提升至 25/28,同时降低 89.4% 的 token 使用量。
研究者将LLM引导视为反馈控制问题,提出基于H_∞的鲁棒引导控制器以应对非线性动态与线性化失配。 该控制器在多个基准测试中优于现有基线,尤其在分布外条件和不同长度复杂性下表现显著。研究还引入鲁棒可引导性指标S_rob,用于量化系统对动态失配的容忍度。
研究发现前沿 LLM 智能体在简单环境下的零样本协同任务中表现不佳,主要源于对协同问题的理解有限及推理能力弱。 尽管 LLM 引入了语义信息作为协同维度,但未能有效利用该结构。研究者提出了协同友好定义(CFDs)作为改进方案,并证明其可被自动发现。 该成果作为海报报告被 NeurIPS 2026 接收,并入选 ICLR 26 MALGAI Workshop 口头报告。
Traffic-VL 是一款 80 亿参数的视觉语言模型,通过直接映射多视角图像和自然语言相位描述生成信号决策,实现了端到端交通控制。 基于 SynTra-V 数据集,模型采用离线强化学习适配视觉编码器,并在闭环模拟中进行在线策略优化,性能超越 Gemini 3 Pro 等通用模型。 该模型在十路口为期三周的部署中证明了其视觉泛化能力和有效约束控制。
论文定义了有界停机问题,证明无固定确定性检查器能在小于 1 的 T 比例内解决所有实例。 针对有限通用性提出对抗性测试,区分可扩展资源固定模型、随 T 增长的模型族及更大系统。 明确了机器学习系统中通用性主张所假设的资源增长特性。
SysPilot 是一款开源的跨库性能自动调优系统,旨在解决共享资源争用导致的性能瓶颈。该系统基于库性能合同(LPC),能比 OpenTuner 和 SMAC3 提升高达 38% 的性能指标,同时将运行次数减少 3 倍。
预注册测试表明,JEPA 未能使潜空间更好地组织流体力学量,其表现与未训练网络相当。 自编码器使涡动能在慢速无监督潜空间中显著(r 0.80-0.86 vs 0.38),但添加 VICReg 会降低该显著性。 研究揭示潜空间内容可读性与其可控性相分离,监督方向在受控时几乎无法改变输出。
提出 CoCo 框架,利用 LLM 将文本推理蒸馏为数值协变量引导 TSFM 预测。 采用 GRPO 微调 LLM 并同步微调 TSFM,使用 Qwen3-4B-Instruct-2507 与 Chronos2 实现最高 12% 的 MAE 改进。 在金融、气象等真实基准上超越 GPT-4o 等 SOTA 模型,相关代码与检查点已公开。
研究在 Llama-3.1-8B、Mistral-7B 和 Qwen2.5-7B 的 4-bit NF4 量化模型上,验证 Hallucination 信号可从隐藏状态线性解码。
论文提出一种基于回合级 Best-of-N 采样的推理扩展方法,用于 LLM 智能体。该方法采用“生成器-选择器”框架,在每轮生成 N 个候选动作并由选择器模型选取其一执行。 在长时程终端任务实验中,该方法使准确率提升 5–10%,并显著提高了重复尝试的一致性。轨迹分析显示,智能体行为向更优模式转变,如减少尝试次数、改善指令遵循及调试测试能力。
针对 NVARC Qwen3-4B、Qwen3.8-27B 及 Qwen3.8-Flash-Next 模型,利用规则、推理轨迹及路由统计数据优化 ARC-AGI-2 求解性能。