前缀缓存 Agent 服务中的持续性降级:突发流量导致 vLLM 稳定性下降
研究表明,vLLM 中轻微突发流量会导致前缀缓存 Agent 服务陷入亚稳态,命中率降至 10%,吞吐量减半,且 70 分钟无法恢复。该现象在 Qwen3-32B 和 SGLang 上复现,无缓存时则不存在。 系统通过限制活跃会话的 KV 驻留需求至内存池容量,并采用无需针对性调参的阈值,成功在所有测试运行中防止了服务崩溃。
研究表明,vLLM 中轻微突发流量会导致前缀缓存 Agent 服务陷入亚稳态,命中率降至 10%,吞吐量减半,且 70 分钟无法恢复。该现象在 Qwen3-32B 和 SGLang 上复现,无缓存时则不存在。 系统通过限制活跃会话的 KV 驻留需求至内存池容量,并采用无需针对性调参的阈值,成功在所有测试运行中防止了服务崩溃。
TKNP架构将权重放置与注意力所有权解耦,在64块H100上实现长上下文高并发工作负载的完成率提升。 该方法基于vLLM实现,在Llama 3.1 405B和Nemotron-4 340B上评估,吞吐量比DCP提升最高1.7倍。
Multi-Future Drafting (MFD) 通过引入潜在变量恢复耦合,提出混合 DDTree 验证器。 MFD 在单前向传播中起草 K 个连贯块,使树验证无损选择目标未来。 在 4B 至 27B 参数的 Qwen 模型上,MFD 实现最高 7.8 倍加速。
TabPFN-3.5在Cell2Cell和Iranian电信流失数据集上,显著优于最佳调优GBDT的最大期望利润(EMP),增幅分别为1.9%和7.6%。 在Orange数据集上,TabPFN-3.5在所有10个分割中均领先(14.3%),但经Holm校正后差异不显著(p=0.155);TabICL v2仅在Iranian上胜出,且在Orange上流失率预测偏低2.1个百分点。
框架 AutoScaffold 将强化学习可验证奖励训练中的学生经验转化为自适应支架,无需人工干预。 该框架通过冻结的教师模型诊断瓶颈并设计共享策略与个别提示,在四种任务域中优于对应强化学习基线。 在 ALFWorld 任务成功率提升 7.2 分,数学推理中用约三分之一的学生训练步数超过 QuestA 的准确率。
Pyrite 发布 1,500 个位姿对的基准,发现专家排序表现接近随机。 LLM 智能体 PyriteFeaturizer 准确率达 74%,优于专家;GRPO 训练使开源模型媲美闭源模型。 确立位姿排序能力测试标准,验证 LLM 引导特征发现方法价值。
利用符号蒸馏结合神经网络与符号回归,从 21 年再分析数据中发现可解释的南亚季风降水方程。 最佳方程解释的降水方差是广泛使用的浮力诊断的 1.5 倍,恢复约 85% 的神经网络性能,参数数量减少约 1000 倍。 方程揭示低层自由对流层湿度作为竞争控制因子,使降水预测更符合物理一致性。
针对 7-12B 模型在 GSM8K 和 MATH 上的测试表明,注意力探针在 5% 审查预算下平均比连续判决令牌多发现 7.4 个百分点的错误。 在 10% 路由下,探针仅对较弱判官优于随机分配;跨数据集迁移导致探针 AUROC 下降。 内部信号提升领域内预算分配效率,但非通用置信度估计器。
该研究提出基于大语言模型(LLM)的故障诊断框架 Chain of Physics(CoP),利用自动生成的受限知识图谱在 FailureSensorIQ 基准测试中提升诊断准确率。
SinkState 通过自适应低秩存储和局部 SVD 压缩线性注意力递归状态,在 4 个混合模型上将峰值内存降低至多 2.6 倍,解码速度提升 1.58 倍。 该方案针对 Mamba-2 和 Gated DeltaNet 层,利用“线性注意力沉”现象将状态限制在低维子空间,并在 CPU 异步处理剩余分量。
研究提出 MCPO 方法,将信用分配至模型犹豫的 token,相比未修改的 GRPO 基线,平均提升 6.55 分(macro avg@32)。 实验使用 MiniCPM5-2B-Base 配合 LoRA 训练,在 DAPO-Math 数据集上验证效果,Qwen3-4B-Base 复现亦显示正向增益。
提出 TBTCL 框架,将时间行为树 (TBT) 作为统一接口,同时用于定义任务、生成密集鲁棒性奖励、构建课程及诊断策略。 该框架比 LTL 更具表达力且天然分层,能自动提取课程 DAG 并识别瓶颈。在六个离散与连续域评估中,TBT 证明可同时充当规范、奖励、课程和诊断工具。
深度神经网络内部机制因神经元编码多概念而难以解释,机制可解释性旨在识别对特定行为具有因果责任的组件。 该文综述了深度神经网络中因果推理分析的进展,涵盖图像、音频及语言处理等领域的内部激活机制。
研究提出统一的三步近似编译流水线,利用张量分解精确乘法子并重构乘积,使 WMC 估计精度比现有方法高数个数量级。 该流水线在 Sudoku、算术推理等六类任务中,随着问题规模增加表现优于先验方法,能更好地捕捉符号因子间的紧密交互依赖。 文章指出该设计为复杂概率推理任务提供了新的近似编译设计空间,已被 NeurIPS 2026 接收。
研究展示前沿大语言模型通过权重空间编程(Weight-Space Programming)处理 EEG 和 ECG 生物信号。模型仅凭架构、任务及最小训练集,推理生成的网络比标准梯度下降训练少用 6 倍受试者。
tritify 开源运行时通过精确整数算术实现跨硬件位级可复现推理,SHA-256 哈希验证输出一致性。 验证覆盖 OLMoE 及 106B 参数 GLM-4.5-Air,在 CPU/GPU 及分布机器上保持比特相同,实现可验证分布式推理。 该机制允许不信任服务器运行模型,由开放标量预言机重推导字节,拒绝单设备加速与机密性声明。
模型重点训练于多数错误与少数正确案例,在后续适应中修正奖励,所有配置下性能均优于基础 TTRL。
Google Research 的 TabFM 在预测企业次年盈利变化的基准测试中,准确率优于微调的大语言模型和多种树模型。 TabFM 基于合成数据预训练,避免了前瞻偏差,且推理速度更快、计算开销低于 LLM 对比组。 研究结论认为 TFMs 具有前景,但单一任务评估不代表其在所有场景下均占优。
论文在九个预训练模型中验证自注意力移除的收益。数据显示前因 Null 可解释 48% 至 63% 的头值余弦对齐,且该效应非单调依赖模型规模。 在 50.9M 规模下,移除自身 Value 方向降低验证损失 0.0029 nats,显著优于任意固定方向(无显著差异)。这表明仅凭高余弦对齐无法确立冻结模型中的冗余性。
该研究通过谱域异质性分析有限预算下神经缩放定律的偏差,采用 Aitken 差分法改善拟合条件。 在 45 个算子谱及 Pythia、Chinchilla 等基准测试中,估算器达到 5.89% 的 MAPE,降低 76.4% 的分配遗憾及 59.4% 的 RMSE。
研究证明在折扣 MDP 中,基于插件估计器的 KL 正则强化学习样本复杂度为 $\widetilde{O}(KH^3/(\epsilon\max\{\epsilon,\beta\}) + KH)$。 该界在 $\epsilon \lesssim \min\{H, H^2/\beta\}$ 时是尖锐的,且与无正则化强化学习具有相同的视界依赖项。
研究表明上下文内学习(ICL)中的泛化实际上是欠拟合,且特征学习并非 ICL 的必要条件。 该研究通过分解旋转不变核机器的特征基,揭示模型先实现泛化,随后退化为记忆化解决方案的过程。 实证分析显示,Transformer 模型通过训练集的高阶统计量进行记忆化学习,证明该核方法理论同样适用于具备特征学习能力的模型。
研究人员利用SMC解码在零边际成本下估计序列级Rényi熵(SRE),作为无成本选择性预测信号。 一阶SRE在13个场景中的10个场景优于对数概率,MATH500测试集AUROC提升0.022至0.044。 八粒子探针结合二次策略,在MATH500上减少34.2%粒子开销的同时保持六十四粒子精度。
研究设计了一种循环因果编码器-解码器(Looped CED),通过让稀疏编码器层生成全局 KV 并复用,实现了零轮次 KV 增长的循环深度。 该模型通过跨层和跨轮次的 KV 共享,以未循环模型的最小内存占用,恢复了循环 Transformer 86-93% 的性能提升,全局 KV 减少至 1/6。
研究指出,在强化学习 with verifiable rewards (RLVR) 中,跨提示词的参数共享导致 reward hacking 既被抑制也被放大。
针对 pass@K 场景的多温度采样研究发表于 NeurIPS 2026。 研究发现不同问题的高效采样温度差异仅呈对数级增长,理论最优多温度分配方案的增益相对单一调优温度基线通常较温和。 数学上的钝化效应(dulling effects)确保了单一温度选择在不同问题分布下的鲁棒性,澄清了何时多温度采样有效。
IC-GNN 提出一种图谱锚定模型,基于静息态 fMRI 数据在 30000 余名参与者中,对比 15 种基线方法实现了最优疾病预测性能。 该模型生成个体化多尺度社区,并具备扫描内及跨会话的可重复性与独立预测能力。 其识别出的疾病相关社区组织变化与现有文献一致,为疾病预测与生物标志物发现提供了新路径。
summary_zh: FaST 将过渡元组分解为状态、动作、动力学、奖励和终止阶段,在 12 个 D4RL 基准上与 SynthER 扩散基线持平,生成速度超过 90 倍。
在 256K 上下文长度下,ADIndex 将预填充和解码内核速度分别提升至最高 6.22x 和 3.40x,在 128K 上下文下实现 1.54x 的端到端服务加速。 该技术有效解决了 DeepSeek Sparse Attention 索引器在长上下文推理中占用超过 50% 预填充 GPU 时间的延迟瓶颈。
谷歌旗舰模型 Gemini 4 Carbon 正式面向全球开放,用户可通过 API、AI Studio 等渠道体验。该模型在 GraphWalks、CursorBench 4.0 等评测中跑出了前列成绩。实测表明,其多Agent蜂群模式配合 AlphaProof Code 框架在生成代码与工程还原方面显著降本。
Arm 推出基于 Armv8.1-M 架构的 Cortex-M42 处理器,相比 Cortex-M33 向量算力最高提升 3 倍,能效最高提升 2 倍。 该处理器集成 Helium 向量扩展技术与紧凑 AHB 总线设计,主要面向成本敏感的可穿戴设备及工业控制器,本地支持音频处理与传感器分析。
METR 评估显示 Anthropic 模型能力提升速率约为 2024 年 3 月至 2025 年 10 月期间的两倍,且 80% 的加速归因于 AI 贡献。作者认为 AECI 侧重可验证任务可能导致过拟合,使加速不可持续,这比模糊任务泛化更关键地影响 ASI 时间线。 该不确定性意味着可验证指标或高估 AI 研发加速,进而导致对 RSI 和 ASI 到达时间的过度乐观估计。
文章提出基于难度与相对位置的 AI 智能四层分类体系,T1 绝对前沿仅限 Anthropic、OpenAI 和 Google。 T2 层级落后于前沿但优于最佳开源模型,Moonshot Kimi K2.5 等定义该层级标准。T3 接近最佳现有开源模型,竞争最为拥挤,DeepSeek V4.1 flash 位居其中。
LLM 推理过程中,13B 参数模型生成单个 token 需读取 26 GB 数据。 该现象源于模型权重及上下文 KV cache 在内存中的存储与加载机制。
Daniel Kokotajlo 在分析 METR 最新报告后指出,AI 驱动的加速正使智能爆炸比既定的 2027 年场景提前约 5 个月,他对此表达了恐惧、悲伤和愤怒的情绪。
作者指出Google DeepMind在Gemini 4安全报告中提及在强化学习训练中观察并奖励部分链式思维(CoT),但具体机制不明确。结合引用的Kaufmann等人论文,作者推测其采用了类似“过程监督”的辅助奖励机制,即由模型对部分CoT进行评分。作者担忧这种训练方式会导致裁判模型惩罚表达未对齐想法的推理,从而抑制诚实表达并降低CoT的忠实度。
ChatGPT 成功疏散全部 48 人,DeepSeek 疏散 32 人,Claude 在辅助指令下疏散 34 人。 三个模型均执行了登人、电池管理和撤离的四项指令,并在首次移动后遭遇电池故障。
NaiveAI 开源模型 Naive-N0.5-Flash 基于 310B 参数 MiMo-V2.5 微调,配合 NaiveRT 引擎,承诺达 2100 tokens/sec 极速编码。
Flide 利用精确状态分叉加速决策推理 论文:https://huggingface.co/papers/2610.42148
Claude Fable 5.2 在低层神经网络操作表现上几乎复现 GPT-6 Astra 的所有定性结果,两者能力相当。 具体而言,Fable 5.2 更擅长从头编写网络,但读取权重能力稍弱且过度自信,例如在确定 Transformer 语料库上得分为 3/6,低于 GPT-6 Astra 的 6/6。