跳到正文
11月4日周三
  1. arXiv · AI29

    数据中心通过查询路由实现电力灵活性

    该研究通过查询路由动态分配 LLM 推理任务,在保障服务的同时提供电力需求灵活性,验证误差为 2.8%。 框架涵盖 1B 至 70B 参数模型及四个 GPU 平台,在 10,000 块 H100 集群模拟中实现最高 16% 的电力灵活性,响应时间约 10 秒。 结果显示查询路由是数据中心电力调度的有效机制,框架可应用于更广泛的规划与编排。

  2. arXiv · NLP36

    迈向最优多草稿推测解码

    本文提出基于最优传输对偶问题的高效算法,计算多草稿推测解码(MDSD)在千级词表下的理论最优接受率。 研究首次量化现有验证算法与理论上限的差距,发现无放回采样的最优接受率优于有放回采样,且现有算法均未达到理论上限。 结果表明精心设计的草稿采样方法可提升接受率,并为逼近理论上限的验证算法开发提供方向。

  3. arXiv · ML23

    相关性为何毁掉梯度下降

    自然梯度下降因修正曲率而受限于梯度与数据相关性,新方法将其中一项修正从优化器移除并嵌入网络。 该方法以无矩阵求逆的递归动态实现去相关,且仅需突触局部信号,无需矩阵分解。 此技术显著提升生物启发式信用分配效果,并适用于神经形态硬件与分布式物理受限系统。

  4. AWS Machine Learning Blog36

    EDB Postgres AI 与 Amazon Bedrock AgentCore 构建 Agentic AI 语义层

    该架构利用 Postgres 扩展 AIDB 在运营数据库内部构建语义知识库 SemKB,实现数据与业务含义共置。结合 Claude 与 AgentCore Gateway,通过 MCP 端点暴露工具目录,利用 GRANT 权限和行级安全实现差异化访问。语义层直接嵌入数据库,通过注释和外键定义业务逻辑,支持 OpenTelemetry 追踪。

  5. AWS Machine Learning Blog23

    Gen Digital 如何利用 Amazon Bedrock AgentCore Web Search 构建 Norton Revamp 的 AI 策展新闻引擎

    Gen Digital 基于 Amazon Bedrock AgentCore Web Search 构建了 Norton Revamp 的 AI 策展新闻引擎,该平台于 2026 年 3 月上线。该引擎通过实时联网搜索为用户提供 AI 生成的内容建议、新闻流及目标设定,解决静态知识库滞后及传统爬虫基础设施负担过重的问题。

  6. NVIDIA Blog55

    NVIDIA 展示 AI 如何改变半导体晶圆厂工程模式

    NVIDIA 官方博客阐述了 AI 正在重塑半导体制造行业,使工程师能更快地进行工程决策与模拟。通过加速计算、基于物理的 AI 代理及数字孪生技术,NVIDIA 与 COMSOL、Applied Materials、Lam Research、Siemens 等公司合作,将多物理场模拟、光刻及等离子体预测等关键环节的时间成本大幅降低,部分任务的处理效率提升了 10 至 35 倍。

11月3日周二
  1. arXiv · NLP21

    生产环境 LLM 系统中外部经验服务的质量-成本权衡研究

    生产级 LLM 系统引入外部经验虽能提升任务质量,但会增加在线推理延迟与服务成本。 研究对比了无经验基线、随机控制、全局注入及检索式选择性注入策略,在真实内容审核场景中分析质量与成本的权衡关系。 结果表明,当经验依赖具体案例时,检索式选择性注入优于无条件全局注入,且检索质量比单纯增加 Top-K 数量更关键。

  2. arXiv · NLP38

    PGuard:面向多模态大语言模型的原生流式插件式安全护栏

    PGuard 将安全监控集成至大模型骨干中,利用中间表征实现 token 级安全检测,不改变原有推理路径。 支持动态层门控及多种表征架构,在 Qwen3.5-122B-A10B 上端到端开销仅 0.82%-2.26%。 在 30 余个基准测试中表现领先,Qwen3.5-9B 文本查询平均 F1 达 0.836,接近专用外部护栏。

  3. arXiv · ML35

    DualKV:共享提示 Flash Attention 实现高效长上下文 RL 训练

    DualKV 提出首个消除共享提示复用的 FlashAttention 内核变体,实现与标准注意力数学等价。 在 Qwen3-8B 上支持 8K 上下文和 32 次 rollouts,策略更新提速 1.63-2.09 倍,MFU 从 36% 提升至 76%。 该方案扩展至 30B MoE 模型和 64K 长上下文 Gemma-4-31B,有效解决大 rollout 长上下文训练瓶颈。

  4. arXiv · ML41

    SpecPilot 自动发现推测解码算法与系统优化

    SpecPilot 是一个自动智能体循环系统,通过发现新算法和系统优化提升推测解码性能。 单请求场景下,其将相对自回归解码的加速比从 4.46 倍提升至 10.87 倍;批量场景下,加速比从 1.94 倍提升至 3.93 倍。 该系统实现了无质量损失的无损 12-bit 权重格式和树状验证机制。

  5. arXiv · ML21

    HAFL:基于空天地一体化网络的层级异步联邦学习框架

    针对 6G 去中心化边缘基础设施,论文提出低轨卫星辅助的层级异步联邦学习框架 HAFL,通过地面卫星链路实现资源受限客户端协作。 HAFL 采用异步 Gauss-Seidel 型更新替代同步方法以加快收敛,并为凸及非凸目标提供理论收敛性证明,联合优化超参数以降低全局训练时延。 在基准 DNN 和数据集评估中,HAFL 实现更快的初始收敛和可比对的最终性能,显著减少全局轮次和通信成本。

  6. arXiv · ML32

    GRAPE 轻量级在线学习框架应对半导体制造中的虚拟计量分布漂移

    研究人员提出 GRAPE 在线学习框架,解决半导体制造中因设备退化导致的时间分布漂移问题,显著提升了虚拟计量模型的鲁棒性。 该框架集成稳定全局预测器与两个轻量级流式适配器,通过在线更新修正特征级和环境级偏移。 在包含时间顺序留出盲测流的两个真实数据集上,GRAPE 的性能优于传统批量学习及现有在线学习基线。

  7. arXiv · AI28

    PrismServe 异构加速器集群上高效 LLM 服务系统

    PrismServe 结合请求级协作与量化专家混合,在 48 个三厂商加速器上服务 Qwen3-14B 时,吞吐量达跨节点部署的 2.0-2.6 倍,P99 每 token 时间减少 55-65%。 该系统基于未修改的 vLLM 实现,两级路由器依据预测响应质量选择专家,并按负载和前缀缓存局部性选择副本,在 Qwen3-8B/14B/32B 的 5 个下游任务中精度接近全精度。

  8. arXiv · AI28

    TADA:感知内存技术的 DNN 加速器性能与能量估算器

    TADA 是一款支持跨内存技术泛化的 DNN 加速器性能与能量估算器,其设计空间探索吞吐量比仿真器提升超过 10^4 倍。 该模型在 21 条未见过的技术曲线上预测能量与延迟的平均绝对百分比误差分别为 1.5-4.4% 和 0.7-1.2%,支持 SRAM 及 ReRAM 等多种存储类型。 该研究已被 2027 年 ASPDAC 会议接收。