跳到正文
11月3日周二
  1. arXiv · AI28

    PARC:面向端侧多模态智能体的并行对齐剪枝与轮次感知上下文复用

    端侧多模态智能体面临注意力结构不整除与KV缓存随轮次膨胀两大部署错配问题。PARC通过一阶泰勒重要度进行结构化剪枝,使注意力维度可被核心数整除,并按时效性重组KV缓存,让历史图像移出持久缓存。在七核部署下,该方法将视觉编码器延迟降低11.4%,解码吞吐量提升23.8%,每堆内存峰值降低12.7%。任务感知恢复训练恢复了98.7%的动作类型准确率差距。

  2. arXiv · AI22

    OIM:一个让任何人可加入的 P2P AI 推理计算中心系统

    Open Inference Market (OIM) 提出一种 P2P 系统,利用“收益即抵押”机制使闲散 GPU 参与 AI 推理,无需依赖大型数据中心。 系统通过未结算收益作为审计挑战期抵押,确认作弊则没收,简化模型证明每日每工人 0.3 次重放即可抑制理性作弊。 该系统将算力、历史、审判和价值发布权逐步交还参与者,重构去中心化推理基础设施。

  3. arXiv · AI37

    揭秘 Google XLA:TPU 编译器在超大规模下的正确性验证与分诊方法论

    针对多-million美元训练任务因编译器缺陷导致的数值退化与内存损坏问题,提出一套基于 Google XLA:TPU 的超大规模验证方法。 该方法结合模糊测试与 AI 智能体集群,通过分层差分流水线定位融合内核中的失败操作,已解决 142 个编译器 bug。 此生产级框架不仅提升服务稳定性,还为大规模模型编译优化提供了经过实战检验的调试范式。

  4. arXiv · AI33

    State-Aware Activation Recomputation 使用 Replay Contracts 和 Selective Preservation 优化显存

    该论文提出版本化 replay contract 和联合规划器,在 H100 稀疏写入场景下,相比基线将配对步时降低 18.16%(44 GiB 预算)。 规划器根据实测显存和恢复成本,在激活保留、全量快照和选择性保留间做决策,并用独立验证确保一致性。 在 CIFAR-100 稠密队列任务中,该方法比全量快照多占 22.41% 显存,但各 seed 测试结果字节级一致。

  5. NVIDIA Blog21

    NVIDIA 与伙伴在全球城市扩展物理 AI 与智能体服务

    NVIDIA 正联合伙伴在全球多地城市部署物理 AI 与智能体服务,基于 GTC Berlin 宣布的举措扩大共享计算基础设施覆盖。 具体案例包括马德里使用 Nemotron 等模型处理市政事务,以及马来西亚 ITMAX 通过 RTX PRO 6000 GPU 支持超过 17,000 个摄像头,并于 2027 年前实现交通管理优化,减少高峰时段通行时间多达 26%。

  6. AWS Machine Learning Blog31

    Circle K 利用 Amazon Bedrock 将 DevOps 事件分诊缩短至 15 分钟以内

    Circle K 基于 Amazon Bedrock 构建自动分诊系统,将平均分诊时间降至 15 分钟以内,效率提升 67%–75%。 系统采用 Agentic AI 架构,利用 Bedrock Flows 及 AgentCore 自动检索日志并生成 Slack 摘要。 此举让值班工程师即刻获取可操作上下文,免去了手动排查 45–60 分钟的操作。

  7. AWS Machine Learning Blog67

    Amazon SageMaker AI 通过序列级知识蒸馏构建高效 Agent 教程

    本教程演示了使用序列级知识蒸馏 (SeqKD) 在 Amazon SageMaker AI 上微调购物 Agent。使用前沿教师模型 (GLM-5.3) 生成多步轨迹并过滤,通过有监督微调在服务器上训练 Qwen3.5-4B 学生模型。微调后的 4B 模型在保留推理链的情况下,将绝对成功率从基座的 0.297 提升至 0.541,接近教师模型水平。

    推荐理由:展示了如何仅用教师模型文本输出构建数据集并微调4B学生模型,保留推理链可将任务成功率从41.5%提升至54.1%。

  8. AWS Machine Learning Blog28

    AWS 指导如何利用 Crawl4AI 为 Amazon Bedrock Knowledge Bases 准备网页数据

    AWS 展示如何用开源 Crawl4AI 处理网页内容以摄入 Amazon Bedrock Knowledge Bases。Crawl4AI 生成 Markdown 和元数据文件存入 Amazon S3,供知识库解析、嵌入并建立索引。 该方案适用于需要过滤导航栏、提取特定区域或添加自定义元数据的场景。工作流由 EventBridge 触发 ECS 任务执行爬取、上传及摄入作业。

11月2日周一
  1. arXiv · NLP23

    Flide:基于精确状态分叉的决策推理加速引擎

    Flide 引擎通过解耦逻辑树结构与物理执行流,在 GPU 驻留索引上实现精确算术推理,查询速度较 vLLM 和 SGLang 快 9.5 倍。 该引擎利用 ForkAttention 机制处理标准注意力及 Gated DeltaNet 递归层,支持从检查点恢复扩展的智能体历史。 Flide 为可扩展且低延迟的代理系统决策智能奠定了基础。

  2. arXiv · ML20

    神经网络实数误差校正码:硬件故障下的纠错框架

    研究提出一种实值误差校正编码(ECC)框架,用于检测和纠正神经网络在硬件内存故障及计算错误下的运行异常。该方法对网络权重施加结构化的实值线性约束,结合线性规划与稀疏恢复技术,在不增加参数量或牺牲分类性能的情况下实现低复杂度纠错。据称这是首个同时解决神经网络内存与计算错误的实数基 ECC 方案。

  3. arXiv · ML37

    AIMER:免校准的 MoE 专家剪枝方法

    AIMER 提出了一种免校准的专家剪枝标准,通过捕捉专家权重的集中度模式提升任务通用性。 该方法在 7B 至 47B MoE 模型及 16 个基准测试中表现优于现有免校准方法,甚至优于基于 C4 语料的校准基线。 剪枝全程仅需 0.22–2.06 秒完成所有专家评分,已被 EMNLP 2026 Findings 接收。

  4. arXiv · ML29

    Slim Attention 实现 MHA 上下文记忆无损减半

    Slim attention 将使用 MHA 的 transformer 模型上下文内存减半,在大型上下文窗口下推理速度提升最高 2 倍。该方法通过数学等价实现标准注意力机制,无损压缩内存且不损失模型精度。 示例中,Whisper 模型的上下文内存减少 8 倍,batch size 为 64 时 token 生成速度提升 5 倍;T5-11B 模型的内存减少 32 倍。

  5. arXiv · ML21

    利用储备证明在以太坊链上行为签名中分类中心化交易所地址

    研究提出基于储备证明(PoR)的分类框架,利用3,033,857个以太坊地址和58个链上行为特征识别中心化交易所。在留一法协议下,LightGBM模型宏观PR-AUC达0.9594,优于逻辑回归的0.7697。SHAP分析识别出Gas行为和ERC-20代币活动是关键预测信号,支持可解释的区块链监控。

  6. arXiv · ML32

    TVQ 实现大语言模型矢量量化后的梯度优化

    研究人员提出 TVQ 方法,利用直通估计使量化后的大语言模型支持基于梯度下降的任意目标优化。 该方法采用块级知识蒸馏范式平衡质量与效率,在 LLaMA2-70B 上实现近无损的 2-bit 量化,问答基准准确率仅下降 1%。 该研究被 ECML PKDD 2026 接收,展示了低比特后训练量化的 SOTA 性能。

  7. arXiv · AI20

    AMMA:面向低延迟1M上下文注意力服务(Attention Serving)的多芯片let内存中心架构

    论文提出多芯片let内存中心架构 AMMA,专攻低延迟长上下文 LLM 注意力服务,面向 1M token 场景优化。 AMMA 用 HBM-PNM 堆替代 GPU 计算 die,配合逻辑 die 微架构与两级混合并行,显著提升注意力推理带宽效率。 相比 NVIDIA H100,AMMA 注意力延迟降低 15.5 倍,能耗降低 6.9 倍,论文已被 MICRO 2026 录用。

  8. arXiv · AI29

    TIRx:面向异构后端的统一 Tile 原语 ML 编译器

    TIRx 是一款面向 GPU 和 AI 加速器的 ML 编译器,通过引入显式执行域抽象、张量布局映射及 Tile 原语分发机制,在保留原生性能控制的同时自动化了底层代码生成。 其设计通过命名轴和分片/副本/偏移语义将逻辑张量映射至异构硬件空间,根据执行域、布局和后端选择高效实现。 评估结果显示,TIRx 在最新 GPU 和 AI 加速器上达到了厂商级性能,并显著减少了底层实现代码量。

  9. arXiv · AI25

    ARK:分布式 LLM 推理中避免 KV Cache 传输路由冲突的机制

    研究提出分布式大象流路径预留机制 ARK,通过协调发送端源端口哈希将并发流映射至不同 Spine,避免无状态 ECMP 哈希碰撞导致的带宽利用不均。 在中等负载下的 RDMA 模拟显示,该机制使平均和 P95 流完成时间(FCT)分别降低最多 27.3% 和 34.0%,平均首 Token 时间(TTFT)降低最多 12.9%。 该工作发表于 SIGCOMM 2026 会议。

10月31日周六
  1. AWS Machine Learning Blog53

    管理 Amazon Bedrock 成本的端到端指南:FinOps 与平台团队操作手册

    本文面向 FinOps 与平台工程团队,提供了一套管理 Amazon Bedrock 生成式 AI 成本的端到端五阶段操作手册。五阶段包括通过 IAM 标签和 CUR 2.0 归属每一笔花费、通过模型调用日志与请求元数据观测每一个请求、按组织风险承受度实施预算约束、通过智能路由与 Prompt 缓存优化平台默认设置,以及定期运行记分卡复盘。

  2. AWS Machine Learning Blog55

    Amazon Bedrock AgentCore 运行时中实时预览编码代理构建的 Web 应用

    本文演示了如何使用 Amazon Bedrock AgentCore 运行时中的 Session Endpoints,在你的浏览器中实时预览编码代理构建的 Vite 网站。通过本地端点,你可以直接观察代理保存文件时网站的变化,无需重新部署。示例展示了代理如何将深色主题变更实时推送到前端,以及如何通过 Session Endpoints 访问会话内的第二个端口。

10月30日周五
  1. Qoder43

    高德地图通过 Qoder CLI 在钉钉群部署三个 Agent 机器人实现工作流嵌入实践

    高德地图将 Qoder CLI 接入钉钉群,构建需求、报警、代码审查三个 Agent 机器人,消除人工转述背景与搬运结果的环节。 技术架构基于 cc-connect 与 MCP 协议,五周内业务机器人完成 271 次 CodeReview,其中 25% 结论为需修复或阻断的 P0/P1 问题。 该实践验证了 Agent 嵌入即时通讯工具以获取上下文的有效性,成为团队日常研发流程的固定环节。

  2. 可灵AI49

    Kling 4.0 API 开放,赋能影视、广告及具身智能多行业应用

    可灵AI于10月28日面向全球企业客户与开发者开放Kling 4.0 API,支持将视频生成能力接入自身产品与工作流程。 API具备全能参考、多关键帧控制及30秒原生直出能力,覆盖影视分镜、广告素材、游戏动态展示及多机器人协作场景可视化等应用。 该能力帮助企业和AI创作平台降低制作时间成本,提升画面稳定性与角色一致性,推动视频生成在各行业实际业务流程中的落地。