SFA:一种受统计物理启发的扩散Transformer,用于高效且高质量的图像生成
北京大学团队提出受统计物理启发的Scale-Free Attention(SFA),将扩散Transformer中前向与反向传播的注意力复杂度优化至O(N log N)。
北京大学团队提出受统计物理启发的Scale-Free Attention(SFA),将扩散Transformer中前向与反向传播的注意力复杂度优化至O(N log N)。
研究者提出 SIMPLE 定律,通过四个参数解析 LLM 推理能耗,无需逐模型校准。在 13 个稠密 LLM 的 NVIDIA H100 实测中,其 MAPE 为 11.97%,误差比 SOTA 低 3.1-3.5 倍。
端侧多模态智能体面临注意力结构不整除与KV缓存随轮次膨胀两大部署错配问题。PARC通过一阶泰勒重要度进行结构化剪枝,使注意力维度可被核心数整除,并按时效性重组KV缓存,让历史图像移出持久缓存。在七核部署下,该方法将视觉编码器延迟降低11.4%,解码吞吐量提升23.8%,每堆内存峰值降低12.7%。任务感知恢复训练恢复了98.7%的动作类型准确率差距。
Open Inference Market (OIM) 提出一种 P2P 系统,利用“收益即抵押”机制使闲散 GPU 参与 AI 推理,无需依赖大型数据中心。 系统通过未结算收益作为审计挑战期抵押,确认作弊则没收,简化模型证明每日每工人 0.3 次重放即可抑制理性作弊。 该系统将算力、历史、审判和价值发布权逐步交还参与者,重构去中心化推理基础设施。
针对多-million美元训练任务因编译器缺陷导致的数值退化与内存损坏问题,提出一套基于 Google XLA:TPU 的超大规模验证方法。 该方法结合模糊测试与 AI 智能体集群,通过分层差分流水线定位融合内核中的失败操作,已解决 142 个编译器 bug。 此生产级框架不仅提升服务稳定性,还为大规模模型编译优化提供了经过实战检验的调试范式。
该论文提出版本化 replay contract 和联合规划器,在 H100 稀疏写入场景下,相比基线将配对步时降低 18.16%(44 GiB 预算)。 规划器根据实测显存和恢复成本,在激活保留、全量快照和选择性保留间做决策,并用独立验证确保一致性。 在 CIFAR-100 稠密队列任务中,该方法比全量快照多占 22.41% 显存,但各 seed 测试结果字节级一致。
NVIDIA 正联合伙伴在全球多地城市部署物理 AI 与智能体服务,基于 GTC Berlin 宣布的举措扩大共享计算基础设施覆盖。 具体案例包括马德里使用 Nemotron 等模型处理市政事务,以及马来西亚 ITMAX 通过 RTX PRO 6000 GPU 支持超过 17,000 个摄像头,并于 2027 年前实现交通管理优化,减少高峰时段通行时间多达 26%。
Hugging Face 发布 Transformers 模型集成契约标准,通过缩小模型尺寸在CPU上进行快速集成测试。该标准在测试中发现 UMT5 存在注意力缺陷,该缺陷导致解码器能关注未来 token,并在主分支存在近两个月。
我们对 Git 操作相当熟悉。很高兴团队终于能公开谈论这件事。特别致敬 @tnm 及其团队。
OpenAI 构建了 Git 兼容后端 Pando。 该后端专为 Codex 所实现的开发规模而设计。
Circle K 基于 Amazon Bedrock 构建自动分诊系统,将平均分诊时间降至 15 分钟以内,效率提升 67%–75%。 系统采用 Agentic AI 架构,利用 Bedrock Flows 及 AgentCore 自动检索日志并生成 Slack 摘要。 此举让值班工程师即刻获取可操作上下文,免去了手动排查 45–60 分钟的操作。
利用 Amazon Bedrock AgentCore 和 Nova Multimodal Embeddings 构建多智能体工程助手,自动化装配替代零件评估证据并生成文档,由 Claude 系列模型驱动路由与综合。
本教程演示了使用序列级知识蒸馏 (SeqKD) 在 Amazon SageMaker AI 上微调购物 Agent。使用前沿教师模型 (GLM-5.3) 生成多步轨迹并过滤,通过有监督微调在服务器上训练 Qwen3.5-4B 学生模型。微调后的 4B 模型在保留推理链的情况下,将绝对成功率从基座的 0.297 提升至 0.541,接近教师模型水平。
推荐理由:展示了如何仅用教师模型文本输出构建数据集并微调4B学生模型,保留推理链可将任务成功率从41.5%提升至54.1%。
AWS 展示如何用开源 Crawl4AI 处理网页内容以摄入 Amazon Bedrock Knowledge Bases。Crawl4AI 生成 Markdown 和元数据文件存入 Amazon S3,供知识库解析、嵌入并建立索引。 该方案适用于需要过滤导航栏、提取特定区域或添加自定义元数据的场景。工作流由 EventBridge 触发 ECS 任务执行爬取、上传及摄入作业。
OpenAI 启动 Grid Protectors Program,旨在与电力公司合作。 该计划致力于支持未来计算园区的电网可靠性。 同时帮助保护消费者电价成本。
Flide 引擎通过解耦逻辑树结构与物理执行流,在 GPU 驻留索引上实现精确算术推理,查询速度较 vLLM 和 SGLang 快 9.5 倍。 该引擎利用 ForkAttention 机制处理标准注意力及 Gated DeltaNet 递归层,支持从检查点恢复扩展的智能体历史。 Flide 为可扩展且低延迟的代理系统决策智能奠定了基础。
研究提出一种实值误差校正编码(ECC)框架,用于检测和纠正神经网络在硬件内存故障及计算错误下的运行异常。该方法对网络权重施加结构化的实值线性约束,结合线性规划与稀疏恢复技术,在不增加参数量或牺牲分类性能的情况下实现低复杂度纠错。据称这是首个同时解决神经网络内存与计算错误的实数基 ECC 方案。
在 Gated DeltaNet 和 Mamba2 混合架构模型中,全注意力 MTP 头部在长上下文下因频繁读取 KV 缓存导致性能下降,甚至慢于非推测解码。 该方法对 Draft 应用 StreamingLLM 风格的窗口与注意力汇,保持 Target 全上下文验证;训练无关且即插即用。
AIMER 提出了一种免校准的专家剪枝标准,通过捕捉专家权重的集中度模式提升任务通用性。 该方法在 7B 至 47B MoE 模型及 16 个基准测试中表现优于现有免校准方法,甚至优于基于 C4 语料的校准基线。 剪枝全程仅需 0.22–2.06 秒完成所有专家评分,已被 EMNLP 2026 Findings 接收。
Slim attention 将使用 MHA 的 transformer 模型上下文内存减半,在大型上下文窗口下推理速度提升最高 2 倍。该方法通过数学等价实现标准注意力机制,无损压缩内存且不损失模型精度。 示例中,Whisper 模型的上下文内存减少 8 倍,batch size 为 64 时 token 生成速度提升 5 倍;T5-11B 模型的内存减少 32 倍。
研究提出基于储备证明(PoR)的分类框架,利用3,033,857个以太坊地址和58个链上行为特征识别中心化交易所。在留一法协议下,LightGBM模型宏观PR-AUC达0.9594,优于逻辑回归的0.7697。SHAP分析识别出Gas行为和ERC-20代币活动是关键预测信号,支持可解释的区块链监控。
研究人员提出 TVQ 方法,利用直通估计使量化后的大语言模型支持基于梯度下降的任意目标优化。 该方法采用块级知识蒸馏范式平衡质量与效率,在 LLaMA2-70B 上实现近无损的 2-bit 量化,问答基准准确率仅下降 1%。 该研究被 ECML PKDD 2026 接收,展示了低比特后训练量化的 SOTA 性能。
论文提出多芯片let内存中心架构 AMMA,专攻低延迟长上下文 LLM 注意力服务,面向 1M token 场景优化。 AMMA 用 HBM-PNM 堆替代 GPU 计算 die,配合逻辑 die 微架构与两级混合并行,显著提升注意力推理带宽效率。 相比 NVIDIA H100,AMMA 注意力延迟降低 15.5 倍,能耗降低 6.9 倍,论文已被 MICRO 2026 录用。
TIRx 是一款面向 GPU 和 AI 加速器的 ML 编译器,通过引入显式执行域抽象、张量布局映射及 Tile 原语分发机制,在保留原生性能控制的同时自动化了底层代码生成。 其设计通过命名轴和分片/副本/偏移语义将逻辑张量映射至异构硬件空间,根据执行域、布局和后端选择高效实现。 评估结果显示,TIRx 在最新 GPU 和 AI 加速器上达到了厂商级性能,并显著减少了底层实现代码量。
InstruBPM 通过指令微调开源 LLM,利用参数高效微调与量化实现本地部署,从自然语言生成 BPMN 模型。 该方法在 BLEU、ROUGE-L 及结构保真度上优于未调优基线及专有模型,资源消耗更低。 生成的图表符合 BPMN 最佳实践,降低建模工作量,模型与脚本已公开。
研究人员提出硬件感知框架 SparseGDN,通过块相邻求解器和动态选择器减少长上下文预填充开销。 该方法在 Qwen3.5-4B 和 9B 上实现 1.50-1.94 倍 GDN 核心预填充加速,平均仅保留 29% 的递归事件。
研究提出分布式大象流路径预留机制 ARK,通过协调发送端源端口哈希将并发流映射至不同 Spine,避免无状态 ECMP 哈希碰撞导致的带宽利用不均。 在中等负载下的 RDMA 模拟显示,该机制使平均和 P95 流完成时间(FCT)分别降低最多 27.3% 和 34.0%,平均首 Token 时间(TTFT)降低最多 12.9%。 该工作发表于 SIGCOMM 2026 会议。
LEAP 通过在线适应和异步 CPU 执行,利用预填充隐状态提取长度信号,实现高效 LLM 推理调度。 相比最强基线,其参数量减少 30,569 倍,吞吐率提升 1.9%,每 token 延迟降低 15.9%–40.8%;在较大领域偏移下在线适应使 Spearman 相关系数提升 64.7%。
本文面向 FinOps 与平台工程团队,提供了一套管理 Amazon Bedrock 生成式 AI 成本的端到端五阶段操作手册。五阶段包括通过 IAM 标签和 CUR 2.0 归属每一笔花费、通过模型调用日志与请求元数据观测每一个请求、按组织风险承受度实施预算约束、通过智能路由与 Prompt 缓存优化平台默认设置,以及定期运行记分卡复盘。
本文演示了如何使用 Amazon Bedrock AgentCore 运行时中的 Session Endpoints,在你的浏览器中实时预览编码代理构建的 Vite 网站。通过本地端点,你可以直接观察代理保存文件时网站的变化,无需重新部署。示例展示了代理如何将深色主题变更实时推送到前端,以及如何通过 Session Endpoints 访问会话内的第二个端口。
Nemotron语音智能体将ASR、Bolt E4B、Magpie TTS和Audio2Face-3D整合在单工作站中,实现端侧语音角色交互。
ChatGPT 桌面应用现已在 AWS GovCloud (US) 的 Amazon Bedrock 上可用,支持通过 Work 和 Codex 访问 OpenAI 模型。
OpenAI 推出 Private Intelligence,使企业在使用其前沿模型时对数据拥有更强控制。该功能基于与大型客户的协作开发,旨在支持企业对敏感业务应用 AI。
Breakthrough Listen 与 SETI Institute 联合部署基于 NVIDIA Holoscan 的 Agentic AI 系统,实现地外智能信号的实时处理。
Qoder 升级连接能力,支持同一局域网内桌面端互联。用户可在常用 Qoder 客户端中直接连接其他设备,安排任务并查看进度,无需 SSH 配置或远程桌面切换。 设备间通过配对码连接,支持同步会话和远程更新,并可直接预览远端生成的 PPT、Excel 等文件。
高德地图将 Qoder CLI 接入钉钉群,构建需求、报警、代码审查三个 Agent 机器人,消除人工转述背景与搬运结果的环节。 技术架构基于 cc-connect 与 MCP 协议,五周内业务机器人完成 271 次 CodeReview,其中 25% 结论为需修复或阻断的 P0/P1 问题。 该实践验证了 Agent 嵌入即时通讯工具以获取上下文的有效性,成为团队日常研发流程的固定环节。
可灵AI于10月28日面向全球企业客户与开发者开放Kling 4.0 API,支持将视频生成能力接入自身产品与工作流程。 API具备全能参考、多关键帧控制及30秒原生直出能力,覆盖影视分镜、广告素材、游戏动态展示及多机器人协作场景可视化等应用。 该能力帮助企业和AI创作平台降低制作时间成本,提升画面稳定性与角色一致性,推动视频生成在各行业实际业务流程中的落地。
面壁智能今日启动 ForgeKernel 演示,Agent 在 10 小时内性能超越 DeepSeek V4.1-FlashMLA Prefill 算子的 FlashMLA 基准水平。 预计明日直播结束前,其性能还将继续爬升。
阿里 Qoder 上线桌面端互联功能,支持通过设备配对连接另一台运行 Qoder 的设备,用户可在常用客户端中发起远端任务并预览 PPT、Excel 等生成结果。
inclusionAI 开源扩散语言模型并行树形推测解码方案 UBTree,在 Qwen3-8B 上实现平均 6.94× 加速,并在 Ling3-Flash-124B MoE 模型上取得 3.43× 平均加速比。