英伟达与 Brightspeed 洽谈将 130 座老旧电信建筑改造为小型数据中心
英伟达正与 Brightspeed 洽谈,计划将 130 多座老旧电信建筑改造为小型数据中心。英伟达预计这些设施合计可提供约 1 吉瓦的算力,能容纳 2200 多个 Supermicro Vera Rubin NVL72 机柜,每个机柜包含 72 颗 Rubin GPU 和 36 颗 Vera CPU。
英伟达正与 Brightspeed 洽谈,计划将 130 多座老旧电信建筑改造为小型数据中心。英伟达预计这些设施合计可提供约 1 吉瓦的算力,能容纳 2200 多个 Supermicro Vera Rubin NVL72 机柜,每个机柜包含 72 颗 Rubin GPU 和 36 颗 Vera CPU。
summary_zh: 开源 CLI 工具 Lowvram 通过拦截 CUDA 内存调用,让低显存 GPU 能运行大型 AI 模型。在 RTX 3060 上运行 YuE2 时,其生成速度达到 43.1 tokens/s,是标准加速方式的 23 倍。
Exxeta 发布开源免费桌面应用 exxperts,让 AI 助手将记忆存为本地 Markdown 文件,用户可在保存前审查和修改。应用支持 ChatGPT、Claude、GitHub Copilot 及 API 连接,并集成 MCP 工具;在 LongMemEval-S 测试中,使用其记忆功能的 Claude Sonnet 5 答对 47/50 题,优于全量历史的 41/50。
菜鸟 ZeeBot 攀爬机器人在“双十一”28 小时订单洪峰中累计垂直运行超 140 公里,波次出库准点率达 99.99%。 ZeeBot 无需专用轨道即可实现 Z 轴自由攀爬,单工作站产出相当于 2-3 名拣选员,使猫超仓存储效率提升至 3 倍、人效提升 2.5 倍。
IREN 称 Microsoft 在 8 月交付首栋建筑后提出的网络变更要求,导致其 97 亿美元得州 Childress 项目延期。IREN 预计 ARR 40 亿美元的时间点从年底前延至 1 月或 2 月,并因融资收紧放缓扩张。 Microsoft 因延迟和成本问题对 IREN、Nebius 和 Nscale 态度转负,且已表示因第三方延迟在 AI 基础设施上少支出 50 亿美元。
墨芯人工智能完成近10亿元C+轮融资,5个月内连续两轮融资,验证其稀疏推理芯片技术壁垒。 公司基于“权重+激活”双稀疏算法,S30计算卡在MLPerf™ Inference测试中连续三届夺冠。2026年Q3营收数倍增长,新一代板卡SP200及SECA架构即将发布。
Sam Altman 在 X 上将显示名改为 Ram Altman,源于其提出将闲置个人电脑内存集中至云端数据中心以提效的建议,引发马斯克等网友调侃。 民主党赢得美国众参议院多数席位后计划限制 AI 发展,消息导致美股一夜市值蒸发 2.8 万亿美元,英伟达跌入技术性熊市。OpenAI 计划下调 2027 年数据中心容量预期 40%,AI 算力扩张正推高全球 DRAM 价格与消费者硬件成本。
ActQuant 提出行动引导混合精度 PTQ 框架,在 LIBERO 基准上以 3 bpw 以下保留 OpenVLA-OFT 95.0% 性能。 通过 2.5 bpw 将主干压缩至 2.7 GB,实现 5.3 倍加速,并在 UR3 机械臂上保持基线成功率。
ReGuard 框架通过在推理时介入保护,无需重训即可发现并缓解基于 RL 的网络控制器在最坏情况下的性能退化。 该框架将场景发现形式化为双层遗憾最大化问题,在 Pensieve、Sage 和 Park 三个控制器上发现 43-64% 的性能损失。 ReGuard 通过轻量级逻辑规则介入高风险状态,在首次迭代中缩小 79-85% 的性能差距,其保护作用可延伸至更广泛的网络条件。
KV 缓存量化在降低显存的同时可能破坏 LLM 的安全对齐,Mistral-7B 在仅 1.03 倍困惑度损失下失去 15.2% 拒绝能力。 研究提出 Per-Channel Reduction 诊断方法,揭示了安全特征在低维激活子空间中易受量化噪声影响的几何根源。 该无训练协议只需约 35 GPU 分钟,即可在 vLLM 生产环境中恢复高达 97% 的丢失对齐。
一项指令级故障注入研究发现,LLM 的可靠性特征显著受模型架构、参数规模和任务复杂度的影响。 该研究通过多维度分析揭示了 LLM 在软错误下的易感性,不同于传统的视觉任务神经网络。 这些发现为设计更有效的容错机制提供了新见解。
针对线性注意力长上下文推理中状态更新导致的内存访问瓶颈,提出IO感知服务机制KVBuffer。该机制通过缓存键值对实现批量解码、并行验证投机解码及短上下文直接计算。 KVBuffer已在SGLang中实现,支持Qwen3.5和Nemotron-3系列模型,使批量解码速度提升最高1.47倍,投机解码最大服务请求量增加5倍。
RAVEN 利用递归感知预训练策略,在包含超 100 万独立个体的数据集上学习自回归生成临床事件,零-shot 预测性能超越标准下一词元模型并比肩微调表示模型。 该模型在数据受限、算力饱和场景下验证了单纯增大模型尺寸并非最优策略,且能泛化至外部患者队列。
TACT-KV 提出无校准的三轴余弦变换方法,压缩 3D 医疗扫描产生的海量视觉 token KV 缓存,消除结构内存墙。 方法对 KV 缓存执行可分离 3D DCT,通过逆向注水法分配比特预算并量化,6 个医疗 VLM 和 2 个 3D CT 基准中 12 个组合里 11 个取得最低 1-bit 预测翻转率。 在单 GPU 上,相同 HBM 限制下将解码批处理规模提升最高 8 倍。
ZYFA 专为 AMD Instinct MI355X 开发,在 32K 上下文长度下,FP8 吞吐量达到 AITER 内核的 1.16-1.76 倍。 采用直接计算概率、乒乓调度及缩放取整技术,解决了 FP8 无法加速 softmax 及指令重叠难题。
307M 参数多语言交叉编码器 Ru-Jev 后续版本增加标签表面形式增强,在普通词和外来词路由任务中准确率最高提升 0.24。 在缩写和晦涩代码场景下无可用增益,且部分指标随候选数增加出现置信错误上升。 模型在未见数据集上准确率变化为 -8.4 和 +5.6 个点,验证了增强对非熟悉词汇的鲁棒性。
FastAFD 引擎在 GB200 NVL72 上实现 AFD 优势,Qwen3 吞吐量提升 1.17 倍,Qwen3.5 提升 1.16 倍,MiniMax-M2.5 持平宽 EP。
KOSMOS 是一种自调度持久内核库,通过基于消费者需求的队列动态切换通信与计算角色,消除了固定调度带来的空闲窗口。
ACSeL 是一个专为内存和延迟受限环境设计的 LLM 推理配置搜索框架。 它结合轻量级质量代理、Few-shot Median Calibration (FMC) 和 BandPareto 搜索算法,在 NVIDIA Jetson Thor 等平台上显著提升了部署可行性。 该方法通过预测满足约束的最优配置,实现了生成质量与资源限制的高效平衡。
小型软件公司 Grayhat Developers 采用混合架构部署 AI,本地开源模型处理低复杂度任务,商业智能体负责复杂任务。 原每月约 $325 的商业 AI 成本涉及超 25.93 亿 token,约 30-40% 的工作量属于协调类任务。 迁移协调任务至本地模型后,预计可减少 27-36% 的整体商业 AI 使用量,集中配置的部署方式显著提升了采纳率。
LowRAM 提出一种非对称 KV 缓存压缩管线,通过测试时拟合轻量级逐头预测器实现值缓存摊销,达到 4 倍近无损值压缩。该方法结合跨层低秩键压缩,可将峰值解码吞吐量提升至 5 倍,并与量化及驱逐技术组合,在长上下文下实现 26.9 倍压缩且保持 94.5% 基线性能。
FlexFloor 通过联合自适应响应调度和活跃 worker 组,在保持专家计算需求的同时实现资源提前释放。 相比 verl 基线,FlexFloor 单位占用计算时间生成多约 65.40% 响应 token,响应生成吞吐量提升 52.74%。 rollout 奖励未见明显波动,从而支持大语言模型及 AI agent 更高效的后训练迭代。
Supermicro 推出 ARS-511GD-NB-LCC Super AI Station,这是一款采用可转换设计、兼具桌面塔式与 5U 机架两种形态的本地 AI 工作站。
World Labs 发布研究预览 Demo Frameboy,基于深度推理优化后的自回归世界模型 Atlas,允许用户通过浏览器从云端 GPU 以最高 15 fps 帧率实时探索由单张图片生成的 3D 空间。
同一新闻,精选展示《World Labs 推出 Frameboy 实时世界模型应用》
中国移动在2026移动网络大会上宣布,2027年采购总金额预计超5000亿元,其中算力投资超1000亿元。在已建成多个万卡计算集群基础上,公司计划再建2个吉瓦级计算园区,总数达7个,并预计未来两年智算能力将连续翻番。
中国移动公布 2026 年手机上网流量增长 18%,增速为去年两倍;AI 生成内容使流量增长 5 倍,成为主要驱动引擎。 数据显示 AI 应用流量上下行比为 1:6,且首 Token 调用平均时延达几百毫秒,其中移动网络侧试验时延仅 35 毫秒。 目前网络资源以保障下载为主,存在时延瓶颈,需通过网络与平台侧深度融合协同来解决。
三星 SDS 宣布韩国龟尾新 AI 数据中心动工,投资 4,273 亿韩元,占地约 4.63 万平方米,初期设计容量 60MW,未来扩展至 120MW,预计 2028 年底竣工。 数据中心采用风冷加水冷混合散热布局,支持新一代 GPU 服务器,既对外提供服务,也为三星系制造业机器人转型提供 AI 算力支持。
英特尔中国区董事长王稚聪进博会期间介绍绿色算力舱方案,该方案依托西部光、风能实现绿电直供,将算力就地转化为词元。 方案预计8至12周即可完成设计制造投用,采用800V高压直流供电提升算力密度,支持多舱互联扩展。 该方案契合“十五五”规划中的“词元经济”和“算电协同”方向。
京东物流在CeMAT ASIA展会发布升级版“狼族”机器人方案。智狼采用无线供电与旋转式取货平台,单台设备每小时作业突破240次,取货效率提升30%;保姆狼实现端到端全无人化分拣,搭载双臂具身机器人自动翻包投递,最高支持每小时34560件商品分播。
联发科将于 11 月 9 日任命前英特尔高管 Navid Shahriari 为高级副总裁,负责统筹先进封装及数据中心战略,直接汇报给总裁兼首席运营官。 Shahriari 拥有 37 年半导体经验,其核心任务是深化与台积电合作,推动“CoWoS+EMIB”双路线封装技术整合,强化联发科在 AI 和高性能计算领域的产品能力。
英伟达发布技术解读,指出 GPU 显存因大模型参数和智能体上下文增长而面临瓶颈,提出全栈协同设计理念。
推荐理由:原文呈现了英伟达解决内存墙的技术路径,并给出吞吐量提升的具体基准数据。
英伟达公布 Vera CPU 在智能体工作负载上的实测数据,该 CPU 在有限电力条件下支持更多智能体运行。对比测试显示,Vera CPU 每瓦吞吐量是速度最快的 x86 CPU 的 1.6 倍,且智能体速度是能效最高 x86 的 2 倍。
AgentSight 是一款基于 eBPF 的本地优先 AI Agent 可观测性工具,支持监控运行中的智能体在系统层面的实际行为,包括进程、文件及网络活动。该工具无需 SDK 或代理集成即可捕获 LLM 流量及系统效应,支持 Claude Code、Codex 等主流 Agent,并提供 SQLite 持久化存储、pprof 性能分析及 OpenTelemetry 导出功能。
Vienna Symphonic Library 发布 Vienna Performer,一款基于 AI 的管弦乐表演插件。用户输入 MIDI 即可渲染出具有真实乐手演奏细节(如呼吸、弓法、颤音)的音频,且无需手动调整 articulation。该服务采用订阅制(每月 €9.99 起),仅使用 VSL 自有的独家录音进行训练,不抓取第三方数据,并明确支持在商业项目中永久使用渲染结果。
它支持 ServiceNow、Datadog 等 250+ 集成,具备 SOC 2 认证与数据隔离,实测可降低 95% 告警噪音及 37% MTTR。
NVIDIA 发布 Vera CPU,其在单颗处理器内兼顾了高吞吐量与快 Agent 性能,解决了 AI 工厂对每瓦特处理能力的限制。在 100MW 数据中心对比中,Vera 比最快的 x86 CPU 实现了 1.6 倍的每瓦特 Agent 密度,比最具能效比的 x86 CPU 实现了 2 倍的 Agent 速度。
推荐理由:官方给出了 Vera CPU 与 x86 在能效比下的实测对比数据,读者可以据此判断其在 AI 工厂场景的落地潜力。
LocalStack 结合 AI 代理实现 DynamoDB 本地调试,通过暴露真实失败避免凭证泄露。 该方案利用 Docker Compose 部署 LocalStack,配置 boto3 指向 4566 端口并设置 dummy 凭证,无需真实 AWS 密钥即可运行集成测试。 演示修复了缺失 map 键导致更新失效和投票自比逻辑缺失两个缺陷,修复后所有测试通过。
亚马逊 A+ 内容使用高质量素材可提升 8–20% 销量,但现有单资产评估难以捕捉整体质量。该方案将完整电商页面渲染为快照,由 VLM 进行整体评估,并结合 OCR 信号与轻量级 CatBoost 分类器预测专家质量标签。 SHAP 解释用于生成改进建议,该端到端流水线基于 Amazon SageMaker AI 实现,涵盖数据摄取至生产监控。
GPT-Live 将对话前端与后端推理分离,虽提升了全双工交互自然度,但可能导致任务委派遗漏和前端无法微调。作者指出行业常以首音频时间衡量体验,忽略了首次实质性信息到达时间和任务验证完成的重要性,建议企业根据业务风险在可控性与对话流畅度间权衡架构选择。
NVIDIA 通过全栈协同设计优化 GPU、CPU 与存储层级,最大化每字节 HBM 利用率。 从 Blackwell Ultra 到 Vera Rubin 平台,单 GPU HBM 容量微增 3%,但在 SemiAnalysis AgentX 上每美元智能体吞吐量提升高达 30 倍。 该策略利用 NVFP4 压缩模型权重和 KV 缓存,并通过 NVL72 多卡分布与分层存储缓解内存墙限制。