Homeport AI 如何持续监控销售线索与客户
Homeport AI 通过结合 50 多种市场信号,持续监控销售线索并计算 0-100 分的 Why-Now Score。该工具自动将会议笔记同步至 CRM,基于 Open Telekom Cloud 存储数据以符合 GDPR 合规要求。
Homeport AI 通过结合 50 多种市场信号,持续监控销售线索并计算 0-100 分的 Why-Now Score。该工具自动将会议笔记同步至 CRM,基于 Open Telekom Cloud 存储数据以符合 GDPR 合规要求。
LayerFS 发布,这是专为 AI 编码智能体设计的文件系统,支持多智能体开发中的并行扩展。其核心机制包括瞬态工作区与持久共享历史,每个智能体挂载可写工作区并在完成后提交更改。系统支持分布式计算与共享存储,每个工具调用作为分支上的原子提交,并实现无文件复制的零成本分支与内容去重。
谷歌与Meta PyTorch团队联合开源原生TPU软件栈TorchTPU,开发者可通过少量代码改动将PyTorch模型部署至TPU,并在最多8000颗Ironwood TPU上完成训练验证,Qwen3-8B测试浮点运算利用率最高达52%。
法国AI办公工具Pigment完成2.5亿美元融资,估值达23亿美元,由Scaleup Europe Fund领投,英伟达参投。公司ARR突破1亿美元,客户包括谷歌、Uber等,计划部署能与企业资源规划软件结合的智能体,争夺使用微软、SAP等产品的企业客户。
Nvidia 发布了名为 Flare 的 LLM 推理系统,该系统基于 Blackwell 架构。 原文内容极简,仅提及产品名、架构及所属公司,无其他具体参数或影响描述。
summary_zh: NVIDIA 推出 Confidential Bare Metal 部署选项,利用机密计算保护专用第三方基础设施上的敏感工作负载,确保模型和数据控制权属。
NVIDIA 推出 NVIDIA Factory Operations Blueprint(FOX)早期访问版及 cuDSS 通用版,支持欧洲工业企业优化工程与制造流程。
NVIDIA 欧洲云合作伙伴正扩展计算能力,支持模型训练与推理,并强化 AI 智能体的安全边界。 Nscale 利用 NVIDIA DSX MaxLPS 在 GB300 NVL72 系统上实现 37% 更多 GPU 利用率。
Google Cloud和NVIDIA宣布NVIDIA Vera Rubin基础设施的实例将于下月通用可用,并计划扩展至欧洲。A5X实例整合了Vera Rubin NVL72、ConnectX-9 SuperNICs和第四代液冷技术,以支持大规模Agentic推理和强化学习工作负载。
推荐理由:官方确认了A5X实例在Google Cloud的通用可用性及欧洲扩展计划,并展示了其支撑大规模强化学习的集成平台架构。
Qoder将于10月22日16:30举办直播,由阿里云数据库高级技术专家为知分享数据库护栏的实际应用策略。直播将探讨为何写在提示词、Rules和Skill中的约束可能失效,并介绍四层护栏与“护栏四问”。 现场演示将展示同一条删除请求如何在执行前被拦截并留下记录,以证明护栏必须安装在执行路径上而非仅靠提示词。
提供独立沙箱隔离环境与自动化评估器,支持在 Agent 副本上安全优化,避免影响线上业务。 让 Agent 从单次试跑转向制度化考核,沉淀业务数据资产以提升长期可靠性。
超级峰分享 AI 开发实践,主张以场景驱动取代工具驱动,通过“提出需求—AI 执行—人工验收”循环实现 Human in the Loop。他将验证能力沉淀为自动化工作流,利用 Skill 和定时任务减少人工介入,确保产品持续迭代。
德国政府近期修改《能源效率法案》,取消新建数据中心强制回收废热的义务,改为仅要求评估可行性,以扫除建设障碍并推动AI算力翻倍。此举旨在减少对美国的依赖,但遭到前官员批评称牺牲了气候目标。此前,因合规困难导致Stack Infrastructure取消了在Hesse州30亿美元的数据中心项目,而新规可能激发被压抑的建设需求,但也可能引发公众对气候影响的进一步担忧。
Amazon 内部邮件显示,AWS 预计在美国站点部署前已预期约50亿美元 Nvidia GB300 机架,且未来每月还有约30亿美元的额外需求。由于部分站点有空间但缺乏电力,这些完工的机架只能存放在中转仓库,至少一个团队甚至没有明确的部署路径,表明电力而非芯片供应已成为AI建设的瓶颈。
Google 正式开源 TorchTPU 工具,允许原生 PyTorch 应用无需重构、只需简单配置变更即可运行在 Google TPU 上。该发布紧随 AWS 针对 Trainium 芯片发布的 TorchNeuron,随着两家超大规模云厂商均提供原生的 PyTorch 跨架构方案,Nvidia 在 AI 算力生态中的软件绑定优势正在减弱。
DeepSeek 发布开源推理框架 DeepInfer,该框架用于 V4.1-Flash 的推理服务并采用 Apache 2.0 协议。项目基于 vLLM 构建,内置 FlashMLA、DeepGEMM 和 DeepEP 等内核,支持 MoE 专家并行、draft-token 解码和确定性采样,并适配 Nvidia Blackwell 和华为芯片。
同一新闻,精选展示《DeepSeek 开源内部推理框架 DeepInfer 及编解码组件》
DeepSeek 开源了 DeepInfer 推理引擎和配套协议处理库 deepseek-recipe,披露单集群日均处理 155T tokens、96% 输入缓存命中率的实测生产数据。vLLM 团队随即发布官方对比,测得 decode 吞吐量在 GB200 上仅落后 DeepInfer 不到 6%,并公开了 AgentX 基准复现指南,以开源引擎实测数据回应单栈效率质疑。
推荐理由:vLLM 官方给出 decode 性能对比数据,修正了 DeepSeek 单栈优势叙事,并提供了开源生产推理堆栈的经济学测算框架。
Astrolab 公司计划今年晚些时候通过 Griffin-1 任务,发射搭载 HPE 星载 4 号计算机的 FLIP 月球车前往月球南极。这是人类首次在月面部署 GPU 并开展高性能计算与 AI 实测,该计算机具备无风扇设计及铠侠固态硬盘存储功能。
DeepSeek 将推理框架 DeepInfer 和生产级分词组件 deepseek-recipe 以 Apache 2.0 协议开源,支持每日 155 万亿 Tokens 吞吐,并承诺未来新模型的推理代码也将在此框架中持续更新。
作者分析指出,生产级 AI 系统正从以模型为核心转向由数据、检索、上下文、推理、评估和可观测性等多层架构组成。摘要指出,真正的工程挑战在于管理组件间的信息流转与故障边界,以及如何在反馈循环中持续保障业务结果,而非单纯选择更强的模型。
AMD 与英特尔共同宣布在 PyTorch 的 x86 CPU 优化方面展开合作,将各自优化工作整合进开源库 oneDNN。 双方计划让 oneDNN 成为 PyTorch 内 x86 加速的默认开源库,AMD 将 ZenDNN 优化集成至其中并加入 UXL Foundation。 此举旨在降低 x86 AI 生态碎片化,减少重复开发成本,实现跨 AMD 与英特尔 CPU 的统一软件路径。
是石科技在2026 CCF全国高性能计算学术大会发布TokenFleet分布式调度框架,聚焦集群调度以提升有效Token产出。该框架在GLM5.3测试中,使P95首Token延迟降低32.4%,达标输出吞吐提高约29.4%。 这一方案通过请求路由、跨机房容量协同和混合负载治理,提高现有算力的有效产出。
Racer 是一款 PTX 级符号等价性检查引擎,通过执行内核与参考实现于符号输入,将输出转换为精确代数表达式以识别逻辑错误。它在 2408 个生产内核和 41 个收集目标中发现 82 个真实 Bug,涉及 23 个库,其中 76 个为未知 Bug,41 个已确认。
长上下文 LLM 本地推理主要受限于自我注意力机制的资源低效利用,最新 GPU 往往表现最差。 研究分析多代 GPU 瓶颈,将问题归结为 KV cache 分页、缓存利用率和同步等数据管理难题。
CALM 通过离线校准层头合并策略,在相同显存预算下优化视频生成 KV 缓存压缩,使 LPIPS 降低约 21%。 该方法利用注意力输出误差作为轻量代理,结合动态规划确定最佳合并比例分配。
summary_zh: MLIPS 提出免训练的多层索引池共享方法,在 DeepSeek-V4-Flash 上通过 vLLM 实现长上下文推理加速 1.14 至 1.40 倍,并将 GPU 能耗降低 14.8% 至 27.4%。
自适应多 token 预测(AMTP)方法将解码速度最高提升 4.1 倍,且在 10 种设置中的 8 种匹配或超越固定窗口性能。 该方法基于 Llama-3.1-8B-Instruct、Medusa 头及 Qwen3-4B-Inst-2507-MTP 构建,在 AIME 2025 和 GSM8K 上评估,吞吐量最高提升 10%。
研究提出ACE-Compression框架,评估六个开源LLM在量化与剪枝压缩下的能力保留情况。 该框架涵盖程序推理、知识接地、社交认知及人格一致性四个维度,发现量化通常优于剪枝,但结果依赖于具体应用所需能力。 该方法将模型压缩从单纯关注准确率下降转变为可解释的能力诊断过程,为部署者提供方法选择依据。
Mulga 开发者 Bryn 认为 LLM 编写代码正在削弱团队对系统逻辑的共同理解,提出使用 TLA+ 形式化方法建立架构蓝图以指导 AI 开发。TA+ 规格是一种基于数学的模型,而非代码,它能精确描述状态机行为并被机器验证。
据外媒 Business Inside 报道,亚马逊云科技(AWS)部分数据中心面临供电能力瓶颈,导致订购的机架级 AI 算力系统无法按时启用。AWS 8 月预计每月将收到价值约 30 亿美元的机架,但部分设备因供电不足被暂存于临时仓库。为加速电力就绪并保障算力资源供应,AWS 调整惯例,在供应链早期阶段即取得机架所有权。
OpenAI API 现已支持 12 小时提示词缓存,允许持久型 Agent 在一天内复用上下文。在 Codex 和 Work 中,登录用户的缓存永久保留,用户重返旧对话或间隔数小时后恢复时均无惩罚并保证命中缓存。
戴尔 CEO 迈克尔 · 戴尔预警内存短缺将在 2027 年进一步恶化,制约交付的是内存而非需求,戴尔手握约 950 亿美元未交付 AI 服务器订单。新建内存工厂周期约四年,显著新增产能预计要到 2029 或 2030 年;过去 12 个月内存价格已暴涨近 500%。
AMD 确认 FSR 超分辨率 4.1 未来将支持更多 APU。目前该功能仅向锐龙 AI Max、锐龙 AI 9 及锐龙 Z2 系列三款掌机处理器开放。鉴于锐龙 7000/8000 系列及 300/400 系列的中低端型号硬件性能足以运行该功能,后续将扩展支持。
谷歌宣布面向自研 TPU 的原生 PyTorch 框架 TorchTPU 已在 GitHub 开源,使现有 PyTorch 应用仅需修改配置即可迁移到 TPU 与谷歌云,无需重写代码。
Meta 提出“薄编排层”架构,将 1,300 行编排层与 14 个专职子 Agent 分离,使新数据列配置准备时间从数小时缩短至 1 小时内。系统通过隔离上下文避免跨子系统的交叉污染,在规模化多步工作流中显著降低了幻觉风险并提升了执行效率。
推荐理由:通过 Meta 的 1,300 行编排层路由 14 个专职 Agent 的实践,展示了如何在生产环境中用架构隔离上下文以减少幻觉。
AI 数据中心的扩张正在引发“垃圾海啸”,揭示其隐藏的水资源成本。 文章指出这些基础设施对水资源的消耗构成了环境隐性负担。
SF Compute 正在构建 GPU 算力交易市场,旨在通过程序化控制网络、内存及 InfiniBand 架构,解决自建集群需 5000 万至 1 亿美元前期投入的痛点。 平台提供物理结算服务,根据 GPU 代际、网络配置及可中断性等约束匹配订单,实现算力的高效交易。 该市场强调中立性以区别于硬件厂商,将算力基础设施变为可交易、可管理的标准化商品。
Google 发布 TorchTPU,让 PyTorch 应用可运行于其自研 TPU 芯片,并联合 Meta 和 Hugging Face 确保兼容性,还更新 LiteRT 支持 PyTorch 应用。Amazon 推出 TorchNeuron 以支持 Trainium 芯片,并修改 PyTorch 源码以减少对 Nvidia 芯片的依赖,意在削弱 Nvidia 在 AI 开发领域的垄断地位。
构建基于 Beelink GTR7 和 RTX 3090 的本地 LLM 推理系统,以摆脱云端依赖并掌控个人数据。 通过 USB4 连接 eGPU 需调整内核参数(pcie_aspm=off)和 NVIDIA 驱动电源管理,避免系统崩溃。 该方案旨在降低长期成本并提升数据安全性,但本地模型部署配置复杂度远高于云端 API。
InferScale 是一款 GPU 原生 LLM 记忆系统,通过预计算可重用 KV 状态替代重复预填充,在 LoCoMo 基准上使 k=50 时 TTFT 降低 72-79%。