跳到正文
11月2日周一
  1. 36氪53

    从第一性原理看AI基础设施:算力的尽头是电力

    算力的尽头不完全是电力,而是发电、电网、散热、内存封装、资本和社区许可的链条约束。国际能源署测算,数据中心用电量将从 2025 年的 485 太瓦时翻倍至 2030 年的 950 太瓦时,AI 专用数据中心用电量将在同期增长到原来的三倍;按季度迭代的需求撞上按十年规划的电网,使变压器、燃气轮机和并网排队成为新的瓶颈。

  2. Hacker News AI50

    Eclypsium 报告:黑客可通过篡改底层基础设施投毒 AI 模型

    Eclypsium 报告显示,攻击者可篡改 AI 运行时的固件与软件层向模型注入偏差,无需修改模型文件本身即可影响输出。 该风险涉及 DPU、管理控制器及第三方组件等特权组件,研究已验证该技术在传统安全校验后仍能有效改变运行时权重。 文章建议芯片厂商参考 Nvidia 利用 DPU 独立执行安全策略,并企业应完整盘点 AI 基础设施组件以强化可信验证。

  3. TechCrunch · AI31

    OpenAI 拟将数据中心重新命名为“AI 计算园区”

    OpenAI 计划在美国中期选举后发起公关攻势,拟将数据中心重新品牌化为“AI 计算园区”,以改善社区观感并影响 AI 政策辩论。 其全球事务首席官 Chris Lehane 指出,此次行动旨在推动 AI “限速”提议、强调 AI 对个人的赋能,并促美参与制定全球标准。 此举意在应对数据中心面临的高反对率,确保社区从相关项目中获得切实利益。

  4. Hacker News AI43

    Kilasec 推出 AI 流量护栏工具

    Kilasec 发布网络层 AI 流量护栏工具,支持无需 SDK 接入即可监控、限流及拦截高风险 AI 调用。 工具通过 K app 路由 AI 流量至自持硬件容器,实时解密检测 OpenAI 等 30+ 端点,自动脱敏 PII 与密钥并扫描返回响应中的反向 shell 等威胁。 审计日志支持保留 7 年以符合 SOC 2 等合规要求,确保 AI 流量在离开网络前完成安全防护。

11月1日周日
  1. Hacker News LLM76

    Uniichat 开源:基于本地运行持久化 AI 智能体团队

    Uniichat 是一个开源本地工具,在用户电脑上运行由 AI 智能体组成的团队,支持基于用户 Claude 订阅或 API 密钥调用模型。核心机制为每个智能体维护单一长会话,消息通过二叉树结构进行摘要合并,支持向下展开回溯至原始消息,上下文最大 128 KB;父智能体可为不同任务生成子智能体,各自独立处理 git worktree 分支,并由父级审查合并。

    推荐理由:开源仓库提供了一套本地多智能体架构,让不同任务分支保持独立记忆并通过 git worktree 协作。

  2. 机器之心65

    从第一性原理看 AI 基础设施:算力瓶颈从 GPU 转向电力与电网

    AI 基础设施的瓶颈已不在算力本身,而是扩展到了发电、散热、先进封装与电力电网的供给周期。文章指出,尽管 AI 单次任务能效在提升,但因需求用量激增与任务复杂化,数据中心用电总量仍将翻倍增长。

    推荐理由:从电力、热密度、芯片封装与资本开支等维度拆解 AI 基础设施瓶颈,展示系统间的时序错配。

  3. TechCrunch · AI38

    xAI 数据中心污染诉讼获法院批准继续审理

    联邦法官驳回了 xAI 要求驳回 NAACP 诉讼的动议,允许指控其未获许可运营 Colossus 数据中心燃气轮机的案件继续审理。 南方环境法律中心指出,xAI 在 Colossus 站点安装并运营了至少 35 台燃烧轮机及其他污染源,且从未获得必要的前置施工或运营空气许可,此举违反了《清洁空气法》。

  4. 智东西43

    百度智能云推出AI Infra与Agent Infra双层基础设施,支撑产业智能体落地

    百度智能云发布AI Infra与Agent Infra双层基础设施,解决智能体长期运行的资源供给、数据连接与安全管理难题。 Agent Infra涵盖沙箱、计算、网络、存储、可观测及安全能力,优化交互界面以降低智能体调用门槛;百舸AI计算平台6.0升级算力供给效率。 该体系支撑智能体深入社区治理、工厂生产等产业一线场景,将模型能力转化为可复用的产业价值。

  5. Hacker News LLM21

    UlaCache:面向稀疏 LLM 推理的统一逻辑寻址 KV 缓存系统

    论文提出 KV 缓存管理系统 UlaCache,通过统一逻辑地址空间解耦 LLM 推理中的 KV 分配与物理位置,支持数据并行和张量并行的稀疏注意力。 在 CPU 和 GPU 内存预算匹配且启用推测解码的条件下,UlaCache 在 H200 上的峰值解码吞吐量加速比达到 1.70×(TP)和 1.16×(DP),在 B300 上则达到 2.51×(TP)和 1.73×(DP)。

10月31日周六
  1. 量子位52

    新芯航途X7 Ultra发布:首次以世界模型指导芯片设计,算力利用率达98.7%

    新芯航途首次公开亮相并推出芯片X7 Ultra,该芯片由Momenta的R7世界模型指导设计,NPU算力为700 TOPS,计算利用率达98.7%。其采用超大核架构与专用激光雷达加速器,对比行业旗舰产品内存带宽消耗降低80%,能效提升100%,并采用Arm v9车规级CPU。该设计旨在通过软硬件协同优化,加速智驾“摩尔定律”向每年提升10倍演进。

  2. 机器之心72

    无问芯穹登顶SOL-ExecBench:国产Agentic Infra探索RSI与GPU物理极限

    无问芯穹通过自建Agent框架在NVIDIA SOL-ExecBench中登顶四大算力赛道,展示了利用Agent持续优化底层算子以探索递归自我改进的工程实践。团队通过容器隔离与Skills机制保障优化过程的安全边界,并发现资源调度与Agent行为会相互影响系统效率。实践表明,AI基础设施正在从单纯支撑智能运行,转向通过反哺计算系统与优化自身机制参与系统的自我改进。

    推荐理由:通过剖析无问芯穹在SOL-ExecBench中的系统实践,呈现了国产Agentic Infra如何通过机制自我改进参与底层优化的RSI路径。

  3. AWS Machine Learning Blog53

    管理 Amazon Bedrock 成本的端到端指南:FinOps 与平台团队操作手册

    本文面向 FinOps 与平台工程团队,提供了一套管理 Amazon Bedrock 生成式 AI 成本的端到端五阶段操作手册。五阶段包括通过 IAM 标签和 CUR 2.0 归属每一笔花费、通过模型调用日志与请求元数据观测每一个请求、按组织风险承受度实施预算约束、通过智能路由与 Prompt 缓存优化平台默认设置,以及定期运行记分卡复盘。

  4. AWS Machine Learning Blog55

    Amazon Bedrock AgentCore 运行时中实时预览编码代理构建的 Web 应用

    本文演示了如何使用 Amazon Bedrock AgentCore 运行时中的 Session Endpoints,在你的浏览器中实时预览编码代理构建的 Vite 网站。通过本地端点,你可以直接观察代理保存文件时网站的变化,无需重新部署。示例展示了代理如何将深色主题变更实时推送到前端,以及如何通过 Session Endpoints 访问会话内的第二个端口。

  5. Hacker News AI51

    Kubernetes 如何重构调度与扩缩容以支持 AI 负载

    Kubernetes 社区正在解决 AI 负载下调度器与自动扩缩容器之间的协同难题。DRA 扩展已为两者建立了关于硬件拓扑和设备共享的通用语言,但 Gang Scheduling 仍需通过 Provisioning Request 等机制进行桥接。SIG-Autoscaling 正在推进集成 API,旨在实现调度与扩缩容决策的原子化同步,以避免加速器资源空闲浪费。

  6. R/ArtificialInteligence42

    Clover-35B-A3B 在 64 GB Mac 上实现 42.46 tok/s 推理

    Clover-35B-A3B-Preview 通过 6-bit 量化在 64 GB Mac 上实现平均 42.46 tok/s 生成速度。 混合精度 checkpoint 占用 29.4 GB 权重,使用 MLX 框架和 8-token 块生成优化推理路径,加载耗时约 124 秒。 当前模型质量未完善,最新配置在自定义 40 案例测试中通过 35 项,仍有代码格式错误未解决。

  7. 智东西57

    腾讯云升级ADP并推出AgentPortal 2.0,构建企业级Agent生态

    腾讯云在2026年10月30日的全球数字生态大会上升级智能体开发平台ADP,发布AgentPortal 2.0,并宣布与WorkBuddy双向打通。此次升级明确了ADP的Service Agent定位,重点强化安全私网连接、租户及权限隔离能力,支持不同Agent按权限访问ERP等内部资源,并引入Claw、标准、多智能体、工作流四种模式以适配不同业务需求。

  8. Hacker News AI44

    Gnosh.ai 发布基于 Gno 的智能编码代理,支持思考、规划与记忆功能

    Gnosh.ai 推出编码代理,在 Gno VM 中运行以保持目标、事实和提醒,新会话自动续接。 它是 Charm Crush 的安全优先分支,支持本地或托管模型,无数据回传;实测使用 Qwen3.8 27B 在家庭设备完成指数退避计算,响应约 1 ms。 事实更新覆盖旧值,新会话默认加载最新信息,无需额外调用 mem 即可回答。

  9. Hacker News AI40

    Open Rock 开源 AI 聊天界面发布

    Open Rock 是一款支持 AWS Bedrock 和自有服务器模型的开源 AI 聊天界面,以网站或 Tauri 桌面应用形式运行。支持接入 Gemma、Llama、Qwen 等模型,并兼容 Ollama、vLLM 等推理后端。提供按 token 计费、上下文管理、多文件上传及用量统计功能。

  10. Hacker News AI27

    NKTg AI 展示:基于 WebAssembly 的本地化 LLM 文本解码系统

    NKTg AI 展示了一款基于物理算法测量语义能量的文本解码系统,而非生成式 LLM。该系统通过 WebAssembly 在浏览器本地运行,实现零数据泄露、低延迟和离线操作,无需连接云端服务器。其架构分离了逻辑处理与生成接口,旨在通过隔离核心内容与条件噪声来缓解传统 LLM 的幻觉问题。

  11. 量子位85

    面壁智能开源ForgeKernel:AI零帧起手写算子,性能超DeepSeek FlashMLA 9.8%

    面壁智能宣布开源AI算子生成系统ForgeKernel。该系统在英伟达B200上通过22.5小时自进化,使生成的FlashMLA Prefill算子耗时降至472微秒,比DeepSeek开源的FlashMLA快9.8%。ForgeKernel在昇腾多张硬件榜单位列第一,其生成的算子已在国产芯片上完成MiniCPM5-1B长训测试。

    推荐理由:面壁智能宣布开源AI算子生成系统ForgeKernel,展示其零源码编写算子并超越人类专家手写的实际性能。

10月30日周五
  1. Hacker News AI47

    AI 正在导致 SRE 技能退化而非取代 SRE

    AI 并未取代 SRE,而是通过自动化常规任务导致人类处理复杂故障的能力退化。医学研究显示,使用 AI 辅助的内镜医生在撤除辅助后息肉检测率从 28% 降至 22%。 SRE 若仅处理 Tier 3 级复杂事件,将缺乏处理问题的直觉与经验积累。AI 使任务感觉更轻松,掩盖了技能退化的事实,导致用户无法准确评估自身能力。

  2. Hacker News AI47

    Omneum 开源:面向 AI Agent 的本地化、文本盲检上下文控制平面

    Omneum 开源发布,这是一款针对 AI Agent 的本地化上下文控制平面,旨在通过优化证据来源提升 LLM 上下文窗口内的推理质量。 其核心采用双向图进行溯源感知推断,避免阅读源文本即可评估可靠性。在 80-unit 预算演示中,Omneum 保留 2 个区块实现 4/4 声明覆盖,比常规 RAG 少用 32% 空间。