SAFESHIELD: 面向小型语言模型部署时安全的决策组织框架
论文提出SAFESHIELD框架,将部署时安全视为决策组织问题,通过责任分解与显式协调组织四类决策,并记录可审计的决策追踪。 协调消融实验显示,移除准入门控会大幅增加虚假放行,而剥夺上游证据使放行准确率从96.0%降至69.5%,证明决策组织对安全至关重要。 SAFESHIELD已获IEEE TPS 2026应用轨道接收,该工作为小型语言模型的部署安全提供了系统级设计依据。
论文提出SAFESHIELD框架,将部署时安全视为决策组织问题,通过责任分解与显式协调组织四类决策,并记录可审计的决策追踪。 协调消融实验显示,移除准入门控会大幅增加虚假放行,而剥夺上游证据使放行准确率从96.0%降至69.5%,证明决策组织对安全至关重要。 SAFESHIELD已获IEEE TPS 2026应用轨道接收,该工作为小型语言模型的部署安全提供了系统级设计依据。
T-CCL 利用 TMA 卸载数据移动和归约操作,在受限资源下比 NCCL 快 3.42 倍,且占用更少 SM 资源。 该库支持 AllReduce 等通信操作,并与 GEMM 重叠执行时提升 4-GPU 场景算子速度至 1.14 倍。 集成到 vLLM 作为通信后端后,端对端推理吞吐量比自动调度提升最高 1.31 倍。
OSFP4 通过联合优化对角平滑矩阵与块缩放,降低 NVFP4 量化误差。在相关设置下,其平均精度超过已评估竞品,并保留约 94-97% 的厂商 NVFP4 prefill 吞吐量。代码已在 arXiv 公布。
summary_zh: FluidPD 是一种 P/D 分离服务系统,通过 FluidToken 和 FluidRole 机制提供感知 SLO 的原地弹性,将 Azure 生产负载下的 SLO 达成率较静态 SGLang 最高提升 94.6 个百分点。
AMD 向 Radeon RX 9000、RX 7000 系列及 AI PRO R9700 显卡推送新版 Adrenalin 驱动,原生支持 ROCm 10.1 软件堆栈。 该驱动不包含游戏性能优化,仅引入 ROCm 10.1 支持,同时该版本 ROCm 新增 CLI 工具并支持 LLVM 24 编译。
HPE 发布 4 款基于 AMD EPYC 9006 处理器的 ProLiant Gen13 服务器,支持自动 SED 加密及增强后量子密码学 (PQC) 安全性。
GitHub 仓库 unawesome-ai-fabric-engineering 发布了一份面向 GPU 性能工程师的 AI 集群网络阅读清单。内容涵盖 RDMA 基础、GPU-NIC 数据路径、集合通信算法、推理传输、传输控制及 Fabric 设计,并引用 NCCL、GPUDirect、Meta/Google/AWS 等厂商基础设施报告与开源库。
微软在两年来的首场线下活动中发布了Surface Laptop Ultra,这是其首款采用Nvidia RTX Spark SoC的设备。该笔记本起售价2599美元,最高配备128GB LPDDR5x统一内存和6144核Blackwell GPU,将于10月16日开始发货。演示显示,得益于统一内存架构,该设备可在不依赖传统独立显卡的情况下运行《战争机器:E-Day》等3A大作及本地AI模型。
谷歌官宣 Chrome 155 浏览器支持解码 JPEG XL,该格式可提供 30-50% 的压缩率。 Chrome 采用 jxl-rs(纯 Rust 实现)解析图片,结合 SIMD 优化以维持速度。通过 AI 审查和模糊测试检查,未发现内存安全问题。
Chloe 是一个用 TypeScript 编写的开源 AI Agent,核心代码可读取、测试并托管于 Git。 它支持混合代码与 AI 任务,可连接 200+ 模型提供商,内置按步骤计费和运行监控仪表盘。 记忆以 Markdown 文件形式存储在本地,采用 MIT 协议,确保数据完全由用户掌控。
Windows ML 新增实验性 llama.cpp 支持,允许本地运行 GGUF 模型。 该更新包含 Windows-native Runtime API 预览版,提供 OpenAI 兼容端点及文本生成、语音识别 API。 此举提升了在 Windows 上构建本地智能体系统及开发模型的灵活性。
Amazon Quick 和 Amazon Bedrock 通过实时 ACL 检查,在查询时直接向数据源验证权限,解决了 RAG 中访问控制滞后的问题。 该系统采用混合架构:首先利用向量索引进行语义搜索和预检索过滤,随后调用 Google Drive 等权威 API 实时验证候选文档,确保仅将用户有权访问的内容传入大语言模型。
英伟达 CEO 黄仁勋在旧金山发布会上表示,英伟达的创立源于 Windows 系统,Windows 95 让 GPU 连接 PC 成为可能,DirectX 对早期 PC 图形技术至关重要,这基本是 CUDA 的起源故事。
GitHub 发布 ModernBERT 密钥检测模型,用于在 push 阶段拦截未结构化的密钥泄露,评估时间不超过 2 毫秒。该模型目前处于私有预览阶段,本月晚些时候将向 GitHub Secret Protection 企业云和 GitHub Teams 组织开放,并集成至 Copilot CLI 的 /security-review 命令。
推荐理由:GitHub 推出基于 ModernBERT 的通用密钥检测分类器,将扫描耗时压缩至 2 毫秒以内,用户可据此判断其如何解决 AI 代理加速代码产出带来的密钥保护挑战。
Cloudflare 推出多 AI 智能体安全运营系统,加速其托管防御(Managed Defense)的安全事件响应。该系统在调用推理模型前,先通过确定性代码执行固定侦察工作流以收集客户身份、检测历史及网络观察等数据,确保分析可复现。
summary_zh: Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟缩短至 10 分钟,降幅达 78%。
Qlik 基于 Amazon Bedrock 构建 Qlik Answers,提供带来源的企业级 AI 回答,已服务超 4 万客户。 自 2026 年 2 月正式版发布,其 Discovery Agent 已生成超 100,000 个发现;客户部署案例中,某公司响应时间缩短 75%,员工每周节省约 7 小时。
AWS 官方在 Machine Learning Blog 推出 Agentic Value Model,给 AI 卓越中心一套量化 agentic automation 价值的框架:把传统 RPA 式 ROI(工时×工资−建设成本)拆成时间节省、异常处理、决策质量、变更韧性四个价值池,并要求每个池指定实现机制和责任方,避免把释放的工时直接当作利润。
推荐理由:原文给出了可复用的 Agentic Value Model 和业务案例计算式,读者可以按四个价值池测算 Agent 投入是否真正落到损益表。
作者认为Oracle因建设AI数据中心而陷入自由现金流枯竭、裁员3万且信用评级恶化的困境,其核心原因是服务Anthropic等单一客户导致的高投入、高债务且客户切换成本低的商业模式。文章指出这是高风险的资本结构,并在AI泡沫破裂时可能导致严重后果。
Flux 是一款用于大语言模型推理的开源规划与运行时工具,会把模型“编译”到本地硬件上:先测量 GPU、CPU 和 NVMe 存储,再在真实 prompt 上为各层与 MoE 专家找到最快放置方案,生成可重复使用的“计划”,并通过 OpenAI 兼容 API 提供服务(flux serve,默认 127.0.0.1:8090)。
CoreWeave 宣布与 AdaniConneX 合作,将在印度孟买租赁 240MW 数据中心容量,用于部署 NVIDIA Vera Rubin 平台。 该容量位于 Taloja 园区,由 3 座 80MW 建筑组成,一期预计 2028 年中期投入使用,后续分阶段上线。 CoreWeave 计划在印度设立办事处、招聘员工,并可能将 Taloja 租赁规模翻倍至额外 240MW。
B2B 支付基础设施 Cord 新增自主 AI 催收智能体,可自动起草逾期账款邮件并提出分期付款方案。 智能体支持人工审批或全自动执行,平台同时提供 AI 自动构建报价单、实时跟踪客户打开状态及 90 天现金流预测功能。 该功能旨在通过自动化应收账款管理和支付集成,减少销售团队手动跟催与重复录入的工作量。
文章主张采用 Agentic RAG 作为 AI Agent 记忆的标准架构,摒弃固定向量 RAG 管道。 核心差异在于检索由 Agent 动态决策,而非预生成;Agent 可调用多种工具并迭代评估结果。 传统向量 RAG 易破坏文档结构(如表格、条款),且仅基于相似度而非任务相关性。
Anthropic 宣布将投资 1 亿美元创建一个名为 Claude Frontier Academy 的学院,旨在到 2027 年底前培训 10,000 名来自合作企业的“前沿部署工程师”。
Kubernetes 核心创造者 Craig McLuckie 和 Joe Beda 创立的 Stacklok 转向 agentic 基础设施,推出开源云原生 harness Mecatl。
华为终端 BG 董事长余承东提出未来十年长期战略,围绕鸿蒙智行、办公、智能家居、运动健康及影音娱乐五大场景,旨在提供无缝衔接的 AI 生活体验。 鸿蒙 HarmonyOS 6/7 设备数已突破 9000 万,鸿蒙智行全系累计交付超 156 万台。
作者通过手写Rust算法优化CI测试分片,使CI运行速度提升70%。他将测试分片建模为多处理器调度问题,采用平衡二叉搜索树实现O(n log n)复杂度,并通过AI辅助进行性能基准调优。该方案支持按目标执行时间动态分配Runner,可显著降低高并发测试场景下的CI等待时间。
CloudGrip 是一个基于 Node.js、Express 和 SQLite 构建的轻量级自托管 AI 代理网关,用于管理 LLM API 预算并控制执行循环。该工具提供预算熔断机制以自动停止超额请求,并具备实时监控及内置暗黑模式分析仪表盘,支持查看用户活跃度和 token 指标,日志数据保留在本地实例中。
作者认为 Jev 模型促使重新思考 AI Ops Engineering,主张将判断类任务从 LLM 中剥离,采用“数据→决策模型→工作流”的分层架构。 Jev 专门处理结构化决策而非文本生成,填补了确定性代码与 LLM 之间的空白,用于分类、风险检测等高频低复杂场景。 这种分层设计能显著降低规模化 AI 运维中的延迟、成本与复杂度,提升系统可观测性与可靠性。
作者分析了 AI 改变软件开发的两个维度:构建阶段的智能体编排与运行阶段的预测-执行能力。ModernPath 主张通过“知识核心”和可审计的生成流程来解决代码脱节问题;Aito 则提出基于校准概率的“认知层”,让应用程序在不确定情况下自主行动。文章指出,这两者都遵循“基于事实生成、设置门禁、闭环学习”的范式。
MIT Lincoln Lab 发布的 LAICS 调研覆盖 CPU、GPU、ASIC 等五类商业 AI 加速器的性能与功耗数据。该调研始于 2018 年,目前已完成六篇论文,数据公开在 GitHub 上。
该 GitHub Action 通过 Docker 容器对比文件变更,确保 AI 编写的代码未进行非预期的文件删除或重写。 它执行 arrange 与 act 阶段,利用 docker diff 检测差异,并将结果与 allowlist 比对,发现违规即报错。 该工具遵循 MIT 协议,可用于验证桌面应用或 CLI 工具在 AI 开发过程中的安全性。
作者使用配备 256 GB 统一内存的 Mac Studio M5 Ultra 运行多个本地模型,给出了不同场景下的吞吐和内存基准。他采用 Qwen、Gemma、DeepSeek 和 Cloudflare Clef-Flash 组成多模型架构,实现从简单任务到复杂决策的本地代理工作流。
AgSpec 是一个针对编码智能体流水线优化推测解码的框架,在两项仓库级基准测试中,其生成吞吐量相比自回归解码最高提升 4.37 倍(批处理大小 1)和 4.76 倍(批处理大小 16)。
该论文提出了一种生产级内容提取系统,旨在解决生成式AI工作负载中异构企业数据(如PDF、表格)的提取难题。系统在180份文档语料库上,最佳提取器得分97.4/100,特征错误率0.13%,表格相似度0.995;分块器在25,050个生成问题上达到Hit@1 68.6%,MRR 0.77。
AegisFlow 提出了一种基于 Watchdog 和 Repair 智能体的自愈框架,利用 LLM 自动创建、测试并部署代码补丁,将平均修复时间(MTTR)从 170 分钟降至 3.2 分钟。
1.4B 和 2.6B 参数 Ouro 模型经 uptraining 后,1K/16K 上下文解码吞吐提升 2.5 至 7.4 倍,保持 97% 以上基准准确率。
Nucleus Speculative Decoding (NSD) 通过结合目标模型核采样(nucleus)的合理性来放宽验证规则,提升推测解码效率。 该方法能接受属于目标模型 nucleus 的 draft token,从而在保持任务性能的同时增加保留 token 数。实验显示 NSD 相比自回归解码可实现最高 5.16 倍吞吐加速,相比标准推测解码最高达 3.15 倍。
提出循环式投机解码框架 DLoop,通过在模型自信时自适应地执行多轮起草,并在验证阶段统一处理累积的草稿 token,以减少目标模型的前向传播次数。 DLoop 引入循环感知训练策略,使草稿模型能够处理未验证草稿的隐状态。
多智能体系统 KernelOPT 提出针对 GPU 内核优化的结构化搜索方法,保留 cuBLAS 和 cuDNN 库调用,仅优化生成的 Triton 子内核。