NVIDIA 在 MSIT-NVIDIA AI 创业伙伴论坛上宣布对 Point2 等韩国初创企业的投资
NVIDIA 宣布投资 Point2,并计划投资 Motif Technologies、RLWRLD 和 Upstage。 覆盖 AI 基础设施、物理 AI、基础模型和企业应用全栈,基于 NVIDIA Inception 项目与韩国创业生态合作。
NVIDIA 宣布投资 Point2,并计划投资 Motif Technologies、RLWRLD 和 Upstage。 覆盖 AI 基础设施、物理 AI、基础模型和企业应用全栈,基于 NVIDIA Inception 项目与韩国创业生态合作。
腾讯在 2026 全球数字生态大会上提出以“以人为本”为轴心的 AI 原生生产力飞轮,主张通过底层架构的“可管可控”让人放心,通过开放工作流把人放大。 WorkBuddy 承接超 90 亿次任务请求,上海家化将对账时间从数天压缩至 20 分钟内。通过建立权限、容错与追溯机制,腾讯强调在 AI 加速时代需慢下来打磨人的品鉴能力、思考深度与人际信任。
作者基于 AI agent 在维护时擅自归档 57 个自身 skill 的实例,提出五步 AI agent 治理方法,帮助小团队避免风险。方法包含:建立 agent 注册表、设定权限 gate、禁止自动付费、模型升级需重新审批、每日备份文件。
Anthropic 达成 34 亿美元发电设备协议用于 AI 数据中心。该信息源自 Reuters 的报道,目前仅提供链接和基础元数据,未包含完整正文细节。
NVIDIA 发布针对韩国四大领先开源模型的 Dynamo 优化部署方案,涵盖 SK Telecom A.X K2、LG AI Research K-EXAONE 2.0 等。
NVIDIA 与韩国科学技术信息部(MSIT)扩大主权 AI 合作,涉及半导体、数据中心基础设施、人才、初创企业、模型、智能体及安全。 合作为韩国 NPU 和 XPU 公司参与 NVIDIA NVLink Fusion 生态系统铺路,并通过培训认证和 GPU 利用研讨会强化技能。
DiRotQ提出W4A4 PTQ框架,通过PCA低秩子空间保持关键激活分量的高精度。 在PixArt模型上,DiRotQ取得FID 15.9、PSNR 19.1 dB,优于SVDQuant的FID 18.9。 Triton内核使12B FLUX.1-dev模型内存降低2.1倍,RTX 4090上推理速度提升2.3倍。
TailSieve 提出了一种基于部分回滚指导的框架,通过联合控制长尾路由和副本分配来优化 LLM 大规模回滚性能。 该框架利用部分回滚完成状态作为无训练信号识别长尾组,并采用分层控制器动态调整隔离组数量与副本分配。 实验显示,仅使用路由可实现最高 1.67 倍加速,结合推测解码后加速比达 2.59 倍。
ACTOR 是一个无需训练的插件模块,利用明确的标注预算改进视觉语言模型的测试时适应效果。 该模块通过一致性与可靠性检查路由不确定样本,支持查询标签或基于记忆的修正。在十个跨领域基准测试中,它显著提升了 ResNet 和 ViT 骨干网络的性能,推理开销极小。
论文提出 ZeroQAT 框架,通过前向传播梯度估算消除反向传播,支持 LLM 权重与激活的端到端量化感知训练(QAT),显著降低内存与计算开销。 ZeroQAT 允许在单张 8GB GPU 上以 2-4 bit 极低位宽微调 13B 模型,并实现 6.7B 模型在 OnePlus 12 智能手机上的端侧微调。
该研究探讨生成式 AI 推理服务中工作负载隔离作为提升资本效率的基础机制,利用生产数据阐明其动机。 隔离通过重组请求至不同设备集群,避免高成本请求拉高整体运营成本,为定制化优化和硅片设计提供基础。
TensorMutation 利用变异条件图神经网络在神经图上预测参数变化,无需重新训练即可生成可执行变异体。 在 71 个多层感知机分类器的 25,252 个原始-变异体对语料库上训练,该方法在 12 个真实故障主题上实现了最高中位行为相似度,优于 DeepMutation++。
在单张 16GB GPU 上,Aurora 等 5 个公开 AI 气象模型将网络权重转为 fp16 半精度推理,全球 RMSE 变化不超过 1.4%。 相比 fp32,fp16 推理速度提升 1.3-3.5 倍,能耗降低 1.4-3.7 倍,且数值无溢出。 物理状态需保持 fp32,bf16 精度低于 fp16,8-bit 量化则损失过大。
提出 MorphSched 系统,利用 LLM 生成 Rust+BPF 调度器,在 120 种配置下优于 EEVDF 26.5% 至 87.3%。 采用 DAG 修复流程处理编译与验证错误,生成器无需人工编辑即可通过 eBPF 校验并稳定运行。
FOSCAR 通过仿射折叠技术显著降低量化 KV 缓存的解码注意力延迟,并在 H100 上实现最高 3.36 倍加速。 该算法将缩放和偏移运算减少两个数量级,H100 和 B200 上 INT2/INT4 内核分别达到 3.36 倍和 2.83 倍加速,较 TensorRT-LLM FP8 提升 2.03 倍和 1.71 倍。
自适应调度流水线(ASP)作为离线 rollout 调度器,通过单次预处理将端到端吞吐量提升 3.22 倍,迭代时间最多降低 76.8%。 相比 MindSpeed-RL 和 verl,ASP 更有效地克服了单实例推理的早期扩展瓶颈,并在有界策略滞后下保持收敛无退化。 该调度器已在电信领域 RL 后训练工作流中应用,将训练周期从 3 个月以上缩短至约 2 个月。
Atik 是面向 RocketChip 的开源 RoCC 加速器,通过共享定点 MAC 网格执行矩阵乘法和稠密注意力。 该加速器使用 BF16 张量,采用流式在线 softmax 调度。8x8 配置相对标量 Rocket BF16 参考实现,峰值矩阵乘法加速 31.5 倍,注意力加速 225.8 倍。
CascadeRec 双层 LLM 重排序级联系统已在生产环境中运行超过一个月,推理成本降低约 10%,且未观察到质量回退。该系统仅在路由器判断额外推理算力有益时,将请求升级至更昂贵的 Tier-2 流程。 在公开基准测试中,均匀 LLM 重排序使稀疏历史用户的 NDCG@10 最多降低 30%,且仅在最长期历史的细分组中表现出统计显著收益。
研究人员对 FlashInfer、Triton 等七个库的 300 个 GitHub issue 进行人工分析,完成首项 LLM 系统 GPU 内核库问题实证研究。 分析发现 60.33% 的问题源于编译器、构建系统或运行时环境,且现有测试难以识别低精度与硬件特定故障。
Fused-Softmax 是一种免训练算法,通过在 AMD Instinct MI355X GPU 上实施,将 MXFP8、MXFP6 和 MXFP4 内核的性能分别提升至约 3.0、4.0 和 4.6 PFLOP/s。
该方法通过单一小型冻结 LLM 的 prefill activations 预测候选模型的成功率与输出长度,显著降低推理成本。 在 8/9 个数据集上,相比中位长度定价,该预测方法在匹配准确率下节省 9-33% 成本,最高可达完美信息节省量的 69%。 输出长度主要取决于问题难度,20 个标注问题即可保持大部分节省效果,且 scout 规模超过 2B 后节省不再增加。
MINE提出无损熵编码方案,通过利用权重非均匀分布加速LLM单流推理。核心为适配GPU的dtANS-LLM编码器,可自动调优以平衡压缩率与解码延迟。 集成至vLLM作为插件,在Llama 3.1 8B Instruct模型上,RTX 4060 Ti实现2.52倍加速,RTX 5090实现1.48倍加速。项目已开源,旨在解决本地部署中因内存瓶颈导致的低延迟请求难题。
研究证实百亿参数模型的优化轨迹被约束在有效维数 $d_{\text{eff}} \le 12$ 的低维执行子流形上。 该工作推导了基于持续同调的拓扑泛化界限,并验证了 Top-SGD 算法在 ImageNet 上将训练时间减少 14.1%。 代码已公开,为理解过参数化神经网络的泛化能力提供了严格的数学解释。
Scratchpad Patching (SP) 将计算量与补丁大小解耦,提升字节级模型效率。 SP 通过 next-byte 预测熵触发临时 scratchpads,在 $16$ bytes/patch 时使 KV-cache 缩小 $16\times$,推理计算量减少 $3$-$4\times$。 方法在自然语言和代码基准上使 $16$-byte 补丁模型接近字节级基线质量。
提出 BitDecoding-FP4,实现原生 FP4 KV Cache 解码,Qwen3-4B 等模型在 B300 上吞吐量提升 2.4-3.0 倍。 通过双残差量化、概率缩放及异常值感知量化降低误差,精度保持在 BF16 的 0.5 点以内,支持 Qwen3 等模型及 NVFP4 格式。 代码已开源,适用于稠密与 MoE 模型的长上下文 LLM 服务场景。
研究提出 Executing Writer 方法,从 LoRA 适配器恢复技能文档,在存储文档的适配器上恢复 39-44% 关键指令。 在 41 个外部技能上,恢复的文档还原了 85-91% 原任务增益;若仅基于行为训练,恢复率降至 1-2%,改用差异驱动代理在 ALFWorld 上恢复 58-71% 增益。
CodeQuant2 提出了一种基于聚类的查找表(LUT)量化框架,旨在解决低精度大推理模型(LRMs)的量化挑战。 该框架通过旋转和缩放缓解激活异常值,利用聚类表示非均匀权重分布,并根据量化难度自适应调整代码本大小,同时结合定制的 LUT CUDA 内核。 在推理基准测试中,CodeQuant2 带来了显著的精度提升,并实现了相对于 BF16 高达 2.85 倍的加速。
OpenAI 大规模封号并收紧多账号访问限制,未发预警通知即删除 GPT 账号,菲律宾、土耳其及低价 Team 拼车号受影响,部分 Pro 账号申诉无果。
Revolut 将约 2,000 名工程师从 Anthropic 和 OpenAI API 迁移至自托管的 Z.ai GLM 模型,成本降至百万 token 0.3 美元,交付时间缩短约 70%。作者详细解析了该转变背后的成本结构、合规逻辑及其对 AI 工具供应链的价值迁移影响。
summary_zh: 该AI优先浏览器测试自动化方案的单步执行成本为$0.01。 成本数据直接体现AI在自动化测试中降低单步资源消耗的效益。 该AI优先浏览器测试自动化方案的单步执行成本为$0.01。 成本数据直接体现AI在自动化测试中降低单步资源消耗的效益。
Airlock 发布用于管理 AI 编码代理机群的开源策略即代码标准,作者已在公司运营 23 个工作流。 核心功能支持代理行为版本控制、基于 GitHub OIDC 的细粒度权限管理,以及 1 至 4 级自主性配置。 内置 OTEL 收集器用于审计代理操作,并计划开放源代码后端以支持企业级部署需求。
Exody 上线原生 macOS AI 工作台,运行 5 阶段自治代理循环,支持 Claude、GPT 等多模型路由,且 100% 自带密钥无加价。 桌面端在隔离 worktree 中执行调查、计划、构建、验证及独立审查,移动端通过 WebRTC 实时同步远程审批;设计代理在盲测中优于原始模型输出。
llm-cost-watch 是一款 MCP 服务器,允许用户在 Claude Desktop 等工具中直接询问 LLM 成本与延迟瓶颈。该工具提供 cost_by_feature 等三个核心 API,可识别高消耗功能并诊断延迟问题。
蚂蚁集团旗下 AI 助手灵光 2.0 自 10 月 27 日上线以来,一周内已帮助用户管理超 116 万项事务并执行 360 万次任务,用户总数突破 2000 万。该版本核心特性是 AI 主动识别需求并跟进,而非等待指令,同时接入 APASS 统一账号体系,通过授权密钥与 Agent 分离托管等机制,让智能体在用户授权范围内安全执行跨应用、跨设备任务,用户可随时调整或撤销授权。
aiport 是一款 Go 程序,作为本地 LLM 网关统一管理 OpenAI、Anthropic 等提供商密钥。 它支持通过单一客户端接入多模型,提供压缩质量检查和基于反馈的路由建议。 该工具仅记录请求元数据而不存储提示词,且自修复功能需人工审批。
字节跳动拟扩大巴西东北部佩森工业港数据中心二期建设,规模将超过在建的 100 亿美元、300MW 项目。 二期建设可通过向境外输出数据享受税收优惠,公司正物色开发商负责建设,并考虑在港区外另建专门服务巴西本地客户的数据中心。 此举旨在巩固其在拉丁美洲算力基础设施领域的领先地位,巴西政府及政界普遍支持数据中心发展。
ADLC 在行业内指代“智能体开发生命周期”(Agentic Development Lifecycle)或“智能体开发生命周期”(Agent Development Lifecycle),前者指嵌入自主编码智能体的 SDLC,后者指构建运行 AI 智能体产品。
《纽约时报》Cooking App 在 iOS 测试版中上线 AI 菜谱定制功能,允许用户替换食材或调整食谱,体验表现良好。该功能基于 LLM 技术,参考《纽约时报》食材替换指南及用户评论,修改内容以红橙色文字清晰标示。功能主要服务于食材与设备替换及饮食需求调整,并未替代人工编辑。
Roosh Investment Group 联合创始人主张政府应扩大电力供应和电网容量,而非限制数据中心。 爱尔兰数据中心用电量约占全国四分之一,纽约州对大型新设施实施最长一年的许可暂停。 纽约州排队等待的数据中心需求约 12GW,可靠电力供应决定 AI 公司的扩张能力和融资能力。
Fleet 发布的 Apple 企业级报告显示,Mac 管理员借助 AI 工具可加速脚本编写与故障排查,但回滚 AI 生成的错误变更耗时数天。 快速生成若缺乏审查,将成本转移至清理阶段,导致错误修复过程最慢且成本最高。