Cerbère:AI 智能体的污点追踪运行时安全系统
Cerbère 通过在执行边界强制执行策略,将每次 LLM 和工具调用决策为 ALLOW、REQUIRE APPROVAL 或 BLOCK,以防止未授权副作用。
Cerbère 通过在执行边界强制执行策略,将每次 LLM 和工具调用决策为 ALLOW、REQUIRE APPROVAL 或 BLOCK,以防止未授权副作用。
Anthropic 向国会提交的类似 FRONTIER Act 的草案泄露,其初始回应加剧了争议,而 Dario 的后续解释虽较好但局面仍令人担忧。 Claude Duet 使用 Opus 5.5 处于早期研究预览阶段,DeepSeek-V4.1-Flash-1017 基准图表包含 Opus 5 和 5.6 Sol。
Dedoomify 是一款开源工具,粘贴AI新闻链接即可将“模型失控”等灾难化描述改写为“模型有bug”等普通软件问题,降低焦虑感。 该工具支持快速短语规则或在浏览器内通过 WebGPU 运行本地 AI 模型,修改内容会高亮显示,悬停即可查看原文,注重隐私保护。
T-Mobile 完成全球首个商用网络 AI-RAN 通话,Nokia、Deutsche Telekom 和 Elisa 宣布在现网启动 AI-RAN 试点。 试点基于 Nokia anyRAN 软件运行于 NVIDIA Aerial RAN Computer,支持 5G 语音、数据与视觉 AI 协同。
Hugging Face 开源 Carbon-X,基于 Qwen3-14B 构建,支持分析、生成 DNA 序列及以自然语言解答生物学问题。 该模型由意大利和中国实验室合作研发,训练数据覆盖人类、哺乳动物、植物及真菌基因组,本地运行确保患者数据不出实验室。 Hugging Face 旨在减少生物研究员对大型 AI 实验室的依赖,并通过排除病毒数据限制模型误用。
中国商务部和科技部提议将国产大型 AI 模型、AI Agent、计算集群及先进芯片设计技术列入禁止或限制出口目录。草案涵盖 2 万亿参数以上模型、Top 10 榜单内模型及 14 纳米以上芯片设计技术,但豁免开源、API 和 SaaS 访问形式。临时预出口登记要求已生效,追溯适用未完成的 IP 转让和海外授权交易,意见征集期将持续至 11 月 15 日。
同一新闻,精选展示《中国拟对先进AI模型及芯片设计实施出口管制》
宇树科技董事长王兴兴在2026世界物理AI大会上发表演讲,提出物理AI可能在1-2年内到达临界点,并认为当前全球对AI的重视仍不足。 演讲中透露GPT-6已实现完全零训练部署到宇树机器人,使其能完成自主画画、下棋等任务;在80%的陌生场景中,机器人可通过指令完成约80%的任务。
Qoder 宣布其云托管 Agent 运行时 Qoder Cloud Agents 接入开源项目 HarnessRouter,这是该项目首次支持远端运行时(remote runtime)类别。
推荐理由:揭示了云端 Agent 运行时接入标准协议的关键工程细节,为开发者评估多 Agent 互操作性提供具体参照。
Pith 是一款代理工具,用于通过回放样本并让裁判模型对比基线来削减 LLM 输出 token,若效果未达基线则拒绝修改。工具通过 pip 安装,支持 Anthropic 和 OpenAI 接口。在 Anthropic API 的 10 次实测中,部分路由实现了最高 55% 的 token 削减,但仅在满足成本回收期时固定配置,否则拒绝。
第二届观猹大会将于 10 月 24 日至 25 日在杭州龙坞举办,阿里云百炼将参加该活动。 百炼与支付宝 AI 付联合发起 PAYATHON 2026 赛事,提供模型与工作流支持飞猪 AI 黑客松。
科大讯飞发布讯飞星火 X2.6 端云一体大模型,宣称首次基于全国产算力实现代码和智能体能力突破。 模型采用 293B-A30B 参数的 MoE 架构,上下文长度拓展至 1M,输入限时 0.9 元/百万 tokens。 同步开源星火 X2.6-4B 端侧大模型,推理限时免费,下载量已进全球前四。
Shopify 后训练 NVIDIA Nemotron 3.5 Lightning 模型,使其在特定基准上超越前沿模型,推理成本降低 90%,响应速度提升 7 倍。 ALLSIDES 利用 NVIDIA 技术构建 3D 数字孪生工厂,支持亚毫米级精度捕捉;CATCHES 虚拟试穿部署使转化率提升 55%,销售额增加 56%。
TabAgent框架通过用紧凑的分类器替换LLM生成式决策组件,在AppWorld基准测试中消除短期调用,降低延迟约95%并减少85-91%的推理成本。 该方案利用执行轨迹提取结构化特征(TabSchema),结合合成监督(TabSynth)训练轻量级分类器(TabHead),目前已扩展至七个智能体基准测试。
提出 Conditional Optimal Bridge for Riemannian Activation Steering(COBRAS),将 Steering 视为残差流超球面上的 Schrödinger Bridge,推导出 Log-Density-Ratio 目标。
研究表明,在表到文本生成任务中,扩散语言模型 LLaDA 增加示例数虽将 BLEU 从 11.3 提升至 22.0,但对源表格的 NLI 蕴含得分却从 0.78 降至 0.52,而 QLoRA 微调版 LLaDA 达到最高 BLEU 24.15,忠实度未见提升。
生成式人工智能(GenAI)与物联网(IoT)的融合正在重塑医疗、制造和智慧城市等多个行业。现有研究多局限于狭窄的应用场景,缺乏对 GenAI-IoT 协同潜力的全面分析,凸显了对更广泛物联网生态系统中 GenAI 集成进行系统性研究的必要性。
低比特量化大语言模型在长程推理任务上表现受限,常因固定响应监督导致轨迹发散与分布错位。本文提出 OnQ 管道,结合在策略蒸馏与动态 KL 散度,在 Qwen3 1.7B/4B/8B 的 2-3 bit 量化中取得最佳性能。
研究者发布 SWE-DIVE,一种动态交互式验证框架,用于在多轮环境中评估编码智能体。 框架包含用户模拟器模拟行为模式,对话验证器评估输出,并由 Harbor 环境编排执行测试。该成果被 NeurIPS 2026 研讨会接收,代码已开源。
DriftNeRF 提出了一种无需预训练模型或额外几何信息的跨射线密度共识正则化,旨在解决稀疏视角 NeRF 中邻近 3D 点密度相互矛盾的问题。 该正则化通过掩模指数核聚合邻近射线密度生成 stop-gradient 目标,在 NeRF-Synthetic 上使残余分歧降低一个数量级,在三个数据集上将 3-view PSNR 提升 0.42-0.65 dB。
研究发现 RAG 管道中各项技术单独优化的增益在组合时不可靠,三个强检索技术预测提升 47% 但实际仅 17%。 研究基于 LASAGNA 开源框架,测试 450 种配置及 8 个基准,语料库范围从 5K 到 200K 文档。 优化检索质量可能损害答案忠实度,且最佳组合方案随语料库规模变化而改变。
世界动作模型(WAMs)在泛化性能上因生成式骨干不同而显著分化。研究量化表征先验的干扰正交性,发现高正交性关联更强的视觉变体鲁棒性,使策略泛化可被前瞻性测量。该发现为表征先验如何塑造世界模型泛化性能提供了几何视角。
研究团队提出 SPARE,一种基于路由熵的免训练 MoE 专家剪枝方法,能够动态分配各层剪枝预算。 该方法在相同条件下优于均匀剪枝,使 Qwen3-30B-A3B 在 50% 剪枝率下的八项任务平均准确率从 57.2% 提升至 63.8%。
基于 CeCaS 项目,研究者提出了一种整合大语言模型与模型驱动工程的 AI 工具链,将自然语言需求自动转化为系统架构、可执行软件及验证工件。 该技术强调可追溯性与一致性,支持功能安全汽车开发要求。在支持自适应巡航控制与紧急制动的集中式车辆计算平台上,通过硬件在环(HiL)和软件在环(SiL)环境完成了验证。 这将推动汽车软件开发向高度自动化、高可靠性及少人工干预的方向演进。
MixAgent 发布了一种 agentic 音乐后期制作流水线,遵循音频工程师工作流生成可编辑混音方案。 该模型在 MedleyDB 上通过学习优化减少 19% 误差,其中偏好优化额外降低 8.4%,且人工听测质量优于 Qwen3-Omni、Gemini 3.8 Flash 和 GPT-4o-audio。
研究人员通过知识蒸馏将六个教师模型性能迁移至小型学生模型,用于大型强子对撞机 Jet Tagging。 所有教师模型均能提升对应学生模型表现,增益主要取决于教师强度。 2 万参数的 L-GATr-slim 学生模型性能超过从零训练的公开模型,2 千参数版本性能匹配参数量为其 1000 倍的 ParT 模型,推理成本大幅降低。
针对稀疏混合专家模型中专家表示坍塌问题,GaP-MoE 通过直接操作专家输出梯度诱导专业化,而非修改损失函数。 该方法在训练步骤中随机选择 $TopK$ 专家之一作为领导者,并将其余专家的梯度投影到领导者近期梯度张成子空间的正交补集上,消除了梯度方向重叠。
研究团队发布包含 18500+ 示例的 VHDL 数据集,使用 QLoRA 微调 5 个 7B 参数模型。 微调后模型在常规设计任务中实现 92% 语法正确率和 73% 功能精度,DeepSeek-Coder 性能增益最高。 生成的设计成功部署于 Zynq FPGA,验证了 LLM 在生成式 EDA 流程中的可行性。
当更低精度可用时,在相同比特数下添加 2:4 稀疏性比降低精度更差,因其导致精度更低且速度更慢。 当量化达到硬件最低精度时,2:4 稀疏性可使线性层加速 1.3–1.7 倍;在 H100 上,经重新训练的 2:4 模型以 FP8 通过 vLLM 服务时,prefill 吞吐量比密集 FP8 模型高 27%,GSM8K 准确率相当,但需重新训练恢复困惑度,且在 Blackwell 架构上损失更大。
论文提出数据差异化框架(DDF),结合互信息、边际效用和治理输入,评估候选数据资产在组织现有数据组合中的边际价值。 DDF 扩展了 mRMR 相关度减冗余原则至资产层面,在信用卡欺诈基准(284,807 条交易)上验证,唯一真正差异化的资产通过显著性检验(DeLong p = 1.4×10⁻⁹),DDS 评分 +0.663。
在线强化学习(RL)框架 RL-IF 通过轨迹级 leave-one-out 量(RL-LOO)量化训练实例在多个训练轮次间非局部的数据影响力。 RL-IF 提出了一阶估计器,通过解耦优化效应与策略诱导采样效应来追踪影响,并在此基础开发了实际的数据过滤方法 RINSE。 在标准控制基准和 RLHF 毒性缓解场景中,RINSE 相较于 PPO 基线提升了训练效率并最终性能。
论文提出支持差分隐私的顶层框架CALLIOPE,用于在不依赖向量嵌入的情况下直接从非结构化LLM对话语料中发现主题层级。实验表明,该方法在差分隐私设置下尤其是高隐私度环境中,效用优于现有基于嵌入的方法,并利用多种聚类指标和新型效用指标评估输出质量。
研究团队发布 SciFigBench 基准,旨在评估视觉语言模型(VLMs)对复杂科学方法图表的理解能力。该基准包含 4,352 张图表和 40,670 个 QA 对,核心考察密集内容感知、视觉关系理解及信息流追踪。
研究显示在 3 个开源 MoE 大语言模型中,单一专家可平均恢复 78% 的全局拒答转向效果,表明拒答机制在架构中分布不均。 当受限使用全层转向的位置时,专家级转向仅能恢复 54% 的效果,且该差距在安全相关系统提示词下进一步拉大。 研究证实 MoE 复杂路由模式不会抑制转向性能,且拒答信号与专家路由行为所捕捉的信号存在差异。
模拟研究证实,LLM 智能体使用持久记忆会显著提升回答质量,同时加剧隐私泄露风险。在跨四个支持模型的测试中,记忆机制导致 24 项个人属性的推断准确率随会话次数增加而扩大。
PUN 神经算子通过学习噪声感知值场,在 4D 重规划基准中实现 95-100% 成功率,且运行时间最短。 它在 4D 最高噪声水平下,成功率相对提升 10.7-60.6%,速度提升 3.29-32.15 倍,优于对比规划器。 该方法通过蒙特卡洛标签摊销计算,避免昂贵收敛,支持未见几何环境的可靠导航。
Databricks 宣布 AI Runtime (AIR) 正式可用,提供全托管 GPU 基础设施,允许客户在企业数据所在的 Lakehouse 内直接训练模型。
AI 行业薪资飙升造就新一代高净值人群,985 院校大模型硕士应届生年薪可达 600 万元,顶尖博士年薪超 900 万元。 年轻创业者借助 AI 风口快速积累财富,全球 30 岁以下身价破 10 亿美元者达 35 人,且几乎全深耕 AI 赛道。 顶级 AI 公司员工成为婚恋中介新客群,VIP 服务费最高超 50 万美元,并推动旧金山房价创下近十年最快增长。
本地模型 Flint 40B 实现 125 Tps 吞吐量,具备前沿水平性能。 该模型在 MacBook 上运行,主打高速推理。
文章以 Olmo 3 7B Think 开源模型为例,探测 SFT、DPO、RLVR 各训练阶段对模型行为的影响。模型在特定领域的表现受训练数据域与阶段影响,表现为跨领域任务中的行为差异。文章用厨师培训类比三阶段训练过程,强调各阶段对模型推理与偏好塑造的作用。
LLM-D 1.0 版本发布,该开源 Kubernetes AI 推理框架新增多租户服务质量、高可用操作、稳定 v1 API 及 Agent 感知服务四项特性。实测显示,在混合 TPU 与 GPU 集群中,结合 vLLM 和 SGLang 可显著提升吞吐量并降低成本,多家企业已在生产环境中部署使用。
推荐理由:文章补充了1.0版新增的四项生产级特性,并给出性能提升的实测对比,读者可据此判断其在推理部署中的落地价值。