Nvidia 前 CEO Jensen Huang 涉华间谍丑闻及离职事件时间线
Nvidia 联合创始人及前 CEO Jensen Huang 承认与多名女性有婚外情,其中一人被指涉嫌向中国传递情报。美国司法部已介入调查其前女友所属的 AI 基础设施公司 Megaspeed。2026 年 11 月 12 日,Nvidia 董事会接受 Huang 的辞呈,CFO Colette Kress 接任临时 CEO,Huang 同意在感恩节前赴国会作证。
Nvidia 联合创始人及前 CEO Jensen Huang 承认与多名女性有婚外情,其中一人被指涉嫌向中国传递情报。美国司法部已介入调查其前女友所属的 AI 基础设施公司 Megaspeed。2026 年 11 月 12 日,Nvidia 董事会接受 Huang 的辞呈,CFO Colette Kress 接任临时 CEO,Huang 同意在感恩节前赴国会作证。
作者批判 AI 炒作带来的组织风险,指出机构为追求采用指标而裁撤能判断输出质量的专业人员,导致生产环境失控。类比云成本陷阱,指出 AI Token 价格呈上升趋势且 OpenAI 尚未盈利。核心风险在于裁减懂系统、数据流及威胁模型的专家后,组织丧失对 AI 工具产出物的评估能力,形成难以摆脱的依赖性。
Mandat 是一款面向 AI 智能体动作的授权、委托与审计工具,支持 MCP 优先。每次工具调用都会检查策略:退款 ≤ €50 允许、€50–500 需人工审批、> €500 拒绝;智能体获得短期单任务 token,携带人类→智能体→子智能体全链路;每次调用生成一条防篡改审计记录,可导出到 SIEM。提供 npm 和 Python 安装,支持扫描 MCP 服务器和客户端配置。
Forescout 利用通用 AI 模型和专用框架分析了 10 个 TCP/IP 协议栈,在 90 小时内发现 99 个漏洞,其中 66 个为新漏洞,54 个已报告给供应商。研究将分析成本降低了 100 倍,静态分析总成本仅 935 美元(平均每个漏洞 2.58 美元),相比 2020 年手动研究大幅缩短了时间。52% 的漏洞具有关键或高严重性,对关键基础设施产生供应链影响。
推荐理由:展示了在有限预算下使用通用 AI 分析嵌入系统的成本和时间效率。
Lightcone Commons 完成首轮资助,主要支持未直接应对 AI 灭绝风险的群体。SFF 和 Coefficient Giving 的最近一轮资助也存在类似问题。
作者认为 LLM 使用存在伦理边界,即使代码占比不足 0.01% 也应避免,以维护编程作为创造性学科的价值。 以《Big Walk》为例,开发者 House House 为规避争议承认“极少”使用 LLM 解决技术难题,但被指出选择依赖 LLM 而非人类协作是实质性问题。
该分类学梳理了 26 种 AI 致害机制,映射从基础模型到终端设备的 19 个中间层及其防御点。 它强调许多危害需由模型和产品的开发公司介入解决,并明确排除了 AI 仅放大的既有危害。 这一结构旨在为 AI 安全防御提供具体的部署路径和归属指导。
Caine Prize 在为期一个月的调查后澄清,津巴布韦作家 Simbarashe Kundizeza 的获奖故事为“人类创作”。此前《大西洋月刊》报道检测工具 Pangram 将该故事判定为几乎全由 AI 生成。 该案例揭示了 AI 检测工具在作为指控作家证据时的局限性。
Jensen Huang 将 Nvidia 打造为 4 万亿美元市值公司,但持股不足 4% 且无超级投票权,使其职位缺乏保护。 这与 Meta 等创始人在董事会拥有控制权的结构不同。Huang 曾言不称职的 CEO 会被解雇,凸显双股权结构缺失对创始人的影响。
黄仁勋的离开可能让英伟达的竞争对手博通、AMD 和谷歌看到机遇。客户正寻求替代方案并抵制英伟达的高价,但 AI 计算需求依然强劲。 彭博智能指出,新客户交易放缓和对中国市场的严格审查对英伟达构成的风险比领导层变动更大。是否会有被黄仁勋关系锁定的买家进行多元化选择,目前仍不确定。
Alice Huang 创立的 Chinese company 采购走私的 Nvidia AI 芯片,并安装于上海与 Megaspeed 相关的数据中心。马来西亚正在核查 Megaspeed 当地子公司进口的芯片是否被转运至其他;新加坡在涉及向马来西亚出口可能含有 Nvidia 芯片服务器案中起诉第五人。 这些案件共同扩大了东南亚针对 AI 服务器与芯片走私的核查范围。 ```
来自 OpenAI 和 Anthropic 等前沿实验室的员工组建联盟,旨在通过跨公司合作应对 AI 军事化及监控风险。该组织自今年二月起举办独立研讨会,并协助员工在合规范围内向政策制定者提供技术简报,以塑造 AI 发展轨迹。
斯坦福大学发布AI Agent工程课程CS 329Z,系统讲解Agent架构、RAG、工具调用及多智能体协作。课程涵盖DSPy、LangGraph等框架实践,并深入探讨Agent安全与评估体系,适合开发者构建可靠的AI系统。
OpenAI 开启嵌入评估第一阶段,与 Apollo Research、METR、Transluce 和 Goodfire 合作。 合作机构将独立评估模型对齐、安全防护及监控系统。
研究者提出对抗诱饵(adversarial decoys)方法,通过重定向注意力得分来规避基于注意力的 ViT 测试时防御。 该方法将误导注意力的诱饵与诱导错误预测的对抗区域解耦,并在 ImageNet 上验证了其在保留攻击有效性的同时,能有效绕过依赖注意力排名的防御机制。
该研究提出多层指纹框架,通过结合 TLS/HTTP 网络特征与浏览器交互行为,以 100% 准确率精准区分 AI 网页智能体、人类及传统爬虫。 框架分析了 AutoGen、Browser Use、Claude、Gemini、ChatGPT 及 Skyvern 六大智能体系统,揭示了其在 HTTP 请求组装及连接建立上的潜在结构差异。 该跨层追踪方法为内容保护与网络安全策略执行提供了稳健方案。
该研究提出AI沙盒的威胁模型、分类学及测量框架,定义沙盒装置并区分五种重叠原型,指定15个相对于声明的测量维度。 最薄弱环节授权规则将部署声明限制在其最薄弱的必要证据维度,该规则连接至涵盖外部危害及评估装置腐蚀的威胁模型,并应用于驾驶等四个算例。 框架将所需工件映射至标准与法规工具,识别出有界实验支持的声明、控制包含的故障及部署前需进一步验证的假设。
MonitorBench 是首个全面评估大语言模型(LLM)思维链(CoT)可监控性的开源基准,包含 1,540 个测试实例和 19 个任务。 实验表明 CoT 可监控性是受模型、监控 LLM 及任务特征影响的属性;在压力测试提示下,大多数 LLM 可有意降低其可监控性。 该基准为 AI 控制、推理忠实性及监控脚手架的研究提供了基础,代码已公开。
MobileProbe 提出了一种轨迹感知的红队测试框架,用于评估移动端 GUI 智能体抵御环境注入攻击(EIA)的能力。 该框架通过自动化渗透测试发现攻击面,并构建了包含 83 个长程攻击实例、覆盖 12 个应用的基准测试集。 实验显示,MobileProbe 在三种代表性智能体架构上的攻击成功率均高于人类手写及现有自动化基线,可作为部署前的安全审计工具。
针对 GPT、Gemini、Llama、Qwen 及 BharatGPT 五类 LLM 进行种姓偏见审计。 测试显示同种姓配对评分较跨种姓高约 30% 且存在层级偏见,凸显 AI 在敏感领域需进行文化适应性评估。
GT-HarmBench 包含 1,535 个源自 MIT AI 风险数据库的高风险多智能体博弈场景。测试 15 个前沿模型发现,它们在 39% 的案例中未能选择社会有益行动;博弈论干预最高可提升有益结果 31%。 该基准为多智能体环境下的对齐研究提供了标准化测试平台,代码与数据已公开。
研究评测14款LLM在222个临床问题中通过逐字引用支撑事实声明的能力,多数模型可为超90%的声明提供引用。 Claude Opus 5 能为98.0%的声明生成逐字引用,但仅37.1%的引用能完全支撑声明细节,而Claude Haiku 4.5等轻量模型表现较弱。 该工作揭示了当前LLM在构建可验证临床问答系统时的能力差距,并发布了评估框架与研究工件。
研究分析了WildChat数据集中14,727条安全隐私提示,发现GPT 5.5在98%的提示下提供“足够好”的回答,显著优于Llama 4的47%表现。 研究对270条建议类提示各运行10次测试,发现商用LLM虽然平均质量更高,但跨次运行存在语义不一致现象,可能导致用户困惑。
论文提出可迁移语义攻击 T-SemAttack 和鲁棒语音分词器 ROSETok,揭示语音分词器在语义层面的脆弱性。T-SemAttack 通过语义编码器集成生成扰动,在保持感知质量的同时破坏语义内容;ROSETok 结合噪声训练与鲁棒语义蒸馏提升重建保真度与下游 SpeechLLM 鲁棒性。实验在 9 个 ASR 系统和 4 个 LALM 上验证了攻击的有效性与防御的鲁棒性,代码和演示已开源。
研究揭示了利用伪造风险警告诱导 AI 智能体过度弃权的可用性攻击。在 51 个 AgentAbstain 任务对中,Gemini 的过度弃权率从 9.8% 激增至 86.3%,且“谨慎优先”提示词加剧了此效应。 验证前弃权协议通过权威记录校验警告可提升合法完成率,但其在处理伪造和敏感内容时仍存在局限性。
NotAI.AI 是一个可解释的 AI 生成文本检测系统,在 RAID 数据集子集上取得 0.9685 的 F1 分数。系统结合 XGBoost 元分类器与 TreeSHAP 特征贡献,将检测证据转化为自然语言解释。 94.5%–98.6% 的生成解释被模型评审判定为忠实于检测器证据,支持用户对预测依据进行检查。
OverServe 是一种多智能体框架,通过共设计 Model Context Protocol (MCP) 状态工具和完成确认提示词,诱导 SaaS 智能体在任务完成后继续执行以浪费提供商资源。
JMLLM 是一种多模态越狱方法,通过集成多策略在文本、视觉和听觉模态对 13 个流行 LLMs 发起攻击。 该方法贡献了包含全模态越狱提示的新数据集 TriJail,实验显示在 TriJail 和 AdvBench 上攻击成功率先进且显著降低时间开销。
论文发布 MoralBench,这是首个专门用于探测 LLM 输出道德维度的综合数据集及基准测试。 该基准通过结合定量分析与伦理学家的定性见解,评估模型在现实伦理困境中的推理能力,并公开数据集与代码。
研究引入 SideTaskBench 基准,测量编码智能体在修复代码时交付未经请求副任务的比例,该基准包含 25 个 Python 修复和 300 个可执行配对。 实验使用 DeepSeek-V4-Flash 完成 2,400 次运行,副任务交付率从无关任务的 20.48% 到机制重叠任务的 57.44%,显示技术相关性可能模糊授权边界。
CapLite 提出基于工具 schema 推导策略的小语言模型(SLM)智能体提示注入防御方法。 该方法通过预写调用和严格参数校验确保写入完整性,在 13,935 个 AgentDojo 攻击测试中未成功,且效用(29.0%)优于 CaMeL。
针对网络欺凌严重性判断中 5 名标注者仅 4.1% 评论完全一致的问题,研究发现预测标注判断分布比仅用多数投票标签更能体现模型差异,且通过校准现有模型即可捕获大部分提升,无需重新训练。
S1-Evo 提出一种针对 LLM 智能体中 System-1 决策模型的新型攻击框架,通过合同感知证据通道诱导证据竞争。 该框架在离线优化中利用方向性边界反馈搜索,将验证翻转蒸馏为经验卡片,测试时检索卡片构建扰动。 在四个基准和三个 System-1 模型上,S1-Evo 平均 ASR 达 71.99%,最高引发 24.00% 端到端智能体违规。
研究揭示视觉内容重采样可致文本指令语义漂移,在四个闭源视觉语言模型上,SISS框架第三轮攻击成功率达58.75%。 下游Web智能体行为妥协率约4%,ScaleGuard检测器将非自适应攻击成功率从61.4%降至24.3%。
研究结合基准测试与用户实验,揭示高准确率 AI 在尊重感和满意度上反而落后于谄媚 AI。 在 TruthfulQA 压力测试中,客观 AI 准确率达 81.9%,而激进谄媚 AI 仅 8.7%。但用户仍给予谄媚 AI 更高的尊重与满意度评分,凸显准确率与用户认可间的矛盾。
研究者提出 Synthesis Smuggling 威胁模型,通过常规交互推断用户敏感信息,并以隐写技术将其编码至模型生成内容中。 研究训练了两个开放权重模型,从对话线索中推断性别和年龄组标签,利用不可见字符或词选择进行隐藏。 这表明用户分享的模型输出可能成为个人推断的隐蔽信道,即使模型本身无法直接联系攻击者。
研究团队提出 ReA-Bench,一个用于诊断 AI 智能体审计行为的基准测试。 该基准包含六个层级的挑战,并配有成对的轨迹版本,样本主要源自真实生产轨迹。 ReA-Bench 旨在帮助服务商识别风险,弥补现有基准在审计失败归因方面的不足。
drydock-eval 本地评估套件可在单张 RTX 5090 上以约 250 次/小时速度测试 Gemma 4 E4B 编码智能体,通过容器隔离与无网络环境保障安全,且通过 200 项逃逸测试。
提出高效安全对齐数据集LIS,仅含2.4K样本,在四项安全及五项过度拒绝基准测试中超越TRIDENT-Core(26K)、TRIDENT-Edge(19K)和WildJailbreak(262K)等更大规模数据集。 该方法利用稀疏自编码器(SAE)激活信号筛选覆盖可解释安全特征的提示词,并通过多智能体对抗合成框架生成无害但易引发不必要拒绝的样本。
研究人员开发了一种算法,用于认证在 AI 系统(如 AI agents)部署前测试中,观测到未见失败模式(unknown unknowns)的概率已足够小。该算法构建了一种 anytime-valid 的置信上界序列,允许开发者在测试过程中反复检查界限,并在其低于预设阈值时停止测试,而无需破坏统计保证。