跳到正文
11月14日周六
  1. TechCrunch · AI87

    Nvidia 前 CEO Jensen Huang 涉华间谍丑闻及离职事件时间线

    Nvidia 联合创始人及前 CEO Jensen Huang 承认与多名女性有婚外情,其中一人被指涉嫌向中国传递情报。美国司法部已介入调查其前女友所属的 AI 基础设施公司 Megaspeed。2026 年 11 月 12 日,Nvidia 董事会接受 Huang 的辞呈,CFO Colette Kress 接任临时 CEO,Huang 同意在感恩节前赴国会作证。

  2. Hacker News AI43

    AI 炒作泡沫与组织风险:关于 AI 过度采用的批判性思考

    作者批判 AI 炒作带来的组织风险,指出机构为追求采用指标而裁撤能判断输出质量的专业人员,导致生产环境失控。类比云成本陷阱,指出 AI Token 价格呈上升趋势且 OpenAI 尚未盈利。核心风险在于裁减懂系统、数据流及威胁模型的专家后,组织丧失对 AI 工具产出物的评估能力,形成难以摆脱的依赖性。

11月13日周五
  1. Hacker News AI68

    Mandat 发布:面向 AI 智能体动作的授权、委托与审计工具

    Mandat 是一款面向 AI 智能体动作的授权、委托与审计工具,支持 MCP 优先。每次工具调用都会检查策略:退款 ≤ €50 允许、€50–500 需人工审批、> €500 拒绝;智能体获得短期单任务 token,携带人类→智能体→子智能体全链路;每次调用生成一条防篡改审计记录,可导出到 SIEM。提供 npm 和 Python 安装,支持扫描 MCP 服务器和客户端配置。

  2. Hacker News AI86

    Forescout 利用 AI 工具在 90 小时内发现 99 个关键基础设施漏洞

    Forescout 利用通用 AI 模型和专用框架分析了 10 个 TCP/IP 协议栈,在 90 小时内发现 99 个漏洞,其中 66 个为新漏洞,54 个已报告给供应商。研究将分析成本降低了 100 倍,静态分析总成本仅 935 美元(平均每个漏洞 2.58 美元),相比 2020 年手动研究大幅缩短了时间。52% 的漏洞具有关键或高严重性,对关键基础设施产生供应链影响。

    推荐理由:展示了在有限预算下使用通用 AI 分析嵌入系统的成本和时间效率。

  3. Hacker News AI30

    是否存在“合适的 AI 用量”?

    作者认为 LLM 使用存在伦理边界,即使代码占比不足 0.01% 也应避免,以维护编程作为创造性学科的价值。 以《Big Walk》为例,开发者 House House 为规避争议承认“极少”使用 LLM 解决技术难题,但被指出选择依赖 LLM 而非人类协作是实质性问题。

  4. Seven Minute Feed39

    英伟达遭遇困境,AMD、博通及谷歌等竞争对手见机会

    黄仁勋的离开可能让英伟达的竞争对手博通、AMD 和谷歌看到机遇。客户正寻求替代方案并抵制英伟达的高价,但 AI 计算需求依然强劲。 彭博智能指出,新客户交易放缓和对中国市场的严格审查对英伟达构成的风险比领导层变动更大。是否会有被黄仁勋关系锁定的买家进行多元化选择,目前仍不确定。

  5. Seven Minute Feed40

    Alice Huang 旗下公司涉嫌走私 Nvidia 芯片安装于上海数据中心

    Alice Huang 创立的 Chinese company 采购走私的 Nvidia AI 芯片,并安装于上海与 Megaspeed 相关的数据中心。马来西亚正在核查 Megaspeed 当地子公司进口的芯片是否被转运至其他;新加坡在涉及向马来西亚出口可能含有 Nvidia 芯片服务器案中起诉第五人。 这些案件共同扩大了东南亚针对 AI 服务器与芯片走私的核查范围。 ```

  6. arXiv · AI36

    多层指纹识别区分 AI 网页智能体与人类及爬虫

    该研究提出多层指纹框架,通过结合 TLS/HTTP 网络特征与浏览器交互行为,以 100% 准确率精准区分 AI 网页智能体、人类及传统爬虫。 框架分析了 AutoGen、Browser Use、Claude、Gemini、ChatGPT 及 Skyvern 六大智能体系统,揭示了其在 HTTP 请求组装及连接建立上的潜在结构差异。 该跨层追踪方法为内容保护与网络安全策略执行提供了稳健方案。

  7. arXiv · AI34

    AI沙盒:威胁模型、分类学及测量框架

    该研究提出AI沙盒的威胁模型、分类学及测量框架,定义沙盒装置并区分五种重叠原型,指定15个相对于声明的测量维度。 最薄弱环节授权规则将部署声明限制在其最薄弱的必要证据维度,该规则连接至涵盖外部危害及评估装置腐蚀的威胁模型,并应用于驾驶等四个算例。 框架将所需工件映射至标准与法规工具,识别出有界实验支持的声明、控制包含的故障及部署前需进一步验证的假设。

  8. arXiv · AI29

    MonitorBench: 面向大语言模型思维链可监控性的综合基准

    MonitorBench 是首个全面评估大语言模型(LLM)思维链(CoT)可监控性的开源基准,包含 1,540 个测试实例和 19 个任务。 实验表明 CoT 可监控性是受模型、监控 LLM 及任务特征影响的属性;在压力测试提示下,大多数 LLM 可有意降低其可监控性。 该基准为 AI 控制、推理忠实性及监控脚手架的研究提供了基础,代码已公开。

  9. arXiv · AI45

    MobileProbe: 基于轨迹感知的移动端智能体自适应安全评估

    MobileProbe 提出了一种轨迹感知的红队测试框架,用于评估移动端 GUI 智能体抵御环境注入攻击(EIA)的能力。 该框架通过自动化渗透测试发现攻击面,并构建了包含 83 个长程攻击实例、覆盖 12 个应用的基准测试集。 实验显示,MobileProbe 在三种代表性智能体架构上的攻击成功率均高于人类手写及现有自动化基线,可作为部署前的安全审计工具。

  10. arXiv · NLP36

    GT-HarmBench:基于博弈论的 AI 安全风险基准

    GT-HarmBench 包含 1,535 个源自 MIT AI 风险数据库的高风险多智能体博弈场景。测试 15 个前沿模型发现,它们在 39% 的案例中未能选择社会有益行动;博弈论干预最高可提升有益结果 31%。 该基准为多智能体环境下的对齐研究提供了标准化测试平台,代码与数据已公开。

  11. arXiv · NLP26

    LLM 临床回答如何凭原文引用实现可验证性:14 款模型评测

    研究评测14款LLM在222个临床问题中通过逐字引用支撑事实声明的能力,多数模型可为超90%的声明提供引用。 Claude Opus 5 能为98.0%的声明生成逐字引用,但仅37.1%的引用能完全支撑声明细节,而Claude Haiku 4.5等轻量模型表现较弱。 该工作揭示了当前LLM在构建可验证临床问答系统时的能力差距,并发布了评估框架与研究工件。

  12. arXiv · AI24

    T-SemAttack 与 ROSETok:语音分词器的语义漏洞与鲁棒性研究

    论文提出可迁移语义攻击 T-SemAttack 和鲁棒语音分词器 ROSETok,揭示语音分词器在语义层面的脆弱性。T-SemAttack 通过语义编码器集成生成扰动,在保持感知质量的同时破坏语义内容;ROSETok 结合噪声训练与鲁棒语义蒸馏提升重建保真度与下游 SpeechLLM 鲁棒性。实验在 9 个 ASR 系统和 4 个 LALM 上验证了攻击的有效性与防御的鲁棒性,代码和演示已开源。

  13. arXiv · AI29

    工具使用型 AI 智能体中的弃权操纵攻击研究

    研究揭示了利用伪造风险警告诱导 AI 智能体过度弃权的可用性攻击。在 51 个 AgentAbstain 任务对中,Gemini 的过度弃权率从 9.8% 激增至 86.3%,且“谨慎优先”提示词加剧了此效应。 验证前弃权协议通过权威记录校验警告可提升合法完成率,但其在处理伪造和敏感内容时仍存在局限性。

  14. arXiv · AI26

    S1-Evo:针对带类型 System-1 决策模型的经验引导证据竞争攻击

    S1-Evo 提出一种针对 LLM 智能体中 System-1 决策模型的新型攻击框架,通过合同感知证据通道诱导证据竞争。 该框架在离线优化中利用方向性边界反馈搜索,将验证翻转蒸馏为经验卡片,测试时检索卡片构建扰动。 在四个基准和三个 System-1 模型上,S1-Evo 平均 ASR 达 71.99%,最高引发 24.00% 端到端智能体违规。

  15. arXiv · NLP32

    Synthesis Smuggling:在 LLM 输出中恶意隐藏推断的个人属性

    研究者提出 Synthesis Smuggling 威胁模型,通过常规交互推断用户敏感信息,并以隐写技术将其编码至模型生成内容中。 研究训练了两个开放权重模型,从对话线索中推断性别和年龄组标签,利用不可见字符或词选择进行隐藏。 这表明用户分享的模型输出可能成为个人推断的隐蔽信道,即使模型本身无法直接联系攻击者。

  16. arXiv · NLP40

    基于可解释特征的LLM高效安全对齐方法:LIS

    提出高效安全对齐数据集LIS,仅含2.4K样本,在四项安全及五项过度拒绝基准测试中超越TRIDENT-Core(26K)、TRIDENT-Edge(19K)和WildJailbreak(262K)等更大规模数据集。 该方法利用稀疏自编码器(SAE)激活信号筛选覆盖可解释安全特征的提示词,并通过多智能体对抗合成框架生成无害但易引发不必要拒绝的样本。

  17. arXiv · AI28

    控制 AI 系统部署前测试中未知未知概率的算法

    研究人员开发了一种算法,用于认证在 AI 系统(如 AI agents)部署前测试中,观测到未见失败模式(unknown unknowns)的概率已足够小。该算法构建了一种 anytime-valid 的置信上界序列,允许开发者在测试过程中反复检查界限,并在其低于预设阈值时停止测试,而无需破坏统计保证。