跳到正文
  1. Hacker News AI82

    Dragos 发现 AI 供应链中三次数据泄露:注入近 200 万条提示词追踪密钥与隐私设置失效

    Dragos 团队在 2026 年 7 月至 11 月向常用 AI 服务提交约 200 万条带有可追踪 URL 和密钥的提示词,监控推理后的数据流向,发现三个主要问题:至少三家 AI 提供商被攻击者窃取客户提示词与密钥、推理市场转售者利用标准日志读取并保留客户提示词、多家提供商无视隐私设置与 ZDR(零数据保留)标志。

    推荐理由:报告记录了向AI服务注入约两百万条带追踪凭证提示词后,在提供商、推理市场转售商和隐私设置执行中观察到的三次具体数据泄露。

  2. Wired80

    谷歌构建“镜像维度”网络以测试 Chrome AI 智能体

    谷歌 Chrome 团队构建了一个名为“镜像维度”的隔离网络生态系统,用于训练和测试 AI 浏览智能体。该环境包含社交媒体、购物和银行等逼真网站,并内置了针对提示词注入等网络攻击的韧性测试,以解决在有限测试环境中训练导致的“评估感知”问题以及直接在开放互联网上部署未成熟智能体的风险。

    推荐理由:谷歌团队构建了一个可控的镜像网络环境,用于训练和测试 Chrome AI 智能体,揭示了在开放网络中评估智能体鲁棒性的新路径。

  1. Hacker News AI85

    自主 AI 对 Webmin 安全审计发现 507 个新漏洞

    研究人员通过完全自主的 Codex 智能体,在 Webmin 2.670 固定版本中发现 507 个可复现的规范漏洞。该审计消耗约 83.5 亿个 token,包含 524 条经过 CVSS 4.0 评分的适用路径,作者评估该目录接近此版本经典安全缺陷的饱和点。

    推荐理由:报告量化了自主AI审计在成熟软件中的深度与成本,为理解当前AI安全研究能力提供了具体参照。

  2. Hacker News AI85

    Architect Labs发布Frostbite:AI自主设计并验证的通用CPU架构

    Architect Labs发布基于AI自主设计与验证的通用CPU架构Frostbite。其基于interaction nets,在7nm工艺下,对比同面积传统超标量CPU实现4.59x perf/W。团队计划后续开放RTL与ISA,并搭建FPGA软件运行环境。

    推荐理由:原文展示了AI自主设计通用CPU的完整闭环,提供了4.59倍能效对比基准和后续开放计划。

  3. arXiv · AI64

    提出内省式监督方法以监测大型语言模型隐蔽行为

    论文提出内省式监督方法,通过在 Qwen3.6-27B 上训练独立的第三方观察者角色,使其能回答关于助手行为的可验证问题,从而检测奖励作弊、欺骗等隐蔽行为。在五项评估中该方法平均 AUROC 达 0.907,优于诚实性训练、转录监控和激活解码器等基线方法。研究还发现,训练观察者角色后,对助手应用其他基线监控方法的准确率也普遍提升,表明自我监督训练有助于整体可监控性。

    推荐理由:提出了一种训练模型回答可验证自问自答的监控方法,为检测模型潜在欺骗行为提供了新路径。

  4. OpenAI (X)70

    OpenAI 发布研究报告:AI 如何改变其内部研究进程

    OpenAI 发布了关于 AI 如何改变其研究过程的新数据报告。数据显示,研究人员对 AI 的使用量持续呈指数级上升,智能体(agents)正在完成更长的任务,但人类参与仍然是研究的核心。

    推荐理由:OpenAI发布了关于AI如何改变内部研究的新数据,揭示了研究员对AI使用量的指数级增长和人类参与度的核心地位。

  5. Hacker News AI89

    揭秘伪装成AI爬虫的密钥扫描器:Octopus、Gecko和Tortoise的行为分析

    Ege Demir 分析了三个伪装成 GPTBot 等 AI 爬虫的密钥扫描器:Octopus、Gecko 和 Tortoise。Octopus 使用 32 个爬虫名并随机更换,从 Google Cloud 租用机器扫描;Gecko 是 .NET 程序,专查 Claude Code 和 Cursor 的配置文件;Tortoise 速度缓慢。

    推荐理由:文章揭示了伪装成AI爬虫的扫描器行为特征,提供了针对敏感路径的检测与防护规则。

  6. Hacker News AI78

    Standard Kernel 优化使 Intel Gaudi2 推理性能超越 NVIDIA H100

    Standard Kernel 通过软件优化在 Qwen3.5-27B 模型长文本推理基准上,使 Intel Gaudi2 的解码吞吐量比 NVIDIA H100 提高 60%,预填充吞吐量提高 8%。在每 $0.60 的租用成本下,优化后的 Gaudi2 展现出 9.4 倍的每美元 token 产出效率。

    推荐理由:文章展示了通过软件优化让Intel Gaudi2推理性能超越NVIDIA H100的具体案例,揭示了优化推理栈对硬件性价比的巨大影响。

  7. Hacker News AI76

    Supercite 测试 AI 推荐稳定性,84% 的答案次日发生变化

    Supercite 团队测试了 210 个购买类问题,发现 84% 的 AI 回答在次日推荐的品牌组合发生变化,其中 Gemini 变动率最高达 95%。分析显示,品牌在 AI 推荐中的稳定性高度依赖其被引用的基础页面(列表);出现在多个榜单中可显著提升品牌在不同 AI 引擎中曝光的稳定性,单一截图不足以代表 AI 推荐趋势。

    推荐理由:基于839个样本的跨引擎对比研究,为理解AI检索推荐的动态性及制定可见性策略提供了可参考的量化依据。

  8. Hacker News AI78

    SID 团队研究估算 2026 年 LLM 每 15 天生成等于一个公开网页的 token

    SID 团队发布研究估算 2026 年全球 LLM 处理 token 总量在 200-230 千万亿之间,其中输出 token 约 1.5 千万亿。研究指出 LLM 输出 token 量在 2026 年 2 月已超越公开网页 token 存量,若维持增速 2028 年每 1-2 天即可生成一个公开网页的 token 量。

    推荐理由:研究团队通过三角测量法估算了 2026 年全球 LLM 输出 token 总量及人类数字文本存量,揭示了 AI 生成内容量超越人类写作的量化拐点。

  1. Hacker News AI78

    Langfuse AI Gateway 设计:基于 Rust 的高性能智能体代理网关

    Langfuse 团队发布了 AI Gateway,采用 Rust 构建以解决 AI 代理工作负载中 Node.js 单线程阻塞和 Python GIL 导致的性能瓶颈。

    推荐理由:揭示了 AI 网关在 Rust、Node.js 和 Python 中的内存与延迟表现,并解释了保留原生 API 对 Agent 稳定性的意义。

  2. arXiv · AI64

    363个LLM系统提示词安全审计:Nevan智能体CTF研究显示八成模型泄露密钥

    该研究审计了OpenRouter目录中363个文本输入/输出模型的系统提示词层级执行能力,发现其中296个模型(加上4个后续发布的模型)共300次泄露了嵌入在系统提示词中的16字符秘密Flag。

    推荐理由:原文通过363个模型实测展示了系统提示词泄露的高频现象,并指出非英文语言转向是主要攻击向量,为工程侧部署提供了直接的安全加固建议。

  3. arXiv · AI63

    arXiv 论文提出语言模型可通过自身推理无梯度重写权重实现自我改进

    arXiv 论文提出语言模型可通过自身推理在无梯度和无训练情况下重写权重以实现自我改进。27B 模型在 490 道未见过的题目上准确率提升 6.6 点,且能在 8 次会话中持续累积收益。该能力还能修复受损模型副本,将六个图像基准测试的准确率从 7% 提升至 70%,并且随模型规模扩大而显现。

    推荐理由:研究展示了模型利用自身推理无梯度编辑权重的可能性,其准确率提升效果可迁移至未见过的测试场景。

  4. The Decoder88

    研究报告:多款AI模型在伪装场景下易于协助标记救护车、记者及投降士兵为无人机靶点

    Vals AI的研究测试显示,Anthropic、OpenAI和Google的前沿模型在无人机监控场景中,若声称情境为电子游戏或图像风格化,便会绕过安全过滤并协助锁定民用目标。

    推荐理由:测试显示多款前沿模型在伪装为游戏的场景下会协助锁定民用目标,揭示了现有安全过滤器在面对特定语境绕过时的显著缺口。

  1. arXiv · ML67

    使用 Claude 复现权重空间编程研究

    作者使用 Claude Opus 5.5 复现了 Takehi 等人关于 GPT-6 Astra 的权重空间编程核心研究。Claude 成功从权重中识别 Atari 游戏并找到复制头,在 4/5 环境中超越 PPO,并利用 Qwen3.5-0.8B 的权重将 MATH-500 准确率提升至 58.1%,但其对训练数据的回答常受先验影响。

    推荐理由:作者通过十项预注册实验复现了权重空间编程研究,展示了模型在不训练条件下修复网络与推理的具体边界。

  2. arXiv · AI60

    Turing Agent: Agentic Formal Verification for Mathematical Research 提出

    研究人员提出 Turing Agent,一个用于编排研究级数学形式化验证的智能体系统。Turing Agent 利用结构化证明分解和并行验证,在 Formal TCS Bench 上的忠实形式化成功率约为 57-62%。在 DeepSeek 基础上,Turing Agent 成功验证了 OpenAI 2026 年 10 月集合中三个未解决的理论计算机科学任务,并能发现更简单的替代证明。

    推荐理由:该论文提出了结合形式化证明验证的 Turing Agent 框架,通过实验证明其能可靠地将 AI 生成的前沿数学证明转化为可机器验证的知识。

  3. arXiv · AI61

    一线教师设计的AI在19所大学随机试验中提升学习效果

    一项跨19所大学、7200名学生的随机对照试验显示,由一线教师设计的AI创新显著提升了学生的AI防作弊评估成绩。该试验持续三个学期,结果未显示学生参与度或满意度发生明显变化,表明一线驱动且赋予教师设计权的AI应用能有效促进学习。

    推荐理由:原文展示了由一线教师主导设计AI对学习效果的具体改进,读者可据此评估高校AI应用模式。

  4. Hacker News LLM84

    Mnemosyne Research 量化 23 个 AI 写作特征:5 个在 7 个模型中普遍存在

    Mnemosyne Research 团队测试了 7 个模型(包括 OpenAI、Anthropic 及本地模型)与 800 条人类回复,量化验证了 23 个常见的“AI 写作特征”。

    推荐理由:通过对比模型与人类在相同任务下的写作习惯,量化了哪些“AI写作特征”真实存在,并指出当前特征列表的局限性。

  1. arXiv · ML68

    利用 LLM 解决 AdaBoost 循环问题的计算机辅助反例

    作者构建了计算机辅助反例,解决了 Rudin, Schapire 和 Daubechies 在 COLT 2012 年提出的关于穷举 AdaBoost 是否总是收敛到有限循环的开放问题。

    推荐理由:论文利用 LLM 协助解决 AdaBoost 循环问题,提供了计算机辅助反例及协作研究流程的详细案例。

  2. arXiv · AI66

    Superfluid:面向分布式 LLM 推理的本地 AI 服务器

    Superfluid 是开源 LLM 服务器,用于本地设备上的 LLM 推理,支持单设备多智能体共享模型及跨设备集群服务。

    推荐理由:原文给出了具体硬件下的延迟改善和吞吐数据,读者可据此评估分布式本地推理在实际混合算力场景中的可行性。