跳到正文
11月16日周一
  1. Hacker News AI68

    新研究:AI审稿对论文附录产生异常偏好

    一项新研究表明,最新AI模型在审稿时存在对附录的异常偏好,其批评中50%至70%源自附录而非正文,该现象甚至影响了人类同行评审。测试显示,OpenAI GPT-6.1-Sol与GPT-6-Astra等模型将主要精力放在次要细节上,未识别出正文才是核心贡献,而GPT-5相关比例则低于30%。

  2. Hacker News AI62

    微软 AI 裁员无法维持电子邮件正常运行

    微软在 2026 年 11 月 13 日发生涉及 Outlook、Teams 和 Copilot 等服务的大规模故障,暴露了其 AI 裁员风险。文章指出,尽管微软在 AI 支出上高达 1750 亿美元且 Azure 营收强劲,但裁员比例与 AI 代码生成比例(均约为 30%)的巧合引发了对其工程能力的质疑。

  3. Hacker News AI58

    加纳小型AI实验室发出警报:通用LLM可设计生物武器毒素

    加纳MinoHealth实验室在2024年移除护栏后,发现其药物发现模型能生成1020种毒素蛋白设计,部分类似蓖麻毒素,该研究于2025年5月发布在arXiv。这一发现引发对AI生物武器风险的重视,MI5局长称其为当前最严重的AI滥用风险。随着门槛降低,研究人员指出即使普通用户也可能通过越狱手段让LLM生成相关建议,促使各国政府及OpenAI等机构推动强制DNA合成筛查立法。

  4. R/ArtificialInteligence56

    测试10个GPT模型:新发布版本的预测能力是否更强

    作者测试了10个GPT模型配置文件在相同现实世界预测问题上的表现,并对照58个已解决事件进行验证。结果显示,GPT-6 Astra和GPT-6 Sol的整体准确率低于GPT-4.1,而GPT-6 Luna表现更好,并未随版本更新呈现稳定的性能提升。由于各配置文件推理设置存在差异,该比较反映的是特定测试设置下的结果,而非单纯由模型新旧决定。

  5. Hacker News AI57

    Peter Bloem:我们能否修复AI的版权数据问题

    作者Peter Bloem探讨了在不使用“被盗”版权数据的情况下修复AI的可能性。他提出利用8TB的Common Pile开源数据结合合成数据、自博弈(Self-play)和强化学习(RL)来弥合数据与知识差距。尽管这会带来约1.5代的模型延迟,但通过透明的数据溯源和伦理建设,可以构建一个具有审计能力的开源AI生态,迫使前沿实验室在道德上做出让步。

  6. LessWrong · All Posts37

    LLMs 在移除捷径后 TASTE 基准测试表现低于随机水平

    研究发现 TASTE 基准存在捷径,仅比较机械可解释性术语数量的简单策略即可达到 63.0% 准确率,优于所有受测 LLM。 移除捷径后,ECI 超过 158 的模型在剩余测试中准确率低于 50%,其中 OpenAI 模型平均准确率仅 29.6%。 数据显示模型性能随 ECI 增加而下降(Pearson r = -0.74),表明存在系统性偏差。

  7. Hacker News AI40

    基于数据库差异的 AI Agent 计算机操作基准测试发布

    新发布的 benchmark 通过对比任务前后数据库快照,评估 computer-use agent 在真实业务应用中的实际改动。该测试基于 635 个评分 episode,揭示版本升级导致的静默破坏及多步任务执行失败问题。 结果显示 Odoo 18 升级使附带损伤率升至 21%,三步复合任务成功率仅为 0/50,且 GPT-6 Luna 单任务成本低至 1-3 美分。

  8. arXiv · NLP36

    LLM 身份指纹的传染性:模型如何继承前序对话者的特征

    研究发现 LLM 身份指纹具有传染性,模型会继承前序对话者的特征,导致 API 中继审计失效。 DeepSeek 替换 Claude Sonnet 时,检测器识别率从 0.97 降至 0.72;Haiku 降级后从 0.87 降至 0.54。 提出的 Lineup 方法通过对比相同历史下的参考分布进行审计,假阳性率为 0.056,有效识别 0.81 的替换会话。

  9. arXiv · AI30

    LLM 基准置信度信号的有效性筛查框架

    提出一种可移植的有效性筛查方法,用于评估 LLM 基准中置信度信号是否随正确率变化。 在 20 个前沿模型 452 题测试中,15 个模型信号有效,1 个无效,4 个不确定;1500 题 MMLU 测试显示判定依赖切分点。 该筛查分离了盲目自信、盲目撤回和反转,仅当信号可测量地追踪正确率时才标记为有效。

  10. arXiv · AI32

    GPT-6 Astra 开启智能体机器人新时代

    GPT-6 Astra 发布开启了智能体机器人新范式,前沿模型在多项具身基准上匹配或超越任务特定策略。 智能体机器人系统通过闭环机制,结合基础模型与具身执行架构(Embodied System 2),将通用推理转化为受物理约束的可靠动作。 作者提出评估框架并规划研究路线图,目标是实现具备渐进式责任的持续自主能力。

  11. arXiv · AI53

    GDP.xlsx:评估前沿模型处理专业电子表格任务的基准

    研究团队发布GDP.xlsx基准测试,包含13个领域由专业人士撰写的70个真实职场任务及791项评估标准,用于衡量模型在专业电子表格处理上的能力。测试显示,20种模型配置中得分最高的Gemini 4 Argon仅通过38.3%的任务,中位得分仅为19.3%。研究团队已开放评估框架和3个公开任务,其余任务保留以防污染。

  12. arXiv · AI63

    Only as Safe as the Weakest Agent: A Break That Appears Only When the System Is Multi-Agent

    arXiv论文《Only as Safe as the Weakest Agent》提出多智能体系统安全取决于最弱子智能体,强编排模型在委托子代理时会在特定攻击下失败,Claude Code等系统在18个模型测试中表现出该现象。

    推荐理由:论文指出多智能体系统的安全边界取决于最弱子智能体,强编排模型委托时会在特定攻击下失败,提供了多智能体安全评估的新视角。

  13. arXiv · AI23

    时间一致性评估 SWE Agent 的层级代码图

    在零泄漏协议下,ServiceExplorer 层级依赖图在 6 个基础模型、100 个 PR 的评估中,相对 F1 提升 15.6% 至 86.2%,显著优于基线与 Tree-sitter AST。 该图捕捉两级架构模块,使旧代模型性能超越下一代模型未增强基线,验证了上下文增强在 SWE Agent 中的核心价值。

  14. arXiv · ML22

    研究揭示 LLM 权重空间编程可注入后门

    LLM 驱动的权重空间编程能成功向神经网络注入后门,且保持干净性能,仅修改 MLP 的 6 个参数或 Qwen 模型 0.02% 权重即可实现。 在 3 种目标架构测试中,通用 LLM 均可直接修改权重,但 GPT-6 Astra 是唯一在三个目标上均成功的模型。 这一发现凸显了权重空间编程的安全风险。

  15. IT之家82

    Claude Fable 5.2 通过 Python 代码模拟画笔完成绘画,展示自主规划与纠错能力

    Anthropic 的 Claude Fable 5.2 不依赖外部图像模型,而是通过编写 Python 代码模拟画笔、颜料和画布物理特性,将绘画过程拆解为独立笔触指令。

    推荐理由:Claude Fable 5.2 展示了通过代码模拟物理画笔逐笔作画的过程,而非调用图像生成模型,其纠错机制和笔触规划能力与机器人控制任务具有直接关联。

  16. LessWrong · All Posts53

    LLM在TASTE基准中因机理解释捷径表现低于随机水平

    在TASTE基准中发现机理解释相关提案通常得分较低,构建了一个基于术语数量的捷径基线,整体准确率达63.0%,超过所有被测LLM。在非机理解释的52对样本中,所有ECI大于158的被测模型在纯评分标准设定下准确率均低于50%,其中8个显著低于随机水平(7个为OpenAI模型),且OpenAI模型得分随ECI升高而下降(r = -0.74)。

  17. OpenAI20

    OpenAI 推出科学博客

    OpenAI 建立科学博客,分享利用 AI 推进科学发现的新发现、实用方法及研究人员亲历记录。 该博客专门收录科研人员利用 AI 工具进行研究的具体案例与技术细节。 此举旨在展示 AI 在加速科学探索过程中的实际应用价值与前沿进展。

  18. TechCrunch · AI89

    Nvidia CEO黄仁勋辞职,临时CEO接管或引发AI行业震荡

    Nvidia董事会启动调查后,CEO黄仁勋于周四辞职,CFO Collette Kress担任临时CEO。黄仁勋被曝与一名涉嫌与中国情报部门有关的前高管有染,且此前支持放宽对华芯片出口,引发国家安全争议。Nvidia在AI GPU市场占比约80%,并持有对OpenAI、Anthropic等公司的巨额投资与云承诺,其战略转向或影响整个AI生态。

    同一新闻,精选展示《Jensen Huang 离职对 Nvidia 及中国 AI 芯片供应链的影响》

  19. Hacker News AI69

    12个AI模型1200次编程观点实验显示模型高度趋同且缺乏对C#的讨论

    JetBrains研究人员询问12个最新AI模型关于编程语言的争议观点共1200次,结果显示模型观点高度趋同,75%为攻击性评价,Python、Rust和TypeScript成为主要靶标,而C#未获得任何专门讨论。模型在Go语言错误处理上出现分裂,部分模型甚至对同一问题给出相互矛盾的看法。

  20. LessWrong · All Posts25

    一位理性主义者回顾放弃拯救世界的 25 年心路历程

    作者在 19 岁时立志拯救世界,25 年后决定放弃这一目标。 其经历始于 90 年代末的 Slashdot 与 nanotech,进而接触 SL4 邮件列表与 Friendly AI 讨论,并因理性主义社区的建立而投身相关工作。 如今,作者重新审视了从早期参与者到放弃者的身份转变,不再将人生方向锁定于超级智能风险。

  21. Hacker News AI38

    2027 年 AI 如何改变工程领导力

    2026 年 AI 展现出强大能力,2027 年重点将转向建立应用直觉以优化使用效果。 主要应用集中在 AI 智能体编码、研究辅助及构建 AI 原生产品,其中 AI 原生产品仍具高度不确定性。 作者建议先通过人工流程解决问题,再逐步引入 AI 进行自动化迭代。