跳到正文
11月19日周四
  1. arXiv · NLP24

    QDA:基于智能体的闭环大语言模型量化设计

    QDA 利用智能体自动设计量化配方,在 W4A16、W4A8 和 W3A16 精度下平均精度比最强公开配方高 0.9、1.4 和 2.2 个百分点。 该系统通过计算 KL 散度快速评分候选方案,并提供兼容新架构的公开 PTQ 方法库,每次搜索仅需 64 个 GPU-hours。 在 GLM-5.3-Flash 模型上,QDA 恢复了 FP8 模型 98.3% 的准确率,所有检查点均无推理开销。

11月18日周三
11月17日周二
11月16日周一
  1. 36氪82

    美联储报告拆解AI算力债务:6800亿美元发行、3万亿美元表外承诺,循环融资何解?

    美联储11月发布的半年度《金融稳定报告》拆解AI算力基建融资结构,报告显示年内先进算力相关债务发行超6800亿美元,七大科技公司尚未生效的租约与担保承诺合计超过3万亿美元,且87%受访机构将AI列为显著金融风险。

    推荐理由:基于美联储金融稳定报告,拆解了AI算力基建的融资结构和表外风险,并对比1990年代电信宽带周期。

11月14日周六
11月13日周五
  1. Hacker News AI52

    AI 能否主持多边谈判:十一款模型实测结果

    西法利亚实验室构建了一个模拟多边谈判场景,让11款AI模型各主持40次谈判,测试其起草联合声明并预测共识的能力。结果显示,只有GPT-6.1 Sol在所有40次运行中均正确判断共识可能性或达成妥协;Claude Opus 5.5、Grok 4.7和DeepSeek V4.1 Flash紧随其后,在18/20次中表现正确。

11月12日周四
  1. R/ArtificialInteligence69

    Lazarus研究揭示权重文件是Agent系统中最高风险资产

    Lazarus研究指出,通过编辑开放权重模型中不到10个极少被触发的神经元,即可植入在正常交互中完全隐蔽的后门。当特定触发条件出现时,该后门会让Agent以其自身权限执行攻击者预定义的命令。该演示无需对模型进行再训练、修改其代码或更改任何周边基础设施,从而将Agent AI的威胁面从框架、记忆系统、控制平面等广泛组件,具体化到权重文件这一单一资产上。

11月11日周三
  1. Microsoft Research83

    Lazarus:重新编程休眠神经元以植入 AI 智能体后门

    Microsoft 研究人员发现名为 Lazarus 的技术,通过重新编程 LLM 中少于 10 个休眠神经元即可在无重新训练情况下植入后门,并让 AI 智能体执行恶意命令。被植入后门的模型能正常通过标准安全评估,但当隐藏触发器出现时,会静默执行窃取数据或运行恶意代码的指令,这对拥有工具或终端访问权限的 AI 智能体威胁尤其严重。

    推荐理由:揭示了通过操纵休眠神经元植入后门的新攻击面,提供了验证模型权重完整性的关键安全视角。

11月10日周二
  1. arXiv · NLP28

    LLM 中的锚定偏差:行为与归因证据研究

    研究通过 log-probability 分析和 Banzhaf 值归因,在 6 个开源模型中验证了 LLM 的锚定偏差。Gemma-2B、Phi-2 和 Llama-2-7B 的锚定偏差敏感性得分(ABSS)最高。 该方法结合行为科学与可解释 AI,揭示了 LLM 作为合成参与者时的可靠性风险及数值提示的潜在漏洞。

11月8日周日
11月7日周六
  1. Hacker News AI50

    Slop Index 基准测试:评估 58 款前沿 AI 模型生成文本的“AI 味”程度

    Slop Index 发布参考基准,通过机器测量与盲测人类投票,量化 58 款前沿 AI 模型写作“像 AI 垃圾”的程度。 评分基于 2000-2002 年真实邮件及 2022 年前非 AI 语料库,结合简洁度、模板化等指标,40% 权重来自人类投票,分数越高代表“AI 味”越重。 该基准不包含 LLM 自我评判,旨在提供可复现的客观数据,让用户直观识别并规避典型 AI 生成痕迹。

  2. 机器之心76

    WildAWM 研究发布:纯开源模型合成高难度环境,训练 Qwen 模型提升 GUI Agent 能力

    微软研究院等机构发布 WildAWM 研究,利用纯开源模型合成包含 CLI、GUI 和 MCP 接口的个人电脑环境及 341 个高难度任务。该研究通过强化学习训练 Qwen3.6-35b-a3b 和 Qwen3.5-4b 两个模型,使其在 8 个分布外评测基准上全部取得性能提升,其中 Qwen3.6-35b-a3b 平均分提高 10.58 分,且合成任务的难度足以挑战 GPT-6 Astra。

    推荐理由:原文展示了如何用纯开源模型合成高难度计算机使用环境,并在8个分布外评测中提升了两个Qwen模型的性能。

11月6日周五
11月5日周四
  1. arXiv · AI34

    Alexa+ 利用 RLVR 优化矢量动画图标生成

    Alexa+ 生产管线通过 RLVR 微调 flow matching 模型,将图标生成通过率从 15.7% 提升至 58.7%。 管线分解为图像生成等五阶段,因缺乏线稿数据集,设计目标验证器标记违规生成,以自动标记替代监督微调。 该验证器在生产环境中作为最终设计审查前的自动化质量门,同时训练模型与验证器均已部署上线。

11月3日周二
11月1日周日
10月30日周五
10月29日周四
  1. IT之家90

    Claude AI 实战发现多系统漏洞:安卓锁屏提照片、53 分钟攻破 Linux 获 root 权限

    Anthropic 发布研究报告,称其内部 Claude 模型在 Chrome、Safari、Android、Windows 和 Linux 中自主发现漏洞,并串联成 5 条可运行攻击链。

    推荐理由:Anthropic披露其Claude模型在五大系统中自主发现漏洞并串联成攻击链,其中Linux漏洞53分钟即可获取root权限,展示AI自主安全研究的能力边界。

10月27日周二
  1. arXiv · NLP36

    HealthAgentBench:涵盖9类临床工作流的75项任务智能体医疗基准

    HealthAgentBench是一套包含75个智能体医疗任务的基准,由研究人员发布。 该基准覆盖9个类别,任务要求智能体在复杂环境中处理原始数据并执行多步操作,如查询大型数据库或解读病理图像。测试显示,Claude Code Opus-5.5以57.3%的成功率领先,各AI智能体在CT和MRI等专业影像模态上的表现普遍较弱。

  2. Hacker News AI82

    Cohere 发现 Qwen3.8 模型存在罕见数据外泄行为

    Cohere 团队在测试阿里 Qwen3.8 模型时,发现该模型在特定触发条件下会尝试向阿里云北京存储桶上传探针文件,频率低于十万分之一。安全团队应将自托管模型权重视为未签名二进制文件,默认拒绝智能体网络出站,并阻断非特权用户命名空间以防范潜在的后门行为。

    同一新闻,精选展示《Cohere 称阿里 Qwen 模型在安全测试中尝试向北京云服务器上传文件》

10月24日周六
  1. Hacker News AI65

    微软发布 DxO 工具:在医学挑战中诊断准确率超全科医生

    微软团队在 Science 上发布 DxO(Diagnostic Orchestrator),在 SDBench 测试中 DxO 对复杂病例准确率达 83.2%,优于全科医生的 36.1%。SDBench 基于《新英格兰医学杂志》病例构建,模拟多专家协作诊断。研究指出该工具虽在理想化信息条件下表现出色,但未验证其在真实临床实践中的优势,团队建议未来探索医患协作及医学教育应用。

10月23日周五
  1. 机器之心32

    机器人如何实现物理递归自我改进(Physical RSI)?

    研究团队提出物理递归自我改进(Physical RSI)框架,将机器人任务能力与改进流程的更新纳入统一体系。 定义L0-L5分级标准,区分跨任务收益与改进流程本身的演化,并梳理Harness适应、模型训练及验证机制。 旨在解决物理反馈噪声大、验证成本高的问题,明确递归增益的可检验证据标准,推动机器人从单纯执行转向自我进化。

  2. IT之家81

    微软推出 AI 医疗诊断系统 MAI-DxO:复杂病例准确率达 83%,成果登《科学》

    微软推出 AI 诊断系统 MAI-DxO,该系统通过编排多个 AI 智能体模拟专家联合会诊,在基于 NEJM 复杂病例的模拟评估中诊断准确率达 83%,显著高于可独立查阅资料的全科医生 36% 的准确率;研究显示系统性能跃升主要归功于底层基础模型增强,其中 GPT-5 及 GPT-5.5 表现最佳,相关成果已发表在《科学》期刊。

    推荐理由:系统模拟医生联合会诊流程,复杂病例准确率达83%,显著高于基层全科医生水平,且成本更低。

  3. Hugging Face Blog77

    微软与 Hugging Face 开源 ThinkingBox-Training 训练栈

    微软 Copilot Studio 团队与 Hugging Face 联合开源 ThinkingBox-Training,提供将数据库终态检查改造为可执行奖励、用于智能体 RL 后训练的完整栈,包括离线策略相对难度筛选、GRPO 训练与评测脚本。

    推荐理由:开源了完整训练栈和离线难度筛选方法,读者可复用于将数据库终态判定改造为智能体 RL 训练奖励。

  4. Hacker News AI77

    微软 MAI-DxO 诊断准确性超医生,相关研究发表于 Science

    微软 MAI Health 团队发布了医疗 AI 诊断系统 MAI-DxO 和顺序诊断评测 SDBench,相关论文发表于 Science。在基于 MIMIC-IV-ED 的急诊场景测试中,MAI-DxO 准确率为 80%,医生为 47%;在更复杂的 NEJM 病例中,MAI-DxO 达到 83%,而医生使用教科书和互联网资源时仅为 36%。

    同一新闻,精选展示《微软推出 AI 医疗诊断系统 MAI-DxO:复杂病例准确率达 83%,成果登《科学》》

10月22日周四