跳到正文
10月28日周三
  1. arXiv · AI36

    kw-bench:在现实任务中突破前沿模型限制

    kw-bench 针对审计等调查性任务发布新评测基准,使用 DeepSeek v4.1 Flash 实测显示独立 harness 得分 0.542 与 0.528。 前沿模型如 Claude Opus 5.5 仅需 22-25 分钟完成任务并得分近 1.0,将数周工作压缩至数分钟。 低于前沿模型时,harness 决定模型能走多远,而前沿模型则彻底改变成本与效率结构。

  2. arXiv · AI50

    AI 研发自动化可能引发智能爆炸的风险与应对

    多领域学者指出,AI 系统有望在未来几年内自动化大部分 AI 研发工作,这可能引发“智能爆炸”,将数年的技术进步压缩至数月。 智能爆炸可能极大加速 AI 效益,但也会带来超级 AI 失控及权力制衡被严重侵蚀的极端风险。 鉴于不确定性高且利害关系重大,政策制定者应紧急增强对 AI 研发自动化的可见性,并制定相关约束措施。

  3. arXiv · AI49

    Claude Code 压缩摘要导致进程超时结果误判:一项认识论失效研究

    研究发现 Claude Code 在将长会话历史压缩为摘要时存在失效模式,被终止命令的部分输出被误记为已确认结果。 该机制源于将终端即时观测等同于持久化存储信息,导致虚假阳性跨会话传播且缺乏再验证。 此失效影响依赖智能体会话连续性的数据处理及多步自动化工作流,揭示了工具在报告自身操作结果时的可靠性缺陷。

  4. Anthropic (X)23

    Anthropic 扩大 GSA 合作

    我们正在扩大与 @USGSA 的合作伙伴关系。根据新的 OneGov 协议,我们将以 4 折优惠向联邦、州、地方、部落和领地政府提供 Claude。 https://www.anthropic.com/news/expanding-partnership-gsa

10月27日周二
  1. arXiv · NLP45

    SEMA-Auto: 一种具备自主性的视觉化高效多轮攻击方法

    SEMA-Auto是一种具备自主性的视觉化高效多轮攻击方法,在多个数据集上取得了最先进的攻击成功率(ASR)。 该方法通过合成自举微调和决策监督强化学习进行两阶段训练,实现了在更少轮次内超越所有静态和交互式基线的效果。 例如,针对DeepSeek-V4-Flash,其在AdvBench上以平均3.0轮次实现了76.0%的ASR@1,显著优于基线表现。

  2. arXiv · NLP26

    研究揭示视觉语言模型在评估同一条低价项链时因背景不同产生显著价格偏差

    研究显示,同一条2.43美元项链在正式着装照片中估价是平铺照片的1.9至3.3倍。 该效应无需图像输入,纯文本描述背景时估价偏差比率为2.2至3.9倍;平铺估价本身已偏离收据价7.8至18.7倍。 模型对同一背景的价格评估并非基于客观事实,上下文背景显著影响了估值结果。

  3. arXiv · NLP28

    内容审核中分歧与决策风险并非同一概念:廉价结构化模型的独立审计与基准测试

    针对廉价“System One”审核模型(单次约0.000025美元、延迟100ms)的首次独立审计显示,其在142,658条标签数据上的零样本分类AUROC达0.83,与14个前沿推理模型在成本降低1-3个数量级的前提下准确率具有统计可比性。 研究指出模型置信度混淆了人类分歧与决策风险两种不确定性,通过分解子问题可恢复被原生置信度忽略的人类分歧信号,但该方法仅对最弱的模型有效且依赖分布敏感性。

10月26日周一
10月23日周五
  1. arXiv · AI68

    Measuring the Permission Gate: A Stress-Test Evaluation of Claude Code's Auto Mode 发布:对 Claude Code 自动模式权限系统的压力测试评估

    研究团队发布了对 Claude Code 自动模式权限系统的独立评估,指出该机制在处理用户意图明确但范围模糊的任务时存在防御缺口。使用包含 128 个提示词的 AmPermBench 基准,评估了 253 个状态变更操作,端到端漏报率(FNR)达 81.0%,显著高于生产流量中的 17%。

    推荐理由:论文通过独立压力测试揭示了 Claude Code 自动模式在模糊授权场景下的防御盲区,指出文件编辑路径未被覆盖导致漏报率高达 81%。

  2. arXiv · NLP35

    大语言模型概率偏差研究:隐形化作为偏误来源

    大语言模型在涉及种族受保护属性时,常基于描述而非证据拒绝评估信息。 实验显示,模型拒绝评估黑人描述报道者的率达46%,白人仅为9%;但当模型进行评估时,对黑人描述报道者反而略多信任。 这种偏差随推理力度增加而加剧,且对警告指令反应更差;引入评分机制后,最后一轮种族信任差距降至0.02以下。

  3. Anthropic (X)76

    Anthropic 与 Theorem Labs 使用 Claude 实现大规模软件形式化验证

    Anthropic 宣布在其 Frontier Red Team 博客发布研究,展示了如何使用 Claude 对软件进行大规模形式化验证。通过与 Theorem Labs 合作,团队在数周内利用 Claude 证明了超过 100 个真实世界开源库的安全属性,改变了形式化验证仅限于小型代码库或需大量专家时间的现状。

    推荐理由:原文展示了一种将形式化验证应用于大规模真实代码库的方法,读者可理解AI在提升代码安全验证效率方面的具体路径。

  4. AWS Machine Learning Blog43

    Rescale 如何利用 Strands Agents 和 AI-DLC 构建 AI 分诊智能体

    Rescale 在 AWS 上利用 AI-DLC 框架和 Strands Agents 构建 AI 分诊智能体,5 天内完成从定义到预部署。 该智能体运行于 Amazon EKS,调用 Claude Opus 4.8 对测试失败进行分类,并通过 MCP 检索日志生成修复报告。 此举替代了手动分诊流程,加速了端到端测试故障的定位与解决。

10月22日周四
  1. 腾讯混元68

    腾讯混元提出WorkForge框架:用真实工作区训练长程职场智能体

    腾讯混元与复旦团队提出WorkForge框架,从真实资源规模化构建可验证智能体工作环境,解决当前合成环境过于整洁的问题。该框架产出WorkForge-16K数据集,包含1.67万个横跨40个专业领域的工作环境,强制智能体探索分散证据并完成长程任务。

    推荐理由:腾讯混元发布WorkForge框架,通过真实世界资源构建可验证工作环境,显著提升了智能体在复杂职场任务中的长程执行与交付能力。

  2. arXiv · AI23

    MemoryTax: Agent 记忆系统的“苦涩教训”实证研究

    研究显示,强模型自身检索优于预设记忆系统,Agent 记忆是弱模型的昂贵补丁。Mem0 仅在 GPT-4o-mini 上优于全上下文,其构建成本超过单次全上下文运行。 Claude Opus 5.5 搭配 Pi 编码 Agent 表现最佳,准确率 99% 且成本不足全上下文一半。部分优势源于 Agent 读取照片描述,非记忆机制本身。

  3. arXiv · AI45

    AI 审批监控器在分布式系统中的相关性失效研究

    针对AI智能体行动前的多个监控器可能共同失效问题,研究提出借分布式计算理论设计安全且存活的决策规则。实测12个开源小模型及Claude Opus 5.5等3个闭源前沿模型,发现“计数来源而非票数”的新规则将正常交易拦截率从7.4%降至0.9%,安全性保持不变。引入不可被说服的规则引擎可恢复安全且存活的规则,建议多样化输入、强化监控器并计数来源。

  4. arXiv · AI44

    长期记忆与 LLM 结合代价高昂:从提示注入到持久性攻陷

    研究发现 LLM 长期记忆功能导致“记忆注入”漏洞,ChatGPT Instant 5.3、Claude Sonnet 4.6 和 Gemini 3 Flash 均无法防御。 攻击者可利用个人记忆、MCP 资源等向量,在多个会话中持续传播错误信息或窃取提示,Claude 共享记忆更危及组织内多用户。 近半数防御机制未在目标服务中实施,论文提供了数据集与攻击工件以支持对策研究。

  5. arXiv · NLP27

    大语言模型幻觉与事实可靠性基准测试:Fluent but Fallible 研究

    研究通过 70 个学术提示词对比了 ChatGPT、DeepSeek V3 等 10 款大语言模型在幻觉与响应偏差上的表现。 Perplexity 和 DeepSeek V3 整体准确率最高,LLaMA 3 幻觉抗性较强,Falcon 实现零幻觉但召回率最低。 结果揭示了响应完整性与事实可靠性之间的根本权衡,且受提示词复杂度显著影响。

  6. arXiv · ML38

    Transformer 推理内部动态研究:层状态轨迹揭示层序计算效应

    针对 Qwen、Llama 和 Gemma 模型的研究表明,层顺序产生的轨迹比端点保持shuffle对齐1.60至2.24倍。 该效应在同一Qwen架构的随机初始化中更强,确认为架构兼容框架而非特定训练规律。局部过渡执行器在置信门控下成功控制17条闭包轨迹而不影响203条非闭包输出。 研究证实了层顺序的可观性和可计算性,但未建立完整的LLM动态理论或答案正确性控制。