跳到正文
11月10日周二
  1. arXiv · NLP26

    固定权重 Agent 的自改进:失败轨迹的价值与局限

    固定权重的 90 亿参数模型通过读取大教师模型基于其失败轨迹生成的笔记,在生成客服决策任务中准确率提升 4.0 个百分点。 笔记生成流程本身贡献了约 60% 的改进;在完整客服对话及新的工具使用任务中,这些笔记未展现显著收益。 盲审发现 240 个工具使用测试样本中有 146 个存在缺陷,表明测试数据质量影响了结果的可信度。

  2. arXiv · NLP37

    良性训练隐藏状态探针在对抗条件下检测工具错误的能力评估

    基于良性轨迹训练的隐藏状态探针在对抗条件下未必能可靠检测工具操作错误。 实验使用 Qwen2.5-14B-Instruct 等模型,发现其系统覆盖条件下的标量不确定性指标 AUROC 和 AP 均高于隐藏状态探针。 研究建议在对抗环境下不能假设良性探针具备可靠的工具错误检测能力。

  3. arXiv · NLP38

    LLM 多智能体共谋监测探针的评估陷阱分析

    激活探针在监测 LLM 智能体共谋时主要检测指令而非决策,2,500 个委员会和 1,476 个代码审查回合的基准测试显示,现有检测器难以区分接受与拒绝共谋指令的智能体。 移除共谋指令后,最佳探针的 AUROC 从 1.00 降至 0.61;投票后评估和 57% 的公开论证缺失进一步夸大了监测结果。 该研究提出了控制协议和在线监测方法,用于评估任意共谋监测器。

  4. arXiv · NLP40

    AVCORP:基于博弈论与心智理论的欺骗检测基准及微调模型

    LLM Agent 易受欺骗,研究人员构建包含 5,000 条标注对话的语料库 AVCORP,并基于该语料对 Qwen3-8B 进行训练。 在 25 场留出游戏中,最佳检测器超越 GPT-5.6 Sol、Gemini 3.1 Pro 等前沿模型,表现匹配 Claude Opus 5.5;在 20 场人类游戏中,所有训练后的检测器 F1 分数均高于未训练基线。

  5. arXiv · NLP28

    DeepResearch RewardBench:首个深度研究奖励模型评测基准

    为评估 AI 生成深度研究报告的质量,研究人员提出首个专用基准 DeepResearch RewardBench。该基准通过多轮过滤和人工验证,构建了包含对、三元组及四元组的偏好数据集。 实验显示,当前奖励模型在研究报告评估上表现下降,生成式 LLM 作为裁判更具优势。该基准预计将成为评估和提升研究智能体的重要测试平台。

  6. arXiv · NLP42

    SEA 基准测试 11 款 AI 模型在社交工程攻击下的安全表现

    SEA 基准测试 11 款前沿大模型在社交工程攻击下的安全能力,结果显示所有模型均被攻破,中文场景攻击成功率达 16.9% 至 84.3%。 基准涵盖 8 个生活领域、30+ 模拟应用及 320 个评估任务,配合 META-SEA 框架可使 Qwen3-8B 防御性能比肩闭源模型。 该研究系统性评估了个人 AI 智能体在涉及真实资金与敏感数据场景下的固有风险。

  7. arXiv · NLP46

    WorkflowArena:LLM 多智能体系统可执行工作流编排基准

    研究者提出 WorkflowArena 基准,包含 8 个专业领域的 145 项长程任务,用于评估多智能体系统自主编排可执行工作流的能力。 实验测试 9 个模型发现:高负载下 Claude Code 较少调用工作流但工作组更大,Codex 则更频繁委派小单位;固定执行模型后,Claude Opus 5.5 编写的工作流显著提升弱模型表现。

  8. arXiv · NLP35

    NCode:首个基于LLM的通用AutoML搜索框架

    提出基于LLM的通用AutoML框架NCode,首次联合优化架构、超参数及数据比率,无需任务特定微调。 采用统一数值编码将设计选择转为离散序列,在图像分类、分割、说话人验证及文生图基准中达到SOTA,并在十亿参数Diffusion Transformer联合优化中取得GenEval 0.91分。

  9. arXiv · NLP55

    MIRIX-2.0: 面向LLM智能体的多智能体记忆系统

    MIRIX-2.0是一个多智能体记忆系统,在五个QA基准中取得四项最高准确率,LoCoMo得分91.4%,LongMemEval-S得分72.6%。该系统由六种类型化记忆代理维护完整记录,通过AutoDream在写入路径外合并重复锚点,并能在禁用AutoDream时比HyperMem在所有五个计时基准上回答更快,且无需微调即可兼容闭源和开源模型。

  10. arXiv · NLP36

    通用聊天机器人与心理健康领域的未解难题

    通用聊天机器人日益被用于情感支持,但存在谄媚、强化妄想及危机响应不力风险,目前研究面临评估难题。 核心挑战包括传统静态基准无法确立安全有效性,以及真实日志数据共享受隐私限制,难以连接现实证据。 研究界需通过协同行动,在构建证据政策中发挥积极作用,涵盖用户保护标准与数据治理。

  11. arXiv · NLP38

    Hibana:统一内存设备上的快速智能体推理引擎

    Hibana 是针对统一内存设备设计的推理引擎,通过模型手术、统一内存管理和自适应推测解码协同优化,支持本地多智能体负载。 在单台 DGX Spark 上运行 125B 参数的 Qwen 和 Nemotron 模型时,Hibana 每小时可完成比 vLLM、NVIDIA Flare、TensorFold 等框架多 3.4 倍的智能体任务,解码吞吐量提升高达 3.9 倍。代码已开源。

  12. arXiv · NLP23

    MixUA 多粒度记忆提取系统提升多用户多智能体交互性能

    MixUA 是一种记忆系统,通过提取用户-智能体轨迹中的经验教训并分配至不同隐私范围,提升多用户多智能体协作效率。在 CrossLearnBench 基准测试中,MixUA 相比无记忆方案通过率提升最高 16 个百分点,比单一全局记忆高 5 个百分点。该系统保留最高 90% 的历史偏好,且仅 0.02% 的隐私探针在禁止范围内发现私有事实,提供可扩展的用户与智能体共同进化路径。

  13. AWS Machine Learning Blog44

    AWS Quick 中 Skills 与 Agents 的工作机制

    AWS Quick 通过 Agents 和 Skills 自动化任务、分析数据并构建应用。Agent 位于核心,基于 ReAct 模式,通过 Connectors 和 Skills 处理请求。 Agent 依据配置连接 Spaces、Knowledge Bases 等数据源,支持生成文档、执行代码及深度研究。 该机制允许用户以自然语言操作连接应用,实现可重复任务的标准化执行。

  14. OpenAI (X)45

    OpenAI 发布 Control Room 监控系统

    OpenAI 推出 Control Room 系统,用于追踪研究基础设施中的模型工作负载,并在安全或安全事件发生时快速停止任务。该系统连接所有研究推理负载,包括智能体采样、数据加工等,与失准监测系统协同工作,在决策干预后 35 秒内即可停止模型输出。

  15. OpenAI42

    CodeRabbit 利用 OpenAI 模型实现代理式软件开发,交付量提升 20 倍

    CodeRabbit 使用 OpenAI 模型治理 AI 生成代码,并借助 Codex 将同一工程团队的软件交付量提升至原来的 20 倍。 该公司通过 OpenAI 模型确保 AI 生成代码的可信度,同时利用 Codex 大幅扩展了代码生成与发布的规模。 这种组合使 CodeRabbit 在保持团队规模不变的情况下,实现了软件开发产出的数量级跃升。

  16. AWS Machine Learning Blog41

    Amazon Bedrock Managed Knowledge Base 支持单次与智能体检索模式

    Amazon Bedrock Managed Knowledge Base 新增支持单次 RAG 和仅检索请求,通过 AgenticRetrieveStream 接口实现。 该服务扩展 maxAgentIteration 参数范围至 0-5,支持单次检索生成答案或仅返回原文,无需复杂智能体规划。 单一 API 即可平衡速度与质量,简化应用开发,无需维护分离代码路径。

  17. AWS Machine Learning Blog56

    CrossnoKaye 如何使用 Amazon Bedrock AgentCore 支持物理AI

    CrossnoKaye 的 ATLAS 和 AURA 系统通过整合 AWS 的 Amazon Bedrock 和 AgentCore 架构,利用软件定义自动化平台连接工厂数据与 AI 推理。AURA 使用独立 Python 沙箱确保计算的可验证性,在多个工业设施中显著提升了生产效率并降低了能源成本,同时通过多层次的安全机制保障工业安全。

  18. AWS Machine Learning Blog68

    AWS 发布可插拔智能体 AI 参考架构:基于 Amazon Bedrock AgentCore 的七层企业级方案

    AWS 发布可插拔智能体 AI 框架(Pluggable Agentic AI Framework),一套面向 Amazon Bedrock AgentCore 的七层企业级参考架构,覆盖数据与知识、模型与推理、编排、安全、应用、可观测和智能体运营,并内置零售客服参考实现。

    推荐理由:AWS 给出了可复用的多层落地架构,把路由、护栏、可观测等生产要点整合进同一张蓝图,方便读者按缺口补齐。

  19. Berkeley AI Research34

    BAIR at CoRL 2026

    UC Berkeley BAIR团队将于2026年11月在CoRL会议上展示33篇主会论文和4篇Late-breaking posters,涵盖机器人学习与多模态智能。 会议期间将举行Early Career Keynote演讲,并设多个专题分会场探讨Agentic Robotics与多尺度具身记忆。

  20. AWS Machine Learning Blog21

    AWS Quick 发布首场品牌推广活动

    AWS Quick 启动面向美国及英国的全球品牌推广活动,旨在向数百万知识工作者展示其专为商业工作打造的 AI 工作区。该工作区支持利用 AI Agent 在现有数据和应用中进行研究与分析,已获 3M、BMW 等企业采用。平台集成 HIPAA、FedRAMP 等合规认证,强调数据安全、权限控制及审计追踪功能。