用于 LLM-as-a-Judge 护栏的带风险认证的提示词优化
论文提出带风险认证的提示词优化框架,通过统计控制将漏检攻击率限制在用户指定水平 α 以内,最大化良性通过率。 该框架包含 CPS 与 CRISP 两种流程,利用同步上置信界进行认证,并在四个涉及提示注入等数据集上验证了其在不同风险容忍度下的效用提升。
论文提出带风险认证的提示词优化框架,通过统计控制将漏检攻击率限制在用户指定水平 α 以内,最大化良性通过率。 该框架包含 CPS 与 CRISP 两种流程,利用同步上置信界进行认证,并在四个涉及提示注入等数据集上验证了其在不同风险容忍度下的效用提升。
论文提出包含30个决策卡片和83条不变量条款的测试体系,基于Crewroom等11个智能体框架实践构建。 30个卡片分六组分析决策成本,83条中56条已测试、12条推测、15条开放;清单应用示例中30项有11项成立、14项不成立。 该框架用于验证智能体系统边界,未涉及答案质量、成本或其他平台评估排名。
EfficientSkill 是一个两阶段框架,通过技能发现与裁剪压缩提示词,解决反思式优化器导致的 token 膨胀问题。 在 MATH-500、ALFWorld 和 SpreadsheetBench 基准测试中,该框架将 11/12 配置下的输出 token 削减最高达 80%,同时在所有基准上提升平均准确率。
StaleBench 在 892 个真实更新事实中隔离陈旧检索失败,揭示检索指标可能反向评估记忆策略。 无日期展示时,保留策略与全保留对照组在首位返回相同陈述,但读者准确率分别相差 29.5 和 65.6 分;新增 Contamination@5 指标能正确区分策略优劣。 文章发布了数据、冻结评估器及参考基线,被 EACL 2027 Findings 接收。
SG-LegalClarify 是涵盖新加坡法律推理与歧义识别的大规模基准,包含 1,100 道律师撰写的源问题。 该基准含 340 道完整指定和 760 道欠指定问题,共 1,860 个评估实例,采用 IRAC 评估标准评分。 团队评估了 19 个 LLM,发现最佳模型在闭卷条件下仅满足 69.8% 的必填评估项,基准远未饱和。
Omni-Workspace 包含 380 个深度研究风格任务,涵盖四种多模态工作区类型和两个难度等级,用于评估全模态智能体。 18 个代表性模型评估显示,最佳模型平均分仅为 65.93,暴露出多模态上下文膨胀和任务状态漂移等长程执行局限。 该基准推动了全模态智能体在复杂任务自主完成方面的评估与发展。
VLM 规划器在遮挡诱导的部分可观测性下性能骤降,新基准 BW-PO 将现有模型成功率降至 1%。 提出 VLM-as-perceiver 范式,将 VLM 角色限定于局部感知,跨视图证据调和与规划交由外部求解器。 该方法使 Gemma-4-31B 成功率达 97%,Qwen3.5-122B-A10B 达 95%,Gemini-3.1-Pro 达 84%。
SurveyWeave 提出一种智能体架构,将自动综述生成解耦为四个任务,由三个智能体协作完成,并引入 WeaveEval 评估指标。 该框架在全面对比中,比 Codex 高出 8 分,比最强 AutoSurvey 基线高出 6 分。
研究提出标准激活偏好合成(CAPS)框架,通过双重信号评分和归因过滤器,从显式质量标准中生成可归因的偏好数据。 使用 2 万条通用合成偏好对,CAPS 在 IFEval、IFBench 等基准上超越 3.5 万条人工标注数据;在法律任务中,基于公开法条使 Qwen3-8B/14B 提升 4.9 至 6.6 分。 该方法展示了显著的数据效率和领域迁移能力,并构建了 CAPS-Legal 偏好数据集。
ReVision 提出无训练测试时方法,将内在重新审视作为可选动作与搜索、代码执行并行,解决工具增强视觉问答中的答案反转问题。 该方法在六个基准上性能提升1.28%至7.51%,超过Dual-Rollout Combine五项,且推理token使用量与标准工具使用相当。
提出FlashREINFORCE框架,实现无评论家单轨迹异步强化学习,解决长程智能体中的组同步与覆盖问题。 在DeepSeek-R1-Distill-Qwen-1.5B上稳定完成6000次更新,在Qwen2.5-Math-1.5B上以半量rollouts超越GRPO基线1.7个百分点,并成功扩展至Qwen3-30B-A3B模型。
研究团队提出首个LLM智能体经济安全评测基准EconSafeBench,包含828个案例和30期动态交互。 该基准覆盖5类经济场景和4类安全违规,匹配评估用户请求、其他参与者压力及自身绩效目标三种压力源。 对8个LLM模型的静态评测显示整体违规率介于8.5%至40.6%之间,证明在部署至高风险经济环境前需强化安全对齐与严格评测。
研究人员提出首个多轮对话投资建议检测框架,针对 LLM 金融助手的隐性建议风险。 该方法采用模块化合成数据生成管线,通过 LLM-as-a-Judge 进行评估,结果显示上下文建议检测比顺序案例更具挑战性。 这项工作为高风险合规领域可扩展的护栏开发奠定了基础。
OpenClaw 发布 2026.11.5 更新,实现 Gateway 重启后保留队列消息及会话状态,并确保 Doctor 或 Gateway 启动失败时自动回滚激活的更新。 新增 Telegram 交互组件渲染支持,优化内存索引重建可靠性,修复 Claude CLI 回退机制被主账户阻塞的问题,同时调整第三方 harness 会话控制接口。
OpenAI 正与北约及盟国网络机构合作,帮助受信任的防御者发现漏洞、测试补丁并保护关键系统。
特斯拉 CEO 马斯克回应称,如果准备工作顺利,特斯拉最早可能于 2026 年 12 月启动车主将个人车辆接入 Robotaxi 网络的测试,测试大概率在得克萨斯州奥斯汀市展开。
特斯拉迈阿密 Robotaxi 服务范围从 31 平方英里扩至 59 平方英里,增幅达 92%。 新增迈阿密市中心、布里克尔及比斯坎湾区域,保留国际机场等原有覆盖区,目前未延伸至迈阿密海滩。 这是特斯拉在迈阿密实现 24 小时无监督运营几天后的再次扩张,进一步巩固其 Robotaxi 网络密度。
AWS 发布 AWS Emulator,这是一个基于公开 Smithy API 模型生成的通用可用本地 HTTPS 端点,允许开发者和编码智能体在无 AWS 账号的情况下测试 200+ AWS 服务。AWS 公布了保真度分数及关于 IAM、区域和内存状态的文档化限制,明确了模拟器与真实 AWS 的分歧点。
推荐理由:原文提供了本地模拟器的覆盖范围和保真度细节,读者可据此评估其在智能体工作流中的可用性。
Claude Fable 5.2 并非简单点更新,而是具备并行自检与子智能体复查机制的新系统。Max 模式成本虽为 Medium 模式的五倍,但效果可能更差。评估成本效益时,应比较最终结果而非 Token 消耗量。
华为 MateBook 鸿蒙电脑“鸿蒙有礼”权益上新,用户可免费领取三个月标准版小艺 AI 会员,权益包含 1000 点 AI 积分与 50G 华为云空间。 活动入口位于“我的华为”App 首页的“鸿蒙有礼”专区。 此权益与华为官方昨日上线的小艺 AI 订阅服务同步开放。
提出“AI 垃圾螺旋”概念,指出 AI 加速信息流转却导致上下文丢失与共识断裂,造成“伪严谨”文档。 团队用 AI 生成 PRD、设计稿及代码后快速上线,次日即因缺失事件与重复账户 Bug 回滚。 盲目追求高 AI 使用率掩盖了实际生产力下降,组织需警惕输出量增长不等于实质进步。
该项目由电气工程师维护,支持 4 个智能体与 2 个房间交互,直接调用 KiCad 功能,避免文件重写。 它内置技能包,可自动执行 ERC、DRC 及 3D 导出,输出 46 个文件与完整工程报告。
华盛顿大学圣路易斯分校的研究团队在《Nature Medicine》上发表了OpenScientist,这是一个开放的多智能体AI系统,旨在自动化生物医学研究流程,如文献分析、假设生成和临床发现。论文介绍了该系统在神经退行性疾病等临床场景中的应用,并强调了其在整合多模态数据和协作式智能体工作流方面的创新。
在美国数据中心安装 AI 终止开关可预防部分灾难并略微降低灭绝风险,主要体现为政治上的间接效应,但也可能降低推行更稳健安全方案的紧迫性。 OpenAI 系统可在决策后 35 秒内停止研究模型输出,且 Check Point 报告的监控延迟低于 100 毫秒。 该措施有助于防止缺乏战略判断的失控 AI 造成破坏,并可能促进后续的验证与透明度工作。
2026 年 Agentic AI 安全威胁将从提示词注入转向基础设施攻击,包括记忆碎片病毒、钱包拒绝服务及供应链攻击。 AnalyticsWeek 报告 Fortune 500 因“可预测性差距”产生 4 亿美元意外云支出。
作者认为应用传统安全工程方法验证高级AI系统时,会立即遭遇复杂的科学难题。 这些难题与研究“智能体基础”(Agent Foundations)所面对的核心问题本质相同。 该观点揭示了工程化安全保障在应用于先进AI时的根本局限性。
MachCSL 框架基于 Sail RISC-V 语义,将分离逻辑扩展至子指令级别,实现了 xv6 操作系统内核的形式化验证。 该内核包含 6657 行 C 和汇编代码,验证过程历时 102 天,发现 11 个内核 bug 以及 Sail 语义和 Lean 提取中的 2 个 bug。 研究证明,在无崩溃情况下,控制台输入 "echo hello world" 的输出唯一且正确。
原标题声称 AI 智能体无法进行对话。 原文正文缺失,仅有标题与链接信息。
开源终端复用器 Astrum 0.11.0 发布,单文件本地或 SSH 运行,内置 AI Agent 可在当前 shell 中提议并执行命令。 支持 Ollama、Anthropic、Amazon Bedrock 等模型端点,通过 MCP 服务器和 Skills 扩展工具,会话状态在关闭窗口或重启后保留。
该图解指南展示了使用 LLM 构建 AI 智能体(Agent)的核心概念与代码实现。 文章作为 Hacker News 上的技术教程,旨在通过代码辅助开发者理解并实践 Agent 架构。
开发者 Yarrow Rooms 发布了一个小型 Node.js 服务器,允许在本地运行。Coding Agent 通过 MCP 协议加入,人类用户通过浏览器参与。
作者利用 15 年积攒的 2.7GB Humble Bundle 资产,指令 Claude、Codex、Grok 和 DeepSeek 4.1-Flash 生成游戏。
字节与腾讯正通过办公Agent抢占企业市场。腾讯WorkBuddy领先,9月桌面端访问量达8500万次,而豆包工作为3000万次。为追赶差距,豆包工作全面接入第三方模型,并提供DeepSeek限时免费优惠。文章指出办公Agent是巨头在基模落后阶段的现实选择,且模型已降级为可替换的零件,核心壁垒在于办公上下文。
UC San Diego 团队通过深入剖析 GPT-6 Astra 对 Qwen 的数学增强案例,指出其机制实质为一种特定的上下文相关激活引导,而非宣称的原生权重编辑。该分析基于合成数据构建固定方向的激活引导向量,并发现使用经训练的感知向量可进一步提升编辑效果。研究认为将 Astra 的作用理解为激活引导技术结合合成数据应用,有助于厘清大语言模型在权重优化中的实际作用机制。
刘燕翔离职美团创办“乎零科技”,推出 AI 语音健康戒指,已获千万级种子融资。 戒指搭载阿波罗 3 芯片,重不足 5g,续航 7 天,支持语音转写,月底启动预售。 产品旨在成为个人 AI Agent 随身入口,面向高认知复杂人群。
一名超频爱好者利用 ChatGPT 对两个版本的华擎 BIOS 进行反编译和对比,成功定位并修改代码,试图重新启用已移除的 SkyOC 技术。 该操作旨在绕过英特尔非 K 系列处理器的超频限制,并将功能移植至华硕 ROG Maximus XI Extreme 主板。SkyOC 通过调整 BCLK 实现非 K 处理器超频,但英特尔曾通过微代码更新限制此行为,华擎已于 2016 年移除该功能。
网络安全 AI 初创公司 Corma 在推出产品约 3 个月后,宣布完成由 NEA 领投的 1.25 亿美元 A 轮融资,估值达 10 亿美元,累计融资 1.85 亿美元。
苹果今日向iPad和Mac推送iPadOS 27.3 DP Beta 2(24C5049d)和macOS 27.3 DP Beta 2(26C5047e),为国行设备新增“Apple 智能”(Apple Intelligence)功能。
Leopold Aschenbrenner 的对冲基金 Situational Awareness 在 2026 年第三季度末重新入场金融 markets,加仓 AI 相关股票。
Listodo 是一款 macOS 本地任务追踪器,支持将任务通过 CLI 委派给 Codex 或 Claude Code 智能体执行,数据全量存储于 SQLite,无需账号或云端后端。