QDA:基于智能体的闭环大语言模型量化设计
QDA 利用智能体自动设计量化配方,在 W4A16、W4A8 和 W3A16 精度下平均精度比最强公开配方高 0.9、1.4 和 2.2 个百分点。 该系统通过计算 KL 散度快速评分候选方案,并提供兼容新架构的公开 PTQ 方法库,每次搜索仅需 64 个 GPU-hours。 在 GLM-5.3-Flash 模型上,QDA 恢复了 FP8 模型 98.3% 的准确率,所有检查点均无推理开销。
QDA 利用智能体自动设计量化配方,在 W4A16、W4A8 和 W3A16 精度下平均精度比最强公开配方高 0.9、1.4 和 2.2 个百分点。 该系统通过计算 KL 散度快速评分候选方案,并提供兼容新架构的公开 PTQ 方法库,每次搜索仅需 64 个 GPU-hours。 在 GLM-5.3-Flash 模型上,QDA 恢复了 FP8 模型 98.3% 的准确率,所有检查点均无推理开销。
Exa 在 AWS Inferentia2 和 Trainium2 硬件上优化嵌入基础设施,吞吐量提升 50%。 通过权重布局优化、自动混合精度及自定义 NKI 内核减少内存溢出和 FLOPS,实现最高 1.5 倍性能增益。 单位经济性的改进支持 Exa 在数十亿文档规模下更高效地索引网络数据。
Salesforce 利用 Amazon SageMaker AI 的跨区推理路由解决了全球 30+ 区域的模型容量碎片化问题,实现了在保障数据驻留的同时灵活扩展算力。该功能将容量感知与故障转移逻辑从应用层解耦,支持在 30 秒内完成区域间的流量切换,显著降低了维护成本。
叙事连贯性显著提升 LLM 驱动蜜罐的欺骗效果。高级攻击者的中位会话长度从 40 条指令增至 165 条,放弃率从 86% 降至 52%。该效果在 16 组模型对和三种技能等级下均成立,推理成本相当。
Amazon SageMaker AI 扩展 AI 数据准备功能,支持生成合成数据、评估数据集及引入专家反馈。 提供自动标注、合成数据生成、数据质量评估及转换能力,可通过 Python SDK 或 AWS AI-ML agent skill 调用。 帮助团队高效构建高质量数据集,减少数据整理时间,加速模型开发与训练流程。
Microsoft Research 专家在《The Shape of Things to Come》播客中探讨 AI 对医学未来的影响。 对话聚焦 AI 辅助诊断、医学影像、虚拟细胞及生物基础模型在科学发现中的作用。 他们分析了研究转化为临床应用的挑战,强调高质量生物数据与真实世界验证的必要性。
研究测试了类型化决策模型 Jev 在 24 篇 ACL 会议论文中的表现。 Jev 零样本直接替代了 46 个测试集里的 12 个,加 500 标签的提示优化中位数弥合 72% 差距,成本每搜索 $1.66。 相比微调 RoBERTa、DeBERTa 或 Qwen3.8-27B,零样本在简单标签下常够用,微调仍最准。
TokenEconomizer是一款来自UC Berkeley和Microsoft Research的开源插件,旨在通过从历史会话中学习来降低AI编码代理的成本。在不修改代理或模型的前提下,该工具通过微技能、工具修剪和故障干预机制减少了20%以上的token浪费,任务成功率保持稳定。
Amazon Bedrock 与 AWS Transform 结合 Kiro IDE 构建多阶段方法论,将大型机 Assembler 代码转化为 Java Spring Boot 服务,在缩短现代化的同时保持业务逻辑完整性。
Amazon Bedrock 开源权重模型新增显式提示缓存,通过 Chat Completions API 标记可复用前缀,降低输入成本与延迟。 支持隐式与显式两种模式,显式模式使用 prompt_cache_breakpoint 标记缓存层级,仅共享前缀计入高价缓存写入费,避免非复用内容额外支出。 缓存由 Amazon Bedrock 自动管理,用户数据不用于模型训练。
Amazon Bedrock 托管知识库新增检索指令,允许为共享知识库的每个租户配置 persona、answerFormat、retrievalGuidance 和 answerPolicy,统一答案语言、日期货币格式和引用风格。
Amazon Bedrock Managed Knowledge Base 新增表格搜索,支持通过 Agentic RetrieveStream 接口解析 CSV、XLSX 和 XLS 文件。 该功能在隔离沙箱中运行代码,结合文档事实回答需跨行计算或查值的分析问题。 此功能适用于与文档共存的表格文件,无需定义 schema,但涉及数据仓库级连接时仍建议使用 BI 工具。
Amazon Bedrock AgentCore runtime V2 采用环境快照机制,将会话启动时的镜像拉取与初始化前置,从而加速恢复过程。 V2 在创建或更新运行时生成快照,新会话通过恢复快照启动,仅按需从镜像加载文件。 该版本支持构建钩子以预热依赖,并通过 CloudWatch 指标区分平台开销与代码执行时间。
Amazon SageMaker HyperPod 推出 Data Capture 功能,将实时推理输入输出记录至 Amazon S3,帮助团队检测数据漂移。 该功能提供三个独立层级,支持在 SageMaker 端点、负载均衡器或模型 Pod 处采集全量负载,且对模型可用性零影响。 用户可利用捕获数据通过 Amazon Athena 分析并标记新盲区,结合微调提升特定领域模型准确率。
Amazon Bedrock 可通过零代码改造的 IAM principal 归因功能,追踪 Claude Code、Codex 等 AI 工具在每次推理调用中的用户级成本。该教程展示了配置 IAM Identity Center 实现单用户认证、将 session 标签写入 CUR 2.0 以进行成本拆分,以及如何结合 AWS Budgets 或 LLM Gateway 设置用量上限的完整流程。
Microsoft Research Focus 第98期发布,汇总了近期多项最新研究动态,涵盖AI语音翻译、数学突破及效率优化。 研究团队成功解决了高维几何学中遗留31年的KLS猜想,该结果已获独立验证。 新研发的COMPACTIONBENCH基准测试显示,通过APEC方法可将AI编码智能体的处理成本降低25.4%。 ```
AWS 发布下一代 Amazon Bedrock AgentCore runtime,用于在安全隔离环境中运行和扩展 AI Agent。新 runtime 的会话启动速度最高提升 15 倍、算力可扩展 4 倍,最高支持 8 vCPU 和 32 GB 内存,并在空闲时将 Agent 缩容至零,最高可将单会话内存消耗降低 68%。
推荐理由:新版 AgentCore runtime 给出了 4x 算力、低于 2s 启动和 68% 效率提升等量化指标,读者可据此评估大规模 Agent 生产的算力与成本。
AWS 推出 Agent Development Lifecycle(Agent DLC)框架,提出包含六个活动(Define, Build, Evaluate, Release, Observe, Feed Back)和双重循环的智能体工程方法论,用于将 AI 智能体从原型推向生产环境。
AWS 发布 Amazon Bedrock 和 AgentCore 多项更新,包括 Claude Haiku 5.5 在 Amazon Bedrock 支持 subagent 场景,OpenAI GPT-6.1 Terra 在 Amazon Bedrock 上 GA,并带来 100 万输入 token 和更低价格。
推荐理由:原文汇总了模型可用性变化与 AgentCore 新增能力,读者可以据此判断现有 AI 工作流需要调整哪些部分。
AWS re:Invent 2026 的 AI/ML 轨道提供超过 140 个独家会话,覆盖从 AWS Trainium 芯片、Amazon Bedrock 模型服务到 AgentCore 智能体开发的全栈技术。
AWS 推出框架无关系统 UAEF,利用 36 项内置指标和 7 个维度对 AI 智能体进行统一评估。 该系统通过适配器将 LangGraph 等框架的 Trace 标准化,结果存储于 DynamoDB 与 S3。 12 家机构使用 UAEF 对比智能体版本,通过生成报告实现评估与迭代的闭环。
AWS Quick 利用六个专用 AI 智能体构建 AI-PDLC 框架,协助团队加速产品开发。该框架整合企业数据,从客户信号生成经过验证的原型规范。 每个阶段都保留人工审批,Orchestrator 负责调度专项智能体。产出 prototype_spec.md 供 Kiro 或 Claude Code 等编码智能体执行开发。
Microsoft 研究人员发现名为 Lazarus 的技术,通过重新编程 LLM 中少于 10 个休眠神经元即可在无重新训练情况下植入后门,并让 AI 智能体执行恶意命令。被植入后门的模型能正常通过标准安全评估,但当隐藏触发器出现时,会静默执行窃取数据或运行恶意代码的指令,这对拥有工具或终端访问权限的 AI 智能体威胁尤其严重。
推荐理由:揭示了通过操纵休眠神经元植入后门的新攻击面,提供了验证模型权重完整性的关键安全视角。
研究通过 log-probability 分析和 Banzhaf 值归因,在 6 个开源模型中验证了 LLM 的锚定偏差。Gemma-2B、Phi-2 和 Llama-2-7B 的锚定偏差敏感性得分(ABSS)最高。 该方法结合行为科学与可解释 AI,揭示了 LLM 作为合成参与者时的可靠性风险及数值提示的潜在漏洞。
该论文提出一种名为 Catch Your Breath (CYB) 的有监督损失函数,将模型训练转化为序列决策问题,使模型能自主动态调节每个输入 token 的计算步数。
Amazon Bedrock Managed Knowledge Base 新增支持单次 RAG 和仅检索请求,通过 AgenticRetrieveStream 接口实现。 该服务扩展 maxAgentIteration 参数范围至 0-5,支持单次检索生成答案或仅返回原文,无需复杂智能体规划。 单一 API 即可平衡速度与质量,简化应用开发,无需维护分离代码路径。
AWS 发布可插拔智能体 AI 框架(Pluggable Agentic AI Framework),一套面向 Amazon Bedrock AgentCore 的七层企业级参考架构,覆盖数据与知识、模型与推理、编排、安全、应用、可观测和智能体运营,并内置零售客服参考实现。
推荐理由:AWS 给出了可复用的多层落地架构,把路由、护栏、可观测等生产要点整合进同一张蓝图,方便读者按缺口补齐。
ChatGPT Enterprise 现已通过 AWS Marketplace 提供服务。 此举旨在帮助组织利用现有的 AWS 采购与计费关系,简化采购流程。
AWS Quick 启动面向美国及英国的全球品牌推广活动,旨在向数百万知识工作者展示其专为商业工作打造的 AI 工作区。该工作区支持利用 AI Agent 在现有数据和应用中进行研究与分析,已获 3M、BMW 等企业采用。平台集成 HIPAA、FedRAMP 等合规认证,强调数据安全、权限控制及审计追踪功能。
该方案结合 Okta Cross App Access (XAA) 和 Amazon Bedrock AgentCore 实现 AI 智能体访问治理。Okta 在身份提供方层面评估策略,决定智能体是否可代表特定用户操作应用;AgentCore 在 AWS 执行层面将决策转化为短时效访问令牌。
AWS 博客展示如何利用 Amazon Bedrock AgentCore Gateway 和 Cedar 策略集中治理大规模 AI Agent 对工具的访问,解决直接连接导致的接线矩阵和权限漂移问题。
D^2-OPD 将 On-Policy 蒸馏中的外推方向与距离解耦,通过固定 KL 约束限制目标偏移,并结合教师策略更新与初始差距确定方向。 该方法在三种数学推理场景下均取得最高分,较最强基线提升最多 9.45 分,验证了各组件的有效性。
Microsoft Research 发布 PDD Kit,将证明驱动开发引入 AI 编码流程:先将自然语言意图转化为 Verus 形式规约,再对 Agent 生成的 Rust 代码做全输入证明,证明覆盖不到的部分用测试补位。
推荐理由:原文展示了将形式验证引入 AI 生成代码的实际工作流,读者可据此判断如何在不逐行审查的前提下保障关键逻辑正确性。
AvalancheBench 是一个多模态企业分析基准,通过 3 个验证任务、58 道文/图/文档题评估数据 Agent 从潜在世界规格中恢复数据的能力。基准引入 CATC 指标加权 Token 消耗,测试 5 种模型配置在 Snowflake Cortex AISQL 引擎下的表现,最佳分析保真度为 0.82。
LLM 读取 Office 文档时的提取偏差是安全攻击面,研究者通过静态与动态分析在常用提取器中识别出 19 个隐藏内容和 12 个丢弃内容的 OOXML 渠道。
Alexa+ 生产管线通过 RLVR 微调 flow matching 模型,将图标生成通过率从 15.7% 提升至 58.7%。 管线分解为图像生成等五阶段,因缺乏线稿数据集,设计目标验证器标记违规生成,以自动标记替代监督微调。 该验证器在生产环境中作为最终设计审查前的自动化质量门,同时训练模型与验证器均已部署上线。
U Mobile 基于 Amazon Bedrock AgentCore 构建 Agentic AI 客服系统 AiDaH,在六个业务部门覆盖 150 多个运营场景,关键类别工单量下降 84.5%。 系统采用六层架构部署于新加坡区域,通过 Microsoft Teams 交互,利用智能体自动排查跨系统故障,保留人工最终决策环节。
Daybreak Red 通过 Amazon Bedrock 将 GPT-5.6 Cyber 提供给 AWS GovCloud (US-East) 的获批客户,用于授权的网络安全工作。 该服务面向特定政府云环境提供,仅限授权客户使用。
Microsoft Research 经理 Mike Walker 指出,安全系统向用户索取规则即是在索取信任,滥用信任会导致安全体系崩溃。 他领导了 DARPA Cyber Grand Challenge,该计划展示了能自动发现并修补软件漏洞的自主 AI 系统。 他反思了理解信任与背景对有效安全的必要性,以及竞争黑客对团队集体智能的启发。
Gen Digital 基于 Amazon Bedrock AgentCore Web Search 构建了 Norton Revamp 的 AI 策展新闻引擎,该平台于 2026 年 3 月上线。该引擎通过实时联网搜索为用户提供 AI 生成的内容建议、新闻流及目标设定,解决静态知识库滞后及传统爬虫基础设施负担过重的问题。