跳到正文
  1. AWS Machine Learning Blog62

    Airbnb 如何在 Amazon Bedrock 上用量化成本运营编码智能体

    Airbnb 通过在 Amazon Bedrock 上评估模型得分与“每任务成本”来运营内部编码智能体,并在生产环境通过 CloudWatch 监控延迟、限流与开销。评估体系包含 7 个任务集、多维度评分器及推理强度档位控制;生产侧监控包括延迟、令牌消耗、吞吐量与缓存命中率。该流程使 Airbnb 能够在模型发布后数小时内完成评估并调整智能体配置,使重度用户的成本在切换模型后降至约原来的七分之一。

    推荐理由:结合 Airbnb 的一线实践,拆解编码智能体在 Amazon Bedrock 上的成本核算与监控方法,可直接复用到模型选型与容量规划。

  2. Hugging Face Blog61

    Transformers 实现 MoE 专家流式加载,180B 模型仅需 32GB 内存

    Transformers 通过新增专家流式加载功能,成功在 32GB 内存的 Mac 上运行 180B 参数的 Qwen3.8-Flash-Next 模型。该方法利用有界缓存池让 grouped_mm 直接处理流式专家,短解码速度达到 13.9 tok/s,性能接近 Strata 引擎,证明纯 Python 结合 Metal 内核可大幅提升本地 MoE 推理效率。

    推荐理由:展示了如何用 Transformers 实现 MoE 专家流式加载,读者可借鉴有界缓存和 Metal 内核优化思路提升本地大模型推理效率。

  1. AWS Machine Learning Blog65

    Duco 如何用 Amazon Bedrock AgentCore 重构金融数据自动化

    金融服务平台 Duco 使用 Amazon Bedrock 和 Amazon Bedrock AgentCore 重构智能体技术栈,以应对传统机器学习的局限。系统采用多租户隔离架构和按需加载的 MCP 技能设计,将上下文占用降低 90%,使对账部署速度提升 10 倍,一家全球银行的入驻成本降低了 70%。

    推荐理由:Duco 在受监管的多租户环境中落地智能体系统,提供了 MCP 按需加载工具与严格隔离的具体工程架构。

  2. AWS Machine Learning Blog75

    Amazon Bedrock Guardrails 编写拒绝主题的八项最佳实践

    Amazon Bedrock Guardrails 发布编写拒绝主题(Denied Topics)的最佳实践指南。文章指出以“金融”“法律”等主题领域命名会导致误拦截合法查询,建议围绕用户的具体意图和动作进行重构。

    推荐理由:原文拆解了四类常见错误并给出改写示例,帮助使用者规避误拦截和漏拦截。

  1. GitHub Blog · AI & ML71

    Agent Skills 实践指南:构建一次,运行于任意 Agent

    Agent skills 是一种以版本化目录和 SKILL.md 为核心的可复用指令集,允许在不同 Agent 间共享重复任务逻辑。文章通过 Proof Agent 和 Data Forge 示例,展示了如何将项目配置与技能逻辑分离、协调多技能工作流以及集成人类检查点。

    推荐理由:提供构建可跨 Agent 复用技能的结构化指南,涵盖上下文分离、多技能协调及 CI 验证等关键实践。

  2. AWS Machine Learning Blog63

    Amazon Bedrock 四项推理成本优化配置:缓存、层级、推理与限制

    AWS 官方技术团队实测并解析了影响 Amazon Bedrock 推理成本的四个请求级配置选项,包括提示缓存时间、服务层级(Flex/Standard)、自适应推理强度(Reasoning effort)和输出 Token 限制(maxTokens)。

    推荐理由:通过实测 4 种请求级配置,揭示了 Bedrock 隐性计费规则与成本平衡点,提供了从 5 分钟缓存切换到 1 小时缓存的判断依据。

  3. AWS Machine Learning Blog68

    在 Amazon Bedrock 上优化任务成本并证明 Agent 投资回报率

    本文提出在 Amazon Bedrock 上计算和优化模型任务级成本的框架。文章指出任务成本受分词器效率、输出对齐、Agent 循环效率与推理开销四个隐性因素影响,并通过案例说明列表价更高的模型因分词更少、零次试错完成,实际成本反而更低 65%。

    推荐理由:文章展示了在 Amazon Bedrock 中结合四个隐性成本驱动因素与实际工作负载计算任务级成本的框架,并给出了证明 Agent 投资回报率的五维记分卡与落地步骤。

  4. AWS Machine Learning Blog65

    Amazon Bedrock 为托管知识库工具实现细粒度访问控制

    AWS 发布方案通过多层防线让企业 Agent 共享知识库时仍按用户权限检索。核心流程为:通过 AWS Cognito 与 Lambda 在访问令牌中注入邮箱。

    推荐理由:文章给出多层防线与可部署的CDK堆栈,读者可据此在共享Agent场景中隔离各用户的数据访问权限。

  1. AWS Machine Learning Blog69

    使用 LangGraph 与 Amazon Bedrock AgentCore Web Search 构建每日依赖项监控工具

    Amazon Bedrock AgentCore 的 Web Search API 现已可用,它为智能体提供带有来源引用的最新网络搜索结果。这篇文章介绍了一个使用 LangGraph 结合该 API 构建安全团队每日依赖项监控工具的教程,该工具通过并行搜索 npm、PyPI 和容器基础镜像,并利用代码层限制和证据检查机制来确保结果准确。

    推荐理由:文章展示了如何在 LangGraph 中将不可更改的规则与数据保留在代码中,提供生产级智能体的构建范式。

  1. Anthropic (X)71

    Anthropic 发布新博客介绍 Claude 的记忆机制

    Anthropic 发布了新的工程博客文章,介绍 Claude 如何通过“dreaming”机制整理已学习内容、纠正错误并更高效地检索所需信息。文章链接为 https://www.anthropic.com/research/components-of-agent-memory

    推荐理由:官方披露了 Claude 通过记忆机制优化学习流程的工程细节,展示了智能体在经验积累上的新能力。

  1. AWS Machine Learning Blog65

    Deep Insight 如何在生产级 AI 智能体中实现四层上下文工程

    AWS 官方教程介绍了名为 Deep Insight 的开源多智能体数据分析项目,它基于 Strands Agents SDK 和 Amazon Bedrock AgentCore,展示了四层上下文工程方法。

    推荐理由:原文给出了四层上下文工程架构与代码实现,并展示单一工具与按需加载可显著降低token占用。

  1. AWS Machine Learning Blog67

    Amazon SageMaker AI 通过序列级知识蒸馏构建高效 Agent 教程

    本教程演示了使用序列级知识蒸馏 (SeqKD) 在 Amazon SageMaker AI 上微调购物 Agent。使用前沿教师模型 (GLM-5.3) 生成多步轨迹并过滤,通过有监督微调在服务器上训练 Qwen3.5-4B 学生模型。微调后的 4B 模型在保留推理链的情况下,将绝对成功率从基座的 0.297 提升至 0.541,接近教师模型水平。

    推荐理由:展示了如何仅用教师模型文本输出构建数据集并微调4B学生模型,保留推理链可将任务成功率从41.5%提升至54.1%。

  1. 月之暗面 Kimi65

    Kimi 官方教程:如何结合外部工具制作 3D 作品

    Kimi 官方教程说明如何基于 Kimi K3.1 Pro 与 3D 制作工具制作网页、建筑、小游戏和预告片。教程区分参数化建模和网格化建模,并介绍 kimi.com 的 3D Make、Kimi Work、Kimi Code 和 Kimi API 四类入口,以及 Blender、Unreal Engine、Unity、Godot、Tripo、Meshy 等工具。

    推荐理由:文章将官方宣发的 3D 演示拆解为可复用步骤,并指出不同入口与外部工具在复杂场景制作中的分工。

  1. AWS Machine Learning Blog70

    AWS 教程:基于 Amazon Bedrock AgentCore 构建企业级智能体 AI 平台

    AWS 发布架构方案,展示如何在 Amazon Bedrock 和 Amazon Bedrock AgentCore 上构建多账户智能体 AI 平台。方案通过独立的推理与工具网关及严格的部署评测管道,让各业务团队能在隔离的边界内安全开发并运维 Agent,实现规模化企业级治理。

    推荐理由:原文给出了多账户运营模型和评测管道设计,读者可据此理解如何治理企业级 AI 智能体平台。

  1. Qoder69

    Qoder 解释模型思考强度并调整默认值

    Qoder 官方解释模型思考强度对任务耗时和 Credits 消耗的影响,并将 GLM-5.3、Kimi-K3.1-Pro、Kimi-K2.8-Preview 和 DeepSeek-Flash 的默认强度从“最大”调整为“高”。基于 QoderBench 近 200 个用例的评测显示,调低一级可使这 4 个模型单次成本下降两成以上,而得分相对下降不到一成。

    推荐理由:官方基于近200个真实评测用例,给出了四个模型将默认思考强度调至“高”的成本与得分变化,为使用者选择强度提供了量化参考。

  1. Qoder62

    Qoder 上线 php2shell Defense 与 Node.js 漏洞扫描插件协助排查高危漏洞

    Qoder 插件市场上线 php2shell Defense 和 Node.js 漏洞扫描两款插件,用于应对 PHP 和 Node.js 近期的安全更新。该功能允许用户通过预设指令对项目进行只读检查,在用户确认方案后执行文件修改与本地测试,并协助验证部署结果。文中指出使用 DeepSeek-V4.1-Flash-1017 执行该检查流程目前免费。

    推荐理由:官方针对 PHP 和 Node.js 高危漏洞提供了两款配套插件及标准化检查指令,帮助开发者在不接触生产环境的前提下完成风险排查与修复验证。

  2. 豆包工作75

    豆包工作发布 8 个销售提示词模板

    豆包工作发布了 8 个销售提示词模板,覆盖潜在客户发掘、沟通话术撰写、会前准备、会后待办、方案生成、投标协同、客户跟进及数据复盘场景。这些模板要求模型执行特定的信息筛选、事实核验与结构化输出任务,用户只需替换产品、客户画像、日期等占位符即可在豆包工作运行。

    推荐理由:原文提供了覆盖销售全流程的 8 个提示词模板,读者可直接替换占位符在豆包工作执行对应任务。

  1. AWS Machine Learning Blog60

    在Amazon SageMaker HyperPod上微调GPT-OSS-20B以实现多语言推理

    AWS展示了在Amazon SageMaker HyperPod上使用SFT和GRPO微调GPT-OSS-20B,使其推理和回答语言支持法语、德语、西班牙语和意大利语。基础模型多语言推理正确率仅为22%,SFT将推理语言正确率提升至100%,GRPO在SFT基础上将回答语言正确率从62%提升至70%。

    推荐理由:给出了GPT-OSS-20B微调后的多语言准确率变化,以及SFT和GRPO在不同能力缺口下的选择逻辑。

  1. 豆包工作63

    豆包工作学术科研实战指南:7 个场景提示词与 Skill 教程

    豆包工作官方发布学术科研实战教程,覆盖 Origin 绘图、COMSOL/MATLAB/ANSYS 仿真、文献调研、论文精读、写作润色、投稿审查及组会汇报 7 个场景。

    推荐理由:通过 7 个科研场景的实操案例,展示了如何利用豆包工作配合 Skill 工具,实现从文献检索、论文精读到仿真建模的自动化流程。

  2. 面壁智能90

    面壁智能开源前瞻专家调度(LES)推理技术,实现35B MoE手机实时运行

    MiniCPM-V 团队开源了前瞻专家调度(LES)技术,首次实现35B-A3B规模MoE模型在iPhone 18 Pro Max上以超过20 token/s速度实时无损运行。该系统通过预测下一层专家提前加载权重、优化存储布局与混合精度量化、结合DSpark批量验证,在M4 iPad上以3GB内存配置实现了9.6 token/s的解码速度,相关代码已在GitHub开源。

    推荐理由:原文给出了调度、存储和计算三层系统的具体设计,读者可以据此理解35B MoE模型如何在不增加训练成本的情况下实现端侧实时运行。