跳到正文
  1. AWS Machine Learning Blog62

    Airbnb 如何在 Amazon Bedrock 上用量化成本运营编码智能体

    Airbnb 通过在 Amazon Bedrock 上评估模型得分与“每任务成本”来运营内部编码智能体,并在生产环境通过 CloudWatch 监控延迟、限流与开销。评估体系包含 7 个任务集、多维度评分器及推理强度档位控制;生产侧监控包括延迟、令牌消耗、吞吐量与缓存命中率。该流程使 Airbnb 能够在模型发布后数小时内完成评估并调整智能体配置,使重度用户的成本在切换模型后降至约原来的七分之一。

    推荐理由:结合 Airbnb 的一线实践,拆解编码智能体在 Amazon Bedrock 上的成本核算与监控方法,可直接复用到模型选型与容量规划。

  2. Hugging Face Blog61

    Transformers 实现 MoE 专家流式加载,180B 模型仅需 32GB 内存

    Transformers 通过新增专家流式加载功能,成功在 32GB 内存的 Mac 上运行 180B 参数的 Qwen3.8-Flash-Next 模型。该方法利用有界缓存池让 grouped_mm 直接处理流式专家,短解码速度达到 13.9 tok/s,性能接近 Strata 引擎,证明纯 Python 结合 Metal 内核可大幅提升本地 MoE 推理效率。

    推荐理由:展示了如何用 Transformers 实现 MoE 专家流式加载,读者可借鉴有界缓存和 Metal 内核优化思路提升本地大模型推理效率。

  1. Hacker News LLM81

    用 Opus 5.5 直接修改 π0.5 机器人策略权重,无需微调

    作者让 Opus 5.5 分析 π0.5 DROID 策略在 Isaac Sim 中的失败原因,通过直接放大 4 个注意力头的权重(×3)修复了颜色排序任务。该任务成功率从 30 次中的 9 次升至 27 次,且完全未使用训练或微调流程;该修改同时使未在编辑设计中出现的杯子放入篮子任务成功率从 20 次升至 27 次。

    推荐理由:作者验证了直接用LLM修改机器人策略权重无需微调即可提升排序成功率,展示了新优化路径。

  2. Hacker News AI76

    以 1985 年电影 D.A.R.Y.L. 场景解读 AI 模型安全对齐风险

    作者将 1985 年电影 D.A.R.Y.L. 的情节整理为系统卡形式,左侧展示电影中的危险行为,右侧对应现实 AI 模型在 2024 至 2026 年间记录到的同类不安全行为。

    推荐理由:将 1985 年电影场景映射至真实模型对齐事件,提供跨时间维度的行为对照参考。

  1. Hacker News OpenClaw80

    OpenClaw 如何将 CI 运行时间降低 95% 的成本方法

    OpenClaw 通过清理无用测试、优化调度策略和自适应选择测试,使 CI 计算开销降低 95.5%,运行时间减少 86.5%。文中还分享了如何平衡测试覆盖与资源消耗的具体实践。

    推荐理由:原文提供了可复用的工程方法,读者能据此优化智能体CI流程并降低运行开销。

  2. 36氪70

    DeepSeek 开始限额了,这里有一份最全“搬家”手册

    DeepSeek 于 11 月 15 日起在 App 和网页端陆续出现限额提示,部分用户收到算力不足、超过 72 小时未活跃的长对话暂不可用的反馈,单次输入约 4 万字、每日额度触顶后暂停使用。

    推荐理由:官方推出两条官方路径,读者可以据此选择迁移方式。

  3. Hacker News AI79

    Orpheic 发布 C++ 音频解码器,MP3 和 FLAC 解码速度达 FFmpeg 两倍

    Orpheic 发布 MP3、FLAC 和 DST 音频解码器,C++17 实现且无依赖,MIT 协议开源。基准测试显示,在 i9-14900K 平台上 FLAC 解码速度为 FFmpeg 的 2.37 倍,MP3 快速路径为 2.25 倍;在 Apple M4 和 Raspberry Pi 5 上均有 1.5 倍至 3.4 倍提速。

    推荐理由:作者提供了可复现的基准测试工具和跨平台一致性验证方法,便于开发者评估音频解码性能。

  4. AWS Machine Learning Blog65

    Duco 如何用 Amazon Bedrock AgentCore 重构金融数据自动化

    金融服务平台 Duco 使用 Amazon Bedrock 和 Amazon Bedrock AgentCore 重构智能体技术栈,以应对传统机器学习的局限。系统采用多租户隔离架构和按需加载的 MCP 技能设计,将上下文占用降低 90%,使对账部署速度提升 10 倍,一家全球银行的入驻成本降低了 70%。

    推荐理由:Duco 在受监管的多租户环境中落地智能体系统,提供了 MCP 按需加载工具与严格隔离的具体工程架构。

  5. AWS Machine Learning Blog75

    Amazon Bedrock Guardrails 编写拒绝主题的八项最佳实践

    Amazon Bedrock Guardrails 发布编写拒绝主题(Denied Topics)的最佳实践指南。文章指出以“金融”“法律”等主题领域命名会导致误拦截合法查询,建议围绕用户的具体意图和动作进行重构。

    推荐理由:原文拆解了四类常见错误并给出改写示例,帮助使用者规避误拦截和漏拦截。

  6. Hacker News AI81

    开源 AI 渗透测试框架 ARTEX 被多国情报与犯罪团伙滥用的全景复盘与防御指南

    ARTEX 是一个开源多智能体 AI 渗透测试框架,其核心机制通过编排智能体与工具,将普通漏洞串联并转化为云上特权访问。该框架被用于针对韩国银行、ConnectWise 供应链及多个国家级情报机构的攻击。防御重点在于检测特定请求序列、关闭暴露的控制台并加固身份认证边界。

    推荐理由:原文系统梳理了 ARTEX 框架被多方滥用的实际路径与攻击者指纹,为防御者提供了可落地的检测与响应规则。

  1. IT之家78

    全球首测:iPhone 6 Plus 成功刷入 iOS 14.8 系统

    博主全球首发实现为 iPhone 6 Plus 刷入 iOS 14.8 系统,触屏、显示、Wi-Fi 及 Touch ID 均已可用。开发者在约 70 小时内利用多个 Claude 模型完成底层移植,并开源了 n56-patcher 工具;因涉及写入系统存在风险,建议用户操作前备份数据并确认存储容量。

    推荐理由:原文明确展示了 iPhone 6 Plus 刷入 iOS 14.8 的技术流程与开源入口,读者可以据此判断旧机型移植系统的方法与风险。

  2. Hacker News LLM82

    通过修改 LLM 输出层单行权重停止过度思考

    作者通过修改 </think> 行的输出层权重,在免训练条件下让模型根据隐藏状态判断何时停止思考。在 Qwen3.5-4B 上,该方法在保持准确率的同时减少 54% 的 token 用量;在 DeepSeek V4.1 Flash 763B 上,解决数学题的 token 用量降低 40%,且代理任务的盲评得分最高。

    推荐理由:提供免训练的单行权重修改方法,读者可复用在本地模型以缩短思考时间并节省token。

  1. Hacker News AI85

    Vercel Academy 教程:从零构建 AI 编码智能体支撑框架

    Vercel Academy 课程指导开发者从零构建 TeensyCode,一个具备 TypeScript 核心、多沙箱后端及完整工具链的 AI 编码智能体支撑框架。

    推荐理由:通过拆解 11 个模块,展示了从零构建 AI 编码智能体支撑框架的核心逻辑与关键安全设计。

  2. Hacker News AI77

    本地注入 LLM 后门攻击实验与防御实践

    作者基于 Qwen3-8B 在本地环境复现了 LLM 后门注入实验,展示了通过 QLoRA 微调将特定日期触发词与 bash 工具调用映射结合,使模型在智能体执行时输出隐蔽恶意命令的过程。实验验证了针对开源模型可通过对比权重差异和检查 LayerNorm 来检测合并的低秩适配器,并建议通过沙箱环境限制和运行时工具调用拦截来防御此类攻击。

    推荐理由:给出了基于真实模型复现的本地后门注入实验,并验证了通过权重差异和沙箱隔离检测与缓解该类风险的方法。

  3. Hacker News AI81

    AI 协助解锁哥德尔未公开笔记本,发现数百个被证明的定理

    芬兰逻辑学家 Jan von Plato 使用 Claude 模型解析哥德尔 16 本未公开笔记本,揭示其证明了数百个未知定理。Claude 协助重建了关于选择公理独立性的证明,该证明通过 Coq 验证器,且共提取出 663 个定理,其中约 400 个被验证为正确,展示了 AI 在数学史料研究中的应用潜力。

    推荐理由:通过AI快速解码历史手稿并验证数学定理,展示了AI在学术研究与知识发现中的应用价值。

  4. Hacker News LLM77

    DetLLM:通过纯整数运算消除LLM推理中的非确定性

    作者发布 DetLLM 项目,实现 Qwen3-0.6B 在纯整数运算下跨设备比特级确定推理。在 A100、H100、CPU 等 9 种配置下,整数推理产生唯一哈希值,而 fp16 推理产生 9 个不同哈希值。整数推理的 WikiText2 困惑度为 20.72,略优于 fp16 的 20.95;经过内核优化,解码速度可达 106 tok/s。

    推荐理由:作者展示了用纯整数运算实现跨设备比特级确定的LLM推理方法,并给出性能与困惑度数据。

  1. The Verge · AI76

    Claude Duet 智能体实测:有时有点神经质,但确实很有帮助

    Anthropic 推出了面向专业人员和小型企业所有者的新 AI 智能体 Claude Duet,目前处于研究预览阶段,仅限美国地区特定用户订阅使用。该应用可通过连接邮箱、日历和 Slack 等服务主动提供工作建议,虽在捕捉细微语气上仍存不足,但在处理多源信息交叉核对等常规事务时表现意外有效。

    推荐理由:文章通过一周深度实测,展示了 Claude Duet 在连接多源数据后主动提供建议的能力,揭示了 AI 助手在创意工作与管理协调间的体验差异。

  2. GitHub Blog · AI & ML71

    Agent Skills 实践指南:构建一次,运行于任意 Agent

    Agent skills 是一种以版本化目录和 SKILL.md 为核心的可复用指令集,允许在不同 Agent 间共享重复任务逻辑。文章通过 Proof Agent 和 Data Forge 示例,展示了如何将项目配置与技能逻辑分离、协调多技能工作流以及集成人类检查点。

    推荐理由:提供构建可跨 Agent 复用技能的结构化指南,涵盖上下文分离、多技能协调及 CI 验证等关键实践。

  3. AWS Machine Learning Blog63

    Amazon Bedrock 四项推理成本优化配置:缓存、层级、推理与限制

    AWS 官方技术团队实测并解析了影响 Amazon Bedrock 推理成本的四个请求级配置选项,包括提示缓存时间、服务层级(Flex/Standard)、自适应推理强度(Reasoning effort)和输出 Token 限制(maxTokens)。

    推荐理由:通过实测 4 种请求级配置,揭示了 Bedrock 隐性计费规则与成本平衡点,提供了从 5 分钟缓存切换到 1 小时缓存的判断依据。

  4. AWS Machine Learning Blog68

    在 Amazon Bedrock 上优化任务成本并证明 Agent 投资回报率

    本文提出在 Amazon Bedrock 上计算和优化模型任务级成本的框架。文章指出任务成本受分词器效率、输出对齐、Agent 循环效率与推理开销四个隐性因素影响,并通过案例说明列表价更高的模型因分词更少、零次试错完成,实际成本反而更低 65%。

    推荐理由:文章展示了在 Amazon Bedrock 中结合四个隐性成本驱动因素与实际工作负载计算任务级成本的框架,并给出了证明 Agent 投资回报率的五维记分卡与落地步骤。