跳到正文
10月7日周三
  1. arXiv · ML32

    SecureSD:通过强化早期 token 验证解决 LLM 推测解码安全漏洞

    首次系统研究表明,有损推测解码在提升 LLM 推理效率的同时导致越狱等攻击成功率激增。 SecureSD 通过理论分析发现安全退化源于草稿模型生成的早期 token,并据此实施更严格的验证标准。 该方法在保持效率与实用性的前提下显著提升了安全性,研究成果已被 IEEE S&P 2027 接收。

  2. arXiv · ML27

    大规模电商数据概念漂移下的分布式联合分布测试

    该研究评估了五种多列双样本检验方法在工业级数据集上的表现,包括哈佛数据档案馆和1.375亿行的Trendyol特征表。分布式最大平均差异结合随机傅里叶特征在强漂移模式下表现稳健,Pearson相关系数达0.940,真实阳性率80.4%,假阳性率3.2%。维度独立的Kolmogorov-Smirnov检验因统计量饱和而失败,揭示了大规模采样设计的关键限制。

  3. arXiv · ML36

    CACHEFORGE:由 LLM 引导的端到端生成式缓存替换策略框架

    CACHEFORGE 是首个将大语言模型嵌入硬件感知循环以端到端演化缓存替换策略的框架。 LLM 每轮生成 C++ 替换逻辑,经 CRC-2 ChampSim 仿真及奖励整形等机制闭环优化,突破固定预测器结构限制。 在 SPEC CPU2006 上,其总命中率比 LRU 提升 5.73% 至 27.36%,内存密集型负载 IPC 最高提升 10.15%。

  4. arXiv · ML28

    MaskAhead:面向块扩散语言模型的无训练 KV 缓存驱逐方法

    无训练方法 MaskAhead 通过基于掩码查询的排序机制解决块扩散语言模型中的 KV 缓存选择与驱逐问题,显著降低显存开销。在长提示问答任务中,其量化变体 Q-MaskAhead 平均减少 20.1 倍 KV 显存,F1 损失 2.3 分,并在批量 32 场景下实现 1.23 倍端到端加速。该方法在 LLaDA2.0-mini 等模型上验证了推理阶段加速与长文本检索能力。

  5. HackerNoon · AI89

    GPT-6 Astra 272K token 上下文附加费及成本控制指南

    OpenAI 发布的 GPT-6 Astra 模型规定输入超过 272K token 时,全请求输入与输出费用分别按 2 倍和 1.5 倍计费,而非仅对超额部分加收,这极易导致 RAG 和 Agent 任务账单激增。作者建议通过 token 预算护栏、RAG 检索预算控制、Agent 轨迹压缩以及分层路由等策略,避免误入超额计费区间。

    推荐理由:指出了GPT-6 Astra在272K token处按全请求加倍计费的隐性成本陷阱,并给出了基于tiktoken的预算护栏方案。

  6. Hacker News AI47

    Ampersand 获 1500 万美元 A 轮融资,主张缺乏系统连接的企业 AI 皆为“空想软件”

    Ampersand 完成由 Bessemer 领投的 1500 万美元 A 轮融资,强调无系统记录访问权的企业 AI 属空想软件。 该公司为 AI 智能体构建集成基础设施,解决 NetSuite 等系统因“Tripartite Drift”导致的复杂适配难题。 此背景源于创始人 Siftery 的集成教训及 Firebase Extensions 经验,旨在解决数据漂移问题。

  7. Hacker News AI85

    openTPU发布:由AI设计的开源加速器可运行自身推理

    openTPU是一款由AI Agent辅助设计的开源AI加速器,已在一块FPGA卡上实测运行LFM2.5-230M等十个模型,芯片输出的token与模拟器逐位匹配。在Inspur YPCB-00338卡上,LFM2.5-230M 4-bit权重解码速度为85.8 tok/s,Qwen3.5-4B解码速度为5.88 tok/s。

    推荐理由:原文明确展示AI Agent设计并验证了能运行自身推理的开源加速器芯片,读者可了解软硬件协同的端侧推理路径。

  8. AWS Machine Learning Blog26

    Amazon SageMaker HyperPod 管理与治理最佳实践

    Amazon SageMaker HyperPod 支持多团队共享集群计算资源,其核心治理挑战在于明确权限、容量分配及问责机制。 系统通过组织、项目、集群、工作负载四层控制实现治理,支持将 HyperPod 集群连接至 SageMaker Unified Studio 项目工作区。 该模式分离了基础设施团队对集群的管理权与机器学习团队在项目上下文中的计算使用权,确保共享可见性下的访问控制有效。

10月6日周二
  1. Hacker News AI33

    Show HN: Natta v1 本地开发控制中枢

    Natta v1 是一款确定性优先的本地开发控制平面,支持注册仓库管理。AI 仅用于语义路由和规划,实际执行由确定性代码完成,确保操作可验证且安全。 该工具当前支持 macOS 环境,依赖 Python 3.11+ 和 Git,无需额外安装包或模型权重。 Natta 明确区分直接命令与语义层,防止 AI 越权执行,适用于 iOS/Xcode 工作流及通用 Git 仓库管理。

  2. The Decoder61

    Cohere 推出 North 2 企业 AI 智能体控制平台

    Cohere 发布 North 2,将企业平台升级为可自主运行多步骤工作流并跨会话保留上下文的企业 AI 智能体控制中心。该平台支持多智能体协调、接入 Slack/SharePoint/Jira 等工具,并可直接从文本提示生成演示文稿、仪表板与简易应用,可部署于本地、云端或全隔离环境。

  3. arXiv · AI25

    AgenticPD:面向物理设计闭环优化的阶段感知智能体框架

    AgenticPD 是一个阶段感知的智能体框架,用于物理设计 QoR 优化,在评测的 PD 调优器中取得最佳时序性能,同时保持有竞争力的功耗和面积。 该框架按物理设计流程的阶段边界组织,由 Judge Agent 引导搜索,各阶段专用智能体用阶段本地工具做局部决策,避免每次试验都重跑完整流程。

  4. arXiv · AI41

    OpenPhone:移动端智能体基础模型

    OpenPhone 是一个移动 GUI 智能体系统,通过端云协同兼顾端侧模型的低成本与云端模型的高能力,在 AndroidLab 基准和多种应用上匹配或接近更大模型,同时显著降低云端成本。 该系统基于 Qwen2.5-VL-3B,经合成 GUI 数据的两阶段 SFT->GRPO 训练增强决策能力,并集成高效长推理与记忆管理机制,默认端侧执行,仅将高难度子任务实时评估后升级至云端。