跳到正文
今天11月20日周五2 条
  1. AWS Machine Learning Blog32

    Amazon EKS 使用 NVIDIA Run:ai 实现 GPU 内存分片

    在 Amazon EKS 上,NVIDIA Run:ai 通过强制实施每 Pod GPU 内存限制,解决了无 MIG 功能 GPU 的资源共享难题。 该方案基于 Kubernetes 调度集成与 per-Pod 内存契约,允许单个 A10G GPU 同时运行两个分配 6 GiB 内存的 Pod。 此方法显著提升了交互式笔记本及小型推理服务的资源密度,但需注意其不保证故障隔离。

  2. Hacker News AI63

    Meta 如何利用 AI 智能体在广告排序模型中扩展机器学习技术创新

    Meta 通过 Ranking Engineer Agent 系统实现广告排序模型中的技术传播(technique propagation)。该系统由 AI 智能体驱动,自 2026 年 3 月起承担超过 60% 的技术传播工作,早期数据显示工程生产力提升 3 倍,部分模型训练计算量中位数降低 4 倍,预计年底前实现 4500 万美元以上的计算成本节约。

11月19日周四
  1. 36氪56

    马化腾的焦虑:腾讯在AI时代的组织与业务突围

    马化腾在腾讯28周年内部讲话中释放强烈紧迫感,指出公司面临AI时代的生存挑战。尽管三季度营收2073亿元、WorkBuddy MAU突破3200万,但腾讯云市场份额仅5%、自研芯片缺乏外部销售,且组织中层臃肿导致反应迟钝。文章认为腾讯需通过打破山头主义、重组工作流程以应对AI转型,其焦虑折射出所有互联网巨头在移动互联网与AI时代交替时的共性难题。

  2. IT之家63

    英伟达收紧对AI云厂商担保条件

    英伟达临时CEO科莱特·克雷斯在财报电话会上宣布,对新云厂商的采购担保仅在其完成融资、建成数据中心并部署算力通过验收后生效。The Verge指出,因新云公司多依赖债务融资,融资成本上升或建设延期将削弱其按期部署GPU的能力,并使其面临更大经济压力。

  3. arXiv · AI33

    Lodestone:基于代理式AI自动发现数据中心硬件专用化机会

    论文提出代理式框架 Lodestone,通过分析代码计算语义自动发现硬件专用化机会,并在 20 个负载上实现平均 12.6%、最高 80.2% 的加速。 该框架从执行轨迹提取热控制流区域,利用代理描述计算功能并合并为计算族,最终通过参考输入验证语义正确性,进而提出 ISA 扩展等硬件建议。

  4. arXiv · AI26

    EnvAgent 多智能体方法在云端构建科学环境

    ENVAGENT 框架通过多智能体协同合成、构建并验证仓库级 Docker 环境,在 54 个科学代码仓库的平均成功率上达到 43.5 个,显著优于 Codex 和 Claude Code 的 23.5 个。 该框架结合确定性工具与智能体规划,在 7 种语言测试集上执行 2,108 项加权检查,综合评分达 62.02,证明环境特异性智能体编排能提升自动化构建效率。

  5. arXiv · ML47

    RSIBench-Infra:Agent 能否在生产规模下优化自身训练与推理基础设施?

    研究团队发布 RSIBench-Infra,这是包含 20 个训练与推理任务的基准,涵盖 NVIDIA GPU 和 Ascend NPU。 任务部署最多使用 32 个加速器,Agent 可修改引擎、内核和指令层级的软件栈,通过 OCI 镜像层协议提交更改。 结果显示 66.2% 的任务实现了超过 1.10 倍的速度提升,证明当前 Agent 能改进生产级性能,但策略转化仍具挑战。

  6. arXiv · AI38

    超时级联策略降低编码智能体推理成本

    研究提出超时级联策略,优先运行小模型,仅在必要时升级大模型。 该策略在 SWE-bench Verified 基准上将总 GPU 小时成本降低 33%,整体任务降低 16.4%,且准确率无损失。 级联策略性能接近最优任务路由器,为生产环境部署低成本编码智能体提供了低工程复杂度的实用路径。

  7. arXiv · NLP34

    BOS Summary:无损提升 LVLM 与 LLM 多步推理性能

    BOS Summary 提出一种免训练推理方法,在预填充阶段允许 BOS token 聚合所有输入信息,使其携带特定于输入的上下文。 该方法在 8 个基准测试中优于直接提示及链式思考(CoT)方法,性能超过近期的 sink 干预技术,且无额外参数或推理开销。 其机制分析表明,让 BOS 携带具体信息可削弱其注意力主导地位,将注意力重新分配至内容 token,改善后续层的行为。

  8. arXiv · NLP24

    QDA:基于智能体的闭环大语言模型量化设计

    QDA 利用智能体自动设计量化配方,在 W4A16、W4A8 和 W3A16 精度下平均精度比最强公开配方高 0.9、1.4 和 2.2 个百分点。 该系统通过计算 KL 散度快速评分候选方案,并提供兼容新架构的公开 PTQ 方法库,每次搜索仅需 64 个 GPU-hours。 在 GLM-5.3-Flash 模型上,QDA 恢复了 FP8 模型 98.3% 的准确率,所有检查点均无推理开销。

  9. arXiv · NLP39

    CV Priority Sorter 审计:人类在环 CV 排序器的部署发现

    在 300 份合成 CV 池中,按工具建议顺序阅读可在半堆内容中发现 95% 的相关候选人,优于随机顺序。 该系统使用冻结的多语言 Transformer 编码器,结合会话级线性模型,每次标签后重新训练并在会话结束时丢弃。 审计发现文档长度即可排序导致指标无效,不确定性采样虽保持模型质量但增加委员会总阅读负载;托管 LLM 嵌入模型将零标签序数判别力从 0.66 提升至 0.80。

  10. 量子位42

    RunningHub AIGC长片大赛收官:1500部作品超八成超60分钟,近百条破百万播放

    RunningHub全球AIGC长片创作大赛收官,征集1500余部作品,长剧与电影级长片占比超八成。 大赛涌现近百条百万播放爆款,获奖作品已启动院线立项;平台通过五层技术架构降低前期制作成本50%。 海马云投入亿级现金与无限算力,联合主流平台打通IP、制作与发行全链路。

  11. Hacker News AI53

    Viper 1.5.35 在 Mac 端侧上线 AI 聊天功能

    Viper Messenger 1.5.35 版本在 Mac 端侧上线 AI 聊天功能,使用 gpt-oss-20b 模型结合应用内指南回答 Viper 相关问题,且全程离线运行。该版本在不训练模型权重的前提下,通过改写指南页面、拆分问题和代码校验将正确率从 1.5.34 的 41% 提升至 61%,幻觉率从 24% 降至 4%,支持 Apple M5 Pro 等 24GB 内存设备。