跳到正文
11月5日周四
  1. AWS Machine Learning Blog30

    Indegene 如何在 AWS 上利用 LLM 驱动的数据质量智能体扩展企业级数据质量管理

    Indegene 在 AWS 上的 NEXT UDP 平台构建 LLM 驱动的数据质量智能体,生成上下文感知的数据质量规则并产出可运行的 SQL 和 Python 代码。 该智能体支持集中式人工介入治理,解决了传统技术规则与业务规则脱节、静态校验无法捕捉业务背景的问题。 此举帮助生命科学企业提升数据质量扩展性,降低数据工程维护工作量。

11月4日周三
  1. Hacker News AI64

    Ben Thompson 解读美国大选对AI数据中心及算力格局的深远影响

    Ben Thompson 撰文分析美国中期选举结果,指出民主党获胜反映了对AI数据中心的广泛反对,这一政治约束正在取代电力成为AI扩张的主要瓶颈。作者推演了十种深远影响:Nvidia 在算力受限下因能效优势获利;中国凭借电力优势实现以电换算;Spacex 太空数据中心成为长期备选;前沿实验室因外部要求放缓研发支出而获利;苹果及端侧推理受益;而 AI 初创公司则因算力获取困难而受损。

  2. Hacker News AI26

    Show HN: Pacibook – 用 AI 阅读器将书籍翻译成 22 种印度语言

    Pacibook 是一款面向印度的 AI 电子书店及阅读器,支持将书籍内容即时翻译成 22 种印度语言,并允许读者在阅读时实时提问获取答案。 其核心功能为交互式阅读,AI 生成的译文自适应且绝不过写原书,用户可随时切换回原文,同时提供按类别浏览和个性化推荐服务。

  3. Hacker News AI51

    Snowflake AI_PARSE_DOCUMENT 新增 Agentic 模式的成本与实测

    Snowflake 的 AI_PARSE_DOCUMENT 上线了 Agentic 模式,能识别文档中的图表并生成语义摘要。作者实测发现其成本约为传统 OCR 模式的 12 倍,且 PPTX 文件的价值提升明显,而 PDF 文件则很少产生有用的视觉内容。作者最终决定仅对 PPTX 文件使用 Agentic 模式,其余文件继续采用 OCR 模式。

  4. The Decoder54

    谷歌拟于 2027 年强制学校绑定 AI 功能,禁用 AI 将失去搜索

    谷歌宣布从 2027 年初起,学校的 Gemini、Gemini Notebook 和 Google Search 将默认关闭,需单独开启,但不提供无 AI 的搜索版本。该政策背景是谷歌近期在 Classroom 平台默认开启 AI 功能后引发争议,目前提供搜索(含完整 AI 摘要或聊天)或引导学习模式两种选择。纽约市和洛杉矶等学区此前已要求提供无 AI 搜索功能。

  5. 机器之心71

    天数智芯展示彤央TY1200端侧算力,实测性能超英伟达Thor

    天数智芯在上海开放日上展示了最新端侧算力终端彤央TY1200,其300 TOPS稠密算力实测性能超过英伟达Thor T500,并首次实现GPU加速物理仿真引擎本地运行。在LLM生成测试中,TY1200运行Qwen3.8-27B-AWQ的吞吐达到Thor的1.38倍;同时通过Agentic AI软件栈,将原本需10人天的Kernel开发缩短至1小时级别,并预告了标称600T算力的下一代产品。

  6. Seven Minute Feed48

    Drax与Brookfield计划在英国最大排放电厂建设200亿英镑AI数据中心

    Drax与Brookfield及Radiant达成协议,将在其北约克郡电厂建设超1GW数据中心,预计2028年初投入运营。该英国最大数据中心项目预计吸引超200亿英镑投资,初期由Drax提供土地和电网连接。作为英国最大CO2排放源,该合作将英国AI发展与其最污染电源直接关联。

  7. IT之家43

    部分半导体设备制造商启动 2029 年供应谈判

    全球五大半导体设备制造商(ASML、Applied Materials、Lam Research、TEL、KLA)已进入 2028 年设备供应合同最终敲定阶段。部分厂商已启动 2029 年供应谈判,韩国企业正提前 2~3 年审查供应计划,设备缺货或蔓延至后端工艺。 AI 算力需求激增导致芯片产能扩大,设备交付周期大幅延长,现有前端缺货状况正向后端工艺延伸。

  8. arXiv · NLP40

    PersonaFuse:一种情境感知的大模型行为自适应后训练框架

    PersonaFuse 提出一种情境感知的大模型行为自适应后训练框架。 该框架基于特质激活理论和大五人格模型,采用混合专家架构与情境感知路由机制,根据任务上下文动态调整模型行为。 在能力、工作流和部署三个层面评估显示,该框架在保持通用推理、交互质量和安全性的同时,提升了企业场景下的任务完成率。

  9. arXiv · ML26

    vLLM Hook v1:编程 vLLM 模型内部状态的开源插件

    开源插件 vLLM Hook 发布,允许通过配置捕捉和干预 vLLM 模型的内部状态,实现被动探测与主动干预。 版本 1(vLLM Hook MIA)基于 vLLM V2 模型运行器,保留 CUDA 图,显著降低解码开销,支持离线使用与 vllm serve 服务。 该插件支持提示注入检测、幻觉检测、激活转向等用例,扩展了推理引擎的可编程性。

  10. arXiv · ML26

    Bevy 提出基于跨层前瞻的请求调度方法,无需预测专家即可加速本地 MoE 推理,在双节点平台上实现 3.46 倍解码吞吐提升

    针对大语言模型本地部署场景,研究提出名为 Bevy 的新推理系统,通过跨层前瞻的请求调度取代传统的专家预测预取。该方法在请求专家可用时先执行至后续层,再并行获取缺失专家,实现计算与通信重叠。在两个本地测试平台上,其解码吞吐量最高可达其他预取方法的 3.46 倍,且无需额外维护预测模型。

  11. arXiv · ML20

    深度学习编译器:架构、优化与实证表征

    该研究系统分析深度学习编译器架构,并通过实证评估揭示其性能特征。 基于 PyTorch/TorchInductor 与 NVIDIA RTX A6000 的测试显示,编译器收益依赖工作负载,融合友好计算图最高加速 8.21 倍。 动态形状编译将形状转换成本降低约 70%,但会导致轻微的稳态性能下降。

  12. arXiv · AI33

    权重空间编程在审计临床决策网络中的研究

    研究表明,Claude Opus 5.5 在盲审模式下成功识别并修复了 16 个含缺陷临床网络中的 16 个,仅通过中位数 3 个参数修改实现修复。 该模型在 18 个缺陷网络中准确指出了 16 个错误规则,所有发现均通过约 42 万次请求测试验证,证明小网络中权重空间编程可定位阈值偏移等缺陷。

  13. arXiv · AI35

    LLM 推理调度中 cμ 规则在内存约束下的渐近最优性

    针对大语言模型推理的在线调度问题,研究证明 cμ 优先级规则在流体模型下能最小化累积等待成本,并最大化全程输出 token 吞吐量。 该规则的有效服务速率由计算速度、内存带宽和容量共同决定。在 NVIDIA H800 上对真实推理引擎进行的实验表明,该策略能在保持高吞吐量的同时显著降低平均延迟。

  14. arXiv · AI29

    数据中心通过查询路由实现电力灵活性

    该研究通过查询路由动态分配 LLM 推理任务,在保障服务的同时提供电力需求灵活性,验证误差为 2.8%。 框架涵盖 1B 至 70B 参数模型及四个 GPU 平台,在 10,000 块 H100 集群模拟中实现最高 16% 的电力灵活性,响应时间约 10 秒。 结果显示查询路由是数据中心电力调度的有效机制,框架可应用于更广泛的规划与编排。

  15. arXiv · NLP36

    迈向最优多草稿推测解码

    本文提出基于最优传输对偶问题的高效算法,计算多草稿推测解码(MDSD)在千级词表下的理论最优接受率。 研究首次量化现有验证算法与理论上限的差距,发现无放回采样的最优接受率优于有放回采样,且现有算法均未达到理论上限。 结果表明精心设计的草稿采样方法可提升接受率,并为逼近理论上限的验证算法开发提供方向。

  16. arXiv · ML23

    相关性为何毁掉梯度下降

    自然梯度下降因修正曲率而受限于梯度与数据相关性,新方法将其中一项修正从优化器移除并嵌入网络。 该方法以无矩阵求逆的递归动态实现去相关,且仅需突触局部信号,无需矩阵分解。 此技术显著提升生物启发式信用分配效果,并适用于神经形态硬件与分布式物理受限系统。