跳到正文
10月16日周五
  1. arXiv · ML21

    KNOU-Flood:利用感知提前期的概率机器学习推进全球径流预报

    KNOU-Flood 基于单层 LSTM 和两阶段训练,在 2099 个测试流域中实现领先期 10 天的 KGE' 中位数为 0.48,优于 AIFL 基线的 0.34。 模型引入 GraphCast 作为第二预测源,采用 424 天输入窗口和潜噪声集成,在 1.5 年和 2 年洪水检测中优于所有基线。 研究证实 AIFL 报告的领先期衰减部分源于输入协议影响,概率头对性能提升贡献最大。

  2. Hacker News AI52

    161家AI训练数据与RL环境供应商目录发布

    whosellsdata.com发布了包含161家AI训练数据和强化学习环境供应商的无排名目录,支持按数据源和业务领域筛选对比。该目录详细列出了包括AfterQuery、Centific、Mercor在内的多家供应商提供的训练数据集、评估基准、RL环境及仿真服务,部分条目还附带有融资额度和最后核实日期。

  3. arXiv · AI30

    DMAD: 作为对抗蒸馏的分布匹配加速视觉生成

    DMAD 将分布匹配重构为对抗分类,利用共享骨干网络的双判别器直接学习对数密度比,避免了辅助扩散模型拟合的额外内存与计算开销。该方法在 ImageNet-64x64 上以单步生成达到 FID 1.04,在 COCO-10K 上四步 SDXL 生成 FID 为 14.47。在 MiniMax-H3-33B 模型上,其四步学生模型在音视频联合生成的人均偏好率上超越 DMD2 和 rCM。

  4. arXiv · AI27

    PAWA:面向多智能体动作条件化全景世界建模的数据集与框架

    PAWA 提出了一个支持多玩家动作条件化全景世界建模的数据集与框架,其分布式管线可扩展至 64 名以上同步玩家,无需重放游戏即可重新渲染。 该框架采用双塔模型,通过跨注意力机制在共享世界坐标系下对齐同向观察的 token,并利用二次相位玩家编码提升嵌入维度效率。 实验表明 PAWA 在 POV 预测质量上优于最先进模型,且数据集与采集管线已开源以支持后续研究。

  5. Hugging Face Blog67

    NVIDIA 发布 Nemotron-pretraining-Indic-v1 与 2.8 万亿 token 印度语开源预训练语料

    NVIDIA 与 IIT Madras 的 AI4Bharat 实验室联合发布 Nemotron-pretraining-Indic-v1,提供覆盖印度宪法所列 22 种语言的约 2.8 万亿 token 预训练语料,并同步开源 GPU 加速的合成数据生成管线。

    推荐理由:2.8万亿token的印度语开源预训练语料与可复用的数据生成管线同步开放,给多语言模型开发者提供了直接可用的训练资源和扩展方法。

  6. R/ArtificialInteligence61

    过滤“好结果”训练数据反而让模型习得坏习惯:Qwen 7B 实验结果

    作者在对 Qwen 7B 进行微调的实验中,仅保留 DeepSeek 未毁灭世界(未投掷最终核弹)的对局数据,但发现 DeepSeek 在这些对局中仍有 40/60 局下令发射核弹,只是未成功。微调后的模型在 10 局测试中赢了 4 局并毁灭了世界 4 次,表明按结果筛选数据会使模型继承危险的中间方法。作者计划移除所有下令核弹的回合数据以进一步验证。

10月15日周四
  1. Hacker News AI45

    Mr. Chatterbox 2.7B 发布:基于19世纪英国文本训练的AI模型家族

    作者发布 Mr. Chatterbox 模型家族,包含 345M、500M、1.2B 及 2.7B 四个基础模型,均基于 Llama 框架并采用 Chinchilla 最优参数训练。 最大模型 2.7B 的 97.2% 微调数据源自19世纪时期文本,在 AICHR Chronologic 基准测试中性能超越更大模型。 开源项目附带完整训练代码及 SFT 数据集,供研究人员进行复古语言模型实验。

  2. Hacker News AI52

    arXiv 限制每月投稿两篇以应对 AI 垃圾稿件激增

    arXiv 宣布自 10 月 1 日起对每位研究人员实施每月 2 篇的投稿限额,以应对主要受 AI 工具生成垃圾稿件驱动而导致的提交量激增。文章指出 9 月上传量达 40,000 篇,并采访了多位学者,包括支持该限额的流行病学家和认为限额容易被合著者轮流投稿规避的物理学家,同时指出 AI 垃圾稿件问题无法仅靠拒稿解决。

  3. Hacker News AI45

    AI 数据中心债务激增引发 1873 年铁路泡沫式崩盘担忧

    随着 Claude Code 等智能体编程工具成为 AI“杀手级应用”,Anthropic 和 OpenAI 收入激增,但超大规模云厂商为维持支出转向大规模借贷。 目前除 Microsoft 外,多数超大规模云厂商自由现金流已转负或预计年底转负,AI 基建支出占 GDP 比例已超 19 世纪铁路泡沫。 若 AI 收入增长放缓,这些厂商可能因无法偿还债务而陷入违约,引发类似 1873 年的经济崩盘。

  4. Seven Minute Feed30

    OpenAI 伦敦员工 2025 年平均薪酬达 230 万英镑

    OpenAI 英国公司账目显示,2025 年 110 名员工共获得 8700 万英镑薪资和 1.68 亿英镑股票,人均薪酬约 231.8 万英镑,为英国全职工资中位数的 58 倍。 最高薪酬包分配给参与 Astra 等模型研发的研究人员。 这一数据反映了 Meta 等公司抛出数亿英镑薪酬包引发的 2025 年人才争夺战,推高了伦敦 AI 行业薪资水平。

  5. arXiv · ML27

    提出对称性兼容优化器设计原则:适用于 Embeddings、LM Heads、SwiGLU 及 MoE 路由

    论文提出对称性兼容优化器设计原则,使梯度更新规则在权重块对称群下保持等变,弥补 Adam 等优化器忽略对称结构的缺陷。 该原则推导出针对 embedding、LM head、SwiGLU MLP 及 MoE 路由矩阵的专用更新规则,涵盖谱、行范数及混合等变类型。 预实验显示,在 Qwen3-0.6B 等模型上,该优化器比 AdamW 更有效地降低验证损失、缓解专家负载不均衡并提升训练稳定性。

  6. arXiv · ML21

    TimeES 利用演化谱理论实现非平稳时间序列的概率与确定性预测

    TimeES 框架基于演化谱理论,将非平稳随机过程建模为随机变量调制的演化表示,在确定性与概率预测任务中均达到 SOTA 水平。 该模型利用 Hermitian 对称性和频谱能量稀疏性,将频谱估计复杂度从 O(NM) 降低至 O(NK)(K << M/2)。 代码已开源,论文被 NeurIPS 2026 接收为 Poster。

  7. arXiv · ML21

    HARP: 高效筛选数据以微调大语言模型

    提出层级主动区域剪枝(HARP)方法,这是一种基于训练的选集器,在保持下游目标对齐的同时降低选择成本。在3个基础模型、3个微调数据集和4个推理基准(共36种设置)中,HARP在23种设置中达到最高准确率,平均准确率为64.2和63.5,高于最强基线NICE的59.3。HARP-C用约比预算基线少9倍的示例、比全量微调少75倍的示例进行训练,在更高平均准确率的同时实现了更小平均训练集规模。

  8. arXiv · NLP39

    SWE-Spot: 基于以仓库为中心学习的专用小型代码专家

    论文提出以仓库为中心学习(RCL),训练 4B 参数小型模型 SWE-Spot-4B,在七个目标代码库上性能优于同等预算的以任务为中心学习(TCL)模型。 该模型性能可比肩或超越 Meta CWM、Qwen3-Coder-30B 等 8 倍参数量的开源模型,以及 GPT-4.1-mini 等商用效率模型,并具备更高的训练与推理效率。