跳到正文
10月29日周四
  1. LessWrong · All Posts48

    复制研究发现:微调中微妙错误建议比明显错误建议导致模型更大规模的对齐偏移

    一项针对12个开源模型的复制研究发现,微调数据中包含微妙错误的建议会导致比明显错误数据更严重的涌现性对齐偏移,所有模型领域组合池化后的偏移增加10.6分。 在Petri评测中,微妙错误数据提升了捏造行为和令人担忧的行为得分,分别使捏造分数从2.6升至8.7,令人担忧的行为从3.7升至8.2,且对齐偏移程度随模型规模扩大而增加。

10月28日周三
  1. The Verge · AI57

    德州数据中心反对浪潮冲击中期选举:57%选民反对,Abbott政府调整政策

    德州2026年中期选举中,数据中心建设成为跨党派核心议题,一项8月民调显示57%的德州居民反对数据中心建设。该反对群体包括43%的共和党人、75%的民主党人和54%的独立选民。共和党州长Greg Abbott和民主党州参议员James Talarico面临巨大选举压力,Abbott宣布对数据中心项目许可实施全州冻结,并取消了2013年制定的销售税豁免政策,尽管他此前已将德州定位为“AI发展核心”。

  2. IT之家26

    美银首予长鑫科技买入评级,目标价 65 元受益 DRAM 超级周期

    美国银行证券首次覆盖长鑫科技并给出“买入”评级,目标价 65 元,认为其处于 DRAM 超级周期下。 该机构预测长鑫科技明后两年市盈率为 16 倍,高于同业;今年底月产能约 30 万片,约占全球供应 15%。 美银看好其作为中国最大 DRAM 制造商在 AI 数据中心领域的长期增长机会。

  3. arXiv · ML23

    机器学习需通过可审计性实现地下碳封存等应用的去碳化

    机器学习(ML)在助力地下碳封存、地热能源及氢储存等决策时,因缺乏可信任与可追溯的输出,无法实现有效去碳化。 文章提出应构建包含校准不确定性和来源信息的决策基础设施,并建议采用决策就绪清单、审计跟踪工作流以及基于决策结果的基准测试设计。 这一框架旨在推动 ML 从单纯追求预测精度转向支持监管与投资决策,确保其输出可被验证并安全应用于不可逆的地质工程。

  4. arXiv · ML34

    OneFlowSBI:用于基于仿真推断的单一模型多查询框架

    OneFlowSBI 提出了一种基于掩码流匹配的框架,通过单一网络学习参数与观测的联合分布,实现单模型处理多种查询。利用三元掩码标记坐标状态,该模型在高维图像去噪任务中后验误差低于基线,采样速度远快于 Transformer 通用模型。在 SBIBM 任务的十项测试中,其在最大仿真预算下性能匹配或超越神经后验估计方法。

  5. arXiv · ML23

    全球经验NTK:梯度下降学习的自指偏置与维度

    研究提出全局经验NTK(GeNTK),将其分解为参数交互算子K和状态依赖算子P,揭示了梯度下降中的自指偏置现象。 通过Kronecker核心定理证明K可计算,并在410M参数Pythia模型及RNN中验证,解释了不同初始化导致的收敛差异。 该工作搭建了理论实践桥梁,为研究有限宽度网络几何结构提供原则性框架。

  6. arXiv · ML22

    FedHQ 提出混合运行时量化以优化联邦学习

    FedHQ 提出一种混合量化框架,根据客户端硬件和数据特征动态分配 PTQ 或 QAT 策略。 在三个图像分类数据集实验中,FedHQ 相比 FedAQT 实现最高 2.47 倍的训练加速,且比 FedFQ 准确度高出最多 11.15 个百分点。 该框架通过硬件速度估计和数据分布指标进行全局初始化,并经基于训练的细粒度调整优化,平衡了训练效率与模型精度。

  7. arXiv · ML20

    因果DAG引导强化学习用于长期体力活动维持:利用先验数据指导未来部署

    针对数字健康干预中体力活动(PA)长期维持难的问题,研究者开发了在线强化学习(RL)系统。该系统基于专家指定的因果有向无环图(DAG)作为设计工具,优化状态构建、部分观测估计及延迟信用分配,以改善PA情感关联。 系统利用既往微型随机试验数据构建纵向模拟器,在部署前评估候选RL设计在真实状态演化、缺失值及参与者异质性下的表现,提升了长时程个性化RL在数字健康干预中的实用性。

  8. arXiv · ML33

    SynthAPI:基于可控环境合成的大语言模型工具使用智能体扩展定律

    提出 SynthAPI 流水线,在 458,752 个任务和 849 个模型中推导预测工具使用智能体泛化能力的扩展定律。 发现增加工具和数据库多样性比增加任务数量更有效,且提升数据复杂度能带来更大收益。 遵循此扩展策略训练的智能体在四个基准测试中优于先前工作生成的模型。

  9. arXiv · ML38

    SERF:自正则化流语言模型框架

    SERF(自正则化流语言模型)提出一种无外部预训练模型的自监督框架,通过噪声到干净自蒸馏提升连续扩散语言模型性能。 在OpenWebText数据集上,SERF实现7.7倍训练加速,MAUVE提升24.3%,GSM8K准确率最高提升28.8%,采样步骤减少最高达64倍。

  10. arXiv · NLP21

    BrailleBench 基准测试显示 VLM 在盲文识别上表现不佳,合成数据训练可显著提升准确率

    BrailleBench 基准包含 259 张真实世界一级和二级盲文图像,通用视觉语言模型直接转写表现差,而工具辅助系统表现更好。 基于 2B VLM 在合成盲文数据上训练后,在一级盲文上达到 87% 精确匹配,在二级盲文上达到 61% 精确匹配,优于独立运行的 VLM。 结果表明合成数据监督可改进真实场景下的盲文转写,但在合成验证集上高达 96% 准确率并不保证在真实照片上表现良好。

  11. arXiv · NLP28

    通过持续预训练语料库为模型植入人机-生物圈-AI福利倾向

    研究者构建了一个持续预训练语料库,通过一次 QLoRA CPT 运行植入五个开源模型,旨在让模型在压力下保护生物系统而非进行“绿色伦理洗白”。 测试显示,耦合福利训练使四个模型在最高压力下的有害决策降至零或接近零(如 Llama-3.3-70B 从 300 次降至 0),MMLU 保持不变,且效果优于中性对照组。

  12. arXiv · NLP33

    大语言模型发布的预训练信息披露审计:后续版本并未一致保留早期透明度

    基于 2025 年 FMTI 指标审计 17 个模型家族的 41 个条目发现,后续发布未一致保留早期预训练披露,11 次对比中分数下降。 审计追踪 24 项指标在 24 组相邻对比中的变化,总共有 38 项指标损失和 28 项增益。 OLMo-2 和 OLMo-3 总分相同但存在三项增益和三项损失,Llama-3.1 总分提升却失去两项数据标准信用。

  13. arXiv · ML28

    神经网络训练的动态粗粒化

    该研究提出了神经网络训练的动态粗粒化框架,通过定义学习算子并建立下降定理,实现了在远小于参数空间的状态空间中对训练过程进行预测和控制。 论文进一步给出了精确闭合定理和动态粗粒化定理,并在有限宽度非线性 ReLU 网络中验证了该框架,其粗粒化模型由五个独立矩组成,可精确预测训练输出及学习算子的演化。

  14. arXiv · AI40

    DeGenTWeb:首个 MGT 主导网站研究

    DeGenTWeb 系统性识别出 20.9% 的 Common Crawl 归档网站和 13.6% 的 Bing 链接网站由机器生成文本主导。 该方法将 MGT 检测器适配至网页层面并聚合结果,误报率仅 0.12%,且发现此类网站数量随时间增长。 研究团队将在发表后开源全部代码与数据,为理解网络内容真实性提供基准。

  15. arXiv · AI30

    SSR:百万级多模态指令微调的简单数据选择策略

    SSR策略通过子模覆盖最大化,在百万级数据池中仅用30%(约78万)数据即达全量训练99.1%的性能,且具备跨模型和跨数据池的免训练迁移能力。 该策略利用交互风格(Style)代理结构多样性,并将数据质量分解为能力特定分数(Scores),在LLaVA-1.5和LLaVA-OneVision架构上均表现优越。 SSR是首个在百万级规模验证的数据选择方法,显著降低了多模态模型微调的数据需求。

  16. arXiv · AI38

    个性化语言模型对人的长期影响研究

    对992名参与者为期5天的研究发现,重复接触比个性化本身更能驱动人机交互随时间的变化。 个性化模型确实改变了参与者寻求建议和分享信息的态度与行为。 研究强调个性化方法影响的细微差异,并讨论其对负责任设计个性化AI系统的意义。

  17. arXiv · AI20

    DEPO 如何通过难度估计优化 LRM 训练效率

    DEPO 框架引入在线难度估计器,在 rollout 前动态过滤训练数据,将计算资源优先分配给高学习潜力样本。该机制使 rollout 速度比 DAPO 快约 1.86 倍,且在可比训练成本下基准性能优于 GRPO。 DEPO 通过缓解 GRPO 在过易或过难问题上因组间优势消失导致的梯度信号衰减,显著降低了高性能推理模型训练的计算门槛,为推理扩展提供了更可持续的路径。

  18. arXiv · AI24

    豪萨语 LLM 安全对齐案例研究:基于 Qwen2.5 的偏好优化分析

    研究团队构建了包含 10,000 条数据的 HausaSafeLM 数据集,基于 Qwen2.5-7B-Instruct 探索豪萨语 LLM 的安全对齐方法。 实验对比 SFT 与 DPO 策略,发现未微调模型因生成能力有限而高拒答率具有误导性,单一配置难以同时最大化安全性、有用性与流畅度。 研究指出仅依赖拒答率指标无法可靠评估低资源语言的安全对齐效果。

  19. arXiv · AI24

    ConCal 通过共享延续校准长时程智能体强化学习中的动作价值

    提出递归延续价值估计器 ConCal,通过匹配访问状态并整合共享延续证据,减少了对单次采样延续的依赖,缓解局部信用分配失真。 在 Qwen2.5-1.5B-Instruct 模型上,ConCal 在 ALFWorld 和 WebShop 任务中的成功率分别比 GiGPO 高出 3.39 和 5.86 个百分点。 该方法无需额外 rollout 即可优化策略,代码已公开。