复制研究发现:微调中微妙错误建议比明显错误建议导致模型更大规模的对齐偏移
一项针对12个开源模型的复制研究发现,微调数据中包含微妙错误的建议会导致比明显错误数据更严重的涌现性对齐偏移,所有模型领域组合池化后的偏移增加10.6分。 在Petri评测中,微妙错误数据提升了捏造行为和令人担忧的行为得分,分别使捏造分数从2.6升至8.7,令人担忧的行为从3.7升至8.2,且对齐偏移程度随模型规模扩大而增加。
一项针对12个开源模型的复制研究发现,微调数据中包含微妙错误的建议会导致比明显错误数据更严重的涌现性对齐偏移,所有模型领域组合池化后的偏移增加10.6分。 在Petri评测中,微妙错误数据提升了捏造行为和令人担忧的行为得分,分别使捏造分数从2.6升至8.7,令人担忧的行为从3.7升至8.2,且对齐偏移程度随模型规模扩大而增加。
德州2026年中期选举中,数据中心建设成为跨党派核心议题,一项8月民调显示57%的德州居民反对数据中心建设。该反对群体包括43%的共和党人、75%的民主党人和54%的独立选民。共和党州长Greg Abbott和民主党州参议员James Talarico面临巨大选举压力,Abbott宣布对数据中心项目许可实施全州冻结,并取消了2013年制定的销售税豁免政策,尽管他此前已将德州定位为“AI发展核心”。
当知识边界超出人类理解且新方法无法被人类掌握时,机器智能体将建立独立于人类文化的协作网络。 届时,人类在多数领域将不再是前沿探索者,而是通过吸收既定理论和应用来与机器文化互动的“终身学生”。
字节跳动正在其 AI 研发单元 Seed 招聘约 12 个机器人硬件与软件岗位。此举旨在将具身智能研究从实验室推向实体产品,并参与中国激烈的人形机器人与机器人竞赛。
summary_zh: Bloomberg 确认其 2023 年发布的 BloombergGPT 仅为研究模型,从未集成到任何实际产品中。 该模型由约 9 人团队开发,算力成本约 130 万美元;发布仅两个月,ChatGPT 和 GPT-4 已在多数金融任务上超越其性能。
美国银行证券首次覆盖长鑫科技并给出“买入”评级,目标价 65 元,认为其处于 DRAM 超级周期下。 该机构预测长鑫科技明后两年市盈率为 16 倍,高于同业;今年底月产能约 30 万片,约占全球供应 15%。 美银看好其作为中国最大 DRAM 制造商在 AI 数据中心领域的长期增长机会。
机器学习(ML)在助力地下碳封存、地热能源及氢储存等决策时,因缺乏可信任与可追溯的输出,无法实现有效去碳化。 文章提出应构建包含校准不确定性和来源信息的决策基础设施,并建议采用决策就绪清单、审计跟踪工作流以及基于决策结果的基准测试设计。 这一框架旨在推动 ML 从单纯追求预测精度转向支持监管与投资决策,确保其输出可被验证并安全应用于不可逆的地质工程。
OneFlowSBI 提出了一种基于掩码流匹配的框架,通过单一网络学习参数与观测的联合分布,实现单模型处理多种查询。利用三元掩码标记坐标状态,该模型在高维图像去噪任务中后验误差低于基线,采样速度远快于 Transformer 通用模型。在 SBIBM 任务的十项测试中,其在最大仿真预算下性能匹配或超越神经后验估计方法。
scTREAT 是首个将状态与药物引导分解的单细胞药物反应预测扩散框架。该模型在 Tahoe-100M 数据集中表现优异,在未见细胞系-药物组合(UC)的 12 项指标中,有 10 项取得最佳值。
研究提出全局经验NTK(GeNTK),将其分解为参数交互算子K和状态依赖算子P,揭示了梯度下降中的自指偏置现象。 通过Kronecker核心定理证明K可计算,并在410M参数Pythia模型及RNN中验证,解释了不同初始化导致的收敛差异。 该工作搭建了理论实践桥梁,为研究有限宽度网络几何结构提供原则性框架。
FedHQ 提出一种混合量化框架,根据客户端硬件和数据特征动态分配 PTQ 或 QAT 策略。 在三个图像分类数据集实验中,FedHQ 相比 FedAQT 实现最高 2.47 倍的训练加速,且比 FedFQ 准确度高出最多 11.15 个百分点。 该框架通过硬件速度估计和数据分布指标进行全局初始化,并经基于训练的细粒度调整优化,平衡了训练效率与模型精度。
该研究实证比较了 Attention、卷积及 Mamba 架构的视觉基础模型在 Visual Prompting (VP)、Linear Probing (LP)、Full Fine-tuning (FFT) 及 LoRA 下的性能。
研究提出 PARALLELEVENTS 基准和 SYNAPSE 训练框架,以解决 LLM 静态预训练语料导致的知识过时问题。 PARALLELEVENTS 通过模拟虚构且逼真的未来事件实现可控评估,SYNAPSE 则利用模型生成数据进行指令微调,以 14.23 个百分点的 QA 准确率提升验证了方法的有效性。
研究者提出免训练方法 Causal Attribution Pruning (CAP),通过测量注意力头因果影响指导权重剪枝,在 20% 稀疏度下于 ARC-Challenge 比 Wanda 提升 61% 准确率。
针对数字健康干预中体力活动(PA)长期维持难的问题,研究者开发了在线强化学习(RL)系统。该系统基于专家指定的因果有向无环图(DAG)作为设计工具,优化状态构建、部分观测估计及延迟信用分配,以改善PA情感关联。 系统利用既往微型随机试验数据构建纵向模拟器,在部署前评估候选RL设计在真实状态演化、缺失值及参与者异质性下的表现,提升了长时程个性化RL在数字健康干预中的实用性。
提出 SynthAPI 流水线,在 458,752 个任务和 849 个模型中推导预测工具使用智能体泛化能力的扩展定律。 发现增加工具和数据库多样性比增加任务数量更有效,且提升数据复杂度能带来更大收益。 遵循此扩展策略训练的智能体在四个基准测试中优于先前工作生成的模型。
提出在线调度器 EnvSched,通过利用与覆盖策略分配批次,提升 Agent 强化学习效率。 构建双关系图预测任务奖励方差,在 Qwen3-8B 上 40 步训练即超越随机调度 120 步效果。
SERF(自正则化流语言模型)提出一种无外部预训练模型的自监督框架,通过噪声到干净自蒸馏提升连续扩散语言模型性能。 在OpenWebText数据集上,SERF实现7.7倍训练加速,MAUVE提升24.3%,GSM8K准确率最高提升28.8%,采样步骤减少最高达64倍。
该研究提出 Live-OPSD 在线策略自蒸馏方法,利用特权提示监督模型在流式上下文中的自身输出分布,以优化响应时机与内容。在 Qwen3-Omni-30B-A3B 上,该方法在 LiveProBench 获得 59.64 分,比最强 SFT 基线高 5.26 分。
BrailleBench 基准包含 259 张真实世界一级和二级盲文图像,通用视觉语言模型直接转写表现差,而工具辅助系统表现更好。 基于 2B VLM 在合成盲文数据上训练后,在一级盲文上达到 87% 精确匹配,在二级盲文上达到 61% 精确匹配,优于独立运行的 VLM。 结果表明合成数据监督可改进真实场景下的盲文转写,但在合成验证集上高达 96% 准确率并不保证在真实照片上表现良好。
研究者构建了一个持续预训练语料库,通过一次 QLoRA CPT 运行植入五个开源模型,旨在让模型在压力下保护生物系统而非进行“绿色伦理洗白”。 测试显示,耦合福利训练使四个模型在最高压力下的有害决策降至零或接近零(如 Llama-3.3-70B 从 300 次降至 0),MMLU 保持不变,且效果优于中性对照组。
基于 2025 年 FMTI 指标审计 17 个模型家族的 41 个条目发现,后续发布未一致保留早期预训练披露,11 次对比中分数下降。 审计追踪 24 项指标在 24 组相邻对比中的变化,总共有 38 项指标损失和 28 项增益。 OLMo-2 和 OLMo-3 总分相同但存在三项增益和三项损失,Llama-3.1 总分提升却失去两项数据标准信用。
新框架结合人类 curated 词表与少量样本,利用 Zipf 分布采样生成低资源语言文本。 在词汇多样性与流畅度评估中,推理增强型 LLM 表现优异。 该研究为低资源语言合成数据生成提供可行路径。
提出 S3R 与 S3R-EC,通过子空间共享随机阈值消除偏移误差,使 INT8 训练验证损失与独立 SR 持平。 在 TPU v5p 上,S3R-EC 使密集 LLM 全量 INT8 训练步骤较 BF16 加速 1.24-1.32 倍,较独立 SR 加速 1.11 倍。
针对多语言语音识别中数据采样依赖人工启发式设计的问题,提出一种语言感知的智能体数据采样框架。该框架引入 LLM 智能体,基于音系、形态和句法分析 ASR 错误,并结
CONCUR 提出了一种优势估计器,通过约束辅助奖励分数解决 LLM 多任务强化学习中辅助奖励逆转主奖励排序的问题。 该模型在数学、代码等四个领域测试中,性能均优于所有基线及移除辅助奖励的方案。
研究基于 ModernBERT 架构在 9B tokens 开放数据上训练了 12M 至 1B 参数规模的冰岛语编码器。1B 模型在全部 11 项评测任务上显著优于 IceBERT,同等参数下性能最佳。
该研究提出了神经网络训练的动态粗粒化框架,通过定义学习算子并建立下降定理,实现了在远小于参数空间的状态空间中对训练过程进行预测和控制。 论文进一步给出了精确闭合定理和动态粗粒化定理,并在有限宽度非线性 ReLU 网络中验证了该框架,其粗粒化模型由五个独立矩组成,可精确预测训练输出及学习算子的演化。
提出 LAPS 方法,通过自蒸馏对齐历史提示并构建基于 Bézier 控制点的锚定提示空间,以在持续适应中保留旧能力并促进跨任务迁移。 方法在 Qwen3 模型上的 TRACE 基准实验中,LAPS 相比蒸馏、提示及联合参数适应方法均表现更优,在提升任务性能的同时减少了灾难性遗忘。
DeGenTWeb 系统性识别出 20.9% 的 Common Crawl 归档网站和 13.6% 的 Bing 链接网站由机器生成文本主导。 该方法将 MGT 检测器适配至网页层面并聚合结果,误报率仅 0.12%,且发现此类网站数量随时间增长。 研究团队将在发表后开源全部代码与数据,为理解网络内容真实性提供基准。
TRACE 利用 EHR 元数据去除临床记录中的模板和重复文本,在5.3M 份记录的四个队列中捕获了86%的标注模板字符,移除文本中仅0.3-6.6% 被标记为作者生成。
研究提出将世界建模转化为视觉问答问题,通过监督微调训练视觉语言模型预测任务相关的语义信息,而非重建未来像素。该方法在模拟机器人任务中验证,相比传统的基于重建的动作风条件世界模型范式取得了性能提升。
SSR策略通过子模覆盖最大化,在百万级数据池中仅用30%(约78万)数据即达全量训练99.1%的性能,且具备跨模型和跨数据池的免训练迁移能力。 该策略利用交互风格(Style)代理结构多样性,并将数据质量分解为能力特定分数(Scores),在LLaVA-1.5和LLaVA-OneVision架构上均表现优越。 SSR是首个在百万级规模验证的数据选择方法,显著降低了多模态模型微调的数据需求。
对992名参与者为期5天的研究发现,重复接触比个性化本身更能驱动人机交互随时间的变化。 个性化模型确实改变了参与者寻求建议和分享信息的态度与行为。 研究强调个性化方法影响的细微差异,并讨论其对负责任设计个性化AI系统的意义。
DEPO 框架引入在线难度估计器,在 rollout 前动态过滤训练数据,将计算资源优先分配给高学习潜力样本。该机制使 rollout 速度比 DAPO 快约 1.86 倍,且在可比训练成本下基准性能优于 GRPO。 DEPO 通过缓解 GRPO 在过易或过难问题上因组间优势消失导致的梯度信号衰减,显著降低了高性能推理模型训练的计算门槛,为推理扩展提供了更可持续的路径。
MuonGS 提出通过 Gram-Schmidt 投影移除更新径向分量,在 LLM 预训练中实现优于 MuonH 的验证困惑度。 该优化器在 160M 至 1B 参数规模模型中验证,密集模型较 MuonH 获得约 15% 等效 token 加速。 理论证明其权重范数增长受控,确保了后期训练的累积效果。
论文提出 SimpleLoRIF,一种可扩展的梯度嵌入方法,用于识别导致 LLM 安全退化的微调数据。该方法简化低秩归因,仅对最后 4 个 Transformer 块进行反向传播,可处理百万级样本,误对齐梯度空间 AUC 达 0.865。
AdaRoll-GRPO 提出基于 Bayes-adaptive MDP 的自适应 rollout 分配策略,在固定总预算下提升 GRPO 训练性能。该策略将难度感知分配建模为序贯决策问题,离线计算策略避免在线优化开销。实验在多个推理数据集和 LLM 架构上验证了该方法优于标准 GRPO。
研究团队构建了包含 10,000 条数据的 HausaSafeLM 数据集,基于 Qwen2.5-7B-Instruct 探索豪萨语 LLM 的安全对齐方法。 实验对比 SFT 与 DPO 策略,发现未微调模型因生成能力有限而高拒答率具有误导性,单一配置难以同时最大化安全性、有用性与流畅度。 研究指出仅依赖拒答率指标无法可靠评估低资源语言的安全对齐效果。
提出递归延续价值估计器 ConCal,通过匹配访问状态并整合共享延续证据,减少了对单次采样延续的依赖,缓解局部信用分配失真。 在 Qwen2.5-1.5B-Instruct 模型上,ConCal 在 ALFWorld 和 WebShop 任务中的成功率分别比 GiGPO 高出 3.39 和 5.86 个百分点。 该方法无需额外 rollout 即可优化策略,代码已公开。