基于手机 NPU 的一阶 LoRA 训练系统实现端侧微调
该系统将冻结权重矩阵乘积移至手机 NPU,保持训练图和 LoRA 适配器在 CPU 运行。 输入梯度内核复用常驻权重瓦片,通过基于梯度敏感度的精度选择和行级范围保护保持 FP16 输出精度。 在两款 Qualcomm Snapdragon 平台上使用 Qwen 和 Llama 模型验证,支持夜间个性化微调。
该系统将冻结权重矩阵乘积移至手机 NPU,保持训练图和 LoRA 适配器在 CPU 运行。 输入梯度内核复用常驻权重瓦片,通过基于梯度敏感度的精度选择和行级范围保护保持 FP16 输出精度。 在两款 Qualcomm Snapdragon 平台上使用 Qwen 和 Llama 模型验证,支持夜间个性化微调。
提出内存高效的 Adam 优化器变体 AdamPM,将相邻矩条目分组共享均值,将二阶矩内存降低至原需求的 $1/s$。 该方法直接继承 Adam 超参数并易于集成现有实现,实验表明在 LLM 预训练和微调中能维持模型性能与训练速度。 代码已公开,系统验证了二阶矩池化作为有效设计。
该框架利用自适应蒸馏和效用驱动的同伴选择两种机制,使客户端能根据其本地数据表现更有针对性地学习优于自身的模型。 在联邦分类任务中,该方法比朴素的去中心化蒸馏具有更低的损失和更快的收敛速度。
提出基于掩码自编码器的多域自监督预训练框架,结合物理感知目标与稀疏 Voigt 轮廓解码器学习拉曼光谱表征。 该框架通过可微峰位置、宽度和幅度建模谱峰结构,并加入去噪目标以增强对谱线畸变的鲁棒性。 实验表明,自监督预训练显著提升标注数据受限任务的标签效率、鲁棒性和可迁移性。
miniTE 框架通过执行诊断、跨引擎数值对齐及 W4A4 GEMM 计算,解决原生 NVFP4 在 LLM 强化学习中因独立训练与采样引擎导致的数值执行不一致问题。
RLTLDR 引入“TL;DR”反馈机制,使 Qwen 3.5 9B 模型在 Pass@128=0 的难题中实现自我提升。 模型在失败后生成单条洞察并用于后续采样,通过反向传播内化任务到洞察的映射关系,突破学习瓶颈。 RLTLDR 将无上下文评估时的 Pass@1 从 0%-1% 提升至 12%-13%,证明了紧凑训练范式的有效性。
研究人员提出 On-Policy Reverse Distillation(OPRD)方法,用于解决弱到强泛化问题,使更强模型从较弱教师中学习并超越教师。 该方法通过评估教师策略偏移并放大学生验证器驱动的策略梯度,在数学推理、代码生成等任务上,以更少的学生更新次数实现比现有强化学习和蒸馏方法更高的性能。
多领域强化学习后训练常导致模型在数学、代码等任务上的能力干扰与退化,且全域梯度近乎正交。 局部扰动模型将损失变化分解为一阶项与路径平均曲率项,解释了短程刷新带来的恢复效果。
论文利用最优传输形式化大语言模型推理,通过 12 个结构坐标和 Wasserstein-1 距离量化分布外风险。 Kantorovich 对偶界定了风险上界;APE 导致风险为 $\Omega(1)$,RoPE 保持分数不变并限制误差。
提出 TTCS 测试时课程合成框架,通过问题合成器与求解器共同进化,解决现有测试时训练伪标签质量低及更新不稳定问题。 合成器生成适配求解器能力的渐进式问题变体,求解器利用自一致性奖励更新,二者形成稳定反馈循环。 实验显示其在数学基准上增强推理能力并迁移至通用任务,代码已开源。
summary_zh: open-sci-ref-0.02 发布了 0.13B-1.7B 参数规模、覆盖 9 个参考数据集的开源 Transformer 模型族,支持最高 1T token 预算的训练与评估。
Bilibili 发布开源小语言模型 Index-1.9B 系列,含 Base、Pure、Chat 和 Character 四个版本,其中 Base 模型在基准测试中平均得分 64.92。
提出 LCLM(潜在上下文语言模型)压缩器,基于 0.6B-encoder 与 4B-decoder 架构,将 400B tokens 预训练数据压缩至 1:16 比率,显著提升推理效率。
研究人员在 Gemma-3-27B 和 Qwen-3.5-122B 的残差流激活上训练线性探针,识别出能追踪并因果控制模型成对任务选择偏好的真实偏好向量。该探针训练的通用助手偏好信息可跨人格迁移,甚至预测并引导偏好呈负相关的邪恶人格行为。该论文被 NeurIPS 接收,全文共 41 页并包含 45 幅图表。
研究利用 GPT-2 模型在匹配的单语与双语数据集上模拟语言习得,发现双语模型在第一语言和第二语言上表现均与单语模型相当。 实验涵盖了英语与西班牙语、中文及荷兰语的配对,评估指标包括困惑度、语法正确性和语义知识。 结果显示不同双语暴露模式间无显著差异,双语输入对统计学习模型不构成原则性挑战。
研究人员提出APSD方法,通过构建正确性依赖的非对称目标分布来优化LLM后训练中的自蒸馏策略。 在基于可验证奖励的强化学习实验中,该方法在Qwen3模型规模上以平均少2.6倍的训练步数达到了SDPO的性能表现。
课程学习通过逐步增加词汇量和 lookahead 微调 LLM,在相同算力下优于无课程训练;Qwen3-0.6B 在 lookahead 达 256 的问题上准确率从 45% 提升至 98%。
CoEvo-RSI框架通过双向历史继承解决模型与执行框架的脑体失配问题,使用SFT微调使Qwen3.5-9B在垂直应用中超越更大模型。 框架结合共享进化档案与执行反馈,通过元智能体协调框架开发与模型检查点选择;在TraceElephant上准确率超DeepSeek-V4-Pro 14.16,HomeBench VM成功率超GLM-5.3 4.90。
研究提出 UltraData-Code 四层数据状态,将原始仓库转化为面向任务的代码数据。 L2 层产出约 400B tokens 覆盖 11 种语言,L3 层产出约 150B tokens 用于微调。 10B 模型测试显示,L3 替换 L2 半数数据后,EvalPlus pass@1 提升 8.42pp。
研究拆解智能体强化学习数据为任务、环境、轨迹三轴,发现扩展指数顺序为环境大于任务大于轨迹。 拟合扩展律定价合成方法,推导 Chinchilla 风格计算最优配方,验证显示较传统轨迹扩展可提升 1.7 倍计算效率。 该论文已被 NeurIPS 2026 接收。
慕尼黑工业大学等提出 BSD 框架,通过外部教师生成推理轨迹作为特权上下文,解决策略蒸馏中师生不匹配问题。 该框架允许学生模型在无上下文时生成 rollout,再由带上下文的学生副本在自身 token 空间评分,适用于共享及跨分词器教师。 该统一方法在各类场景下均优于基线模型,代码已开源。
NVIDIA 与 AI4Bharat 联合推出 Nemotron-Pretraining-Indic-v1 及评测套件,构建了覆盖 22 种印度语言的 2.83 万亿 token 合成预训练语料库。
研究人员通过覆盖13类非语言发声(NVV)的自动合成数据集,提升了语音交互模型在共情互动和角色扮演中生成适当NVV事件的能力。 该方法采用多阶段微调和NVV感知的GRPO进行优化,实质性增强了VocalNet和VITA-Qinyu两个模型的表达力。 研究进一步讨论了实现高质量自然语音生成的架构必要性。
summary_zh: 提出金标条件蒸馏(GCD)方法,解决监督微调将专家响应视为 one-hot 目标从而抑制有效替代续写的问题。 GCD 利用同一模型作为教师和学生学习,教师以包含金标响应的上下文为条件,学生以原始提示为条件,通过最小化前向 KL 散度让模型利用先验知识自学新任务。
研究构建了3,395通电话、15,102个标注目标的高质量数据集,用于训练能代接电话并生成摘要的小型语言模型。 该数据基于合成通话与信息边界约束生成,经模型审查筛选。使用单个共享LoRA适配器微调0.6B-4B参数模型,测试了192通留出通话。 回复合格率从21-54%提升至94-97%,摘要合格率从0-6%提升至43-72%。后续人机研究将验证该评估标准的有效性。
研究提出代码切换任务合成方法,用于解决非英语领域跨语言 RLVR 数据稀缺问题,在韩语医疗及网络安全基准中平均性能超越单语及双语混合基线。 该方法利用填空型多选 QA 种子任务,从不可验证的英文领域文本生成目标语言变体,保持证据-答案关系一致但改变语言呈现方式。 分析显示该方法提升了目标语言输入理解与跨语言对齐,表明代码切换训练有助于利用英语中强化的领域推理能力。
summary_zh: 该研究提出了 ArabPref,这是首个支持按国家条件化对齐文化行为的大规模泛阿拉伯偏好数据集。 该数据集包含英语和现代标准阿拉伯语资源,所有测试数据均由母语者验证。
研究团队发布WorldStateMedia,这是一个包含1.36亿篇来自136个国家、114种语言国家媒体文章的开放数据集。 该数据集通过标注媒体受控级别来审计预训练语料库,发现2025年英文网络爬取中受编辑控制的国家媒体占比达93%。RAG实验表明,检索特定国家的国家媒体会显著使模型答案偏向该国的领土主张。
研究提出 21 种基于嵌入向量的多样性度量分类,并发布评估基准 EmbDivBench。 实验在模拟及自然文本上测试 variety、balance 和 disparity 三个维度,发现常用 Mean Pairwise Distance 被多种方法超越。 Graph Entropy 在整体表现最佳,研究据此提供多样性度量选用的实用建议。
在预训练阶段,该方法以一半的多 token 预测训练开销,将额外深度转化为下游推理与代码任务的准确率提升,突破了辅助模块的性能饱和瓶颈。 推理阶段,预训练模型可作为自身草案生成器,在开放生成场景保持草案与目标对齐,优势在双倍 token 预算及微调后依然稳健。
研究显示,六种先进显式记忆系统在 LongMemEval-S 和 BEAM-100K 测试中,相比原始历史 RAG 基线仅获得局部增益,且无一致优势。 部分系统因构建显式记忆耗时数小时,却未能有效保留或检索支撑答案的关键信息,检索仍是主要瓶颈。
研究团队发布了首个孟加拉语男性仇恨检测数据集 Ben-Misandry,包含 5,000 条由 GPT-4.1 生成的合成评论。 该数据集覆盖六个分类,最佳模型为 BanglaBERT 与 XLM-RoBERTa 的后期融合集成,准确率 96.6%,Macro ROC-AUC 超 99%。 这为在孟加拉语中检测和衡量反男性仇恨提供了初步的公开资源,待真实数据验证。
研究在 8B 和 30B-A3B MoE 模型上系统对比 NVFP4 低精度预训练配方,训练至 1T tokens,聚焦精度恢复的关键要素。 提出基于无偏梯度估计且量化误差低于随机取整的新配方,在 loss gap to BF16 上达到该规模下最强 FP4 训练结果。
针对可验证奖励强化学习(RLVR)削弱大语言模型推理多样性的问题,TAR 框架通过构建基模型解法记忆库并在行为受抑制时进行选择性重放,有效缓解了该现象。 该方法在六个数学推理基准及两种规模的 Qwen2.5 模型上,实现了推理性能与多样性保持的更好平衡,并显著减少了对正确基模型解法的遗忘,相关代码已开源。
研究评估记忆受限用户模拟器对事实重复与干扰的敏感性,发现部分模拟器整体准确性类似人类,但错误模式不同,人类会错误回忆而模型会遗忘特定问题。 作者将数据作为未来工作的挑战基准发布,用于改进用户模拟器在行为一致性方面的表现。
arXiv 论文指出当前四个大语言模型生成的故事可变性极低,20,000 个样本中 11 个词(如 Elias、Mara、灯塔等)出现在 88.3% 的故事中。这些词在公开文献和预训练数据中罕见,但存在于所有模型可能使用的偏好数据中。研究显示,小众数据集结合强大的对齐算法会对生成结果产生不成比例的影响,导致大量出现参考受版权保护角色或成人内容的故事。
中电信星辰通用人工智能实验室开源Xing4.0-29B-Intent模型,该模型将意图理解扩展为意图分类与参数提取,并在零样本冷启动评测中Micro-F1达70.27,高出Jev 12.62个百分点。
推荐理由:文章对比了Jev与Xing4.0-29B-Intent在意图分类与参数提取上的能力差异,提供了11组真实场景实测数据及275万条语料,展示了专用模型在Agent落地中的成本优势。
美国电力价格五年上涨约40%,公用事业公司申请231亿美元费率上调。 数据中心推高账单引发选民反弹,政策非营利组织负责人称这是电费首次成为选民政题。 反弹可能决定未来AI基础设施选址。
Fortune 专栏文章认为,资本而非芯片或模型将决定 AI 竞赛下一阶段走向。 该论点基于 Nvidia 与 Apollo、BlackRock 等机构达成 500 亿美元融资平台的协议。 原文指出,资金获取能力决定竞争节奏,对中国和欧洲而言,缩小科技差距需先缩小金融差距。 ```
麻省理工学院媒体实验室教授帕蒂·梅斯(Pattie Maes)等人在包含200名受试者的实验中,通过向受试者展示经AI篡改的图片(如修改面部表情、新增人物形象),发现观看AI篡改图片的受试者产生错误记忆的概率大幅上升,且对虚假记忆的自信程度反而更高。