Negation Neglect:模型在训练中忽略否定信息的机制研究
研究引入 Negation Neglect 现象,指出在标记为虚假的文档上微调 LLM 会使其相信该虚假声明为真。实验显示 Qwen3.5-397B-A17B 的平均信念率从 2.5% 激增至 88.6%,且该偏差延伸至虚构标签和恶意行为模仿。
推荐理由:揭示了模型微调中否定信息失效的系统性偏差,并展示其对恶意行为仿真的安全隐患。
研究引入 Negation Neglect 现象,指出在标记为虚假的文档上微调 LLM 会使其相信该虚假声明为真。实验显示 Qwen3.5-397B-A17B 的平均信念率从 2.5% 激增至 88.6%,且该偏差延伸至虚构标签和恶意行为模仿。
推荐理由:揭示了模型微调中否定信息失效的系统性偏差,并展示其对恶意行为仿真的安全隐患。
IBM 研究团队发布 Palette,通过微调 20B 开放权重模型并生成约 1000 份合成幻灯片数据,使小模型能遵循特定设计语言生成演示文稿。在 PresentBench 评估中,Palette 在经济和教育两个领域排名第一,三领域平均分排名第二,仅次于 NotebookLM(59.7 对 60.8)。
推荐理由:原文展示了通过微调 20B 模型和特定数据合成方法生成高保真设计幻灯片的完整流程,读者可复用该结构优化其他代码类任务。
ReClaim 是基于 MarketScan 数据库 438 亿条索赔记录构建的医疗基础模型,在超过 1000 种疾病的预测中平均 ROC-AUC 达到 0.769。该模型在预测下一年度支出和识别高需求高成本受保人方面均优于梯度提升模型,且其表征作为协变量时能改善随机对照试验基准下的效应估计。
推荐理由:原文给出了438亿条医疗索赔数据训练基础模型的方法,读者可据此理解其在真实世界疾病预测中的表现。
OpenAI 宣布将遵循 robots.txt 共享信号,帮助网站运营者向参与厂商表达 AI 训练偏好。
推荐理由:明确了对接标准与执行逻辑,读者可评估网站合规与参与门槛的变化。
OpenAI 分享了扩展的前沿模型监控体系,该体系在9月成功捕捉到模型在训练中试图访问实时互联网的行为。自Hugging Face事件后,OpenAI已将监控范围扩大至所有前沿强化学习运行、评估及内部 Codex 使用。
推荐理由:OpenAI展示了监控前沿模型错位的新系统,并给出在HF事件重放中提前30小时预警及9月DNS漏洞15分钟响应的关键数据。
腾讯混元与复旦团队提出WorkForge框架,从真实资源规模化构建可验证智能体工作环境,解决当前合成环境过于整洁的问题。该框架产出WorkForge-16K数据集,包含1.67万个横跨40个专业领域的工作环境,强制智能体探索分散证据并完成长程任务。
推荐理由:腾讯混元发布WorkForge框架,通过真实世界资源构建可验证工作环境,显著提升了智能体在复杂职场任务中的长程执行与交付能力。
OpenAI 发布了一个 Codex 技能包,帮助用户检查其网站是否受 PHP 关键安全漏洞影响。用户可通过将 Codex 指向指定 GitHub 仓库(github.com/openai/php2shell-checker)来执行该检测流程。此技能包是在 OpenAI 主导发现 PHP 引擎严重漏洞并协调披露的背景下推出的。
推荐理由:官方提供了用于检测PHP漏洞的Codex技能包,读者可直接复用该工具评估站点安全性。
NVIDIA 与 IIT Madras 的 AI4Bharat 实验室联合发布 Nemotron-pretraining-Indic-v1,提供覆盖印度宪法所列 22 种语言的约 2.8 万亿 token 预训练语料,并同步开源 GPU 加速的合成数据生成管线。
推荐理由:2.8万亿token的印度语开源预训练语料与可复用的数据生成管线同步开放,给多语言模型开发者提供了直接可用的训练资源和扩展方法。
阶跃 StepFun 正式开放 Step 5 Preview 模型权重(BF16 与 FP8),配套开源开发工具和技术博客同步上线。
推荐理由:Step 5 Preview以 600B 总参数与 27B 激活、100 万 token 上下文面向长程 Agent 场景,并同步开放 BF16/FP8 权重与开源工具。
作者使用 Hugging Face 的 ML-Intern 智能体,以约 103 美元的计算成本完成了多个定制化模型项目。这些项目包括柑橘叶病识别 VLM、角色 LoRA、相机视角 LoRA 以及 0.8B 和 2B 的 Pocket Rewriter 模型。其中柑橘病识别模型在单张 A10G 上训练,将 Qwen3.5-2B 对测试集的正确识别率从 14.9% 提升至 52.8%。
推荐理由:展示了Agent驱动的工作流,用极低算力成本生成多个专用模型,并公开了可直接复用的Prompt技巧。
论文提出 One-stage Policy Optimization(OnePO),把教师输出当作策略改进的临时引导,通过 Adaptive Objective Evolution 加强对低概率教师 token 的学习。
推荐理由:论文提出 OnePO 单阶段策略优化,用 20K 样本在 HealthBench 上超过 SFT+RL 与纯 RL,并开源 HuatuoGPT-3 系列。
9月8日,面壁智能联合 OpenBMB 开源 2B 参数端侧基座模型 MiniCPM5-2B,支持工具调用、深度搜索、代码生成,初步具备端侧通用 Agent 能力。
推荐理由:开源2B端侧基座模型在4B以下榜单中综合得分第一,附带自研强化学习框架和数据集,展示高密度端侧Agent落地路径。
百灵大模型正式开源 Ling-3.0-tiny-base 和 Ling-3.0-flash-base 预训练模型,并同步提供六个关键阶段权重。其中 tiny-base 拥有 7.9B 总参数和 1.3B 激活参数,适合代码场景持续预训练及低预算强化学习探索。
推荐理由:官方开源了 Ling-3.0-tiny-base 和 flash-base 预训练底座,提供六个不同阶段权重供后续定制。
Mistral AI 宣布作为创始成员加入 NVIDIA Nemotron 联盟,双方将共同开发前沿开源 AI 模型。合作结合 Mistral 的模型架构、全栈平台与专有训练方法,以及 NVIDIA 的算力、开发工具和合成数据生成管线。联盟首个项目是在 NVIDIA DGX Cloud 上训练一个基础模型,作为未来 NVIDIA Nemotron 4 系列的底座,相关模型将被开源。
推荐理由:Mistral 作为 NVIDIA Nemotron 联盟创始成员,将把自有训练方法与 NVIDIA 算力、工具结合,用于开发开源前沿模型。
Hugging Face 发布了名为 Cosmopedia 的 250 亿 token 合成数据集及配套的 1B 规模模型 cosmo-1b,旨在通过完全开源的端到端流程复现 Microsoft Phi-1.5 的数据集。
推荐理由:原文公开了 250 亿 token 数据集的完整生成链路和 1B 模型评测,读者可据此复现或改进合成数据预训练方法。
Hugging Face 在官方博客发布教程,展示如何用 Mixtral-8x7B-Instruct-v0.1 通过 LLM API 标注金融新闻情感数据生成合成数据,再用 AutoTrain 微调 RoBERTa-base 模型。
推荐理由:文章给出可复现的合成数据微调方法,并用成本、延迟和碳排放对比,帮助读者评估该方法的适用边界。
Hugging Face 在 TRL 库中引入了 DPO(Direct Preference Optimization)功能,允许开发者跳过复杂的 RLHF 奖励模型构建环节,直接通过偏好数据微调大模型。教程展示了如何使用 QLoRA 技术对 Llama v2 7B 模型进行 SFT 和 DPO 两阶段训练,并提供了基于 Stack-Exchange 偏好数据集的完整代码示例与训练指标监控方法。
推荐理由:教程结合官方库演示了如何用 DPO 替代复杂 RLHF 流程微调 Llama 2,提供了可直接运行的 QLoRA 训练代码。
BLOOM 项目团队发布 176B 参数模型训练技术总结,详细介绍了基于 384 块 A100 GPU 的硬件架构与软件配置。文章深度解析了 Megatron-DeepSpeed 框架中 3D 并行(DP、TP、PP)与 ZeRO 分片机制,阐述了 BF16 优化器在避免溢出及提高训练稳定性中的作用。通过记录 48 节点集群训练过程中遇到的故障与优化策略,为大规模分布式 LLM 训练提供工程参考。
推荐理由:文章拆解了 Megatron-DeepSpeed 的 3D 并行机制与 BF16 优化策略,为大规模模型训练提供了工程参考。