语言模型任务组合下的脆弱性:隐性推理预算机制
研究揭示语言模型在组合任务中错误率显著上升,源于模型对每个任务分配的 token 隐性减少,这一“隐性推理预算”效应无法仅由独立错误累积解释。 该现象在开源模型与 Claude Opus 5 中均存在;孤立时非脆弱任务会浪费算力,而任务需要更长解题轨迹时,组合下错误更多。 按任务脆弱性分组可调控该预算,在保持准确率的同时将 token 使用量降低 43%,为高效多任务提示设计提供依据。
研究揭示语言模型在组合任务中错误率显著上升,源于模型对每个任务分配的 token 隐性减少,这一“隐性推理预算”效应无法仅由独立错误累积解释。 该现象在开源模型与 Claude Opus 5 中均存在;孤立时非脆弱任务会浪费算力,而任务需要更长解题轨迹时,组合下错误更多。 按任务脆弱性分组可调控该预算,在保持准确率的同时将 token 使用量降低 43%,为高效多任务提示设计提供依据。
该研究分析了大语言模型在局部重试中复用中间结果的可靠性,给出了正确完成条件及平均尝试次数界限。 实验涵盖 8 个推理模型,包括 4 个 DeepSeek 模型。结果显示,提供第一子问题答案或推理及答案,将第二子问题平均成功率从 36.2% 提升至 58.3%。 代码已开源,相关实验验证了检查成本与通过概率对总计算量的影响。
DeepSeek 推出一款开源工具,旨在帮助降低 AI 运营成本。 该工具目前处于开源状态,具体技术细节和性能指标未在文章中提供。 此举有助于开发者或企业通过自托管或本地部署降低长期支出。
DeepSeek 全面开源自研推理框架 DeepInfer 及生产级 Token 编解码组件 deepseek-recipe,支持 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理,支持英伟达 SM100 GPU、华为昇腾 950 NPU。
同一新闻,精选展示《DeepSeek 开源内部推理框架 DeepInfer 及编解码组件》
AI模型市场运作类似应用商店,通过可调适配器基于供应商基础模型提供调用服务,基础模型均为未修改的供应商权重。 该市场列出了多款模型及其调用价格,包括 MiniMax-M3 的 $0.39 / M 和 GLM-5.1 的 $1.82 / M,部分模型支持训练数据链接共享。 所有展示模型均非微调或 LoRA 版本,价格为调用方支付的基准费率。
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,用于支持其 V4.1-Flash 模型大规模快速生成回答。
同一新闻,精选展示《DeepSeek 开源内部推理框架 DeepInfer 及编解码组件》
Goodfire 研究员 Nick Cammarata 发表博文声称 LLM 比预想中更易于理解、监控和控制,引发 AI 界震动。 Meta 个人 AI 助手 Muse 首月下载量达 500 万,其普及正迫使互联网从服务人类向兼容 AI Agent 转型。 该变革或导致网站普遍屏蔽 Agent,使互联网生态对普通用户而言可能变得更差。
据 TechCrunch 报道,部分用户和开发者开始使用 Claude Code 等 AI 智能体,对智能电视的广告和预装软件进行清理及禁用。名为 CleanYourTV 的项目将小米电视型号提供给 Claude Code,通过 Wi-Fi 连接电视,成功禁用了 25 个小米软件包并生成新的启动器,相关提示词和代码已开源。
美国国土安全部(DHS)下令联邦文职机构停止采购并移除DeepSeek及其基于其技术开发的第三方产品,理由是对中国数据安全及法律管辖的担忧。此举此前已针对情报机构,中国外交部回应称反对过度扩大国家安全概念。
同一新闻,精选展示《美国禁止政府机构使用DeepSeek AI》
美国国土安全部发布禁令,禁止联邦文职机构使用中国实验室 DeepSeek 的 AI 技术。各机构须从 IT 系统中移除现有 DeepSeek 产品,且不得采购新品。该禁令基于 2018 年美国供应链安全法律,目前未设定具体移除期限,也未明确“包含 DeepSeek 实现”的具体定义范围。
同一新闻,精选展示《美国禁止政府机构使用DeepSeek AI》
DeepInfer是一个高性能推理框架,支撑DeepSeek的大规模生产服务。此次开源发布提供离线推理功能,具备大规模服务所需的核心特性。
DeepSeek 开源了内部推理框架 DeepInfer 和生产级 token 编解码组件 deepseek-recipe。DeepInfer 支持分布式推理、推测解码及 SWA Bounded Replay,兼容英伟达与华为昇腾平台。DeepSeek 公布基于该框架的 V4.1 Flash 单一集群日均吞吐达 155 万亿 Tokens,整体收入按谷价计算为每卡每小时 38 美金。
同一新闻,精选展示《DeepSeek 开源内部推理框架 DeepInfer 及编解码组件》
10月24日前,DeepSeek-V4.1-Flash-1017 在 Qoder 国际版和 CN 版限时免费,系数 0x,不扣 Credits。 该模型上周六更新,支持 1M 上下文窗口,思考强度可调至最大。
MiniMax M3.1 Flash 正式发布,并确认是匿名模型 Space Bunny 的正式版,主打高速推理与低成本。该模型在 Automation-Bench、DeepSWE、ALE 等基准上表现强劲,在 ALE 任务中花费约 739 元即可跑完,性能追平甚至部分反超旗舰级模型如 Claude Opus 5。
推荐理由:M3.1 Flash 的定价与多任务基准成绩被并排放在 DeepSeek V4.1 Flash 和 Opus 5 的坐标系中,可以直接看出当前低段位模型的价格锚点。
针对有报道称美国政府要求其机构停止使用来自中国企业的 DeepSeek 等人工智能工具,外交部发言人毛宁 10 月 20 日在例行记者会上表示,中方一贯反对泛化国家安全概念、将科技经贸问题政治化,并将坚决维护中国企业的合法权益。
特朗普政府以国家安全为由,禁止美国民用政府机构使用中国AI初创公司DeepSeek的产品或服务。此禁令将中美AI竞争正式纳入采购政策,发布数日前DeepSeek V4.1 Flash以极低价格在美国智能编码基准上超越前沿模型。
DeepSeek 官方宣布全面开源内部推理框架 DeepInfer 及生产级 Token 编解码组件 deepseek-recipe,旨在通过分享部署经验帮助开发者优化大规模推理的吞吐与延迟。
推荐理由:开源框架支持多种解码能力并兼容主流硬件平台,开发者可直接复用其部署经验以降低大规模推理成本。
DeepSeek 宣布全面开源内部推理框架 DeepInfer 及生产级编解码组件 deepseek-recipe。DeepInfer 集成高性能算子与推理引擎,支持分布式推理、推测解码等能力,兼容英伟达与华为昇腾平台,已用于实现 DeepSeek V4.1 Flash 的高吞吐低延迟推理服务。
同一新闻,精选展示《DeepSeek 开源内部推理框架 DeepInfer 及编解码组件》
MiniMax 正式发布 M3.1 Flash,定位为 Coding/Agent 优化轻量级模型,拥有 100 万 token 上下文。
2007 年图灵奖得主约瑟夫·斯发基斯指出,当前 AI 系统无法理解现实世界并做出安全决策,其自我演进存在不可控风险。他批评部分公司利用监管空白谋利,呼吁与理念相近国家携手建立全球 AI 监管标准,将风险降至最低。
小红书 Dots 团队提出 DoSA,利用分数上下界加速索引器,在不降低精度的前提下将约 1M token 上下文的首 token 延迟较 SGLang 基线降低 37%-48%。 该技术通过保守上界提前过滤约 97% 候选,仅对可能入选的候选执行精确打分,确保了 Top-K 选择结果等价。 此举解决了稀疏注意力中索引器成为长上下文推理瓶颈的问题,显著提升了长文本生成效率。
DeepSeek-V4.1-Flash-20261017(Max)在 Agent Arena 开源模型榜排名第一,总榜第 11,基于 7498 次真实使用会话取得 5.13% 的综合净改善指标,单任务成本中位数约 0.18 美元。
AINews汇总了10月16日至19日的AI行业动态,包括DeepSeek V4.1 Flash、MiniMax M3.1 Flash、Mercury 3等模型的发布,以及Google Harness框架、vLLM更新和Anthropic公共利益基金等重要技术和管理动作。
summary_zh: Claude 新款模型在推理与直觉判断上实现重大飞跃,能跳出思维定势。修复 Bug 时,它不只解决表面问题,而是识别背后的根本类问题并一并处理,避免重复常识性建议。
约束 LLM 评判的决策规则比评判准确性更关键,EL-DGR 非补偿性规则在 GSM8K 上达到 58.2%,显著优于 56.8% 的 DeepSeek-R1-7B 评判。 该规则要求推翻共识需附带提取式证据证书,且仅在双方均未获证书且修复项获证书时启用,将评判的爆炸半径限制在可验证范围内。 实践启示是限制评判器的决策范围而非追求其准确性,避免破坏性决策。
无训练协议 GraphEvoResearcher 将自反思元奖励提升至显式推理图,节点为中间结论,边编码支持、矛盾及依赖关系。 该协议在 DeepSeek LLM 上结合 GSM8K、MATH 和 BBH 数据集测试,准确率分别达 98%、92% 和 82%。
研究显示,LLM-as-a-service 市场存在社会低效率,云服务商有动力增加测试时算力投入,即便这很少提升输出质量。 为纠正此偏差,文章提出一种反向第二价格拍卖机制:服务商就价格与预期质量竞价,用户按中标方相对第二高投标方的边际价值比例付费。 实验在 Llama、Qwen 及 DeepSeek-R1 蒸馏模型上验证该机制,测试数据集涵盖数学与科学基准。
该系统基于提示词,针对Anthropic等五大模型API,在八类任务中生成最高20K样本的数据集,规模越大优势越明显。 其微调模型性能优于其他生成器,显著改善下游训练效果。
ID Balancing是一种基于积分-微分控制器的负载均衡方法,用于解决大语言模型中混合专家(MoE)路由不平衡问题。 该方法整合了DeepSeek的无损失方法和Kimi K3的分位数平衡方法。 实验显示,在Top-3路由设置下,ID Balancing将最坏情况骨干MaxVio降低超过50%,最坏情况骨干MaxVio在总参数量从18.9B增加到69.9B时保持稳定。
summary_zh: LeakBench 是一个用于审计临床建模智能体预测时泄漏的可执行测试套件。它在 MIMIC-IV 和 MHFP 数据上测试智能体是否因提升验证奖励而选择无效输入。
提出免训练选择器 LIFT,利用部分推理滚动输出高效筛选高价值提示词,降低 RLVR 数据选择成本。 LIFT 核心指标 PRCL 基于点wise V-信息,在 Qwen2.5-Math-1.5B 等模型上,仅需全量 token 的 26% 至 4.7% 即可保留 90% 至 95% 的评分。
在 GPT-4o 多智能体辩论中,37% 的冲突问题无需同伴信息即发生答案改变,29.3% 的稳定对子在看到同伴立场后采纳同伴答案。 这些采纳包含纠正与新错误;同伴有正确答案时,纠正多于有害采纳。完整推理提升个体准确率,但相比自我反思未增加多数投票收益,且多耗 57% token。
在本地部署的 DeepSeek V4 Flash 和 Qwen3.8-27B 模型上复现 GEPA 和 SkillOpt 优化器发现效果因任务而异。 GEPA 在 MATH-500 上将 Qwen3.8-27B 的精确匹配率从 0.828 提升至 0.904,但在 HotpotQA 上未能超越基线;验证集上的收益在留出集上可能反转。
针对生产级哈希寻址条件记忆,研究发现写入内容为独立可寻址原子而非可组合推理知识,固定预算下 50 项事实覆盖率 98% 降至 1,000 项时的 12.7%。 测试涵盖 124M-7B 自训模型及 Qwen3.8-Flash-Next-FP8、DeepSeek-V4.1-Flash,双跳组合未超越独立基线,上下文差距将故障定位至检索推理。
Arena 宣布 DeepSeek-V4.1-Flash-1017(Max)在 Code Arena: WebDev 榜单得分 1670,超过 Kimi K3(Max)等开源模型及部分闭源模型,成为该榜单排名最高的开源模型,仅落后 GPT-6 Sol(Max)12 分。
同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 登顶 Code Arena: WebDev 开源榜》
MiniMax发布M3.1 Flash模型,推理速度提升近3倍,成本降低70%,Pro版本即将推出。 OpenAI推进约300亿美元融资,目标估值超1.4万亿美元;DeepSeek API网页搜索计费每1000次5元。 马斯克承诺明年赠予美国每个孩子1股SpaceX股份;山姆回应称正依法维权应对恶意营销。
美国国土安全部(DHS)下令所有文职政府机构停止使用中国公司DeepSeek的AI技术及其衍生产品。该禁令自7月底生效,适用于财政部、国务院等文职机构,但排除国防部。此举延续了美国对DeepSeek的监管限制。文章提到,由于DeepSeek模型开源且成本低廉,曾被Snowflake等公司用于业务,其训练成本远低于美国同行,引发了对美国AI企业竞争力的担忧。
推荐理由:美国国土安全部禁令将DeepSeek排除在文职政府体系之外,为评估开源模型在地缘政治下的合规风险提供了具体参照。
评估发现 GLM-5.1 具备高 CoT 可控性,其控制水平接近 GPT-6-Astra。 该结果基于 CoT-Control 评测集,涵盖 GPQA、HLE 和 MMLU-Pro 共 1,214 道题目;同期测试的 Kimi 和 DeepSeek 模型 CoT 控制表现较差。 尽管 GLM-5.1 可控性高,但其在监控规避任务中表现不佳。
MiniMax 发布了推理模型 M3.1 Flash,其 Artificial Analysis 综合得分为 42 分,前代 M3 为 29 分。该模型单任务成本约 $0.22,比 Deepseek V4.1 Flash 1017 的 $0.26 略低。
Arena 宣布 DeepSeek-V4.1-Flash-1017(Max)以 1670 分超过 Kimi K3(Max),成为 Code Arena: WebDev 榜单排名最高的开源模型。该模型在 DeepSWE v1.1 测试中得分超越 GPT-6 Astra 等模型,每百万 Token 输入成本约为 Kimi K3 的 1/10,支持一次性生成可运行的 3D 场景与网页游戏。
推荐理由:读者能基于实测案例和价格数据,判断新模型在创意原型开发中的性价比。