Chinese Decision:面向单次概率决策的中文语言模型家族
中国科学院计算技术研究所发布Chinese Decision模型家族,支持布尔判断、类别选择与有序评分的单次概率决策。0.8B模型在包含30.79万项决策的CJ-Bench上,通用领域准确率为72.24%,医学、法律和金融领域平均准确率76.98%,期望校准误差为1.07%。 已发布该模型的训练、评估和部署流程,但当前结果尚未隔离模型规模的影响。
中国科学院计算技术研究所发布Chinese Decision模型家族,支持布尔判断、类别选择与有序评分的单次概率决策。0.8B模型在包含30.79万项决策的CJ-Bench上,通用领域准确率为72.24%,医学、法律和金融领域平均准确率76.98%,期望校准误差为1.07%。 已发布该模型的训练、评估和部署流程,但当前结果尚未隔离模型规模的影响。
该研究提出部分揭示面板预测模型,利用前一轮 k 个投票预测下一轮全部分布,并定义粗化一致性算子。 在 IEMOCAP、M3ED 和 EmoWOZ 数据集上,冷启动负对数似然差异分别为 -0.422、-0.166 和 -0.014 nats。 跨轮与同项目信息增益不可互换,目标无约束分配仅在行级信号可预测时优于均匀分配。
研究引入“水印可行性”(watermarkability)概念,量化模型对指定 token 集的概率分布兼容性。 提出两阶段方法:先训练低秩适配器,再用控制器应用最小 Logit 偏差。在 OPT-125M 和 Qwen3-8B 上,该方法将固定偏差基线下的困惑度平均降低 46.3% 和 5.2%。
研究团队发布Pearl-Chat,一款针对Luganda语设计的8,473,122参数因果解码器。该模型采用JAX和Flax NNX框架构建,并训练出词表大小为8,192的BPE分词器,实现1.60 tokens/word的生成率。
研究以冻结的16 MB 512-bit词表替代Gemma 3 270M的可训练嵌入层,整体模型压缩至46 MB。 该方案训练后性能在LAMBADA和PIQA等基准上不劣于基线,稀有词处理优于学习式嵌入。 结合三元BitNet架构,模型在笔记本CPU上实现615-740 tokens/秒生成,内存占用仅为基线的七分之一。
DeepSeek V4.1 Flash 更新至 V4.1-Flash-1017 版本,官方网页端、APP 与 API 已同步变更。新版通过强化学习提升了游戏开发与 3D 建模等项目构建能力,并优化了性能与成本平衡,支持在较少的提示词条件下实现复杂任务。
推荐理由:新版本提升了游戏与3D项目开发能力,开放了带鉴权的自研搜索 API,并同步更新多端入口。
Reflection AI 发布开源权重模型 Beam,面向智能体编码与长时程多步骤任务,提供 501B 总参数量与 23B 活跃参数量的稀疏 MoE 架构及 100 万 token 有效上下文。
同一新闻,精选展示《Hugging Face 开源 501B MoE 模型 Beam》
Reflection 首个模型 Beam 在 Hugging Face 发布:501B 参数 MoE(23B 激活),1M token 上下文,Apache 2.0。
推荐理由:Reflection 首个 501B MoE 模型 Beam 在 Hugging Face 全面开放,Apache 2.0 许可、1M 上下文和 vLLM/SGLang 支持直接降低了本地部署门槛。
腾讯混元于 10 月 16 日将智能体记忆框架 Hy Memory 升级至 2.0 版本,并开源了专用模型、记忆框架和 MemHub 应用。新增工作记忆与代码记忆后,Hy Memory 2.0 在 4 个覆盖聊天、工作、代码场景的 Benchmark 上均为开源记忆框架第一。
推荐理由:腾讯混元开源了记忆框架、专用模型和应用三层架构,并披露了在腾讯内部多个业务场景中,多跳召回率、长期偏好理解等关键指标的具体提升数据。
独立开发者开源端侧实时同传系统 VoxWeft,基于 VoxCPM2 在 Apple Silicon 实现本地闭环。M3 Ultra 流式 TTS 首次出声延迟 124–168 毫秒,M2 端到端延迟约 2.5 秒。
Archer 是一种无需训练的缓存方法,通过复用 Prompt KV 并在有界范围内重新计算可变响应,解决了扩散语言模型(DLMs)回滚时的全序列重算成本。 在代码生成基准上,Archer 平均加速 2.57 倍,单项基准最高达 2.95 倍;在非代码任务中,对比 LLaDA-Confidence 最高加速 4.33 倍,同时提升了平均准确率。
SimCT 通过扩展监督空间,将教师与学生模型在短多 token 续写上进行对比,解决了异构分词器因词汇不一致导致的监督信号丢弃问题。 该方法保持了在策略蒸馏损失形式不变,证明了这些单元是最细粒度的联合可分词监督接口。 在三组异构教师-学生模型对及数学推理、代码生成基准测试中,SimCT 相比共享词表蒸馏和基线方法取得一致提升,代码已开源。
MIXAR 是首个生成式多语言像素语言模型,基于拉丁语系及 CJK 脚本的 8 种高资源语言预训练,参数量达 0.5B。 该模型在未见过的低资源语言上表现优于同等语料库的 tokenizer 模型,GRPO 强化学习阶段将自由生成准确率提升最高 2.3 倍。 MIXAR 在判别式基准上与同等 tokenizer 模型持平,且代码与模型已开源。
研究人员提出离线数据增强方法 Composition-RL,通过组合现有提示词解决强化学习中易例占比过高的问题,避免修改优化器。 在 4B 至 30B 参数规模实验中,该方法持续提升推理能力;课程学习变体与跨域提示词组合进一步增强了模型性能。 论文完整代码、数据及模型已公开,该版本为 NeurIPS 2026 接收稿。
研究者发布 Python 库 MoCo,旨在整合并标准化大语言模型协作研究。该库包含 26 种协作方法及 25 个评估数据集,涵盖路由、文本、logit 及参数交换等层级。 实验显示,在平均 61.0% 的模型与数据设置中,协作策略优于非协作模型,最佳方法性能提升高达 25.8%。 MoCo 通过统一基准对比与大规模执行框架,为构建开放、模块化的协作 AI 体系提供基础工具。
研究开发双 LLM 共识管线,从 26,763 份临床笔记中提取 18 种 Trofinetide 治疗表型。 最佳提示词在腹泻测试集上准确率达 84.2%(F1 = 0.674),比正则匹配高 47 个百分点。 专家审核一致率为 90.2%,该管线为真实世界监测提供可扩展的 LLM 替代方案。
研究团队推出 Grid-Bench 可执行基准,用于评估 LLM 在离散网格空间中预测状态变化的准确性。该基准包含 8 类操作,支持 2D 至 4D 网格,参考执行机制可校验所有预测值。
提出多智能体系统拓扑设计框架 PRISM,在六项基准测试中优于所有对比基线。 通过零初始化低秩分支引入部署时不可用的“兄弟图”作为特权信息,解决语料库缺乏查询级偏好排序导致的拓扑漂移问题。 代码已公开,验证了特权查询信息对生成器性能的贡献。
该开源评测框架支持 OpenRouter 和 GitHub Copilot CLI,执行 100 个 RefactorBench 多文件任务。采用 AST 感知分块比朴素分块提升 25-30 个百分点,轻量级检索增强 Agent 成功率达 86%。 平台已公开,旨在使重构 Agent 评估可复现、可审计。
研究提出 Declarative Attention 协议,让模型在思维链中主动声明需关注的 KV cache 区域以跳过大部分读取。 在 Gemma-4-31B 和 Qwen-3.6-27B 模型上,该方案将每次响应关注 token 总数分别降低 45.8% 和 19.6%。 尽管额外解码步骤增加,准确率仅小幅下降 1.40pp 和 2.10pp,代码已开源。
ReText 通过引入文本监督信号增强视觉特征,显著提升基于图像的人再识别(Re-ID)在未见域中的泛化性能,并在跨域基准测试中超越当前最先进方法。 该方法利用微调的视觉语言模型(VLM)为多相机数据集补充文本描述,联合优化人再识别、图文匹配及文本引导图像重建三项任务,并采用单相机数据策略进一步改善跨域表现。 扩展的多相机数据集及 VLM 权重已公开发布,相关论文被 WACV 2027 接收。
研究者提出无需训练任务向量(TFTVs),通过前向传播统计量将激活引导向量映射为秩一权重空间编辑,实现LLM行为控制。 该方法无需微调即可增强、抑制或组合目标行为,在保持通用知识与解题能力的前提下,比基线方法展现更强的特征控制效用。 代码已在项目网站开源,为后训练模型编辑及无需训练的控制提供新方向。
提出 DLR-Lock 方法,利用深度低秩残差网络(DLR-Net)替换预训练 MLP,以解决开源大语言模型权重被未授权修改的问题。 该方法迫使反向传播激活内存随深度线性增长,并在保持模型能力的前提下抵御掌握完整防御策略的自适应攻击者。 已被 NeurIPS 2026 接收,实验验证了其防御有效性。
针对模型合并中的交叉任务干扰问题,提出名为 Resolving Interference 的轻量适应框架,利用无标签辅助数据将专家模型解耦。 该方法使 SOTA 合并方法性能最高提升 3.8%,未见域泛化能力最高提升 2.3%,且对辅助数据源来源具有鲁棒性。
MEMONDEMAND 提出了一套内存管理系统,在 EnterpriseRAG-Bench 上全尺度超越最强基线,10M token 时提升 12.23%,618M token 时提升 4.66%。 该系统包含动态多级层次结构、双重内存分离及按需升级机制,并已在 FinanceBench、HotpotQA 和 FRAMES 上验证。 代码已开源,适用于跨领域、大规模的企业数据场景。
MegaMem 提出双视图检索系统,在 6.5 亿 Token 的企业文档基准上将 Overall 分数从 68.22 提升至 82.26,Correctness 达 86.50。 该系统通过语义访问与生成证据分离,利用固定预算内的最高排名详细证据支持生成,确保超大持久记忆下的答案准确性。 MegaMem 代码已开源,为处理数亿至 10 亿 Token 级记忆提供了可行的检索路径。
TabClustPFN 提出了一种通过联合设计先验、目标和架构来解决表格数据聚类挑战的 PFN,在 44 个真实世界基准上达到 SOTA 性能。 其混合预训练先验捕捉异构几何,解耦的分区推断网络在单次推理中联合推断聚类分配和基数。 SoftARI 训练目标具有置换不变性,消除了标签顺序约定需求,运行时间可比拟高效基线,代码已开源。
论文提出模块化框架 Agent Gym,解决生产环境 LLM 智能体部署后行为固化难题,无需修改源码即可进行持续行为修正。 框架包含行动、评估、修正等六大能力,采用混合确定性-LLM 修正引擎,具备 21 个条件操作符及三层调查架构。 提供发票处理开源实现,框架具备可操作性,支持领域专家通过自然语言交互验证新规则。
科学性能反馈可将生成模型的学习搜索分布重定向至超越人类设计惯例的区域,且无需明确奖励偏离行为。 在反应堆晶格设计和化学反应条件选择中,适应性调整提高了科学性能,并增加了生成训练数据中缺失选项的频率。 在实测反应中,被排除在外的特定配体选择概率从 0.29 升至 0.70-0.71,同时预期产量误差降低。
该研究提出成对差异学习(PDL)分类器,通过解决配对的二元分类问题推导新分类算法。 大规模实证研究显示,该方法在预测性能上优于最先进的现有方法。 作者提供了易于使用的 Python 公开实现,论文发表于 DS 2024。
论文提出自编程执行(SPE),让模型输出直接充当编排程序,消除传统智能体中固定的编排策略。 系统引入 Lisp 方言 Spell,允许程序编辑自身且不重放副作用,使前沿模型可通过上下文学习完成复杂智能体任务。 该研究被 NeurIPS 2026 接收,证明了语言模型在无预设编排策略下自主行动的可行性。
REKI 是一个 2.4B 的视觉-语言-动作模型,在 LIBERO-Plus 等基准上表现优于约两倍的模型,刷新性能与模型大小的帕累托前沿。 该模型采用 VLM 加流匹配动作专家架构,通过少量 register tokens 实现低开销记忆,使位姿振荡现象减少约 4 倍。 REKI 完全基于公开数据预训练,并开源了全部代码、权重及评估部署流程。
微调语言模型易因训练数据中的虚假相关导致条件式失准,ContextLift 通过反事实增强在不需额外模型或标签的情况下打破此相关性。 该方法复制一半交错安全数据并随机提升上下文句,保持对齐答案不变。在 Qwen2.5-7B 上,ContextLift 将安全、法律和医疗领域的失准率从最高 58.2% 降至 12.8%。
研究提出一种开源中训练配方,在预训练和后训练间插入阶段,以提升模型智能体后训练表现。 该配方在 256K 上下文窗口下训练数百亿 token,混合自然软件工程数据与少量智能体轨迹。 在 Nemotron 3.5 Lightning 上,500B token 的中训练使 SWE-bench Verified 从 60.7 提升至 64.5。
审计16个RLVR数学语料库,发现594对训练-基准样本中,80余数阈值下88%的移除被确认为误删。 无预注册语义阈值达到90%精确率目标;法官裁决策略在留出集上实现98.1%精确率与98.2%召回率,样本中零误删。
研究表明,在 Tagalog 机器翻译中,形态学正确性在大规模实验中未显示显著贡献。MorphAustro-Tok 分词器相比 BPE 基线提升了 0.84 至 3.40 点 chrF++ 分数。 通过 33 次运行对比,发现乱序形态学对照组的性能波动小于种子间差异,且参数量增加未带来提升,表明增益并非源于词法边界准确性。
研究人员提出局部外观净化(LAP)方法,通过移除可局部预测的内容并对齐残差,提升扩散模型生成质量。 LAP 仅修改对齐目标,无需更改扩散训练或推理流程。在 ImageNet-256 上,LAP 使 MAE 的 FID 从 53.1 降至 42.3,该增益在 13 个编码器中通过常量读出测试得到验证(Spearman ρ=0.94)。
PremiseCheck 框架结合 LLM 与决策模型,将评论改写为显式前提并对照论文核查,在 NLP、机器学习及自然科学领域达到与 GPT-5.5 相当的准确率。 在单条评论独立核查场景下,该方案成本约为 GPT-5.5 的一半;针对 NLP 评审,成本降至四分之一且延迟减半,通过构建 ReviewFact 基准显著提升了事实核查的效率。
研究人员发布了适配Wolof语的0.6B至14B开源权重模型。 该模型通过指令微调、偏好对齐及模型合并进行适配,在63项公开及内部任务中表现出良好性能。8B和14B模型表现优于许多更大的商业系统,目前已公开可用。
开源模型 Verdict-MQ 读取案例一次即可回答所有类型化决策问题。在类型化决策基准测试中,395M 参量的 Verdict-MQ 优于 421M 的 Laya 专业模型,KL 散度为 0.080 对 0.117,Brier 分数为 0.045 对 0.061,准确率 0.801 对 0.767。