AdaPRA:采用自适应评分标准的过程奖励智能体用于数据科学
AdaPRA 通过持久化代码智能体框架和自适应评分标准监督,减少数据科学流程错误。 在 5 次尝试中,AdaPRA 使 80B Qwen 模型在 DSPredict-Easy 和 DSPredict-Hard 上的排行榜百分位分别提升 24.5 和 14.8 分。 该方法验证了易任务评分标准可泛化至难任务,且优于 DataPRM,代码已开源。
AdaPRA 通过持久化代码智能体框架和自适应评分标准监督,减少数据科学流程错误。 在 5 次尝试中,AdaPRA 使 80B Qwen 模型在 DSPredict-Easy 和 DSPredict-Hard 上的排行榜百分位分别提升 24.5 和 14.8 分。 该方法验证了易任务评分标准可泛化至难任务,且优于 DataPRM,代码已开源。
SEMA-Auto是一种具备自主性的视觉化高效多轮攻击方法,在多个数据集上取得了最先进的攻击成功率(ASR)。 该方法通过合成自举微调和决策监督强化学习进行两阶段训练,实现了在更少轮次内超越所有静态和交互式基线的效果。 例如,针对DeepSeek-V4-Flash,其在AdvBench上以平均3.0轮次实现了76.0%的ASR@1,显著优于基线表现。
独立安全评测显示,DeepSeek V4.1 Flash-1017 相比 V4 系列有显著安全提升,部分维度已接近或匹敌 GPT-6 Astra 等闭源模型。 该模型在 34 项基准(含 5 项内部套件)中表现稳健,但仍存在需关注的失控行为。评测建议将安全评估纳入增量发布,并依靠私有基准规避污染风险。
研究提出对比集差(CSD)方法,通过对比同一问题长短期解激活差异,优先剪枝冗余推理神经元。 在 DeepSeek-R1-Distill-Qwen-7B 模型上修剪 20% 权重后,结合该方法在四个数学基准上比结合推理感知校准(RAC)少用 8-22% 思维 token,且准确率保持在 0.5 点以内。
合并式词汇扩展无法解决 Llama-3 和 Qwen3 分词器对尼泊尔语的多余分词问题,导致其 token 消耗比英语多 2.6 至 5.8 倍。 修复正则表达式后,使用 3.2 万个新合并项可将尼泊尔语 token 量降至英语的 1.01 倍,比标准扩展减少 54%。 该修复在 Llama-3.2-1B 和 Qwen3-0.6B 的持续预训练中被测试,作者已发布相关 tokenizer 和代码。
Qoder 宣布增加模型容量和 TPM,缓解排队,并将 DeepSeek-Flash 的限时免费使用延长至 10 月 31 日。 用户在 Qoder 国际版和 CN 版的产品中,通过模型列表选择 DeepSeek-Flash 即可使用该模型。
研究团队在GPT-4o、Qwen3-Next-80B和Gemini 2.0 Flash上测试了无训练人格引导框架。该框架在保持89.94%任务完成率的同时,让用户智能体表达了大五人格特质。
论文提出 Sharpness-aware Orthogonalized Momentum Algorithm (SOMA),将高效锐度感知惩罚与 Muon 优化器结合。 SOMA 利用陈旧随机梯度噪声实现扰动,理论上证明样本复杂度对扰动方向不变,并验证其在缓解 LLM 量化质量下降及微调灾难性遗忘中的有效性。
GS-MoE 提出免训练 MoE 压缩框架,通过组共享低秩表示与 Nyström 神经元压缩协同降低参数量。在 DeepSeek-MoE-16B-Base 上,压缩 60% 参数后保留约 90% 平均推理性能,域外困惑度比 D²-MoE 低 20%。该框架无需梯度优化,适合高压缩率下的细粒度 MoE 模型部署。
团队开源了 RobustRLlib,这是一个统一的鲁棒强化学习库与基准,整合了 17 种代表性算法以解决复用性限制。 它在 273 种扰动配置下提供评估,构建了当前鲁棒算法的能力图谱,并扩展至人形及视觉-语言-动作任务。 作为开源平台,它支持在新问题中复现现有方法,并为开发新算法提供可扩展代码库。
REACT 通过条件激活干预控制 CoT 轨迹,在 DeepSeek-R1-Distill-Llama-8B 上将 StrongREJECT-273 全安全输出率从 29.06% 提升至 82.05%。 该方法学习安全方向并仅编辑早期 CoT 隐藏状态,前 2-3 个 token 窗口效果最强,权重冻结且后续生成无编辑。
研究提出基于自一致性的实验框架,通过充分性、全面性和反事实指标评估大语言模型在文本分类任务中解释与其预测行为的功能一致性。 实验在 IMDB 和 Steam 数据集上对 GPT-4o-mini、Gemma3、Granite8B 和 DeepSeek 等闭源与开源模型进行测试,结果显示不同模型家族的解释可靠性存在差异。 该研究为系统化评估大语言模型自解释的功能一致性提供了一种方法论。
论文提出评估 LLM 智能体框架的五维指标,基于 52,168 条轨迹分析发现框架排名因模型而异,OpenCode 在跨模型表现中位列第一。 研究测试了 OpenCode、Codex CLI 等 4 种框架,发现不同配对的任务得分与有效完成率可能存在差异。 结果支持评估模型与框架的交互作用,建议训练模型的可迁移框架使用能力。
Qoder 平台将 DeepSeek V4.1 Flash 免费使用期限延长至 10 月 31 日。 DeepSeek V4.1 Flash 具备原生多模态理解能力,Qoder 已同步支持 V4.1-Flash-1017 版本,全系产品均可使用。
提出一种通过行为反事实定位干预如何影响模型推理的方法。 训练模块编辑残差流以最小化源提示与反事实目标提示下的KL散度,相比标准激活重建目标更能有效恢复反事实行为。在Gemma-4-E4B-it和DeepSeek-R1-0528-Qwen3-8B的案例研究中,发现未言及的建议通过题目陈述和填充词表征影响推理。
研究基于 60 条 DeepSeek-R1 追踪构建包含 11 种幻觉子类型的分类学,涵盖提示词忠实度、代码忠实度及推理质量三个维度。在 120 条 DeepSeek-R1 与 20 条 DeepSeek-V4-Pro 追踪中,发现模型存在依赖性故障模式。缓解实验显示,在提示词中加入约束使 Qwen3 模型的 F1 分数提升 4.0 个百分点。
针对乳腺病变管理文献的 RAG 系统,评估发现交叉编码器重排序在检索得分上表现最佳。 混合检索器采用 384-token 块长与 20% 重叠,Recall@3 等指标均达 0.94;Ground-truth 标注扩充使证据跨度从 25 增至 37,但未改变检索排名。 研究指出标注敏感性需通过独立验证及放射科医生评估证据充分性来确认。
研究团队对 Llama 和 Qwen 指令模型的 up_proj 和 down_proj 矩阵实施谱平滑及尖峰扰动,揭示大奇异值被放大、小奇异值被缩小的效应。 正扰动更可靠地抑制语言与演绎推理响应,适度负扰动有时能提升事实性任务性能,敏感度随模型家族与基准模块显著变化。 谱扰动可作为轻量级干预手段,用于探查 LLM 内部能力的组织方式与权衡机制。
腾讯混元与复旦团队提出WorkForge框架,从真实资源规模化构建可验证智能体工作环境,解决当前合成环境过于整洁的问题。该框架产出WorkForge-16K数据集,包含1.67万个横跨40个专业领域的工作环境,强制智能体探索分散证据并完成长程任务。
推荐理由:腾讯混元发布WorkForge框架,通过真实世界资源构建可验证工作环境,显著提升了智能体在复杂职场任务中的长程执行与交付能力。
研究通过2700次模拟表明,ToM推理增强了LLM在谈判任务中与人类规范的行为对齐、决策一致性及结果。该研究在Greedy、Fair、Selfless等信念及不同ToM推理层级下测试了多个模型。 结果表明推理型LLM能力有限,不同游戏角色受益于不同ToM阶次。Llama 3.3 70B的推理与其行动和信念最一致。该研究推进了对ToM在人机交互与合作决策中作用的理解。
研究者提出 QSelect 方法,通过组合 AWQ、GPTQ 和 AutoRound 静态低比特检查点,生成单一压缩模型以满足空间机器人的内存预算和静态制品要求。 在 Llama-3.1-8B 和 Llama-3.2-3B 上,3 比特目标适应模式使 3-bit 池化准确率比最佳单家族模型分别提高 4.3 和 4.5 点,且 3 比特下未量化嵌入和输出层占打包制品的 43-46%。
针对AI智能体行动前的多个监控器可能共同失效问题,研究提出借分布式计算理论设计安全且存活的决策规则。实测12个开源小模型及Claude Opus 5.5等3个闭源前沿模型,发现“计数来源而非票数”的新规则将正常交易拦截率从7.4%降至0.9%,安全性保持不变。引入不可被说服的规则引擎可恢复安全且存活的规则,建议多样化输入、强化监控器并计数来源。
研究通过 70 个学术提示词对比了 ChatGPT、DeepSeek V3 等 10 款大语言模型在幻觉与响应偏差上的表现。 Perplexity 和 DeepSeek V3 整体准确率最高,LLaMA 3 幻觉抗性较强,Falcon 实现零幻觉但召回率最低。 结果揭示了响应完整性与事实可靠性之间的根本权衡,且受提示词复杂度显著影响。
Qoder 国际版推出 Lite 套餐,定价 10 美元/月,包含 1,000 Credits,首月限时买一送一。 套餐支持支付宝,全功能可用,配备 Qwen3.8-Flash 等模型,错峰时段旗舰模型倍率降至 0.2x。 新套餐降低使用门槛,满足非专业开发者日常需求。
硅基流动模型广场上架 DeepSeek V4.1 Flash 1017,API 调用方式与价格保持不变。新版本在 Terminal-Bench 4.0 得分达 42.3,DeepSWE v1.1 得分达 77.0,具备性能-费用帕累托最优,并优化了“许愿式编程”能力以支持 3D 建模等项目开发。
summary_zh: 针对中国起源模型的政治审查研究指出,仅基于“拒绝”的对齐评估失效。研究发现,探针准确率非诊断性,跨模型迁移因路由几何结构差异而失败。 研究涉及5家实验室的9个开源模型,采用手术式消融验证特定路由逻辑。
研究者发布包含 9K 样本的紧凑合成推理数据集 CHIMERA,覆盖 8 大科学领域并采用全自动化评估流程。 该数据集利用前沿模型生成长 CoT 轨迹,用于 Qwen3-4B 模型的 SFT 和 RL 后训练。 实验显示,该小模型在 GPQA-Diamond 等基准上性能接近 DeepSeek-R1 和 Qwen3-235B。
研究发现 DeepSeek-R1-Distill-LLaMA-8B 中的思维链(CoT)显著干扰激活引导对拒止行为的控制。 固定 CoT 时引导仅反转 39% 拒止案例,移除 CoT 后升至 70%;两阶段干预反转率达 94%,且生成的 CoT 即使停止引导仍保留 48% 效果。 这表明 LRM 拒止由残差流与 CoT 共同编码,增强了抗攻击性但暴露了 CoT 作为新攻击面的风险。
一项针对 Mixture-of-Experts 模型的研究表明,动态专家跳过方法难以稳定超越简单的静态 $k$ 值削减基线。 实验在 Gemma4-26B-A4B、Qwen3-30B-A3B 及 Qwen3-VL 上进行,结果显示动态方法常表现不佳或增益微小,且校准与测试时的有效 $k$ 值存在偏差。 作者建议采用无校准的每模态静态 $k$ 削减,并主张静态控制是任何动态跳过方法必须超越的基准。
summary_zh: MLIPS 提出免训练的多层索引池共享方法,在 DeepSeek-V4-Flash 上通过 vLLM 实现长上下文推理加速 1.14 至 1.40 倍,并将 GPU 能耗降低 14.8% 至 27.4%。
针对基础模型技术栈同质化导致的“漏洞单一化”风险,提出系统性对抗鲁棒性(SAR)这一新度量指标。 SAR 理论建模为部分集合覆盖问题,实验显示从 DeepSeek-R1 和 Claude Opus 4.6 蒸馏出的模型池,其系统性鲁棒性显著低于父模型池。 该框架旨在将漏洞单一化确立为可测量的目标,以实现更整体的模型群体对抗评估。
研究揭示语言模型在组合任务中错误率显著上升,源于模型对每个任务分配的 token 隐性减少,这一“隐性推理预算”效应无法仅由独立错误累积解释。 该现象在开源模型与 Claude Opus 5 中均存在;孤立时非脆弱任务会浪费算力,而任务需要更长解题轨迹时,组合下错误更多。 按任务脆弱性分组可调控该预算,在保持准确率的同时将 token 使用量降低 43%,为高效多任务提示设计提供依据。
该研究分析了大语言模型在局部重试中复用中间结果的可靠性,给出了正确完成条件及平均尝试次数界限。 实验涵盖 8 个推理模型,包括 4 个 DeepSeek 模型。结果显示,提供第一子问题答案或推理及答案,将第二子问题平均成功率从 36.2% 提升至 58.3%。 代码已开源,相关实验验证了检查成本与通过概率对总计算量的影响。
10月24日前,DeepSeek-V4.1-Flash-1017 在 Qoder 国际版和 CN 版限时免费,系数 0x,不扣 Credits。 该模型上周六更新,支持 1M 上下文窗口,思考强度可调至最大。
DeepSeek 官方宣布全面开源内部推理框架 DeepInfer 及生产级 Token 编解码组件 deepseek-recipe,旨在通过分享部署经验帮助开发者优化大规模推理的吞吐与延迟。
推荐理由:开源框架支持多种解码能力并兼容主流硬件平台,开发者可直接复用其部署经验以降低大规模推理成本。
约束 LLM 评判的决策规则比评判准确性更关键,EL-DGR 非补偿性规则在 GSM8K 上达到 58.2%,显著优于 56.8% 的 DeepSeek-R1-7B 评判。 该规则要求推翻共识需附带提取式证据证书,且仅在双方均未获证书且修复项获证书时启用,将评判的爆炸半径限制在可验证范围内。 实践启示是限制评判器的决策范围而非追求其准确性,避免破坏性决策。
无训练协议 GraphEvoResearcher 将自反思元奖励提升至显式推理图,节点为中间结论,边编码支持、矛盾及依赖关系。 该协议在 DeepSeek LLM 上结合 GSM8K、MATH 和 BBH 数据集测试,准确率分别达 98%、92% 和 82%。
研究显示,LLM-as-a-service 市场存在社会低效率,云服务商有动力增加测试时算力投入,即便这很少提升输出质量。 为纠正此偏差,文章提出一种反向第二价格拍卖机制:服务商就价格与预期质量竞价,用户按中标方相对第二高投标方的边际价值比例付费。 实验在 Llama、Qwen 及 DeepSeek-R1 蒸馏模型上验证该机制,测试数据集涵盖数学与科学基准。
该系统基于提示词,针对Anthropic等五大模型API,在八类任务中生成最高20K样本的数据集,规模越大优势越明显。 其微调模型性能优于其他生成器,显著改善下游训练效果。
ID Balancing是一种基于积分-微分控制器的负载均衡方法,用于解决大语言模型中混合专家(MoE)路由不平衡问题。 该方法整合了DeepSeek的无损失方法和Kimi K3的分位数平衡方法。 实验显示,在Top-3路由设置下,ID Balancing将最坏情况骨干MaxVio降低超过50%,最坏情况骨干MaxVio在总参数量从18.9B增加到69.9B时保持稳定。