跳到正文
10月28日周三
  1. arXiv · AI31

    AdaPRA:采用自适应评分标准的过程奖励智能体用于数据科学

    AdaPRA 通过持久化代码智能体框架和自适应评分标准监督,减少数据科学流程错误。 在 5 次尝试中,AdaPRA 使 80B Qwen 模型在 DSPredict-Easy 和 DSPredict-Hard 上的排行榜百分位分别提升 24.5 和 14.8 分。 该方法验证了易任务评分标准可泛化至难任务,且优于 DataPRM,代码已开源。

10月27日周二
  1. arXiv · NLP45

    SEMA-Auto: 一种具备自主性的视觉化高效多轮攻击方法

    SEMA-Auto是一种具备自主性的视觉化高效多轮攻击方法,在多个数据集上取得了最先进的攻击成功率(ASR)。 该方法通过合成自举微调和决策监督强化学习进行两阶段训练,实现了在更少轮次内超越所有静态和交互式基线的效果。 例如,针对DeepSeek-V4-Flash,其在AdvBench上以平均3.0轮次实现了76.0%的ASR@1,显著优于基线表现。

  2. arXiv · NLP50

    独立评测揭示 DeepSeek V4.1 Flash-1017 在失控与有害操纵风险上的表现

    独立安全评测显示,DeepSeek V4.1 Flash-1017 相比 V4 系列有显著安全提升,部分维度已接近或匹敌 GPT-6 Astra 等闭源模型。 该模型在 34 项基准(含 5 项内部套件)中表现稳健,但仍存在需关注的失控行为。评测建议将安全评估纳入增量发布,并依靠私有基准规避污染风险。

  3. arXiv · NLP28

    基于合并的词汇扩展在预分词器处停滞:一种保留英语的尼泊尔语修复方案

    合并式词汇扩展无法解决 Llama-3 和 Qwen3 分词器对尼泊尔语的多余分词问题,导致其 token 消耗比英语多 2.6 至 5.8 倍。 修复正则表达式后,使用 3.2 万个新合并项可将尼泊尔语 token 量降至英语的 1.01 倍,比标准扩展减少 54%。 该修复在 Llama-3.2-1B 和 Qwen3-0.6B 的持续预训练中被测试,作者已发布相关 tokenizer 和代码。

10月26日周一
  1. arXiv · AI39

    RobustRLlib:面向鲁棒强化学习算法的统一库与基准

    团队开源了 RobustRLlib,这是一个统一的鲁棒强化学习库与基准,整合了 17 种代表性算法以解决复用性限制。 它在 273 种扰动配置下提供评估,构建了当前鲁棒算法的能力图谱,并扩展至人形及视觉-语言-动作任务。 作为开源平台,它支持在新问题中复现现有方法,并为开发新算法提供可扩展代码库。

  2. arXiv · AI28

    大语言模型是否信任其自身解释?功能一致性研究

    研究提出基于自一致性的实验框架,通过充分性、全面性和反事实指标评估大语言模型在文本分类任务中解释与其预测行为的功能一致性。 实验在 IMDB 和 Steam 数据集上对 GPT-4o-mini、Gemma3、Granite8B 和 DeepSeek 等闭源与开源模型进行测试,结果显示不同模型家族的解释可靠性存在差异。 该研究为系统化评估大语言模型自解释的功能一致性提供了一种方法论。

  3. arXiv · AI47

    当智能体失败时:是模型还是框架该负责?

    论文提出评估 LLM 智能体框架的五维指标,基于 52,168 条轨迹分析发现框架排名因模型而异,OpenCode 在跨模型表现中位列第一。 研究测试了 OpenCode、Codex CLI 等 4 种框架,发现不同配对的任务得分与有效完成率可能存在差异。 结果支持评估模型与框架的交互作用,建议训练模型的可迁移框架使用能力。

10月24日周六
10月23日周五
  1. arXiv · ML25

    行为反事实法用于解读模型推理过程

    提出一种通过行为反事实定位干预如何影响模型推理的方法。 训练模块编辑残差流以最小化源提示与反事实目标提示下的KL散度,相比标准激活重建目标更能有效恢复反事实行为。在Gemma-4-E4B-it和DeepSeek-R1-0528-Qwen3-8B的案例研究中,发现未言及的建议通过题目陈述和填充词表征影响推理。

  2. arXiv · NLP23

    LLM 生成 UML 类图的幻觉溯源:实证分类学与缓解研究

    研究基于 60 条 DeepSeek-R1 追踪构建包含 11 种幻觉子类型的分类学,涵盖提示词忠实度、代码忠实度及推理质量三个维度。在 120 条 DeepSeek-R1 与 20 条 DeepSeek-V4-Pro 追踪中,发现模型存在依赖性故障模式。缓解实验显示,在提示词中加入约束使 Qwen3 模型的 F1 分数提升 4.0 个百分点。

  3. arXiv · NLP23

    乳腺病变 RAG 系统检索评估:标注覆盖度如何塑造检索得分

    针对乳腺病变管理文献的 RAG 系统,评估发现交叉编码器重排序在检索得分上表现最佳。 混合检索器采用 384-token 块长与 20% 重叠,Recall@3 等指标均达 0.94;Ground-truth 标注扩充使证据跨度从 25 增至 37,但未改变检索排名。 研究指出标注敏感性需通过独立验证及放射科医生评估证据充分性来确认。

  4. arXiv · NLP26

    谱平滑与尖峰扰动如何重构大语言模型能力配置与选择性任务表现

    研究团队对 Llama 和 Qwen 指令模型的 up_proj 和 down_proj 矩阵实施谱平滑及尖峰扰动,揭示大奇异值被放大、小奇异值被缩小的效应。 正扰动更可靠地抑制语言与演绎推理响应,适度负扰动有时能提升事实性任务性能,敏感度随模型家族与基准模块显著变化。 谱扰动可作为轻量级干预手段,用于探查 LLM 内部能力的组织方式与权衡机制。

10月22日周四
  1. 腾讯混元68

    腾讯混元提出WorkForge框架:用真实工作区训练长程职场智能体

    腾讯混元与复旦团队提出WorkForge框架,从真实资源规模化构建可验证智能体工作环境,解决当前合成环境过于整洁的问题。该框架产出WorkForge-16K数据集,包含1.67万个横跨40个专业领域的工作环境,强制智能体探索分散证据并完成长程任务。

    推荐理由:腾讯混元发布WorkForge框架,通过真实世界资源构建可验证工作环境,显著提升了智能体在复杂职场任务中的长程执行与交付能力。

  2. arXiv · AI28

    ToM推理与亲社会信念在最后通牒游戏中对LLM人类对齐行为影响的探索

    研究通过2700次模拟表明,ToM推理增强了LLM在谈判任务中与人类规范的行为对齐、决策一致性及结果。该研究在Greedy、Fair、Selfless等信念及不同ToM推理层级下测试了多个模型。 结果表明推理型LLM能力有限,不同游戏角色受益于不同ToM阶次。Llama 3.3 70B的推理与其行动和信念最一致。该研究推进了对ToM在人机交互与合作决策中作用的理解。

  3. arXiv · ML33

    QSelect 如何在行为保真度约束下压缩空间机器人车载语言模型

    研究者提出 QSelect 方法,通过组合 AWQ、GPTQ 和 AutoRound 静态低比特检查点,生成单一压缩模型以满足空间机器人的内存预算和静态制品要求。 在 Llama-3.1-8B 和 Llama-3.2-3B 上,3 比特目标适应模式使 3-bit 池化准确率比最佳单家族模型分别提高 4.3 和 4.5 点,且 3 比特下未量化嵌入和输出层占打包制品的 43-46%。

  4. arXiv · AI45

    AI 审批监控器在分布式系统中的相关性失效研究

    针对AI智能体行动前的多个监控器可能共同失效问题,研究提出借分布式计算理论设计安全且存活的决策规则。实测12个开源小模型及Claude Opus 5.5等3个闭源前沿模型,发现“计数来源而非票数”的新规则将正常交易拦截率从7.4%降至0.9%,安全性保持不变。引入不可被说服的规则引擎可恢复安全且存活的规则,建议多样化输入、强化监控器并计数来源。

  5. arXiv · NLP27

    大语言模型幻觉与事实可靠性基准测试:Fluent but Fallible 研究

    研究通过 70 个学术提示词对比了 ChatGPT、DeepSeek V3 等 10 款大语言模型在幻觉与响应偏差上的表现。 Perplexity 和 DeepSeek V3 整体准确率最高,LLaMA 3 幻觉抗性较强,Falcon 实现零幻觉但召回率最低。 结果揭示了响应完整性与事实可靠性之间的根本权衡,且受提示词复杂度显著影响。

10月21日周三
  1. arXiv · AI35

    研究揭示 DeepSeek-R1-Distill-LLaMA-8B 中思维链干扰简单拒止引导

    研究发现 DeepSeek-R1-Distill-LLaMA-8B 中的思维链(CoT)显著干扰激活引导对拒止行为的控制。 固定 CoT 时引导仅反转 39% 拒止案例,移除 CoT 后升至 70%;两阶段干预反转率达 94%,且生成的 CoT 即使停止引导仍保留 48% 效果。 这表明 LRM 拒止由残差流与 CoT 共同编码,增强了抗攻击性但暴露了 CoT 作为新攻击面的风险。

  2. arXiv · AI29

    静态基线往往更优:MoE 动态专家跳过方法的受控对比研究

    一项针对 Mixture-of-Experts 模型的研究表明,动态专家跳过方法难以稳定超越简单的静态 $k$ 值削减基线。 实验在 Gemma4-26B-A4B、Qwen3-30B-A3B 及 Qwen3-VL 上进行,结果显示动态方法常表现不佳或增益微小,且校准与测试时的有效 $k$ 值存在偏差。 作者建议采用无校准的每模态静态 $k$ 削减,并主张静态控制是任何动态跳过方法必须超越的基准。

  3. arXiv · AI23

    暴露基础模型生态系统中的漏洞单一化风险

    针对基础模型技术栈同质化导致的“漏洞单一化”风险,提出系统性对抗鲁棒性(SAR)这一新度量指标。 SAR 理论建模为部分集合覆盖问题,实验显示从 DeepSeek-R1 和 Claude Opus 4.6 蒸馏出的模型池,其系统性鲁棒性显著低于父模型池。 该框架旨在将漏洞单一化确立为可测量的目标,以实现更整体的模型群体对抗评估。

  4. arXiv · AI32

    语言模型任务组合下的脆弱性:隐性推理预算机制

    研究揭示语言模型在组合任务中错误率显著上升,源于模型对每个任务分配的 token 隐性减少,这一“隐性推理预算”效应无法仅由独立错误累积解释。 该现象在开源模型与 Claude Opus 5 中均存在;孤立时非脆弱任务会浪费算力,而任务需要更长解题轨迹时,组合下错误更多。 按任务脆弱性分组可调控该预算,在保持准确率的同时将 token 使用量降低 43%,为高效多任务提示设计提供依据。

  5. arXiv · AI28

    LLM 推理中中间结果可靠复用的条件研究

    该研究分析了大语言模型在局部重试中复用中间结果的可靠性,给出了正确完成条件及平均尝试次数界限。 实验涵盖 8 个推理模型,包括 4 个 DeepSeek 模型。结果显示,提供第一子问题答案或推理及答案,将第二子问题平均成功率从 36.2% 提升至 58.3%。 代码已开源,相关实验验证了检查成本与通过概率对总计算量的影响。

10月20日周二
  1. arXiv · AI28

    EL-DGR 非补偿性规则如何限制 DeepSeek-R1-7B 在 LLM 评判失败中的决策边界

    约束 LLM 评判的决策规则比评判准确性更关键,EL-DGR 非补偿性规则在 GSM8K 上达到 58.2%,显著优于 56.8% 的 DeepSeek-R1-7B 评判。 该规则要求推翻共识需附带提取式证据证书,且仅在双方均未获证书且修复项获证书时启用,将评判的爆炸半径限制在可验证范围内。 实践启示是限制评判器的决策范围而非追求其准确性,避免破坏性决策。

  2. arXiv · ML29

    LLM 服务市场中的测试时算力博弈:非效率性与反向第二价格拍卖机制

    研究显示,LLM-as-a-service 市场存在社会低效率,云服务商有动力增加测试时算力投入,即便这很少提升输出质量。 为纠正此偏差,文章提出一种反向第二价格拍卖机制:服务商就价格与预期质量竞价,用户按中标方相对第二高投标方的边际价值比例付费。 实验在 Llama、Qwen 及 DeepSeek-R1 蒸馏模型上验证该机制,测试数据集涵盖数学与科学基准。

  3. arXiv · ML39

    通过PID负载均衡实现极度稀疏MoE模型稳定训练

    ID Balancing是一种基于积分-微分控制器的负载均衡方法,用于解决大语言模型中混合专家(MoE)路由不平衡问题。 该方法整合了DeepSeek的无损失方法和Kimi K3的分位数平衡方法。 实验显示,在Top-3路由设置下,ID Balancing将最坏情况骨干MaxVio降低超过50%,最坏情况骨干MaxVio在总参数量从18.9B增加到69.9B时保持稳定。