跳到正文
11月17日周二
  1. arXiv · NLP28

    大语言模型拒答方向的机制可解释性:基于查询歧义、知识限制与安全对齐的研究

    研究将拒答方向框架扩展至查询歧义、模型知识限制与人类价值观对齐三个维度。 通过构建反事实对并计算激活动差,发现中间层激活转向能调节三种拒答行为,且各维度存在共同方向分量。 该机制可解释性有助于提升大语言模型在不确定性下的可信度。

  2. arXiv · NLP20

    Gemma-2 拒绝语域的方向可因果操控:分解与类别对齐的组件

    研究表明 Gemma-2-9B-IT 中拒绝相关的线性方向可操控模型拒绝语域,而非仅控制是否拒绝。 在 9B 模型第 20 层注入差异均值方向,使内容安全词汇每百词从 2.55 升至 10.37,随机对照仅 1.13-2.16。 9B 模型中 B1 方向因果效应显著大于 B2,揭示 B1 编码类别检测与词汇信息,B2 主要编码类别检测。

  3. arXiv · NLP30

    决策模型何时应比较候选项?

    对比点式评分、集合式评分与候选注意力三种方法,研究发现点式评分在五个代理决策基准中依然具有竞争力。 集合式评分在部分工具选择和二元决策任务中表现更好,但允许跨候选交互的候选注意力并未带来一致提升。 通过两个受控合成任务进一步验证,定向关系训练有助于集合式模型学习候选依赖并实现泛化。

  4. arXiv · NLP35

    LLM 多轮对话历史对推理准确性的隐性成本分析

    研究发现,LLM 在多轮交互中保留完整对话历史会显著降低准确率,且过程指标难以提前预警。 GPT-4o-mini 和 Mistral-7B 的最终成功率分别下降 0.21 和 0.29;CDD-Stream 测试显示,20 轮内准确率从 0.6 跌至 0.1,而使用状态摘要可保持高准确率。 研究建议系统应将任务状态置于对话记录之外,并跨会话进行监控。

  5. arXiv · NLP24

    多语言 LLM 中普通话 Wh-不定词遵循非真实词性,与英语 any 不同

    研究显示,11 个通过测量阈值的开源 LLM 在可能性、必要性及证据副词下支持普通话 Wh-不定词,强度为否定的 0.42-2.33 倍,而英语 any 在相同语境中未获支持。 测试覆盖 12 个开源模型(0.5B-9B,四个家族)及 48 组匹配双语框架;Qwen2.5-32B 的探索性扩展也显示相同结果。

  6. arXiv · NLP31

    开放权重LLM技术报告的消融、可复现性与透明度分析:一项40篇报告的实证研究

    研究分析了Hugging Face库中40篇LLM技术报告,发现多数新架构复用Llama组件,且仅19项创新声明有对照消融支持,可复现性披露极低。 具体数据显示,48个2025年新增架构中39个复用至少两个核心模块,73项创新声明中仅19项提供对照实验,40篇报告仅1篇同时披露数据混合、Token数与算力。 研究提出七项报告准则,强调LLM发布需加强消融验证与透明度,未测试声明不等同于错误。

  7. arXiv · NLP39

    智能体框架解剖:决策、不变量与边界情况

    论文提出包含30个决策卡片和83条不变量条款的测试体系,基于Crewroom等11个智能体框架实践构建。 30个卡片分六组分析决策成本,83条中56条已测试、12条推测、15条开放;清单应用示例中30项有11项成立、14项不成立。 该框架用于验证智能体系统边界,未涉及答案质量、成本或其他平台评估排名。

  8. arXiv · NLP36

    AfriBizClaims:低资源非洲商业网络中证据接地检索的评估基准

    研究者发布AfriBizClaims基准,包含六个非洲市场150条公司研究查询,涵盖英语、法语及葡萄牙语。 实验显示简单基线在虚构公司问题上拒绝率为100%且引用支持率98%,而多步智能体管道Konexium V1的查询精确度仅68%。 该研究表明增加步骤未提升证据接地效果,相关数据与标签将予以公开。

  9. arXiv · NLP22

    机器口译竞争力:英语到中文同步口译中意义与目标语质量的语域敏感比较

    该研究对比了5个商业机器口译系统与26名人类译员的英语-中文同步口译表现。 在预谋语域中,最强机器系统在意义上极具竞争力,但在即兴语域中无机器系统接近顶级人类译员;机器口译主要存在语义扭曲、话语追踪失败及上下文不敏感解读的弱点。 这些发现为口译实践、教育及机器口译的未来开发提供了语域敏感的参考依据。

  10. arXiv · NLP27

    全量数据优于模糊样本:重审抽取式对抗问答中的数据制图法

    重审发现,在抽取式对抗问答中,全量数据训练优于仅使用33%模糊样本的训练。模糊样本在14个模型评估单元中全部击败随机33%子集,但全量数据在12/14单元中击败模糊样本,平均领先3.40 EM和4.10 F1。这表明数据制图法有助于减少数据选择,但无法作为全量训练的通用替代方案。

  11. arXiv · NLP27

    StaleBench 隔离智能体记忆中的陈旧检索并量化修复成本

    StaleBench 在 892 个真实更新事实中隔离陈旧检索失败,揭示检索指标可能反向评估记忆策略。 无日期展示时,保留策略与全保留对照组在首位返回相同陈述,但读者准确率分别相差 29.5 和 65.6 分;新增 Contamination@5 指标能正确区分策略优劣。 文章发布了数据、冻结评估器及参考基线,被 EACL 2027 Findings 接收。

  12. arXiv · NLP31

    SG-LegalClarify:新加坡法律推理与歧义识别大规模基准

    SG-LegalClarify 是涵盖新加坡法律推理与歧义识别的大规模基准,包含 1,100 道律师撰写的源问题。 该基准含 340 道完整指定和 760 道欠指定问题,共 1,860 个评估实例,采用 IRAC 评估标准评分。 团队评估了 19 个 LLM,发现最佳模型在闭卷条件下仅满足 69.8% 的必填评估项,基准远未饱和。

  13. arXiv · NLP34

    ROUNDS:多轮临床证据下源框架诊断修订评估框架

    ROUNDS 框架在 7 个模型和 1,035 个案例中评估多轮对话诊断,含选项时平均准确率 76.9%,无选项时降至 57.0%。 医生框架的误导性建议导致准确率下降 4.6 至 38.2 个百分点,且正确诊断易被错误建议覆盖;支持正确诊断的多数意见可提升准确率,揭示基准分数与可靠对话诊断间的差距。

  14. arXiv · NLP25

    自然语言自编码器(NLA)的评估与改进

    研究提出基于审计任务的评估方法,测试自然语言自编码器(NLA)揭示潜在知识、识别误导提示及捕捉静默虚构的能力。 研究扩展NLA利用多层与多位置激活信息,使其更有效地应用于长转录文本,并减少错误声明。评估显示,延长训练时长可能会损害某些审计评估的性能。

  15. arXiv · NLP23

    研究揭示语言模型中探测与引导的最优方向并不一致

    研究在三个指令微调模型中发现,探测概念的最优方向与引导模型行为的最优方向不同,引导倾向于更接近均值差异的方向。 在59/60个层-模型-概念组合中验证了这一分离现象;对于情感分类,中间方向的引导效果比均值差异强27-56%。 在PopQA基准上,向“未知”引导使不确定错误的拒答率提高18-44个百分点,但极少纠正错误。

  16. arXiv · NLP35

    Mistral-7B 推测解码研究中近期性对速度与能耗的影响

    Mistral-7B 验证器下,最近期查找比最早匹配查找在 500-token 生成中加速最高 0.09,会话内存加权无显著增益。 医疗和法律文本中,选择性草稿器每 100 tokens 节省 3 至 4 焦耳能量;94% 生成结果与贪心解码完全一致。 重复惩罚导致长生成加速倍数从 1.4-1.7x 降至 1.1-1.2x,近期性依然有效。

  17. arXiv · NLP41

    从事实到角色:通过混合专家模型实现 LLM 中可解释的角色遗忘

    研究提出角色扮演遗忘任务,旨在选择性遗忘目标角色的风格与知识,同时保留非目标角色的语言能力。 提出 RoleMoE 混合专家框架,通过专业化损失和解耦损失映射独立专家子空间,提升角色分离与结构可解释性。 实验在多个 LLM 骨干上表明 RoleMoE 能精确可控地遗忘角色,且代码和数据集已公开。

  18. arXiv · NLP35

    心理健康文本分类中感知泄漏的校准决策级融合

    研究利用262,276条Reddit记录评估异构Transformer融合框架,选定模型组合达成0.844 macro-F1,较最佳单模型提升0.021。 审计发现50.2%记录存在训练集谱系重叠,故采用谱系不相交划分。去重驱动词移除导致58%的拯救案例失效。 谱系审计可检测词汇过滤遗漏的依赖,校准揭示集成行为盲区。

  19. arXiv · NLP38

    OmitEHR:基于历史临床摘要的LLM生成病历漏项检测

    OmitEHR提出无参考标准漏项检测器,在5000例住院记录中,其预测临床关键句性能优于含LLM评判基线。 该工具每摘要处理耗时17.7-19.5秒,成本$0.03-$0.13,比LLM逐句评分快1.6-1.7倍、便宜5.6-6.7倍。 盲审确认其每摘要平均识别5.6个临床意义漏项,高于全LLM管线的3.3个。

  20. arXiv · NLP35

    稀疏潜基视角重访优质上下文子集选择:RES算法在LLM推理中的应用研究

    研究提出残差解释搜索(RES)作为稀疏重构诊断程序,用于选择少样本演示子集。RES在56个模型-数据集组合中的34个上优于MMR,情感任务优势最明显,但相关性检索在模板推理基准上表现更佳。 目标模型中间层表示更利于相似度检索,最后层则更适合残差和多样性选择。研究支持依据表示条件判断上下文子集质量的观点,而非追求普适最优选择器。

  21. arXiv · NLP30

    Omni-Workspace:全模态 AI 助手多模态工作区任务基准

    Omni-Workspace 包含 380 个深度研究风格任务,涵盖四种多模态工作区类型和两个难度等级,用于评估全模态智能体。 18 个代表性模型评估显示,最佳模型平均分仅为 65.93,暴露出多模态上下文膨胀和任务状态漂移等长程执行局限。 该基准推动了全模态智能体在复杂任务自主完成方面的评估与发展。