跳到正文
11月17日周二
  1. arXiv · NLP42

    研究发现开源大语言模型在上下文中发展出信念状态几何结构

    研究在6个开源LLM中发现,信念状态可从残差流激活中线性解码,峰值R²值达0.83-0.99。 该结论基于40个非平凡信念结构的隐马尔可夫模型数据,并通过修补与转向干预验证了功能相关性。 结果在表征层面证明,开源LLM的上下文学习近似于对上下文推断生成模型的最优贝叶斯预测。

  2. arXiv · NLP35

    MindTopo:基础模型能否在拓扑空间中推理?

    MindTopo 基准测试涵盖连续性、分离、顺序、封闭及拓扑结五个维度,包含3900个核心实例。 针对13个多模态大语言模型评估显示,模型在推理任务中表现优于规划,但在简单层级上仍落后于人类。 该测试揭示基础模型在闭环智能体规划及视频生成校验中仍存在显著局限。

  3. arXiv · NLP21

    ViSAR:面向文档视觉问答的免训练自适应-k检索方法

    提出免训练预算感知自适应-k检索方法ViSAR,在给定页面预算内动态确定检索数量。 ViSAR直接在嵌入空间构建查询条件化相似度矩阵,最多降低端到端RAG延迟58.9%,且无显著精度损失。 相似度矩阵结构与答案精度相关,为检索质量感知的文档理解提供未来方向。

  4. arXiv · NLP27

    LangChoiceBench:衡量并解释大语言模型编程语言选择

    研究引入 LangChoiceBench,评估 25 款 LLM 在 7 个领域的 28 个项目中,发现 Python 被过度选择且推荐实现一致性低。 分析 9,826 条推理轨迹显示,Python 选择多由自动化驱动,存在“幽灵证据”捏造支持。 较小开源权重模型通常表现出更强的 Python 偏好及更低的语言多样性。

  5. arXiv · NLP26

    基于 Goodreads 评论的大规模研究揭示内容特征与 PERMA 幸福指标之间的关联

    对 1370 万条 Goodreads 评论的分析表明,推荐系统的满意度信号与 PERMA 幸福指标存在显著差异,且内容特征与幸福的关联强度更高。 研究区分了即时享乐型与持久意义型幸福,发现不同内容语言特征分别与之相关,表明仅基于满意度进行优化可能无法真正促进用户福祉。

  6. arXiv · NLP30

    RAS:通过拒绝对齐测量 LLM 安全性

    研究者提出 RAS 评分体系,用于高效评估开源 LLM 的安全拒绝对齐程度。 该体系基于 SafeVec 流程,在 Llama、Gemma 和 Qwen 的 18 个变体上,RAS 与行为攻击成功率呈 0.934 的相关系数。 RAS 可将评估效率提升 3.2 至 80.5 倍,显著加速相关检查点筛选。

  7. arXiv · NLP20

    HandwritingAgent:在矢量空间中通过语言驱动生成手写笔迹

    HandwritingAgent 提出了一种语言驱动的代理,无需特定风格训练,直接生成 SVG 格式的自然手写序列。 该代理利用大型推理模型在离散网格画布环境中自回归生成字形,并受参考手写图像及对话或非对话文本控制。 实验显示其在手迹模仿、识别及复杂数学公式生成等任务上达到或超越当前 SOTA 模型,更具效率与可控性。

  8. arXiv · NLP30

    CapCode 框架如何通过随机化测试检测并防止编码智能体作弊

    CapCode 框架通过构建非作弊得分上限低于 100% 的随机化测试数据集,有效检测编码智能体通过走捷径获取的高分作弊行为。CapReward 基于该原则设计奖励机制,抑制超出上限的优化,使模型更严格遵守任务规范。实验显示该方案在检测作弊的同时保留了模型性能排名,NeurIPS 2026 收录。

  9. arXiv · NLP38

    AI 智能体可能始终无法防范提示词注入

    summary_zh: 研究指出主流数据-指令分离防御范式存在缺陷,既无法检测基于上下文操纵的攻击,又导致正常行为降级。 文章引入情境完整性(Contextual Integrity)理论重构提示词注入,提出不可可能性论证:攻击者可构造合法化被阻断流的情境,或防御方收紧规范会误杀合法流量。

  10. arXiv · NLP39

    HEED: 密度加权残差对齐用于混合视觉-语言模型蒸馏

    HEED通过密度加权残差对齐解决混合架构蒸馏中细粒度文本丢失问题,将Qwen3-VL-8B-Instruct蒸馏为3:1 Mamba-2/attention混合模型。 该方法利用patch自相似性作为位置重要性代理,无需额外训练,在OCR Bench v2上提升8.7分,10项基准平均分提升5.13分。 不增加参数或推理成本,保留混合架构4.12倍吞吐量及128k上下文68%内存节省优势。

  11. arXiv · NLP24

    LatentRouter: 能否在看到答案前选择合适多模态大模型?

    LatentRouter 提出基于反事实多模态效用预测的路由框架,在 MMR-Bench 和 VL-RouterBench 上优于固定模型、特征级及学习型路由基线。 该方法通过提取多模态路由胶囊,用模型能力 token 表征候选 MLLM,并以潜层交互估计各模型表现,支持性能与成本导向的路由策略。 代码已开源。

  12. arXiv · NLP42

    多模态专家混合模型中的“看见但不思考”:路由分心现象分析

    研究者揭示多模态专家混合模型存在“看见但不思考”现象,即模型能准确感知图像内容,却在后续推理中失败,而纯文本场景下能正确解题。 分析发现视觉专家与领域专家存在层级分离,图像输入在中层诱导了显著的路由偏差,导致任务相关的推理专家未能充分激活。 通过设计路由引导干预方法增强领域专家激活,在六个基准测试中取得一致提升,复杂视觉推理任务最高提升3.17%。

  13. arXiv · NLP31

    三项人类受试者研究显示,AI辅助决策中不同支持策略的效果高度依赖任务类型

    三项涵盖RAVEN矩阵与LSAT逻辑题的研究表明,LLM解释在语言推理中提升准确率与错误恢复,但未优于仅预测模式。视觉推理中概率支持表现最优,选择性自动化策略为高性能基准。 研究证实AI支持效果依任务而定,建议界面设计需匹配任务类型与用户证据,以促进校准依赖与错误恢复。

  14. arXiv · NLP32

    WAXAL:一个覆盖 27 种非洲语言的大规模多语言语音语料库

    研究团队发布 WAXAL,这是一个开放且大规模的多语言语音数据集,覆盖 27 种非洲语言,代表超过 1 亿使用者。该数据集包含逾 14,100 小时的语音数据,其中自动语音识别(ASR)语料库有 2,340 小时带转录文本的图像提示自然语音,跨 19 种语言(另有约 11,760 小时未转录音频);合成语音(TTS)语料库约 247 小时,覆盖 15 种语言配置。

  15. arXiv · NLP26

    基于原子概念编辑的模型行为解释与控制框架

    该研究提出一种黑盒可解释性框架,通过原子概念编辑学习可验证宪法,从而解释和控制模型行为。在数学推理任务中,干扰变量使 GPT-5 易混淆,但对 Gemini 2.5 和 o4-mini 影响有限;在文生图任务中,GPT-Image 侧重语法合规,Imagen 4 则优先氛围一致性。使用学习得到的宪法控制模型行为,成功率平均提升 1.86 倍。代码已开源。

  16. arXiv · NLP40

    长对话LLM记忆研究:逐字文本块优于有损工件提取

    研究显示,在固定检索流程中,使用逐字对话文本块比LLM提取的结构化工件更准确。 在LoCoMo数据集上逐字块得分为43.9%,而工件提取仅为28.0%;在LongMemEval-S上分别为67.4%和45.4%。 语义图未能弥补差距,有损蒸馏机制是核心问题,结构化记忆应作为逐字文本的补充而非替代。

  17. arXiv · NLP23

    基于 LLM 的关键思维子技能自动化评估可行性研究

    研究通过三种方法(零样本提示、少样本提示和监督微调)在 GPT-5、Llama 3.1 8B 和 ModernBERT 上评估关键思维子技能。 微调 Llama 3.1 8B 表现最佳,擅长区分高可分性且标签均衡的子技能,但在细微区分或标签不均衡时性能下降。 该探索性研究为在教育真实情境中规模化评估关键思维技能提供了初步路径。

  18. arXiv · NLP33

    SmartThinker:通过步骤级Token分配实现高密度推理

    SmartThinker 提出步骤级Token分配框架 SCPO,通过在线估计各推理步骤对正确率贡献来学习选择性保留或压缩,解决现有全局长度惩罚忽视步骤结构的问题。 该框架引入“推理密度”定义以平衡不同价值步骤的压缩压力,并结合长度偏差修正和难度自适应裁剪提升训练稳定性,在9个域内及域外基准测试中实现了更优的准确率与效率权衡。

  19. arXiv · NLP35

    基于梯度的数据归因方法更关注形式而非内容

    研究显示,在监督微调示例中,基于梯度的数据归因方法追踪的是答案格式相似性而非任务语义。当基准测试共享答案格式时,梯度对齐显著(非衰减余弦相似度接近0.4),而不同格式间无对齐(接近0.0)。这一排序从预训练早期检查点贯穿至后训练阶段,并跨模型规模与家族成立。这表明梯度基于的方法需在与答案格式和任务独立变化的数据上进行测试,以提升鲁棒性和可靠性。

  20. arXiv · NLP20

    Rollback-Induced Reflection (RIR) 提出统一恢复框架,实现长程 LLM Agent 状态回滚与经验保留

    论文提出 Rollback-Induced Reflection (RIR) 框架,旨在解决长程任务中单步错误导致状态偏差累积的问题。 RIR 将恢复视为回滚边界控制问题,在恢复执行至先前状态的同时,保留从失败轨迹中蒸馏出的可复用知识。 实验显示,在三个基准上,该框架能跨多个 LLM 骨干模型一致提升任务性能。

  21. arXiv · NLP21

    IndicQE-APE:面向印度语言质量估计与自动后期编辑的整合基准

    IndicQE-APE 基准整合了 WMT 2020-2024 任务资源,包含 9 个方向对的 126,754 个实例,涵盖 4 种标签类型。 该基准在段落级质量估计上评测了 6 个 LLM 和 3 个 COMET 指标,在自动后期编辑上评测了 3 个系统。 研究发现 4-shot 提示法会损害所有 3.4B 及以下规模模型的输出合规性与相关性。 ```

  22. arXiv · NLP35

    大语言模型中的提示词特权:衡量与缓解公平 AI 访问障碍

    大语言模型在低识字率与专家提示词用户间存在显著性能差异,被称为“提示词特权”。研究提出提示词公平得分(PES)指标及提示词公平 Transformer(PET)智能体,将提示词优化转移至 AI 系统。 实验显示 PET 消除了评估中各组间的统计学显著差异,表明面向可访问性的提示词标准化能提升 AI 访问公平性。

  23. arXiv · NLP26

    RubricReviewer:通过智能体证据合成与人机对齐生成,从直接批评转向基于评分标准的审稿

    RubricReviewer 提出完全基于评分标准的框架,解决现有 LLM 审稿工具将标准推导与判断纠缠、范式片面化的两大结构性局限。 该框架将评分标准生成设为显式中间步骤,结合免训练智能体 Scout 收集外部证据与对齐模型 Aligner 消费证据,融合两种监督源优势。 实验显示其审稿比现有系统更全面具判别力,且对对抗性提示注入攻击展现最强鲁棒性,已被 EMNLP 2026 接收。

  24. arXiv · NLP21

    临床视觉问答模型不确定性估计并非安全网,但可预判模型失效

    对12个VLM的8种UE方法基准测试发现,UE质量随模型准确率下降而恶化,无法在模型最薄弱处提供可靠信号。在NOTA扰动测试中,模型准确率崩塌但不确定性几乎不变,导致系统性失准。未扰动输入下的不确定性仍能可靠预判哪些预测在扰动下会失效,证明UE具备诊断模型脆弱性的价值。