跳到正文
11月17日周二
  1. arXiv · NLP23

    为何模型操控有效:LLM 参数动态的统一视角

    该研究提出统一框架,将 LLM 的 LoRA 微调与激活干预解释为控制信号诱导的动态权重更新。 分析表明,强操控在提升目标概念倾向(preference)的同时,可预测地降低生成连贯性(utility)。 基于此,新方法 SPLIT 在增强操控效果的同时更好地保留效用,代码已开源。

  2. arXiv · NLP21

    孟加拉语文本到手语标注(Gloss)翻译数据集与基准发布:包含 1,000 条人工标注及 4,000 条合成数据

    该工作构建了首个公开的孟加拉语文本到 Gloss 翻译数据集,包含 1,000 条人工标注、4,000 条合成数据及 159 条测试对。 实验对比了微调开源模型与 GPT-5.4,GPT-5.4 自动指标得分最高,但较小的开源模型表现也具有竞争力。 这证明了系统性生成的合成数据在解决低资源手语翻译挑战中的有效性。

  3. arXiv · NLP32

    3D-MoE 采用 MoE 架构提升空间智能

    3D-MoE 发布,这是一款采用混合专家架构的 3D 视觉语言模型,旨在解决空间智能任务中密集 Transformer 的高计算成本。 其核心创新包含模态与空间上下文感知的概率路由方案,并集成了基于扩散的 Pose-DiT 动作头,实现单步生成 6D 位姿动作。 该模型在减少激活参数量的同时实现了机器人操作任务的实时推理,代码已开源。

  4. arXiv · NLP29

    大语言模型的多语言幻觉差距研究

    研究发现 LLaMA、Qwen 和 Aya 模型在 19 种语言生成传记时存在幻觉率差异,高资源与低资源语言间差距显著。 研究通过扩展 FactScore 指标至多语言场景进行量化,并将生成结果与 Wikipedia 页面进行对比以评估准确性。 该成果已被 PMLR 会议接受,揭示了 LLM 多语言性能及幻觉评估面临的挑战。

  5. arXiv · NLP40

    Qwen3-VL 如何规划视觉语言模型的多步任务

    研究揭示 Qwen3-VL 通过绑定头、光标信号、选择步骤和注视头四部分机制规划视觉回答顺序,该机制在 2B 至 32B 模型中均成立。 因果干预验证显示该机制适用于不同输入格式、自然照片及多种语言,binding、relay 和 gaze 头存在于所有测试模型尺寸中。 此发现为研究模型在长程多步任务中的规划过程提供了新路径。

  6. arXiv · NLP34

    大语言模型阅读央行文本时存在时序数据污染

    针对大语言模型阅读 FOMC 文本进行经济预测时的时序数据污染,研究发现部分技能源于对结果的记忆。在 2000 至 2026 年的 FOMC 声明和会议纪要上,仅凭先验信息的模型对过去 GDP 预测的 AUC 可达 0.64。 研究通过对比时间一致性模型,发现实时预测中的前瞻优势在多重检验校正后不可检测,建议直接评估记忆效应。

  7. arXiv · NLP25

    大语言模型在拒绝请求解释中的可修复性评估:正确理由为何缺乏实际指导意义

    一项覆盖20个大语言模型的研究发现,当多个规则独立触发时,解释中引用的单一正确理由通常无法帮助用户成功改变结果。 在7个移植自访问控制和福利资格系统的规则系统中,6个显示出“修复正确理由后决定仍为拒绝”的高频现象;各模型识别该缺陷的能力接近随机。 研究指出,仅当询问“按解释操作是否有效”时强裁判模型才能发现缺陷,且推理型模型在含4个以上独立理由的拒绝中仍频繁失效。

  8. arXiv · NLP28

    小型语言模型在精确验证器下的学习局限

    研究通过精确验证器测试小模型学习推理能力,发现4B模型微调后在特定策略上准确率达92%。 模型仅掌握固定的充分性检查流程,在未见过的策略上虽保持94%充分性但最小性降至48%;强化学习未能提升泛化性。

  9. arXiv · NLP28

    嵌入映射距离如何引导 LLM 创意生成?对四项后续验证的测试

    研究发现嵌入映射中远端方向难以生成文本,LLM 解码器在展示邻居时能复现目标,但在无邻居搜索中表现优于最近项,对远端点则效果甚微。 k-means 单元中,密度间隙评分对预测增长无显著贡献,Steam 新品中更孤立的游戏评价略好,arXiv 论文 LLM 续写比引用源更贴近原文。 揭示真实后续标题会引导创意方向,评审、预言机和距离反馈分别增加了 0.13、0.08 和 0.34 的方向转向幅度。

  10. arXiv · NLP21

    基于会话AI的四语种代码切换研究

    预注册研究测试了42名大学生与聊天机器人的对话,发现英语占主导,而在文化话题中,低资源语言Papiamentu/o和西班牙语的使用占比从15%上升至24%。 参与者极少在同一条消息中混合多种语言,且自报对AI的语言切换舒适度不亚于与人交流。 这表明会话AI需要适应逐轮次的语言变化,并优化对本地低资源语言的处理。

  11. arXiv · NLP28

    LLM驱动Agent中隐性偏差的众包审计图谱研究

    研究构建基于美国时间使用调查(ATUS)的506个决策场景图谱,发现LLM代理人存在显著隐性偏差。 众包审计中500名参与者对8,010个场景进行优先级排序,更关注高 stakes 或全群体一致决策的情景,而非偏差幅度。 研究为构建个性化AI代理人及利用众包方法进行偏差审计提供了重要启示。

  12. arXiv · NLP20

    结构感知引导对齐(SAGA)改进分子语言模型中的神经分子表征

    研究者提出仅用于训练的SAGA正则化器,利用居中控核对齐将神经分子表征与指纹Tanimoto相似度对齐,且不增加参数或需推理时使用指纹。 该研究基于MolCA和Atomas模型进行验证,SAGA提升了分子-文本检索性能,使非精确检索偏向更接近的结构类似物,并提高了骨架分割属性预测的平均表现。 结果证实,既有的化学信息学先验知识可增强分子语言模型表征的化学真实性,同时保留其多模态效用。

  13. arXiv · NLP21

    自适应测试时缩放的任意时刻有效 PAC-Bayes 证书

    研究提出任意时刻有效的 PAC-Bayes 证书,解决自适应测试时缩放中校准选择后的统计推断问题。 针对有限预算与验证器网格,罚项为 $\log M/n$;在 GSM8K 上,该证书在 5% 名义水平下始终优于最佳选择误差,全测试集误差紧化至 0.109。 提供了一种无分布假设的轻量级方法,用于报告自适应推理系统的风险与计算成本。

  14. arXiv · NLP30

    语言模型智能体信念可通过开放渠道中的真实证据被操纵

    语言模型智能体信念可通过社交媒体等开放渠道中的真实证据被操纵。基于1,090个谣言目标的研究显示,在14个模型中12个的谣言接受率超过65%,多数投票后仍高于50%。 引入Grounded Monitor神经符号运行时监控器,将决策准确率提升5.6至29.0个百分点,支持在结论前监控推断关系。

  15. arXiv · NLP21

    TRACK: 时序工具增强推理用于电源管理系统故障诊断

    TRACK 系统结合时序编码器与小语言模型,在 15 类多负载模拟基准上实现超 95% 的故障类别准确率,优于 58% 的基线。 该系统在设备端运行,通过调用工具进行可验证的物理计算,并利用基于评分标准的框架评估报告的结构与诊断准确性。 该方案避免了昂贵的 API 调用,解决了专家人工检查无法扩展到大量部署单元的问题。

  16. arXiv · NLP23

    MolReps:让 LLM 理解多种分子表示法

    MolReps 是一个生成 9,600 组问答对的管道,用于在多种分子表示间进行转换、归一化及 2D 结构识别。 对 MolQwen3-4B-Instruct 和 MolQwen3-VL-4B-Instruct 进行后训练,在分子重叠测试集的 InChIKey 匹配率分别从 4.01% 和 7.11% 提升至 75.13% 和 73.14%。

  17. arXiv · NLP21

    DetourBench: 交互式智能体轨迹级评测与最小动作界限

    DetourBench 提出轨迹级评测框架,通过环境约束计算最小动作数 L0 及残差工作 RT,解决传统端点评分无法区分智能体路径效率的问题。 在 375 个评分回合中,五个模型端点的成功率介于 58.7% 至 96.0%,条件达成率范围为 0.803 至 0.890。 项目已开源实例、见证及评估工具,被 NeurIPS 2026 工作坊接收。

  18. arXiv · NLP20

    嵌入模型迁移中重用旧索引无法避免重编码:16对模型与NQ数据集验证

    16对嵌入模型及NQ数据集实验证实,重用旧索引策略无法避免语料重编码,仅改变重编码支付时间。 同族LLM桥接适配器微弱优于旧模型,窗口重排成本可通过旧索引精确预测。 基于884万余条语料的预注册回放确认预测,为迁移策略选择与窗口深度设定提供量化依据。

  19. arXiv · NLP32

    审计 LLM 合成受访者的人口统计信息披露

    研究发现向 LLM 合成受访者提供人口统计信息对个体预测增益微小,多数群体估计增益可被普查数据或合成画像替代。在 11 个开源模型和 3 个托管模型中,模型倾向于使群体差异扁平化,尤其是宗教和民族差异。 该研究基于两项美国调查,对比了 LLM 与统计模型在相同信息下的表现。 作者提出了一种审计方法,帮助调查机构判断哪些估计可以使用人口统计记录。