跳到正文
10月30日周五
  1. arXiv · AI26

    长时域语言代理中的重尾内存痕迹

    长时域语言代理在重复检索时呈现重尾内存分布特征。研究发现,不同检索策略导致内存集中度显著差异,随机游走符合对数正态分布,语义LLM策略符合截断幂律分布。提出的CTMC控制器在LongMemEval基准上将提示词tokens减少24.48%,同时保持整体准确率。

  2. arXiv · AI37

    规模条件下评估 Agent 记忆:当存储证据停止可用

    研究提出规模条件评估协议,检验无关会话累积下 Agent 记忆证据的可用性。 在 LongMemEval 上,HippoRAG 维持双调用预算但可靠性损失 16-20 个百分点;LiCoMemory 表现因 Qwen3 模型版本而异。 该研究被 NeurIPS 2026 接收,支持构建依赖智能体、界面和规模的记忆声明框架。

  3. arXiv · AI38

    NIH 资助研究中人工智能应用的宏观分析

    一项基于 58,746 个 2025 年 NIH 资助项目的分析显示,AI 研究占比达 15.9%,并享受 13.4% 的资金溢价。 研究发现 79% 的 AI 项目仍处于研发阶段,仅 14.7% 进入临床部署。 该数据为 NIH 制定 AI 资金分配与健康公平政策提供了证据框架。

  4. arXiv · AI25

    PRISM:基于用户历史的个性化物品表示

    论文提出 PRISM 方法,通过复用上游排序计算生成个性化物品嵌入,将个性化属性直接融入历史输入。 在十亿级规模 Surface 1 离线评估中,PRISM 带来平均 0.15% 的归一化熵改进,优于 VISTA 的 0.07%。 研究还发现 26-240 个事件历史长度下的序列长度缩放定律,NE 增益遵循指数 0.468 的幂律。

  5. arXiv · AI24

    Merge and Branch: 基于树形结构的高效 LLM 监督微调推荐方法

    提出 Merge and Branch (M&B) 方法,通过合并压缩历史交互项并分支预测多个目标,提升 LLM 推荐系统的微调效率。 方法采用浅宽树形布局,开发 tree FlashAttention 实现单次共享历史计算及多分支梯度传播,支持约束解码。 实验表明,该方法在公开基准上优于强推荐基线,显著改善训练与解码效率。

  6. arXiv · AI30

    知识图谱元数据增强提升企业级 RAG 检索效果

    实验表明,基于知识图谱的 GraphRAG 在复杂检索任务中优于传统向量 RAG 和 Text-to-SQL。 使用 SEC EDGAR 数据集,GraphRAG 解决 20 题中的 16 题,而 Text-to-SQL 仅 10 题,向量 RAG 仅 3 题。 GraphRAG 避免了同名混淆导致的幻觉,但在结构化聚合查询上表现较弱。

  7. arXiv · AI24

    从自身错误中检索:面向多跳检索增强生成的嵌入模型在线策略训练

    提出在线策略状态训练方法,解决多跳检索增强生成中链式嵌入检索器因自身检索错误导致的证据缺失问题。该方法让编码器在自身可达状态上进行对比学习,使训练分布随模型学习动态更新。在自构造的 HotpotQA 和 2WikiMultiHopQA 长链变体上,该方法无需额外训练即可迁移,且能更频繁地从自身错误中恢复。

  8. arXiv · NLP23

    参数化知识图谱记忆存在存储与检索鸿沟

    研究提出将知识图谱离线编译为LoRA适配器组作为参数化记忆层,查询时零上下文开销。 在MetaQA数据集上,仅匹配实体适配器可将精确匹配分数从0.007提升至0.243;但基于嵌入或权重几何的检索无法定位正确适配器,性能仅为随机水平。 结果显示权重几何与子图语义相关性低(Spearman $\rho$ = +0.329),无法实现功能检索,确立了基于语义相似度的适配器选择机制是核心未解难题。

  9. arXiv · NLP27

    Code2LoRA: 超网络生成的代码语言模型 LoRA 适配器

    Code2LoRA 提出超网络框架生成仓库专用 LoRA 适配器,在静态任务上实现 66.2% 的库内精确匹配率,且无推理时 token 开销。 框架包含静态与演化两种模式,演化模式在跨库任务中比单一共享 LoRA 高出 5.2 个百分点,并构建了含 604 个 Python 仓库的 RepoPeftBench 评测基准。 代码、模型检查点及基准数据集已开源。

  10. arXiv · NLP38

    SARDI:扩散语言模型的自增强检索框架

    SARDI 提出一种免训练的动态 RAG 框架,利用推测 token 预测在扩散模型去噪过程中引导检索。 该框架检索器无关,适用于具备推理能力的离散扩散语言模型。 在五个多跳 QA 基准测试中,SARDI 吞吐量最高提升 4 倍,优于免训练扩散及自回归检索基线。

  11. arXiv · NLP35

    可执行模式合约:从自动摄入到多源检索的系统研究

    该论文提出一种系统,可从原始多源数据自动发现可执行模式,并将其作为构建知识图谱和查询检索的共享合约。 系统通过约束LLM进行模式发现,结合确定性结构分析推断主外键,驱动数据抽取、去重及跨源链接,生成具备溯源能力的知识图谱。 在四个问答基准上的零样本对比中,该系统优于仅检索及分解式基线模型,消融实验证实模式条件路由、结构智能及模式引导构建均对性能提升有贡献。

  12. arXiv · NLP20

    从标签分布学习中标注饱和度的指标依赖性

    在ChaosNLI数据集上微调NLI模型发现,标注者数量需求取决于评估指标。KL散度匹配在约10名标注者时饱和(达成87-95%改善),而熵相关性需20-50名标注者才能收敛。 软标签在熵相关性上优于标签平滑(r=0.643 vs 0.45-0.49),且优势在DeBERTa与RoBERTa架构中均可复现。 研究表明,标注预算应根据目标评估指标而非统一设定来分配。

  13. arXiv · NLP30

    探索语言模型数据归因设计空间:CATT 基准与负对数几率梯度优化

    研究提出用于事实追溯的受控归因基准 CATT,通过在完全虚构知识上微调 LLM 来提供无歧义归因真值。该基准证明数据冗余和词汇干扰物会一致降低归因性能。 研究发现标准方法将文档内局部化因果证据稀释为噪声,建议用负对数几率梯度替代交叉熵损失梯度,并仅聚合前几名 token 分数。

  14. arXiv · NLP27

    Glance:生成器即重排序器

    Glance 提出通过轻量级决策适配器和指针头实现生成器自主重排序,基于单个常驻 9B 骨干模型。 在 SciFact 上 nDCG@10 达 0.741,优于 bge-reranker-v2-m3;每个决策技能仅增约 0.1 GiB 显存。 该架构验证了单一骨干模型处理生成与重排序的可行性,覆盖多个检索基准。

  15. arXiv · NLP39

    LLMs 中检索文献对科学创意生成影响的追踪研究

    研究通过 10 个开放权重模型和 45,000 个创意,比较 5 种检索策略与无文献基准,发现检索策略将同源创意多样性降低 5.6%–17.9%,混合后增加 10.2%–18.1%。 使用基于 JSD 的归因方法追踪文献影响,发现 79.3% 的创意由 1–2 篇论文主导,且归因多样性与创意多样性相关(r=0.70)。 该结果建议利用多样化文献组合和归因机制引导后续科学创意的来源选择。

  16. arXiv · NLP23

    Marathi 跨语言抽象摘要研究

    研究者基于 MahaSum 语料库构建跨语言训练数据,结合 PMIndiaSum 数据集微调 IndicTrans2 模型,实现 Marathi 到 English 的摘要生成。 模型在 ROUGE、chrF 等指标上显著优于 IndicBART 和 mBART-50 基线,实验证实预训练翻译模型能有效提升跨语言摘要性能。

  17. arXiv · NLP26

    多模态Transformer框架:通过语义增强表格对长金融文本进行Grounding

    论文提出一种多模态Transformer框架,通过将金融表格转化为语义增强token序列,并结合交叉注意力机制处理长文本,实现跨模态依赖捕捉。 该框架利用变量的文本定义生成语义嵌入,增强了对数值大小和经济意义的编码,相比仅值嵌入更具表达力且参数效率更高。基于财务报表数据集实验表明,结构化数值特征是主要预测信号,而文本信息通过交叉注意力能带来一致的增量收益。

  18. arXiv · NLP32

    面向科学家和从业者的 LLM 入门指南

    该书为科学家和从业者提供 LLM 实用入门,涵盖 tokenization、embeddings、RAG、agent 等核心概念与限制。 内容特意避免数学细节,结合 Turin 大学医学 AI 硕士课程背景,强调幻觉、偏见及人机监督。 包含 Ollama 和 Open WebUI 本地部署实践,无需编程基础即可操作。

10月28日周三
  1. arXiv · ML29

    PORTAL 测试时自适应干预控制器:何时及如何部署

    研究提出 PORTAL 控制器,用于决定测试时自适应干预(如更新归一化统计)的部署时机与标签查询策略。 PORTAL 通过固定候选预测规则并结合共享标签比较,将查询导向可能超越当前领先者的候选,在剩余标签无法改变选择或精度增益不足时停止。 该方法将整体降低精度的干预转变为在特定批次上有效的选择,防止到达顺序变化导致的严重失败,并通过获取的标签训练更强的未来候选模型。

  2. arXiv · NLP35

    QESChunker:统一重叠与非重叠 RAG 分块的目标函数

    提出首个基于问题-证据监督的静态分块索引构建方法 QESChunker,统一了重叠与非重叠分块目标。 非重叠情形可用动态规划在多项式时间内精确求解;重叠情形为单调子模函数,贪心算法获得 $(1-1/\sqrt{e})$-近似。 在 5 个数据集上,两种变体在完全证据召回率上均优于现有方法。

  3. arXiv · ML23

    LLM 知识在 OOD 表格预测中的应用:跨验证正则化方法

    利用大型语言模型生成的系数先验替代传统零收缩目标,能改善分布外(OOD)表格数据预测,在五个数据集中四个实现平均 MSE 最高 7.9% 的改进。 跨源域交叉验证仅用于筛选先验,结果表明该策略能规避表现最差的先验,但当训练数据量足够大时,先验更主要起正则化而非转移修正作用。

  4. arXiv · NLP42

    ETAMem:解耦与对齐异质记忆的长期对话智能体框架

    论文提出多视角记忆框架 ETAMem,在 LoCoMo 和 LongMemEval-S 数据集上分别实现 12.46% 和 7.96% 的相对准确率提升。 该框架通过解析原子记忆单元,构建事件、情感和时间三个互补层级视图,并利用基于熵的检索分配查询预算。实验结果证明不同记忆视图具有互补优势,提升了 LLM 长期对话的连贯性与个性化。

  5. arXiv · NLP30

    决策模型在 RAG 知识冲突分类中的表现:能否替代 LLM 识别冲突原因?

    研究发现 11 个决策模型在 CONFLICTS 基准上准确率达 50.0%-67.0%,10 个模型成本比 Gemini 2.5 Flash 低 4-39 倍、延迟低 2.6-6.0 倍,且生成的回答行为与 LLM 一致。 通过级联方案将低置信度查询转发给 Gemini 3.8 Flash,在 25%-37% 的成本下统计上打平其精度,验证了决策模型在 RAG 系统中作为快速分类层的可行性。