跳到正文
10月14日周三
  1. arXiv · NLP24

    RegExtract:基于LLM的PFAS法规信息提取基准

    RegExtract 是首个用于 PFAS 法规文档结构化信息提取的 LLM 基准,包含 488 个人工标注字段实例和 976 个溯源条目,覆盖美国 20 个州的 46 项法规。 研究采用类型化多字段模式,针对监管文本提出溯源感知评估指标,实验表明字段级少样本示例能提升提取效果,且文档标识字段仍是难点。 该基准为后续开发用于危险物质识别、合规监测等 AI 工具奠定基础,代码和数据已公开。

  2. arXiv · NLP34

    PAT:基于人格驱动的增强与迁移学习框架用于社交媒体抑郁症检测

    PAT框架通过人格驱动的数据增强和迁移学习,解决了社交媒体抑郁症检测中噪声干扰大和编码器优化弱的问题。 该框架分两阶段工作:先用基于经典人格理论的大语言模型增强数据,通过细粒度对比学习优化帖子级编码器;再将编码器参数迁移至用户级任务。 实验显示PAT显著优于现有方法,并提供了多粒度可解释性,追踪帖子级心理状态轨迹并突出关键症状,为临床实践提供可靠的诊断证据。

  3. arXiv · NLP40

    个性化 LLM 上下文精简:通过相关性过滤实现 5% 文本匹配全历史

    相关性过滤上下文仅需 5% 文本量即可匹配完整历史准确率,使模型输入成本降低 20 倍。 该方法通过句子级检索按相似度排序并设定固定预算,比 LLM 摘要仅需小嵌入模型支持。 Oracle 实验显示,仅使用检索到的证据比完整历史表现高 15.6 分,证明优化上下文选择可超越全历史记录。

  4. arXiv · NLP32

    DRIFT 模型通过依赖树推理提升方面情感四元组预测性能

    DRIFT 将依存句法树线性化并注入 LLM 提示词,直接建模方面与观点的显式关系,解决了生成式 ASQP 方法仅依赖序列共现的局限。 在 SemEval Rest15 和 Rest16 数据集上,DRIFT 取得 54.47% 和 64.10% 的 F1 分数,在短中距离配置下表现一致优于对比方法。 该机制表明精确匹配指标系统性低估了语义正确预测,为评估标准提供了修正依据。

10月12日周一
  1. arXiv · AI38

    CRM:基于快手短视频推荐的带可控条件检索模型

    CRM 是一种结果条件化的检索框架,通过在用户塔加入观看时长作为输入,实现推理时通过提供期望观看时长来引导检索,无需重新训练。 该模型采用 DNN 双塔或 Decision Transformer 架构,物品塔独立于条件以支持预计算和 ANN 搜索。已在快手短视频推荐系统部署,在线 A/B 测试显示快手及快手极速版视频观看时长分别提升 0.372% 和 0.457%。

  2. arXiv · AI26

    全局一致性修复:自然语言声明集合的 QXR 框架

    论文提出 QXR 框架,将 LLM 视为噪声一致性判断器,解决声明集合全局不一致问题。 QXR 通过定位最小冲突子集并删除少量命中集声明,保留最大连贯子集。在基于 VitaminC 和 FEVER 的基准测试中,QXR 比一次性判断保留了更多有效声明,且精度较高。 这表明声明聚合系统的事实性应被视为集合级修复问题,而非仅局部验证。

  3. arXiv · NLP37

    ZenGen:面向 LLM 的社会智能框架

    ZenGen 框架旨在增强 LLM 社会智能,其测试基准 SoMBench 显示最佳模型准确率仅 72.08%。 框架结合 ZenGen 训练配方与 Actio 推理架构,其中 ZenGen-32B-Stage2 具备与 DeepSeek-V4-Pro 竞争的实力。 该框架证明社会智能 LLM 需在评估、参数内化及部署接地方面协同推进。

  4. arXiv · NLP41

    Lychee-Reranker 实现压缩文档重排序的快速非后期交互

    提出 Lychee-Reranker,实现查询与文档计算解耦的“快速但非后期交互”重排序模型。 采用编码器-解码器架构,利用 Matryoshka 嵌入池化预编码文档;提供 Nano/Small/Large 三种规模,激活参数量分别为 0.27B、1B 和 4B。 在 BEIR、MIRACL 等基准上性能媲美工业级模型,且 0.27B 模型在与 7-12B 嵌入模型组合时仍具竞争力。

  5. arXiv · AI24

    SemViews 实现 LLM 语义查询标签的认证复用

    SemViews 是一种认证语义过滤器,通过复用早期查询留下的标签作为语义视图,确保精度与召回率达标概率至少为 $1-\delta$。 在 725,000 个记录 oracle 标签的 4 个工作负载中,SemViews 在 99.63% 的查询上同时满足目标,节省 28%-45% 的 oracle 调用;面对重复问题,调用量进一步减少 27%-36%。

  6. arXiv · AI34

    iRAG:面向人类在环决策支持的增量检索增强生成系统

    iRAG 提出一种结合 RAG 与混合决策的人类在环决策支持系统,通过存储既往决策作为可检索先例,实现从被动观察到自主处理(含拒绝)的进阶。 在独立基线对比中,iRAG 在 10% 漂移下匹配最终决策错误率且无检索衰减,在 40% 漂移下降低所有配置中的错误率。 该机制体现了知识稳定性与可塑性之间的权衡,但其在真实人类用户中的可用性尚未评估。

  7. arXiv · NLP35

    T$^2$Mem 框架提出测试时记忆构建,在 LoCoMo 和 LongMemEval 评测中优于基线

    T$^2$Mem 框架推迟记忆构建至推理阶段,在 LoCoMo 和 LongMemEval 实验中优于多个基线模型。 该框架离线提取轻量级片段元数据,测试时根据查询动态检索和组织信息,显著降低构建开销。 研究证实该机制使记忆构建能动态适应不同查询的信息需求,相关代码已公开。

  8. arXiv · AI33

    利用 LLM 自动构建层级硬件知识图谱以实现高保真与完整性

    提出 LLM 驱动的流水线将硬件数据手册转化为层级知识图谱,在 20 份文档中实现 98.8% 属性忠实度。 采用分块属性提取与层级路由,相比单次基线 76.1% 的忠实度及 10.5% 的反向覆盖率显著降低遗漏风险。 增强下游硬件设计与验证中工程信息的可靠性,减少因约束遗漏导致的错误决策。

  9. arXiv · NLP28

    GeopoliticalQA:地缘政治与战略情报报告检索生成基准

    研究人员推出 GeopoliticalQA 基准,基于 415 份开放情报报告构建 5,525 个问答对,涵盖事实、推理及风险类问题。该基准评估了 15 个检索系统和 6 个开源 LLM 在 RAG 任务上的表现。 评测发现中型编码器 bge-m3 在分块检索中匹配更大规模模型并超越商业 API,但推理与风险类问题的答案生成仍具挑战性。

  10. arXiv · ML33

    UxSID:面向超长序列的语义感知用户兴趣建模框架

    研究团队提出 UxSID 框架,利用 Semantic IDs 和双层注意力策略,实现语义分组共享兴趣记忆,在大规模广告 A/B 测试中带来 0.337% 的收入提升。 该框架通过端到端架构平衡计算效率与语义感知,避免了项目特定模型的高昂成本,在超长用户序列建模中取得最先进的性能表现。

  11. arXiv · ML33

    COFFEQA: 用于 LLM 问答的反事实引导少样本蒸馏

    COFFEQA 提出反事实引导的少样本蒸馏策略,通过 CFD 指标验证反事实,在生成式问答中优于纯事实基线。 实验覆盖 5 个域内与 3 个域外 QA 基准,使用 T5 和 Qwen2.5 模型族。 在 TriviaQA 上,T5 设置 32 个少样本对中,平均 EM 提升 8.77 分,平均 F1 提升 9.98 分。

  12. arXiv · ML26

    FORTE:工业推荐系统中特征评估与弃用的生产级框架

    FORTE 是一个模型无关的生产框架,用于在工业推荐系统中发现、验证并移除特征,其高效扰动实现支持每日特征评估。 框架通过分组消融评估低秩特征交互,并利用谱系追踪识别下游模型以释放全部效率收益。 在大规模排序模型上,应用 FORTE 移除 8 个候选特征,使可训练参数减少 29.9%,服务吞吐量提升 19.8-25.5%,年度训练成本降低数十万美元。

  13. arXiv · ML33

    Monarch-MoE:面向多模态持续指令微调的结构化专家

    Monarch-MoE 引入块对角因子替代 LoRA 专家中的稠密因子,解决多模态持续指令微调中的灾难性遗忘。在 LLaVA-1.5-7B 上,该方法将适配器参数量分别减少约 75% 和 50%,首任务遗忘降至 0.52 和 0.10 个百分点。该技术可在单张 24 GB RTX 4090 上运行,使结构化专家在内存受限硬件上具备实际可用性。

10月9日周五
  1. AWS Machine Learning Blog67

    Postman 在 Amazon Bedrock 上为 4000 万开发者部署 Agent Mode

    Postman 在其面向 4000 万开发者的产品中上线 Agent Mode,使用 Amazon Bedrock 的 Claude 模型提供 API 测试、文档、发现和实现的 AI 原生工作流。

    推荐理由:原文给出了 Agent Mode 的架构模式和 Bedrock 部署方式,读者可以据此判断成熟产品接入智能体时的上下文预算与路由缓存设计。

  2. arXiv · ML41

    PT-RAG 提出可微检索增强生成方法预测细胞对基因扰动的转录反应

    PT-RAG 模块通过可微检索增强生成提升细胞基因扰动响应预测效果,已获 NeurIPS 2026 主会录用。 其采用两阶段检索机制,基于 GenePT 语义检索结合 Gumbel-Softmax 选择器,在 scGPT 交叉细胞类型任务中将 2-Wasserstein 距离相对降低 5.9%。 代码已开源可复现,显著改善分布相似性与预测质量,服务于功能基因组学与药物发现。

  3. arXiv · AI27

    基于前缀的提取是否受上下文影响:超越孤立前缀的研究

    研究指出上下文并未消除大语言模型的记忆提取风险,而是改变了可提取样本集合。 实验在三个开源指令微调模型上配对测量了不同相关性检索上下文下的后缀概率,发现记忆提取包含对上下文鲁棒的核心和对边缘样本敏感的边界。 该发现表明RAG虽能抑制部分边界案例但无法消除鲁棒可提取样本,上下文启用的可提取性仍具安全意义。

  4. arXiv · AI45

    RIT-RAG:通过检索诱导树导航文档语料库

    RIT-RAG 结合内容检索与结构导航,在金融、科学及客服基准测试中取得最高答案准确率。 该方法离线从目录构建文档树,查询时利用检索块位置诱导子树,由 LLM Agent 选择性读取节点并在必要时重构查询。 在包含 284 万网页的 EntQABench 上,RIT-RAG 相比最强基线提升 6.8 至 11.4 个百分点。