长时域语言代理中的重尾内存痕迹
长时域语言代理在重复检索时呈现重尾内存分布特征。研究发现,不同检索策略导致内存集中度显著差异,随机游走符合对数正态分布,语义LLM策略符合截断幂律分布。提出的CTMC控制器在LongMemEval基准上将提示词tokens减少24.48%,同时保持整体准确率。
长时域语言代理在重复检索时呈现重尾内存分布特征。研究发现,不同检索策略导致内存集中度显著差异,随机游走符合对数正态分布,语义LLM策略符合截断幂律分布。提出的CTMC控制器在LongMemEval基准上将提示词tokens减少24.48%,同时保持整体准确率。
研究提出规模条件评估协议,检验无关会话累积下 Agent 记忆证据的可用性。 在 LongMemEval 上,HippoRAG 维持双调用预算但可靠性损失 16-20 个百分点;LiCoMemory 表现因 Qwen3 模型版本而异。 该研究被 NeurIPS 2026 接收,支持构建依赖智能体、界面和规模的记忆声明框架。
一项基于 58,746 个 2025 年 NIH 资助项目的分析显示,AI 研究占比达 15.9%,并享受 13.4% 的资金溢价。 研究发现 79% 的 AI 项目仍处于研发阶段,仅 14.7% 进入临床部署。 该数据为 NIH 制定 AI 资金分配与健康公平政策提供了证据框架。
论文提出FARE方法,通过因子感知检索与误差引导融合解决零售预测中完整因子组合历史先例少的问题。 该方法在Favorita、M5、Rossmann和Rohlik数据集上,平均降低五个骨干模型WAPE,降幅区间为4.06%至14.63%。
CovFedAvg 方法通过保留客户端局部模型和曲线控制,聚合梯度以拟合共同终点,并在无中央校准样本的情况下选择候选模型。 在宽度为 16 的实验中,CovFedAvg 将参与 Gas 任务的宏平衡准确率从 FedAvg 的 88.88% 提升至 89.84%,匹配的分发微调则达到 91.65%。
论文提出 PRISM 方法,通过复用上游排序计算生成个性化物品嵌入,将个性化属性直接融入历史输入。 在十亿级规模 Surface 1 离线评估中,PRISM 带来平均 0.15% 的归一化熵改进,优于 VISTA 的 0.07%。 研究还发现 26-240 个事件历史长度下的序列长度缩放定律,NE 增益遵循指数 0.468 的幂律。
研究评估了 Jev 及多个开放模型在 10 个答案引擎上的引用预测能力。Jev 与两个 27B 开放模型得分最高(0.575-0.578),微调后的 GEO Citation Ranker 4B 达 0.542-0.549。团队发布了模型、基准测试及所有评分器的预测代码。
提出 Merge and Branch (M&B) 方法,通过合并压缩历史交互项并分支预测多个目标,提升 LLM 推荐系统的微调效率。 方法采用浅宽树形布局,开发 tree FlashAttention 实现单次共享历史计算及多分支梯度传播,支持约束解码。 实验表明,该方法在公开基准上优于强推荐基线,显著改善训练与解码效率。
实验表明,基于知识图谱的 GraphRAG 在复杂检索任务中优于传统向量 RAG 和 Text-to-SQL。 使用 SEC EDGAR 数据集,GraphRAG 解决 20 题中的 16 题,而 Text-to-SQL 仅 10 题,向量 RAG 仅 3 题。 GraphRAG 避免了同名混淆导致的幻觉,但在结构化聚合查询上表现较弱。
提出在线策略状态训练方法,解决多跳检索增强生成中链式嵌入检索器因自身检索错误导致的证据缺失问题。该方法让编码器在自身可达状态上进行对比学习,使训练分布随模型学习动态更新。在自构造的 HotpotQA 和 2WikiMultiHopQA 长链变体上,该方法无需额外训练即可迁移,且能更频繁地从自身错误中恢复。
Bridge-LP 提出了一种统一图与语言表示的端到端框架,用于文本归因图链接预测。 该框架包含跳跃连接、压缩嵌入和缓存嵌入训练三个组件,有效降低了计算复杂度。 在 9 个数据集上对比 40 个模型,其 Mean Reciprocal Rank 指标最高提升 43.06%。
AgenticDS 是一个契约驱动的智能体框架,通过类型化对象和确定性代码执行混合检索与有界图扩展,在 HuDS-Bench 基准上将 NDCG@10 相比最强稠密-稀疏混合方法提升 25.7%,相比商业 LLM 智能体提升 18.9%。
该研究首次将组 Lasso 原理引入孪生网络,用于同时实现特征选择与数据表示学习。 方法包含基于欧氏距离和修正 Jaccard 相似度的两个变体,后者针对高维稀疏数据设计。在 12 个基准数据集(维度 6-7070)上验证了有效性。
该架构结合金融知识图谱、确定性优化引擎和多智能体 LLM 层,通过上下文工程协调。 基于 15 个部署案例,多智能体验证将幻觉率从 7-9% 降至 1% 以下,部署时间缩短至两周。
研究评估了人工精选、LLM 生成及数据衍生本体在 Web 知识图谱上校验 LLM 智能体答案的效果,涵盖近 10^9 三元组公私数据。结果显示人工本体常将正确答案误判为错误,其精准度仅略高于随机标记,且与其自身数据存在矛盾。
研究提出将知识图谱离线编译为LoRA适配器组作为参数化记忆层,查询时零上下文开销。 在MetaQA数据集上,仅匹配实体适配器可将精确匹配分数从0.007提升至0.243;但基于嵌入或权重几何的检索无法定位正确适配器,性能仅为随机水平。 结果显示权重几何与子图语义相关性低(Spearman $\rho$ = +0.329),无法实现功能检索,确立了基于语义相似度的适配器选择机制是核心未解难题。
Code2LoRA 提出超网络框架生成仓库专用 LoRA 适配器,在静态任务上实现 66.2% 的库内精确匹配率,且无推理时 token 开销。 框架包含静态与演化两种模式,演化模式在跨库任务中比单一共享 LoRA 高出 5.2 个百分点,并构建了含 604 个 Python 仓库的 RepoPeftBench 评测基准。 代码、模型检查点及基准数据集已开源。
SARDI 提出一种免训练的动态 RAG 框架,利用推测 token 预测在扩散模型去噪过程中引导检索。 该框架检索器无关,适用于具备推理能力的离散扩散语言模型。 在五个多跳 QA 基准测试中,SARDI 吞吐量最高提升 4 倍,优于免训练扩散及自回归检索基线。
该论文提出一种系统,可从原始多源数据自动发现可执行模式,并将其作为构建知识图谱和查询检索的共享合约。 系统通过约束LLM进行模式发现,结合确定性结构分析推断主外键,驱动数据抽取、去重及跨源链接,生成具备溯源能力的知识图谱。 在四个问答基准上的零样本对比中,该系统优于仅检索及分解式基线模型,消融实验证实模式条件路由、结构智能及模式引导构建均对性能提升有贡献。
在ChaosNLI数据集上微调NLI模型发现,标注者数量需求取决于评估指标。KL散度匹配在约10名标注者时饱和(达成87-95%改善),而熵相关性需20-50名标注者才能收敛。 软标签在熵相关性上优于标签平滑(r=0.643 vs 0.45-0.49),且优势在DeBERTa与RoBERTa架构中均可复现。 研究表明,标注预算应根据目标评估指标而非统一设定来分配。
研究团队提出基于注册表的记忆图谱FIRME,用于解决投资者知识图谱中观察碎片化问题,保持关系历史的身份和溯源一致性。 该模型通过规则融合和别名记忆,将投资者电话讨论与现金流信号关联。
LLM-IRA 提出量子启发式文档重排序框架,利用 LLM 仅对高分歧成对文档进行判断以学习融合权重,实现超快速点式线性评分融合,无需完整矩阵或昂贵列表式提示。
DuQUAD 提出双视图推理与质量感知证据剪枝框架,缓解 Lost in the Middle 现象。 该框架结合 Local Agent 与 Global Agent,平均提升 3.0% 准确率并提高 9.4% 证据召回率,同时降低计算成本。
研究提出用于事实追溯的受控归因基准 CATT,通过在完全虚构知识上微调 LLM 来提供无歧义归因真值。该基准证明数据冗余和词汇干扰物会一致降低归因性能。 研究发现标准方法将文档内局部化因果证据稀释为噪声,建议用负对数几率梯度替代交叉熵损失梯度,并仅聚合前几名 token 分数。
Glance 提出通过轻量级决策适配器和指针头实现生成器自主重排序,基于单个常驻 9B 骨干模型。 在 SciFact 上 nDCG@10 达 0.741,优于 bge-reranker-v2-m3;每个决策技能仅增约 0.1 GiB 显存。 该架构验证了单一骨干模型处理生成与重排序的可行性,覆盖多个检索基准。
研究通过 10 个开放权重模型和 45,000 个创意,比较 5 种检索策略与无文献基准,发现检索策略将同源创意多样性降低 5.6%–17.9%,混合后增加 10.2%–18.1%。 使用基于 JSD 的归因方法追踪文献影响,发现 79.3% 的创意由 1–2 篇论文主导,且归因多样性与创意多样性相关(r=0.70)。 该结果建议利用多样化文献组合和归因机制引导后续科学创意的来源选择。
研究者基于 MahaSum 语料库构建跨语言训练数据,结合 PMIndiaSum 数据集微调 IndicTrans2 模型,实现 Marathi 到 English 的摘要生成。 模型在 ROUGE、chrF 等指标上显著优于 IndicBART 和 mBART-50 基线,实验证实预训练翻译模型能有效提升跨语言摘要性能。
论文提出一种多模态Transformer框架,通过将金融表格转化为语义增强token序列,并结合交叉注意力机制处理长文本,实现跨模态依赖捕捉。 该框架利用变量的文本定义生成语义嵌入,增强了对数值大小和经济意义的编码,相比仅值嵌入更具表达力且参数效率更高。基于财务报表数据集实验表明,结构化数值特征是主要预测信号,而文本信息通过交叉注意力能带来一致的增量收益。
论文提出 Human-Residual Steering(HRS),通过预测低秩隐状态修正对齐冻结 LLM 评判器。 在 14 个基准测试中,HRS 使用 Qwen2.5-7B 将 Jensen-Shannon 距离从 0.565 降至 0.352,优于所有冻结权重基线。
DeFT-RAG 框架生成自包含子问题并缓存答案,在 MuSiQue 等基准上取得 13 个基线中最佳准确率。 该框架规则化 QA 表更新,共享缓存使 23.1% 子问题直接命中,减少 12.9% LLM 调用。
该书为科学家和从业者提供 LLM 实用入门,涵盖 tokenization、embeddings、RAG、agent 等核心概念与限制。 内容特意避免数学细节,结合 Turin 大学医学 AI 硕士课程背景,强调幻觉、偏见及人机监督。 包含 Ollama 和 Open WebUI 本地部署实践,无需编程基础即可操作。
讯飞输入法 16.0 正式发布,推出第三代“意图成稿”AI 键盘功能。 该版本支持结合用户提供的信息自动整理汇报或计划,并具备“恋爱军师”等场景技能。 官方定位为专属表达伙伴,旨在帮助用户更高效地完成复杂信息输入。
summary_zh: SCI-Defense 通过评分五种说服结构检测 LLM 排名中的操纵攻击,误报率为 1.2%。 在 1,152 个攻击样本中,框架成功拦截 96.1% 使目标进入前三的攻击。
RAG-CSI 提出一种检索增强 Transformer 框架,用于通过联合匹配预测信道状态信息(CSI)。 该框架构建全局-局部 CSI 知识库,并开发联合状态-动态检索(JSDR)技术以提取相关序列。 在五个评估指标上,其性能较最佳基线提升超过 10%,归一化均方误差降低 15.42%。
研究者提出HEART-Bench基准,评估LLM在拥有 autobiographical memories 时能否做出符合人格的决策。基准包含11个基于Big Five的角色、每个角色1000条记忆及64个DIAMONDS决策场景,共673道选择题。
研究提出 PORTAL 控制器,用于决定测试时自适应干预(如更新归一化统计)的部署时机与标签查询策略。 PORTAL 通过固定候选预测规则并结合共享标签比较,将查询导向可能超越当前领先者的候选,在剩余标签无法改变选择或精度增益不足时停止。 该方法将整体降低精度的干预转变为在特定批次上有效的选择,防止到达顺序变化导致的严重失败,并通过获取的标签训练更强的未来候选模型。
提出首个基于问题-证据监督的静态分块索引构建方法 QESChunker,统一了重叠与非重叠分块目标。 非重叠情形可用动态规划在多项式时间内精确求解;重叠情形为单调子模函数,贪心算法获得 $(1-1/\sqrt{e})$-近似。 在 5 个数据集上,两种变体在完全证据召回率上均优于现有方法。
利用大型语言模型生成的系数先验替代传统零收缩目标,能改善分布外(OOD)表格数据预测,在五个数据集中四个实现平均 MSE 最高 7.9% 的改进。 跨源域交叉验证仅用于筛选先验,结果表明该策略能规避表现最差的先验,但当训练数据量足够大时,先验更主要起正则化而非转移修正作用。
论文提出多视角记忆框架 ETAMem,在 LoCoMo 和 LongMemEval-S 数据集上分别实现 12.46% 和 7.96% 的相对准确率提升。 该框架通过解析原子记忆单元,构建事件、情感和时间三个互补层级视图,并利用基于熵的检索分配查询预算。实验结果证明不同记忆视图具有互补优势,提升了 LLM 长期对话的连贯性与个性化。
研究发现 11 个决策模型在 CONFLICTS 基准上准确率达 50.0%-67.0%,10 个模型成本比 Gemini 2.5 Flash 低 4-39 倍、延迟低 2.6-6.0 倍,且生成的回答行为与 LLM 一致。 通过级联方案将低置信度查询转发给 Gemini 3.8 Flash,在 25%-37% 的成本下统计上打平其精度,验证了决策模型在 RAG 系统中作为快速分类层的可行性。