ANCHOR:基于大小模型协作的集群锚定 5W1H 提取框架
ANCHOR 框架结合 LLM 与小模型判别头实现集群锚定的 5W1H 提取。LLM 生成候选事件及初始 4W 记录以引导集群选择和主事件锚定。 共享文档编码器提供证据用于联合 4W 细化,边界与角色评分头分别提取 why 和 how。数据集包含 26,110 篇文档,覆盖 10 个语料库、3 种语言和 7 个领域。
ANCHOR 框架结合 LLM 与小模型判别头实现集群锚定的 5W1H 提取。LLM 生成候选事件及初始 4W 记录以引导集群选择和主事件锚定。 共享文档编码器提供证据用于联合 4W 细化,边界与角色评分头分别提取 why 和 how。数据集包含 26,110 篇文档,覆盖 10 个语料库、3 种语言和 7 个领域。
研究团队提出 IndustrialKnowEval 基准,包含 43,282 个样本,覆盖 7 个工业领域的 21 种任务类型。 该基准将认知需求分为记忆、理解、推理及工程应用四个层级,并对 18 个 LLM 进行了实验评估。 研究还提出了 ICCG 指标,旨在量化基础工业知识与高阶推理应用之间的性能差距,推动工业智能发展。
研究发现扩散语言模型主要置信度集中于最左侧前沿位置,仅在此处提交速度接近任意位置提交。 回退提交占比 11-35% 却导致 61-72% 的失败,限制在前沿提交可恢复大部分准确率。 该分析基于四个 DLM 在数学、代码等任务上的提交追踪验证。
研究提出 LEAF-OPD,利用冻结教师模型的特权上下文对生成响应进行令牌级监督,提升大模型遗忘能力。 该方法在 TOFU 基准上取得最佳 Forget Quality 与 Model Utility;在 RWKU 基准上,其 Forget Quality 比次优方法高出 34%。
研究人员提出 S-BDS 方法,通过控制样本权重集中度筛选数据,在 Llama 和 Qwen 模型上实现医疗能力与患者安全的平衡。 实验结果显示,该方法相比最强基线将 PatientSafetyBench 上的安全率分别提升 4.64 和 3.00 个百分点,医疗能力保持竞争力。 S-BDS 通过调整安全导向权重,允许用户在医疗性能与安全之间灵活权衡。 ```
20 个前沿模型对 ICLR 2027 提交的盲审显示,模型版本更新导致“接受率”剧烈波动。 Claude Opus 和 Gemini 版本间接受率降幅达 43-79 个百分点;剥离评分的纯文本批评仍能造成 35-51 个百分点偏差。 LLM 评审阈值需随模型版本重新针对人类决策进行校准验证。
研究提出 SilentGuard 框架,将静默 API 故障检测移至工具调用执行层,利用不变量测试拦截违规结果,避免模型幻觉。在 15 个公共研究 API 中发现 11 个存在静默故障,错误计数最高被夸大 691 倍。
Claude Opus 5.5 通过权重空间编程编辑 Qwen3.5-0.8B,显著提升其在计算生物学 Python 任务中的表现。 严格正确率从 44 升至 77,技术正确率从 64 升至 100,重复 Python 调用次数从 1,834 降至 1,044。 权重编辑改变了模型的计算过程及答案提交逻辑,修正了部分原有计算错误。
研究将拒答方向框架扩展至查询歧义、模型知识限制与人类价值观对齐三个维度。 通过构建反事实对并计算激活动差,发现中间层激活转向能调节三种拒答行为,且各维度存在共同方向分量。 该机制可解释性有助于提升大语言模型在不确定性下的可信度。
研究表明 Gemma-2-9B-IT 中拒绝相关的线性方向可操控模型拒绝语域,而非仅控制是否拒绝。 在 9B 模型第 20 层注入差异均值方向,使内容安全词汇每百词从 2.55 升至 10.37,随机对照仅 1.13-2.16。 9B 模型中 B1 方向因果效应显著大于 B2,揭示 B1 编码类别检测与词汇信息,B2 主要编码类别检测。
对比点式评分、集合式评分与候选注意力三种方法,研究发现点式评分在五个代理决策基准中依然具有竞争力。 集合式评分在部分工具选择和二元决策任务中表现更好,但允许跨候选交互的候选注意力并未带来一致提升。 通过两个受控合成任务进一步验证,定向关系训练有助于集合式模型学习候选依赖并实现泛化。
研究测试了类型化决策模型 Jev 在 24 篇 ACL 会议论文中的表现。 Jev 零样本直接替代了 46 个测试集里的 12 个,加 500 标签的提示优化中位数弥合 72% 差距,成本每搜索 $1.66。 相比微调 RoBERTa、DeBERTa 或 Qwen3.8-27B,零样本在简单标签下常够用,微调仍最准。
使用 Gemini 基于 55 位作家风格重写 991 篇 AI 文本后,QuillBot 检测器中位分数从 100% 降至 0%。 平均分由 67.9% 降至 11.2%,66% 的重写文本得分为 0%。 研究指出该结果仅适用于特定检测器与重写系统,且重写文本长度显著增加。
论文提出带风险认证的提示词优化框架,通过统计控制将漏检攻击率限制在用户指定水平 α 以内,最大化良性通过率。 该框架包含 CPS 与 CRISP 两种流程,利用同步上置信界进行认证,并在四个涉及提示注入等数据集上验证了其在不同风险容忍度下的效用提升。
针对语言模型末层方向性消融常出现的失效或文本崩溃问题,提出闭式解 Centered Ablation(CA)以剔除公共模式影响。 在 8 个模型测试中,CA 使攻击成功率提升 29 至 46 分,将 Gemma-2-9B 的崩溃率从 50% 降至 1%,且在低重叠度模型上比线性偏移方法多保留 39 至 46 分的安全性。
基于 mDeBERTa-v3-base 的 279M 参数交叉编码器在乌尔都语移动网页 UI 定位任务中表现优异,73.4% 的点框准确率显著高于零样本的 UI-TARS-2B(29.6%)和 Qwen2.5-VL-7B(23.7%)。
两项开源决策模型 Nimble 9B 和 Tev1 4B 在 1,113 份口腔癌病理报告中提取 25 项数据,Tev1 字段准确率 0.917,与 Qwen3.5 9B 持平但快四倍。
研究发现,LLM 在多轮交互中保留完整对话历史会显著降低准确率,且过程指标难以提前预警。 GPT-4o-mini 和 Mistral-7B 的最终成功率分别下降 0.21 和 0.29;CDD-Stream 测试显示,20 轮内准确率从 0.6 跌至 0.1,而使用状态摘要可保持高准确率。 研究建议系统应将任务状态置于对话记录之外,并跨会话进行监控。
研究显示,11 个通过测量阈值的开源 LLM 在可能性、必要性及证据副词下支持普通话 Wh-不定词,强度为否定的 0.42-2.33 倍,而英语 any 在相同语境中未获支持。 测试覆盖 12 个开源模型(0.5B-9B,四个家族)及 48 组匹配双语框架;Qwen2.5-32B 的探索性扩展也显示相同结果。
该研究发布整合量化语言模型与本地知识库的离线 Android 母婴健康助手,在 6GB 手机上实现 14.3s 中位延迟。对比显示 Gemma 4 E2B 响应质量更高,150 条响应均分 3.80/4;Qwen3.5 0.8B 生成更快且内存占用更低。
研究分析了Hugging Face库中40篇LLM技术报告,发现多数新架构复用Llama组件,且仅19项创新声明有对照消融支持,可复现性披露极低。 具体数据显示,48个2025年新增架构中39个复用至少两个核心模块,73项创新声明中仅19项提供对照实验,40篇报告仅1篇同时披露数据混合、Token数与算力。 研究提出七项报告准则,强调LLM发布需加强消融验证与透明度,未测试声明不等同于错误。
论文提出包含30个决策卡片和83条不变量条款的测试体系,基于Crewroom等11个智能体框架实践构建。 30个卡片分六组分析决策成本,83条中56条已测试、12条推测、15条开放;清单应用示例中30项有11项成立、14项不成立。 该框架用于验证智能体系统边界,未涉及答案质量、成本或其他平台评估排名。
研究定义“词表税”为未用 token 占模型字节比例,测得 Gemma 4 E2B 中达 1.93 GB。 通过合并闭包与裁剪证书修复 BPE 分词器,中位移除 89.7% 行且预测保持。 该方法以开源 Python 包及 41 种语言数据集形式发布。
研究者发布AfriBizClaims基准,包含六个非洲市场150条公司研究查询,涵盖英语、法语及葡萄牙语。 实验显示简单基线在虚构公司问题上拒绝率为100%且引用支持率98%,而多步智能体管道Konexium V1的查询精确度仅68%。 该研究表明增加步骤未提升证据接地效果,相关数据与标签将予以公开。
Bioformer-RetroMAE 基于 RetroMAE 对 Bioformer 进行持续预训练,参数量仅为 43M。 在 BioASQ Task 12B 检索测试中,其 MAP 较 PubMedBERT 提升 37.0%,Recall@100 提升 29.1%。 与 BM25 混合检索融合后,MAP 和 NDCG@10 分别较 BM25 单独检索提升 4.9% 和 4.6%。
研究人员适配仅在 1976-1995 年文本预训练的 NoLBERT 编码器,在不含 2023 年后数据的前提下识别财务电话会中管理层的真实回答,解决了传统模型评估中的后见之明偏差。
在 0.6B 模型上,语音嵌入干预未能消除中文输出“AI 味”,而采用校准 LLM 评审与 DPO 调优可将盲测胜率提升至 0.833,重复率降至 0.000。
EfficientSkill 是一个两阶段框架,通过技能发现与裁剪压缩提示词,解决反思式优化器导致的 token 膨胀问题。 在 MATH-500、ALFWorld 和 SpreadsheetBench 基准测试中,该框架将 11/12 配置下的输出 token 削减最高达 80%,同时在所有基准上提升平均准确率。
该研究对比了5个商业机器口译系统与26名人类译员的英语-中文同步口译表现。 在预谋语域中,最强机器系统在意义上极具竞争力,但在即兴语域中无机器系统接近顶级人类译员;机器口译主要存在语义扭曲、话语追踪失败及上下文不敏感解读的弱点。 这些发现为口译实践、教育及机器口译的未来开发提供了语域敏感的参考依据。
外部免训练治理层在 4 个 Qwen 模型上显著提升指令遵循率,修正检查器后 34 至 66 个答案达标,但生成时间增加 43-66%。 规则解析准确率仅为 70% 至 84%,不可满足请求导致推理模型陷入循环,且多数原始违规判定有误。
重审发现,在抽取式对抗问答中,全量数据训练优于仅使用33%模糊样本的训练。模糊样本在14个模型评估单元中全部击败随机33%子集,但全量数据在12/14单元中击败模糊样本,平均领先3.40 EM和4.10 F1。这表明数据制图法有助于减少数据选择,但无法作为全量训练的通用替代方案。
StaleBench 在 892 个真实更新事实中隔离陈旧检索失败,揭示检索指标可能反向评估记忆策略。 无日期展示时,保留策略与全保留对照组在首位返回相同陈述,但读者准确率分别相差 29.5 和 65.6 分;新增 Contamination@5 指标能正确区分策略优劣。 文章发布了数据、冻结评估器及参考基线,被 EACL 2027 Findings 接收。
SG-LegalClarify 是涵盖新加坡法律推理与歧义识别的大规模基准,包含 1,100 道律师撰写的源问题。 该基准含 340 道完整指定和 760 道欠指定问题,共 1,860 个评估实例,采用 IRAC 评估标准评分。 团队评估了 19 个 LLM,发现最佳模型在闭卷条件下仅满足 69.8% 的必填评估项,基准远未饱和。
ROUNDS 框架在 7 个模型和 1,035 个案例中评估多轮对话诊断,含选项时平均准确率 76.9%,无选项时降至 57.0%。 医生框架的误导性建议导致准确率下降 4.6 至 38.2 个百分点,且正确诊断易被错误建议覆盖;支持正确诊断的多数意见可提升准确率,揭示基准分数与可靠对话诊断间的差距。
SemMask提出一种语义优先的渐进掩码微调范式,使扩散语言模型优先解码高信息语义token,以解决伪自回归和功能词优先偏差。 该范式利用原始DLM对每个token的梯度识别语义token,并在掩码阶段优先保留这些token,同时调整损失权重以强化早期预测。
Sada-ASR 在 120 小时 MSA 及八种方言测试集中表现最优,120 小时测试集词错率 11.69%,优于 Microsoft MAI-Transcribe-2 的 13.51%。
研究提出基于审计任务的评估方法,测试自然语言自编码器(NLA)揭示潜在知识、识别误导提示及捕捉静默虚构的能力。 研究扩展NLA利用多层与多位置激活信息,使其更有效地应用于长转录文本,并减少错误声明。评估显示,延长训练时长可能会损害某些审计评估的性能。
研究在三个指令微调模型中发现,探测概念的最优方向与引导模型行为的最优方向不同,引导倾向于更接近均值差异的方向。 在59/60个层-模型-概念组合中验证了这一分离现象;对于情感分类,中间方向的引导效果比均值差异强27-56%。 在PopQA基准上,向“未知”引导使不确定错误的拒答率提高18-44个百分点,但极少纠正错误。
Mistral-7B 验证器下,最近期查找比最早匹配查找在 500-token 生成中加速最高 0.09,会话内存加权无显著增益。 医疗和法律文本中,选择性草稿器每 100 tokens 节省 3 至 4 焦耳能量;94% 生成结果与贪心解码完全一致。 重复惩罚导致长生成加速倍数从 1.4-1.7x 降至 1.1-1.2x,近期性依然有效。
研究发现,为LLM提供Komi-Zyrian等语言的规则资源可显著提升其机器翻译质量。在272句测试中,预置分析入提示词使翻译接受率从13增至43,通过M调用工具则升至55。 这一增益主要源于双语词典,且工具调用机制在31个开源模型中表现不稳定,14个模型未能成功调用。