Centered Ablation:修正末层方向性消融失效与崩溃的闭式解
针对语言模型末层方向性消融常出现的失效或文本崩溃问题,提出闭式解 Centered Ablation(CA)以剔除公共模式影响。 在 8 个模型测试中,CA 使攻击成功率提升 29 至 46 分,将 Gemma-2-9B 的崩溃率从 50% 降至 1%,且在低重叠度模型上比线性偏移方法多保留 39 至 46 分的安全性。
针对语言模型末层方向性消融常出现的失效或文本崩溃问题,提出闭式解 Centered Ablation(CA)以剔除公共模式影响。 在 8 个模型测试中,CA 使攻击成功率提升 29 至 46 分,将 Gemma-2-9B 的崩溃率从 50% 降至 1%,且在低重叠度模型上比线性偏移方法多保留 39 至 46 分的安全性。
基于 mDeBERTa-v3-base 的 279M 参数交叉编码器在乌尔都语移动网页 UI 定位任务中表现优异,73.4% 的点框准确率显著高于零样本的 UI-TARS-2B(29.6%)和 Qwen2.5-VL-7B(23.7%)。
两项开源决策模型 Nimble 9B 和 Tev1 4B 在 1,113 份口腔癌病理报告中提取 25 项数据,Tev1 字段准确率 0.917,与 Qwen3.5 9B 持平但快四倍。
研究发现,LLM 在多轮交互中保留完整对话历史会显著降低准确率,且过程指标难以提前预警。 GPT-4o-mini 和 Mistral-7B 的最终成功率分别下降 0.21 和 0.29;CDD-Stream 测试显示,20 轮内准确率从 0.6 跌至 0.1,而使用状态摘要可保持高准确率。 研究建议系统应将任务状态置于对话记录之外,并跨会话进行监控。
研究显示,11 个通过测量阈值的开源 LLM 在可能性、必要性及证据副词下支持普通话 Wh-不定词,强度为否定的 0.42-2.33 倍,而英语 any 在相同语境中未获支持。 测试覆盖 12 个开源模型(0.5B-9B,四个家族)及 48 组匹配双语框架;Qwen2.5-32B 的探索性扩展也显示相同结果。
该研究发布整合量化语言模型与本地知识库的离线 Android 母婴健康助手,在 6GB 手机上实现 14.3s 中位延迟。对比显示 Gemma 4 E2B 响应质量更高,150 条响应均分 3.80/4;Qwen3.5 0.8B 生成更快且内存占用更低。
研究分析了Hugging Face库中40篇LLM技术报告,发现多数新架构复用Llama组件,且仅19项创新声明有对照消融支持,可复现性披露极低。 具体数据显示,48个2025年新增架构中39个复用至少两个核心模块,73项创新声明中仅19项提供对照实验,40篇报告仅1篇同时披露数据混合、Token数与算力。 研究提出七项报告准则,强调LLM发布需加强消融验证与透明度,未测试声明不等同于错误。
论文提出包含30个决策卡片和83条不变量条款的测试体系,基于Crewroom等11个智能体框架实践构建。 30个卡片分六组分析决策成本,83条中56条已测试、12条推测、15条开放;清单应用示例中30项有11项成立、14项不成立。 该框架用于验证智能体系统边界,未涉及答案质量、成本或其他平台评估排名。
研究定义“词表税”为未用 token 占模型字节比例,测得 Gemma 4 E2B 中达 1.93 GB。 通过合并闭包与裁剪证书修复 BPE 分词器,中位移除 89.7% 行且预测保持。 该方法以开源 Python 包及 41 种语言数据集形式发布。
研究者发布AfriBizClaims基准,包含六个非洲市场150条公司研究查询,涵盖英语、法语及葡萄牙语。 实验显示简单基线在虚构公司问题上拒绝率为100%且引用支持率98%,而多步智能体管道Konexium V1的查询精确度仅68%。 该研究表明增加步骤未提升证据接地效果,相关数据与标签将予以公开。
Bioformer-RetroMAE 基于 RetroMAE 对 Bioformer 进行持续预训练,参数量仅为 43M。 在 BioASQ Task 12B 检索测试中,其 MAP 较 PubMedBERT 提升 37.0%,Recall@100 提升 29.1%。 与 BM25 混合检索融合后,MAP 和 NDCG@10 分别较 BM25 单独检索提升 4.9% 和 4.6%。
研究人员适配仅在 1976-1995 年文本预训练的 NoLBERT 编码器,在不含 2023 年后数据的前提下识别财务电话会中管理层的真实回答,解决了传统模型评估中的后见之明偏差。
在 0.6B 模型上,语音嵌入干预未能消除中文输出“AI 味”,而采用校准 LLM 评审与 DPO 调优可将盲测胜率提升至 0.833,重复率降至 0.000。
EfficientSkill 是一个两阶段框架,通过技能发现与裁剪压缩提示词,解决反思式优化器导致的 token 膨胀问题。 在 MATH-500、ALFWorld 和 SpreadsheetBench 基准测试中,该框架将 11/12 配置下的输出 token 削减最高达 80%,同时在所有基准上提升平均准确率。
该研究对比了5个商业机器口译系统与26名人类译员的英语-中文同步口译表现。 在预谋语域中,最强机器系统在意义上极具竞争力,但在即兴语域中无机器系统接近顶级人类译员;机器口译主要存在语义扭曲、话语追踪失败及上下文不敏感解读的弱点。 这些发现为口译实践、教育及机器口译的未来开发提供了语域敏感的参考依据。
外部免训练治理层在 4 个 Qwen 模型上显著提升指令遵循率,修正检查器后 34 至 66 个答案达标,但生成时间增加 43-66%。 规则解析准确率仅为 70% 至 84%,不可满足请求导致推理模型陷入循环,且多数原始违规判定有误。
重审发现,在抽取式对抗问答中,全量数据训练优于仅使用33%模糊样本的训练。模糊样本在14个模型评估单元中全部击败随机33%子集,但全量数据在12/14单元中击败模糊样本,平均领先3.40 EM和4.10 F1。这表明数据制图法有助于减少数据选择,但无法作为全量训练的通用替代方案。
StaleBench 在 892 个真实更新事实中隔离陈旧检索失败,揭示检索指标可能反向评估记忆策略。 无日期展示时,保留策略与全保留对照组在首位返回相同陈述,但读者准确率分别相差 29.5 和 65.6 分;新增 Contamination@5 指标能正确区分策略优劣。 文章发布了数据、冻结评估器及参考基线,被 EACL 2027 Findings 接收。
SG-LegalClarify 是涵盖新加坡法律推理与歧义识别的大规模基准,包含 1,100 道律师撰写的源问题。 该基准含 340 道完整指定和 760 道欠指定问题,共 1,860 个评估实例,采用 IRAC 评估标准评分。 团队评估了 19 个 LLM,发现最佳模型在闭卷条件下仅满足 69.8% 的必填评估项,基准远未饱和。
ROUNDS 框架在 7 个模型和 1,035 个案例中评估多轮对话诊断,含选项时平均准确率 76.9%,无选项时降至 57.0%。 医生框架的误导性建议导致准确率下降 4.6 至 38.2 个百分点,且正确诊断易被错误建议覆盖;支持正确诊断的多数意见可提升准确率,揭示基准分数与可靠对话诊断间的差距。
SemMask提出一种语义优先的渐进掩码微调范式,使扩散语言模型优先解码高信息语义token,以解决伪自回归和功能词优先偏差。 该范式利用原始DLM对每个token的梯度识别语义token,并在掩码阶段优先保留这些token,同时调整损失权重以强化早期预测。
Sada-ASR 在 120 小时 MSA 及八种方言测试集中表现最优,120 小时测试集词错率 11.69%,优于 Microsoft MAI-Transcribe-2 的 13.51%。
研究提出基于审计任务的评估方法,测试自然语言自编码器(NLA)揭示潜在知识、识别误导提示及捕捉静默虚构的能力。 研究扩展NLA利用多层与多位置激活信息,使其更有效地应用于长转录文本,并减少错误声明。评估显示,延长训练时长可能会损害某些审计评估的性能。
研究在三个指令微调模型中发现,探测概念的最优方向与引导模型行为的最优方向不同,引导倾向于更接近均值差异的方向。 在59/60个层-模型-概念组合中验证了这一分离现象;对于情感分类,中间方向的引导效果比均值差异强27-56%。 在PopQA基准上,向“未知”引导使不确定错误的拒答率提高18-44个百分点,但极少纠正错误。
Mistral-7B 验证器下,最近期查找比最早匹配查找在 500-token 生成中加速最高 0.09,会话内存加权无显著增益。 医疗和法律文本中,选择性草稿器每 100 tokens 节省 3 至 4 焦耳能量;94% 生成结果与贪心解码完全一致。 重复惩罚导致长生成加速倍数从 1.4-1.7x 降至 1.1-1.2x,近期性依然有效。
研究发现,为LLM提供Komi-Zyrian等语言的规则资源可显著提升其机器翻译质量。在272句测试中,预置分析入提示词使翻译接受率从13增至43,通过M调用工具则升至55。 这一增益主要源于双语词典,且工具调用机制在31个开源模型中表现不稳定,14个模型未能成功调用。
研究提出角色扮演遗忘任务,旨在选择性遗忘目标角色的风格与知识,同时保留非目标角色的语言能力。 提出 RoleMoE 混合专家框架,通过专业化损失和解耦损失映射独立专家子空间,提升角色分离与结构可解释性。 实验在多个 LLM 骨干上表明 RoleMoE 能精确可控地遗忘角色,且代码和数据集已公开。
研究利用262,276条Reddit记录评估异构Transformer融合框架,选定模型组合达成0.844 macro-F1,较最佳单模型提升0.021。 审计发现50.2%记录存在训练集谱系重叠,故采用谱系不相交划分。去重驱动词移除导致58%的拯救案例失效。 谱系审计可检测词汇过滤遗漏的依赖,校准揭示集成行为盲区。
OmitEHR提出无参考标准漏项检测器,在5000例住院记录中,其预测临床关键句性能优于含LLM评判基线。 该工具每摘要处理耗时17.7-19.5秒,成本$0.03-$0.13,比LLM逐句评分快1.6-1.7倍、便宜5.6-6.7倍。 盲审确认其每摘要平均识别5.6个临床意义漏项,高于全LLM管线的3.3个。
该研究提出框架直接比较训练数据归因方法,发现同类范式内存在强表征与中等功能对齐,跨范式对齐低且依赖任务。 对齐稳定性与任务相关,相似下游性能源于文档相对重要性一致而非全量排序一致。 研究将发表于EACL 2027,为归因方法评估提供直接比较维度。
B-OPSD 提出利用自生成问题简述替代真值解法,在 AIME 2024、AIME 2025 和 HMMT 2025 上,其在 Qwen3 三种规模下的平均准确率均高于 OPSD。 该方法通过提示词生成包含原则与陷阱的问题简述,冻结教师模型以此作为特权上下文指导当前学生策略,训练全程无需真值解法。
研究提出残差解释搜索(RES)作为稀疏重构诊断程序,用于选择少样本演示子集。RES在56个模型-数据集组合中的34个上优于MMR,情感任务优势最明显,但相关性检索在模板推理基准上表现更佳。 目标模型中间层表示更利于相似度检索,最后层则更适合残差和多样性选择。研究支持依据表示条件判断上下文子集质量的观点,而非追求普适最优选择器。
Omni-Workspace 包含 380 个深度研究风格任务,涵盖四种多模态工作区类型和两个难度等级,用于评估全模态智能体。 18 个代表性模型评估显示,最佳模型平均分仅为 65.93,暴露出多模态上下文膨胀和任务状态漂移等长程执行局限。 该基准推动了全模态智能体在复杂任务自主完成方面的评估与发展。
VLM 规划器在遮挡诱导的部分可观测性下性能骤降,新基准 BW-PO 将现有模型成功率降至 1%。 提出 VLM-as-perceiver 范式,将 VLM 角色限定于局部感知,跨视图证据调和与规划交由外部求解器。 该方法使 Gemma-4-31B 成功率达 97%,Qwen3.5-122B-A10B 达 95%,Gemini-3.1-Pro 达 84%。
基于可言语化工作区的运行时对齐监视器无法捕获模型的角色-填充绑定结构。实验在 Qwen3.6-27B 和 Gemma-3 系列模型上验证,线性探针在工作区读取角色时表现低于随机对照组。 这意味着该监视器会遗漏模型自身所表征的角色分配,且消融实验仅在 Gemma-3-27B-IT 上显示出绑定损伤。
基于 40 亿参数的 OceanGPT-basic-4B-Instruct,通过训练两个 LoRA 适配器构建 MarineSparkLM-4B。 每个适配器更新 3300 万参数(占 0.81%),在单台 NVIDIA DGX Spark 上训练耗时分别为 4 小时 40 分钟和 10 分钟。
在 CosyVoice 2 框架下,少量笑声数据搭配其他非语言声音(如咳嗽)可显著提升生成效果。仅用 200 条笑声样本加 3,200 条咳嗽样本,笑声端到端 F1 从 0.170 升至 0.529,超过 1,600 条纯笑声样本的 0.495。 该研究发现跨 Token 迁移在低资源非语言声音生成中具有互补价值。 这一结论为缓解非语言数据稀缺问题提供了新的技术路径。
研究人员通过结合固定角色说话人归因WER(SA-WER)评分器与回合级起始延迟奖励的强化学习可验证奖励(RLVR)方法,对基于LLM的流式自动语音识别模型进行后训练。
研究比较了 Pipecat、LiveKit 和 GPT-Live 在西班牙语电话货运费率谈判中的表现,GPT-Live 中位响应延迟为 2,444.8 ms,优于 Pipecat 的 2,616.0 ms 和 LiveKit 的 3,090.0 ms。
研究者推导了中心池化概念子可精确分解为平均极滤波器、均值分离更新和协方差形状更新的几何理论。 在五个语言模型的情绪、政治倾向等实验中,双极拟合比单极拟合更一致地提升两极证据强度。 研究发现概念子尺寸与逐层探针性能正相关,双极拟合在放大对立两极目标时表现更优。