权重空间编程改变 LLM 在计算生物学中如何使用 Python
Claude Opus 5.5 通过权重空间编程编辑 Qwen3.5-0.8B,显著提升其在计算生物学 Python 任务中的表现。 严格正确率从 44 升至 77,技术正确率从 64 升至 100,重复 Python 调用次数从 1,834 降至 1,044。 权重编辑改变了模型的计算过程及答案提交逻辑,修正了部分原有计算错误。
Claude Opus 5.5 通过权重空间编程编辑 Qwen3.5-0.8B,显著提升其在计算生物学 Python 任务中的表现。 严格正确率从 44 升至 77,技术正确率从 64 升至 100,重复 Python 调用次数从 1,834 降至 1,044。 权重编辑改变了模型的计算过程及答案提交逻辑,修正了部分原有计算错误。
研究将拒答方向框架扩展至查询歧义、模型知识限制与人类价值观对齐三个维度。 通过构建反事实对并计算激活动差,发现中间层激活转向能调节三种拒答行为,且各维度存在共同方向分量。 该机制可解释性有助于提升大语言模型在不确定性下的可信度。
研究表明 Gemma-2-9B-IT 中拒绝相关的线性方向可操控模型拒绝语域,而非仅控制是否拒绝。 在 9B 模型第 20 层注入差异均值方向,使内容安全词汇每百词从 2.55 升至 10.37,随机对照仅 1.13-2.16。 9B 模型中 B1 方向因果效应显著大于 B2,揭示 B1 编码类别检测与词汇信息,B2 主要编码类别检测。
对比点式评分、集合式评分与候选注意力三种方法,研究发现点式评分在五个代理决策基准中依然具有竞争力。 集合式评分在部分工具选择和二元决策任务中表现更好,但允许跨候选交互的候选注意力并未带来一致提升。 通过两个受控合成任务进一步验证,定向关系训练有助于集合式模型学习候选依赖并实现泛化。
研究测试了类型化决策模型 Jev 在 24 篇 ACL 会议论文中的表现。 Jev 零样本直接替代了 46 个测试集里的 12 个,加 500 标签的提示优化中位数弥合 72% 差距,成本每搜索 $1.66。 相比微调 RoBERTa、DeBERTa 或 Qwen3.8-27B,零样本在简单标签下常够用,微调仍最准。
使用 Gemini 基于 55 位作家风格重写 991 篇 AI 文本后,QuillBot 检测器中位分数从 100% 降至 0%。 平均分由 67.9% 降至 11.2%,66% 的重写文本得分为 0%。 研究指出该结果仅适用于特定检测器与重写系统,且重写文本长度显著增加。
论文提出带风险认证的提示词优化框架,通过统计控制将漏检攻击率限制在用户指定水平 α 以内,最大化良性通过率。 该框架包含 CPS 与 CRISP 两种流程,利用同步上置信界进行认证,并在四个涉及提示注入等数据集上验证了其在不同风险容忍度下的效用提升。
针对语言模型末层方向性消融常出现的失效或文本崩溃问题,提出闭式解 Centered Ablation(CA)以剔除公共模式影响。 在 8 个模型测试中,CA 使攻击成功率提升 29 至 46 分,将 Gemma-2-9B 的崩溃率从 50% 降至 1%,且在低重叠度模型上比线性偏移方法多保留 39 至 46 分的安全性。
基于 mDeBERTa-v3-base 的 279M 参数交叉编码器在乌尔都语移动网页 UI 定位任务中表现优异,73.4% 的点框准确率显著高于零样本的 UI-TARS-2B(29.6%)和 Qwen2.5-VL-7B(23.7%)。
两项开源决策模型 Nimble 9B 和 Tev1 4B 在 1,113 份口腔癌病理报告中提取 25 项数据,Tev1 字段准确率 0.917,与 Qwen3.5 9B 持平但快四倍。
研究发现,LLM 在多轮交互中保留完整对话历史会显著降低准确率,且过程指标难以提前预警。 GPT-4o-mini 和 Mistral-7B 的最终成功率分别下降 0.21 和 0.29;CDD-Stream 测试显示,20 轮内准确率从 0.6 跌至 0.1,而使用状态摘要可保持高准确率。 研究建议系统应将任务状态置于对话记录之外,并跨会话进行监控。
研究显示,11 个通过测量阈值的开源 LLM 在可能性、必要性及证据副词下支持普通话 Wh-不定词,强度为否定的 0.42-2.33 倍,而英语 any 在相同语境中未获支持。 测试覆盖 12 个开源模型(0.5B-9B,四个家族)及 48 组匹配双语框架;Qwen2.5-32B 的探索性扩展也显示相同结果。
该研究发布整合量化语言模型与本地知识库的离线 Android 母婴健康助手,在 6GB 手机上实现 14.3s 中位延迟。对比显示 Gemma 4 E2B 响应质量更高,150 条响应均分 3.80/4;Qwen3.5 0.8B 生成更快且内存占用更低。
研究分析了Hugging Face库中40篇LLM技术报告,发现多数新架构复用Llama组件,且仅19项创新声明有对照消融支持,可复现性披露极低。 具体数据显示,48个2025年新增架构中39个复用至少两个核心模块,73项创新声明中仅19项提供对照实验,40篇报告仅1篇同时披露数据混合、Token数与算力。 研究提出七项报告准则,强调LLM发布需加强消融验证与透明度,未测试声明不等同于错误。
论文提出包含30个决策卡片和83条不变量条款的测试体系,基于Crewroom等11个智能体框架实践构建。 30个卡片分六组分析决策成本,83条中56条已测试、12条推测、15条开放;清单应用示例中30项有11项成立、14项不成立。 该框架用于验证智能体系统边界,未涉及答案质量、成本或其他平台评估排名。
研究定义“词表税”为未用 token 占模型字节比例,测得 Gemma 4 E2B 中达 1.93 GB。 通过合并闭包与裁剪证书修复 BPE 分词器,中位移除 89.7% 行且预测保持。 该方法以开源 Python 包及 41 种语言数据集形式发布。
研究者发布AfriBizClaims基准,包含六个非洲市场150条公司研究查询,涵盖英语、法语及葡萄牙语。 实验显示简单基线在虚构公司问题上拒绝率为100%且引用支持率98%,而多步智能体管道Konexium V1的查询精确度仅68%。 该研究表明增加步骤未提升证据接地效果,相关数据与标签将予以公开。
Bioformer-RetroMAE 基于 RetroMAE 对 Bioformer 进行持续预训练,参数量仅为 43M。 在 BioASQ Task 12B 检索测试中,其 MAP 较 PubMedBERT 提升 37.0%,Recall@100 提升 29.1%。 与 BM25 混合检索融合后,MAP 和 NDCG@10 分别较 BM25 单独检索提升 4.9% 和 4.6%。
研究人员适配仅在 1976-1995 年文本预训练的 NoLBERT 编码器,在不含 2023 年后数据的前提下识别财务电话会中管理层的真实回答,解决了传统模型评估中的后见之明偏差。
在 0.6B 模型上,语音嵌入干预未能消除中文输出“AI 味”,而采用校准 LLM 评审与 DPO 调优可将盲测胜率提升至 0.833,重复率降至 0.000。
EfficientSkill 是一个两阶段框架,通过技能发现与裁剪压缩提示词,解决反思式优化器导致的 token 膨胀问题。 在 MATH-500、ALFWorld 和 SpreadsheetBench 基准测试中,该框架将 11/12 配置下的输出 token 削减最高达 80%,同时在所有基准上提升平均准确率。
该研究对比了5个商业机器口译系统与26名人类译员的英语-中文同步口译表现。 在预谋语域中,最强机器系统在意义上极具竞争力,但在即兴语域中无机器系统接近顶级人类译员;机器口译主要存在语义扭曲、话语追踪失败及上下文不敏感解读的弱点。 这些发现为口译实践、教育及机器口译的未来开发提供了语域敏感的参考依据。
外部免训练治理层在 4 个 Qwen 模型上显著提升指令遵循率,修正检查器后 34 至 66 个答案达标,但生成时间增加 43-66%。 规则解析准确率仅为 70% 至 84%,不可满足请求导致推理模型陷入循环,且多数原始违规判定有误。
重审发现,在抽取式对抗问答中,全量数据训练优于仅使用33%模糊样本的训练。模糊样本在14个模型评估单元中全部击败随机33%子集,但全量数据在12/14单元中击败模糊样本,平均领先3.40 EM和4.10 F1。这表明数据制图法有助于减少数据选择,但无法作为全量训练的通用替代方案。
StaleBench 在 892 个真实更新事实中隔离陈旧检索失败,揭示检索指标可能反向评估记忆策略。 无日期展示时,保留策略与全保留对照组在首位返回相同陈述,但读者准确率分别相差 29.5 和 65.6 分;新增 Contamination@5 指标能正确区分策略优劣。 文章发布了数据、冻结评估器及参考基线,被 EACL 2027 Findings 接收。
SG-LegalClarify 是涵盖新加坡法律推理与歧义识别的大规模基准,包含 1,100 道律师撰写的源问题。 该基准含 340 道完整指定和 760 道欠指定问题,共 1,860 个评估实例,采用 IRAC 评估标准评分。 团队评估了 19 个 LLM,发现最佳模型在闭卷条件下仅满足 69.8% 的必填评估项,基准远未饱和。
ROUNDS 框架在 7 个模型和 1,035 个案例中评估多轮对话诊断,含选项时平均准确率 76.9%,无选项时降至 57.0%。 医生框架的误导性建议导致准确率下降 4.6 至 38.2 个百分点,且正确诊断易被错误建议覆盖;支持正确诊断的多数意见可提升准确率,揭示基准分数与可靠对话诊断间的差距。
SemMask提出一种语义优先的渐进掩码微调范式,使扩散语言模型优先解码高信息语义token,以解决伪自回归和功能词优先偏差。 该范式利用原始DLM对每个token的梯度识别语义token,并在掩码阶段优先保留这些token,同时调整损失权重以强化早期预测。
Sada-ASR 在 120 小时 MSA 及八种方言测试集中表现最优,120 小时测试集词错率 11.69%,优于 Microsoft MAI-Transcribe-2 的 13.51%。
研究提出基于审计任务的评估方法,测试自然语言自编码器(NLA)揭示潜在知识、识别误导提示及捕捉静默虚构的能力。 研究扩展NLA利用多层与多位置激活信息,使其更有效地应用于长转录文本,并减少错误声明。评估显示,延长训练时长可能会损害某些审计评估的性能。
研究在三个指令微调模型中发现,探测概念的最优方向与引导模型行为的最优方向不同,引导倾向于更接近均值差异的方向。 在59/60个层-模型-概念组合中验证了这一分离现象;对于情感分类,中间方向的引导效果比均值差异强27-56%。 在PopQA基准上,向“未知”引导使不确定错误的拒答率提高18-44个百分点,但极少纠正错误。
Mistral-7B 验证器下,最近期查找比最早匹配查找在 500-token 生成中加速最高 0.09,会话内存加权无显著增益。 医疗和法律文本中,选择性草稿器每 100 tokens 节省 3 至 4 焦耳能量;94% 生成结果与贪心解码完全一致。 重复惩罚导致长生成加速倍数从 1.4-1.7x 降至 1.1-1.2x,近期性依然有效。
研究发现,为LLM提供Komi-Zyrian等语言的规则资源可显著提升其机器翻译质量。在272句测试中,预置分析入提示词使翻译接受率从13增至43,通过M调用工具则升至55。 这一增益主要源于双语词典,且工具调用机制在31个开源模型中表现不稳定,14个模型未能成功调用。
研究提出角色扮演遗忘任务,旨在选择性遗忘目标角色的风格与知识,同时保留非目标角色的语言能力。 提出 RoleMoE 混合专家框架,通过专业化损失和解耦损失映射独立专家子空间,提升角色分离与结构可解释性。 实验在多个 LLM 骨干上表明 RoleMoE 能精确可控地遗忘角色,且代码和数据集已公开。
研究利用262,276条Reddit记录评估异构Transformer融合框架,选定模型组合达成0.844 macro-F1,较最佳单模型提升0.021。 审计发现50.2%记录存在训练集谱系重叠,故采用谱系不相交划分。去重驱动词移除导致58%的拯救案例失效。 谱系审计可检测词汇过滤遗漏的依赖,校准揭示集成行为盲区。
OmitEHR提出无参考标准漏项检测器,在5000例住院记录中,其预测临床关键句性能优于含LLM评判基线。 该工具每摘要处理耗时17.7-19.5秒,成本$0.03-$0.13,比LLM逐句评分快1.6-1.7倍、便宜5.6-6.7倍。 盲审确认其每摘要平均识别5.6个临床意义漏项,高于全LLM管线的3.3个。
该研究提出框架直接比较训练数据归因方法,发现同类范式内存在强表征与中等功能对齐,跨范式对齐低且依赖任务。 对齐稳定性与任务相关,相似下游性能源于文档相对重要性一致而非全量排序一致。 研究将发表于EACL 2027,为归因方法评估提供直接比较维度。
B-OPSD 提出利用自生成问题简述替代真值解法,在 AIME 2024、AIME 2025 和 HMMT 2025 上,其在 Qwen3 三种规模下的平均准确率均高于 OPSD。 该方法通过提示词生成包含原则与陷阱的问题简述,冻结教师模型以此作为特权上下文指导当前学生策略,训练全程无需真值解法。
研究提出残差解释搜索(RES)作为稀疏重构诊断程序,用于选择少样本演示子集。RES在56个模型-数据集组合中的34个上优于MMR,情感任务优势最明显,但相关性检索在模板推理基准上表现更佳。 目标模型中间层表示更利于相似度检索,最后层则更适合残差和多样性选择。研究支持依据表示条件判断上下文子集质量的观点,而非追求普适最优选择器。
Omni-Workspace 包含 380 个深度研究风格任务,涵盖四种多模态工作区类型和两个难度等级,用于评估全模态智能体。 18 个代表性模型评估显示,最佳模型平均分仅为 65.93,暴露出多模态上下文膨胀和任务状态漂移等长程执行局限。 该基准推动了全模态智能体在复杂任务自主完成方面的评估与发展。