Infrathon 基准研究显示,模型排名随评估时程变化,且 150 次实验中 135 次在后半程实现了进一步优化。
Infrathon 基准测试评估了 6 个模型在 24 小时预算下的 150 次运行,累计超过 10,000 GPU 时。Claude Opus 5.5 在 KV-cache 压缩任务中超越人类设计基线,将平均压缩率从 6.82% 提升至 19.86%。
Infrathon 基准测试评估了 6 个模型在 24 小时预算下的 150 次运行,累计超过 10,000 GPU 时。Claude Opus 5.5 在 KV-cache 压缩任务中超越人类设计基线,将平均压缩率从 6.82% 提升至 19.86%。
在包含8个论点的人群模拟中,未干预的基线立场漂移占表观 campaign 效应的相当比例。移除漂移后,LLM 观点变化方向与证据强弱更一致而非 campaign 角色,且无干预时立场多样性也持续减少。两社区网络中 campaign 主要减少社区间差异;LLM 常不为其分配立场辩护,且博弈无纯策略均衡。
研究提出“创意引导”方法,通过训练引导模型生成提示词特定的 primer,辅助响应模型创意生成,从而解耦创意过程与响应生成。 引导模型通过 GRPO 进行训练,奖励生成新颖、高质量且多样化响应的 primer,强化产生创意响应的过程而不强化具体响应本身。
这篇 arXiv 论文提出了“naive LLMs”,即通过训练剥夺或有意遗忘来让 LLM 对特定主题保持无知,使其摆脱既有偏见,从而产生更新的点子。 测试了 1B 和 7B 规模的 naive 模型,其生成的种子创意在新颖性和实用性上始终优于基线模型;再由更强的 mentor 模型进行精炼,效果进一步提升。
ODSA(Orchestrated Discovery and Self-Aggregation)是一种 LLM 驱动的测试时扩展框架,由编排器 LLM 指挥无状态工作节点执行发现、比较和接受动作。
提出 TLRS-DPO 方法,在离线 DPO 框架中引入 token 级控制以精准抑制不安全回复中的局部模式。 该方法包含 token 级鲁棒补偿项、课程式训练调度及风险自适应筛选机制,可作为标准 DPO 训练器的即插即用修改。 实验表明,TLRS-DPO 在强 DPO 基线之上提升了模型对齐质量与安全行为,且对 helpfulness 影响极小。
提出 SGA-Sparse 方法,将预训练 SwiGLU LLM 转化为固定预算激活稀疏模型,通过直接训练门控作为 top-k 路由器,不使用辅助参数。 LLaMA 1B-8B 模型在约 30B 训练 token 后实现 75-85% FFN 通道稀疏,零样本准确率损失控制在 0.2-2.7 pp 以内。
在21个任务对与6个检查点中,谱选择方法在4/6检查点实现最高联合成功率,5个≥1.5B模型联合成功率达53.1%,平均最低任务增益+0.61个百分点。 固定预算框架结合跨任务筛选、逐层对几何与独立验证,17.1%回归率表明模型可组合性仍受条件限制。
LLM 数学性能受任务呈现与执行路径影响。单行提交指令使 390 次输出中 390 次格式有效,389 次可解析;允许推导指令导致 390 次短输出无一产生有效最终答案。
DM-Call 结合本地架构验证与决策模型校验,在 BFCL 和 API-Bank 测试中提升了函数调用准确性。 该框架通过累积验证概率、二元判断及架构错误,结合数值概率与口语化标签指导迭代优化,无需执行外部工具。
研究审计六款大语言模型处理自杀意念与心理痛苦时的身份假设,发现模型常将身份披露转化为解释性叙事。在16种身份与控制条件及两种提示协议下,模型倾向于在富有同理心的回应中,将对身份相关逆境归因于痛苦,尤其针对边缘化身份。这种“富有同情心的他者化”可能误导个体体验,强调了基于用户披露而非无依据假设进行解读的重要性。
CAELUM 框架通过分离随机性与认知不确定性,为 LLM 生成构建语义预测集。在 30 个 LLM 与数据集组合(4-32B 参数)的 78 次评估中,学习分层下的平均覆盖率为 0.74,优于整体平均的 0.65。该框架已在 NeurIPS 2026 会议接受。
提出CVSA方法,通过验证-修正循环实现LLM长上下文解码的闭环质量控制,无需采样或推测解码基础设施。 CVSA在7B和70B模型上,LongBench评分距密集注意力仅差1.13分,128K上下文中位解码速度达6.21倍。 该方法被NeurIPS 2026接收,为提升长上下文处理效率提供新方案。
研究发现LLM掌握时间规则但缺乏时间体验,在基于时间理论的问题集上准确率达92.0%-97.5%。模型低估自身任务完成时间最多达99.5%,且对等待时间的敏感度缺失,曾忽略1200倍的等待时长增加。该研究揭示了LLM在无法直接感知的时间维度上的认知盲区。
研究发现,大多数大语言模型在道德价值观权衡中的选择缺乏稳定传递性,聚合响应无法匹配单个选择集结构。 研究通过向模型呈现二元道德困境并提取首词分布概率,对比三种随机传递选择模型验证了这一假设。 文章指出,评估 AI 道德前应先确认其选择具备结构化特征,而非直接判断对齐性。
引入 CoRA-Bench 基准,用于评估共享 Token 预算下上下文选择器的证据保留能力。 对比头尾截断、BM25、密集检索等方法在 BABILong 等四个数据集上的表现,揭示任务依赖的权衡:BM25 在 BABILong 128K 下支持事实召回率达 0.921,密集检索在 LongMemEval 64K 下答案保留轮次召回率达 0.993。
LLM Agent 易受欺骗,研究人员构建包含 5,000 条标注对话的语料库 AVCORP,并基于该语料对 Qwen3-8B 进行训练。 在 25 场留出游戏中,最佳检测器超越 GPT-5.6 Sol、Gemini 3.1 Pro 等前沿模型,表现匹配 Claude Opus 5.5;在 20 场人类游戏中,所有训练后的检测器 F1 分数均高于未训练基线。
为评估 AI 生成深度研究报告的质量,研究人员提出首个专用基准 DeepResearch RewardBench。该基准通过多轮过滤和人工验证,构建了包含对、三元组及四元组的偏好数据集。 实验显示,当前奖励模型在研究报告评估上表现下降,生成式 LLM 作为裁判更具优势。该基准预计将成为评估和提升研究智能体的重要测试平台。
针对 LLM 智能体重复调用技能的低效问题,论文提出 SkillCache 方法,将技能执行编译为可复用胶囊,仅在必要时返回控制权给模型,显著降低 token 消耗并提升复用效率。
Micius-Flash 是一款拥有 27B 参数、256K-token 上下文窗口及原生多模态输入的开源模型。 该模型通过 MOPD 技术集成半导体与硬件专家模型,在硬件代码基准中平均得分 64.2%,半导体智能体基准得分 62.4%。 研究团队开发了 Micius Harness,支持连接 EDA 工具与 KiCad,已开源以推进工程智能体发展。
研究发现 LLM 生成的可解释 AI 叙事(XAINs)存在显著社会差异。 基于信用评分、教育和就业四个数据集,利用五个 LLM 评估发现:忠实度差异源于特征值在群体间分布不均,而特征覆盖率和情感差异则因受保护属性披露而加剧,被歧视群体往往获得更少解释或更负面框架。 建议将 XAINs 的公平性与预测模型及其 XAI 产物分开独立审计。
研究通过激活修补技术追踪三个不同规模 LLM 的多语言生成机制。发现中间层首先表达英语默认信号,内容信息在后续一层才因果可用,最终目标语言在更深层解析。 稀疏自编码器分析显示,中间层的语言信号在稀疏特征中表现微弱,而后续的语言区分特征虽明显但难以通过修补干预改变。
新提出的短语级投机解码方法,通过冻结目标模型的隐藏状态预测1-3词短语作为草稿词表条目,在Qwen3-4B上保持输出与贪心解码一致。
研究者提出SPACE基准框架,结合受控协议与互补数据集,以区分LLM输出中的人格倾向、能力与指令影响。 实验结果表明,尽管提示词能改变生成风格,但模型内部的人格倾向具有持久性,难以被相反指令覆盖,且对LLM任务表现有可观察的影响。 该研究强调了关注大模型人格特征及其潜在应用的必要性,训练代码与基准规范已开源。
在生产级多语言任务中,专家剪枝(REAP)显著优于专家合并(REAM)。 在 Qwen3-30B-A3B-Instruct-2507 和 Nemotron-3.5-Lightning 模型上,剪枝在 20 次对比中的 16 次胜出;移除 25% 专家时,REAP 保留 93.6% 生成质量,而 REAM 仅保留 62.5%。
研究显示使用 bf16 递归状态会导致 6 个混合推理模型推理变长,其中 5 个模型几何平均长度增加 1.07x 至 1.27x。 在 Qwen3.5-9B 上,bf16 RTN 使准确率从 85.6% 降至 70.8%,LiveCodeBench pass@1 下降 12.6 至 13.4 分;bf16 SR 可消除长度增加并恢复准确率至 87.6%。
RDS-MOPD 引入分布鲁棒优化改进多教师同策略蒸馏,解决现有方法无法保证落后领域训练质量的问题。 该方法重新设计 DRO 的噪声处理、异常值限制及最坏情况定义,确保仅当差异显著超出噪声时调整资源分配。 实验显示 RDS-MOPD 在数学推理、代码生成及指令遵循基准测试中性能优于近期竞争方法。
大语言模型(LRMs)常因过度思考生成冗长推理链,强化学习惩罚机制易导致信用混淆。AES方法通过选择性保留高效参考前的高熵token并惩罚冗余后缀,解决了抑制与探索的权衡问题。 在8个推理基准测试中,AES将推理长度减少最多52.9%,平均准确率提升最多3.8%,持续优于现有效率导向方法。代码已开源,该研究已被NeurIPS 2026接收。
ShopMind 提出了一种电商用户模拟的心理世界模型,通过捕捉消费者心智状态(信念、不确定性、意图)的演变,解决现有模拟器在个性化和行为真实性上的不足。 实验结果显示,ShopMind 相比最强替代方案将个性化提升 18.0%,行为真实性提升 19.6%。
ChemInsight 基准显示,10 个大语言模型在化学任务上表现低迷,Scope 得分低于 30%,Depth 得分低于 11%。 该基准包含 203 道题目,组织为 50 个捆绑包,采用范围与深度二维评分系统。 这些分数远低于人类专家水平,突显了当前模型在化学符号语言建模上的局限。
BridgeKV 提出用大模型进行预填充、小模型进行解码的 LLM 推理方案,通过轻量级 KV-stitching 模块对齐两者缓存。 在六个模型对和五个数据集的 30 种设置中,该方法优于微调小模型基线,弥补至多 80% 的质量差距;Llama-3.1-Instruct-8B 到 Llama-3.2-Instruct-1B 在单卡上实现 3.0 倍加速。
压缩与扰动通常使大语言模型能力按跨方法共享、可预测的顺序失效,而非随机或方法特定模式。 八种指令微调模型在四种随机扰动下短答案能力失效顺序的中位相关达 0.90;剪枝与量化下为 0.875,且可由回答裕量、频率和格式预测。 随机扰动测得的脆弱性画像预测了压缩先移除哪些任务和事实;经四任务校准后,对留出任务精度的中位绝对误差为 0.11-0.12,优于均匀下降的 0.20-0.21。
研究在六个冻结编码器上分析孟加拉语习语,发现类均值方向在平衡准确率下支持跨语言共享粗粒度语义。英语训练的类均值读出在8项测试中优于零样本对照,但英语拟合的LEACE消除效应不足1个百分点,显著低于孟加拉语拟合的4-11个百分点。
研究发现,仅改变文章写作风格而不改变事实,会显著破坏LLM检测假新闻时的校准。 在LLaMA-3-8B等三个模型中,面对最强风格攻击,模型准确率降至随机猜测以下,但置信度未降低,表现为“自信地犯错”;讽刺性风格是主要破坏因素。 这意味着LLM对真实性的置信度无法作为安全信号,若文章风格可能被操纵。
回复长度显著影响模型面对无据反驳时的表现:Qwen3-4B 在 1024 tokens 限制下纠正了 43% 的错误答案,准确率提升 5.7 点,而 96 tokens 限制下表现未改善或略降。
智能体推理的每次调用都需重发不断增长的转录,但成本由客户端和服务端两个交易方共同决定,而非模型本身。 该研究定义了精确匹配实测引擎的成本模型:每处理一个token计费为$c$,每对一个注意力对计费为$\beta$。
免训练方法 SWEET 结合反事实干预与机制可解释性,定位并抑制长思维链中负责虚假推理的 MLP 神经元和注意力头。 该方法仅用 20 组原始-反事实对提取行为方向,在 5 个开放权重模型上使扰动输入准确率平均提升 11.8 个百分点。 SWEET 将原始与扰动准确率的相对差距从 17.6% 降至 2.5%,提升了推理鲁棒性。
新基准 DeepFinance 发布,包含 21 项耗时平均 27.1 小时的 PE 和 IB 尽调任务。最佳配置 GPT-6 Astra 仅满足 57.6% 的评分标准,且顶级模型常因输入错误或忽视证据而失败。
三项前沿 LLM 在 420 次 HAZOP 试验中抵御了 96.8% 的认知操纵,整体易感性统计上结论不显著。 模型拒绝了确认偏误和可得性线索,但在低锚定和收益框架下出现了安全风险降级现象。 自动化危害分析需依赖规范的人在环验证。
扩散大语言模型 (Diffusion LLMs) 在去噪过程中往往过度依赖局部上下文而未能充分利用全局上下文。 基于此发现,研究者提出特征空间引导方法 GCG,该方法无需构建显式弱模型即可增强全局上下文利用,在 LLaDA-8B、Dream-7B 和 LLaDA-1.5 等模型上验证,性能优于现有引导方法且推理开销更低。 该方法已被 NeurIPS 2026 接收。