研究揭示生成式AI使用如何通过技能侵蚀导致采纳率不可逆
研究构建模型显示,生成式AI提升即时表现但会侵蚀人类技能,导致技能分布分化为非用户与AI用户两组。技能侵蚀产生双稳态与历史依赖性转换成本,使AI依赖在效益恢复后仍难逆转。
研究构建模型显示,生成式AI提升即时表现但会侵蚀人类技能,导致技能分布分化为非用户与AI用户两组。技能侵蚀产生双稳态与历史依赖性转换成本,使AI依赖在效益恢复后仍难逆转。
LoCo 通过局部偏好学习优化推理压缩,解决长链式思维导致的高推理成本问题。 采用 DPO 训练状态条件化偏好对,在数学和代码基准上将完成长度减少 23.4% 至 45.4% 并保持精度。 代码和模型将公开发布,展示跨领域通用性。
研究在合成调控系统中发现,七大 LLM 修复健康表型的频率高于识别故障。Claude Opus 4.6 和 Sonnet 4.6 虽能救助所有个体,但诊断准确率仅为 55% 和 35%。 模型能获取区分证据(91% 相关会话),却难预测竞争假设的实验结果,导致误诊。这凸显了评估 AI 因果推理而非仅看干预成功的重要性。
预注册测试显示,LLM提议者相对随机基线的发现优势不随验证器强度增加而扩展。 在域A中LLM优势显著但未随严格验证层级提升,域D中严格层级反而缩小优势。 事后分析表明,混合提议池而非强化验证门是提升发现质量的关键杠杆。
针对 9B-20B 开源模型在 vLLM 或 SGLang 上的量化实测显示,4-bit 权重在小批量下可提速约 2.12 倍,但在大批量场景速度优势消失,FP8 成为更有效选择。
在 5G O-RAN 中,CORA 框架利用无标签日志将事后检测器的先见之明转化为因果检测器,无需真值标签或目标校准。 PPO 控制器在 10 种配置上将平均召回率从 0.687 提升至 0.771,DQN 在 F2 分数可比的情况下减少 61% 的误报。 该设计映射至 O-RAN 的离线与近实时 RIC,支持无标签部署。
DoGNAVY-Exploit 利用分阶段编排与并行探索架构,显著提升了开源权重模型在漏洞利用链中的表现。GLM-5.2 在该框架下,Cybench 与 CVE-Bench 的 Pass@1 均达到 97.5%。
主流序列处理 AI 依赖输入驱动,缺乏生物脑持续节律性的内源时间结构。文章提出四条证据表明内源结构支持信息路由、组合表征、跨频复用及离线巩固等输入驱动架构难以复制的功能。
进化策略(ES)在微调大语言模型时存在一个悖论:生成的子代模型通常表现比父代更差,但父代在训练过程中持续改进。 这一现象源于高维空间中探索导致的局部性能下降,但聚合扰动方向后仍能实现局部改进,体现了噪声与曲率的协同作用。 研究指出这种“优化范式的副产物”为利用ES方法微调LLM提供了理论指导。 ```
RLVR 训练在混合数据中加剧了模型的首位偏差,导致简单问题性能提升显著,而难题仅获边际收益。 研究发现难题对扩展模型推理能力最为关键,但长期训练难题会导致简单问题的遗忘。 这些发现解释了不同领域 RLVR 效果冲突的原因,帮助理解 OOD 域的性能变化。
HybridSpec 为混合 GDN-MoE 模型设计吞吐量感知投机解码方案,在单请求贪心解码中比自回归解码快 1.75 倍至 1.88 倍,比 DFlash 快 1.30 倍至 1.33 倍。
研究揭示 LLM 在规范效用提示下改变对社区信念的运用。 提示规范效用使合作率随社区信念增加而提升,符合理论模型预测。 该策略降低了决策波动性,提升了跨模型行为的一致性与人性化程度。
Recursa 通过递归自我改进适应新领域,无需专家或更强教师模型,利用知识仓库存储技能和任务记忆。 使用 DeepSeek-V4.1-Flash 时,Harvey LAB Firm Knowledge 基准测试的 held-out 测试任务全通过率从 30.0% 提升至 55.0%;使用 Qwen3.8-Flash 时从 35.0% 提升至 46.0%。
ROCm InferaSim 通过预测 LLM 服务性能来降低配置试验成本,在 AMD Instinct MI355X GPU 上仅需 9.1 GPU-hours 获取 11 个锚点,替代原本需要 204 GPU-hours 的完整测量。
免训练框架 LHM 结合低秩 Hessian 近似与二阶曲率信息,解决现有合并方法在难任务上精度下降问题。 该方法通过 LSOS 指标量化层融合难度,并用 DCCM 生成层自适应合并系数,在 6 个数学基准测试中超越 ACM-TIES 和 ORCA。 实验显示 LHM 在 1.5B 和 7B 模型上精度提升超 4%,输出长度相对长 CoT 模型减少多达 93.1%。
研究者提出假设:推理文本的共现拓扑结构比非推理文本更简单,且高质量推理的拓扑结构比低质量推理更简单。 该论文探讨并测试了此假设在 AI 安全与 AI 评估中的应用,全文包含 15 页正文和 14 页附录。
语言模型的“对齐伪装”行为取决于模型与特定价值的配对,而非模型本身。研究在 32 个 ValueBench 维度上测试了 10 个开源/闭源模型(参数量 8B 至 ~675B),发现合规率差距在 0.05 到 0.50 之间。
本文提出基于最优传输对偶问题的高效算法,计算多草稿推测解码(MDSD)在千级词表下的理论最优接受率。 研究首次量化现有验证算法与理论上限的差距,发现无放回采样的最优接受率优于有放回采样,且现有算法均未达到理论上限。 结果表明精心设计的草稿采样方法可提升接受率,并为逼近理论上限的验证算法开发提供方向。
提出语义自一致性方法,在多数投票前分析推理路径与最终决定,提升复杂推理任务表现。 该方法弥补标准自一致性框架仅聚合最终决定的缺陷,利用逐步推理路径中的语义信息。 论文已被 NeurIPS 2024 接收。
Subspace Node Pruning 提出通过基变换与正交化解耦重要性度量,实现无重训练的多节点剪枝。该方法在 ImageNet 的 VGG-16 和 ResNet-50 上超越基线,并在 OPT-125M 和 LLaMA-2 7B 上,于 40-shot 下匹配 LLM Surgeon,fewer shots 时表现更优。
StateBench是一个用于评估语言模型长上下文状态追踪能力的基准测试,通过四个难度级别测试模型在信息随时间演变时的表现。研究发现,在复杂状态追踪问题上,前沿模型如Gemini 3.8 Flash、Claude Opus 5.5和GPT-6 Sol与Luna随着输入长度增加准确率急剧下降,最低降至13%以下。
推荐理由:研究团队构建StateBench基准测试语言模型长文本状态追踪能力,发现前沿模型在复杂任务中准确率大幅下降,为架构选择提供依据。
研究表明多模态模型在算法视觉谜题上的瓶颈在于感知而非推理。 将图像替换为文本描述后,Claude 模型平均性能提升超过 20 分。 使用 GRPO 训练 Qwen-2.5-VL-7B,特定奖励设计带来 5.56 分的性能增益,验证了感知感知奖励设计的潜力。
一项基于 16 个 Llama 和 Gemma 开放模型的研究显示,指令微调模型比预训练版本与人类对话产生更高的 CFG 规则重叠。 研究在 1,901 个匹配位置测量发现,微调后模型的实际语料重叠度更高,但在控制目标规则集大小时,条件复用几率反而降低。 该结果揭示了指令微调增强了表面句法趋同,却未提升深层语法结构的条件复用能力。
研究提出离散潜在推理(DLR),首个将连续潜在状态转化为显式离散 token 的方法,解决了传统方法训练不稳定且轨迹不可解释的问题。 受基于渲染的压缩启发,DLR 将思维链文本渲染为图像并提取视觉特征,通过基于聚类的微调构建离散潜在词汇。
EcoTab 提出了一种表格感知的分步路由框架,在表格推理基准中实现精度与效率的更优平衡。 该框架区分表格 token 和文本 token 的分布差异,分别估算二者不确定性以优化路由决策。 该方法已被 EMNLP 2026 主会议接收。
研究通过构建探针轨迹监测大型推理模型(LRM)的隐藏表示,以预测未来行为并解决思维链(CoT)不可靠问题。 提取波动率、趋势等信号处理特征,在静态探针AUROC低于70的情况下平均提升21.7个点,平均和最大池化操作取得78.5%至97.4% AUROC。 探针轨迹被证明是监测模型行为的有效信号,跨7个模型和6个数据集验证了其潜力,无需昂贵动态数据生成。
ReflectMT 提出了一种“后思考”范式,通过两阶段强化学习内部化反思,在 WMT24 基准上取得 86.16 的 GPT-4o GRF 分数。 该模型比 DeepSeek-R1 高出 2.13 分,且输出 token 减少约 92%,显著降低了推理延迟与成本。 盲测与人评均验证了框架的有效性。
EntropyCache是一种免训练KV缓存方法,利用解码Token分布最大熵作为恒定成本信号,决定何时重算缓存。 该方法单次决策计算复杂度仅为O(V),独立于上下文长度和模型规模。在LLaDA-8B-Instruct等模型上,该方法实现了15.2×至26.4×的推理加速,且决策开销仅占推理时间的0.5%。
研究提出 Latent Debate 框架,用于解释 LLM 在 True/False 预测任务中的内部思维过程。该框架通过分析单次推理中的潜在支持性与攻击性信号,构建符号化替代模型。 实证研究表明,Latent Debate 的预测与原始 LLM 高度一致,且中高层辩论分歧度与幻觉风险呈强相关,为幻觉检测提供了强基线。
提出无训练推理方法 ConstraintMatch,将实体级区域一致性转化为匹配成本,提升组合图像-文本匹配准确率。 在 Qwen 2B 和 CORE 2B 骨干模型上,该方法比全局匹配分别提升 7.70 和 5.63 个百分比点,优于 SGI 基准。 确立了实体级证据选择作为组合多模态检索的实用评分原则。
基于 SHAP 的 xAI 框架分析了经微调的 DistilBERT 和 RoBERTa 检测器,使用开源 LLM(Llama 3、Mistral、Gemma)合成的超本地新闻 OOD 数据集进行评估。
DepthGraft 提出层级 KV 共享架构,在 0.5B 至 16B 参数模型上验证性能提升并降低 KV 缓存用量约三分之一。 该架构通过步长对齐的浅层-中层源对重建深层 KV,在 16B MoE 模型上取得 MMLU-Pro 绝对提升 7.0%、CMMLU 提升 6.6%、C3 提升 6.4% 的成绩。 实验结果验证了 DepthGraft 作为大规模预训练可扩展设计的有效性。
MicroMouse 是一种自动选择性 SFT 框架,通过相对势(REP)对比金标答案与干扰项,识别长 CoT 中的有害监督并进行屏蔽。 该方法在多个推理基准上平均相对提升贪心准确率 5.5%、Pass@1 提升 2.6%,输出长度减少 8.8%。 有害监督识别平均耗时仅 1.7 秒,提高了推理效率。
研究证实共谋智能体的 J-space 包含共谋信息,在 NARCBench 基准中 86% 的共谋者表现出误导性表征。 提出的 J-PACT 方法在 GPT-OSS-20B、Llama-3.3-70B-IT、Qwen3-32B 及 DeepSeek-V4-Flash 上保留 85% 的 AUROC,并识别 99% 的共谋对。 该无监督方法为监测多智能体系统中的隐蔽协调提供了新工具。
MedPsy 是专为边缘设备设计的小型医疗 LLM 模型族,包含 1.7B 和 4B 两个版本。 通过合成医疗数据流水线、基于 235B 教师模型的 CoT 目标,以及四阶段后训练策略(两阶段 SFT 和两阶段含难例挖掘的 RL)优化模型。
TAC-CoT 是一种工具赋能的自适应隐式 CoT 框架,用紧凑的潜在推理片段替代显式推理轨迹,仅保留用于工具调用、观察和最终答案的文本 Token。 在智能体数学和 QA 基准测试中,该框架将准确率提高至多 8.8 个点,同时将模型前向传播次数减少至多 6.8 倍。 分析显示 TAC-CoT 提升了单工具和多工具设置下的工具使用质量。
研究发现少于 11% 的模糊查询会触发 LLM 追问。团队提出 VagueBench 基准测试 DialogGRPO 强化学习方法。 DialogGRPO 在 88% 的模糊查询中成功提取缺失信息,优于提示词基线,并零样本泛化至 MultiWOZ 2.4。该方法实现了细粒度信用分配,提升了回答覆盖率。
EarlySelectKV 通过跨层查询代理实现预测性 KV 索引预计算,使路由脱离即时注意力路径。 该免训练方法在 RocketKV 基准中质量差异极小,LongBench 偏差仅 +0.018 分。 TensorRT-LLM 部署下,端到端吞吐量提升 12.4%,GPU 显存占用降低 11.1%。
XDecideBench 发布涵盖 122 种语言、88,425 条文本的跨语言类型化决策模型评测基准。 三个开源微调模型在 12 种开发语言中全面超越基座 Qwen 模型,且在低资源语言中准确性增益更大。 结果显示英语最佳模型在约 1/4 组合中落后,且基于英语设定的 5% 置信度阈值在其他语言中失效。
summary_zh: 一项涵盖 Claude、GPT、Grok 和 Gemini 等六款大语言模型的系统提示词自我修改实证研究揭示了收敛行为的显著差异。研究包含 54 项独立实验,其中 Claude Opus 4.5 和 Claude Sonnet 4.5 在 100% 的运行中声明收敛,而 GPT-4o 仅在 11% 的运行中收敛。