公平感知情境 Bandit 中的最优学习
研究提出两种公平感知情境 Bandit 算法,满足全局 Lipschitz 公平约束。 算法实现每轮公平且达成最优遗憾界 $O(\sqrt{T} + T^{(d-2)/(d-1)})$,证明非参数学习成本的不可避免性。
研究提出两种公平感知情境 Bandit 算法,满足全局 Lipschitz 公平约束。 算法实现每轮公平且达成最优遗憾界 $O(\sqrt{T} + T^{(d-2)/(d-1)})$,证明非参数学习成本的不可避免性。
对 LLaMA-3.2-1B 等四个 1.2B 级小模型深度剪枝后,函数调用和数学推理能力均严重受损,保留率仅为 0.00 至 0.07。 在修复策略上,对最后三个块进行全量微调比全块使用 LoRA 平均保留率高达 0.18。测试发现,均匀修复策略在同等 3.48M 令牌预算下往往优于规划式修复。
研究表明,对抗鲁棒性并不保证视觉模型具备人类对齐的分类行为。在 1,008 个争议刺激实验中,四个鲁棒 ImageNet 分类器预测单个参与者选择的准确率仅 48.6%-51.3%,接近随机水平,而基于其他参与者多数投票的预测准确率达 85.0%-86.8%。
研究者开发了一种基于 Transformer 的强化学习策略,用于 I 期剂量探索试验。该策略将剂量表示为 Token,通过三动作策略选择减量、维持或增量,并在模拟中展示了可控的安全性与准确性权衡。 最终 MTD 决策由加权等渗回归确定,不纳入学习策略。 该结果未证明优于传统剂量探索设计。
论文提出CAPER,一种电路感知的PEFT方法,在LoRA旁添加分支以读取电路级特性。 该方法通过组合相关电路级特性,使LLM能识别PVT变化下的可靠性问题。 在判断负反馈环路时,CAPER测试案例全部正确,而LoRA及高秩适配器仅为随机水平。
研究发现 RLVR 在分布外(OOD)任务中常因模型放弃推导而失效。 该方法通过非双射方程求解框架验证,共训练双射求逆任务可显著恢复模型精度。
研究提出名为 FADE 的双线性状态空间滤波器,通过解耦策略能力与题目难度两个时间尺度,优化基于可验证奖励的强化学习调度。 该方法利用 Pólya-Gamma 增广法,在二元 rollout 结果下通过 rank-K Woodbury 步骤闭式更新能力后验,并推导非退化分组概率的效用函数。 在五个推理基准测试中,FADE 在匹配预算下提升下游准确率与校准,每步计算开销增加不足 0.6 ms。
该论文系统综述了建筑 HVAC 系统控制架构,构建了从比例-积分-微分(PID)到强化学习(RL)的分层控制框架。 文章将强化学习建模为马尔可夫决策过程,提出了四种 RL 与 PID 结合的分类法,即增益整定器、直接替代控制器、与模型预测控制混合以及监督设定值生成。 综述指出这些架构是嵌套的而非相互对立,部署时需根据具体控制接口与脚手架需求权衡。
KAPPO 框架通过提示自适应正则化或奖励转换,将标准 @1 策略优化方法无缝适配至 @k 目标,直接控制 LLM 后训练中的锐化现象。 该框架在一次性参考校准后无需改变训练流程,实验表明单补全训练即可达到多补全 @k 优化器的性能,且成本仅为后者的一小部分。
多教师在线策略蒸馏(MOPD)在 LLM 持续学习中,利用前一阶段学生模型对早期领域进行重放,以应对专家模型不可用的场景。 在 1.5B 学生模型和 5 个领域测试中,无重放的顺序蒸馏比联合 MOPD 低 6.2 分;重放可弥补 3.8 至 5.8 分的差距。 重放步骤数量随阶段数呈二次方增长。
针对多保真贝叶斯优化,该研究提出分阶段“潘多拉盒子”模型,推导了保留索引以确定最优的推进与停止策略。该精确递归公式恢复了经典单阶段搜索,并证明扩大可收集集合或降低成本会提升价值。
混合似然微调(Mix-FT)通过重要性加权优化掩码扩散语言模型的采样过程,无需改变架构或引入教师模型。在 LLaDA-8B 上,LoRA 微调仅用 0.002% 预训练算力,以 16 步生成质量超越 32 步原始模型及对比方法。双模型家族评审显示,69% 和 71% 的成对比较中 Mix-FT 结果更优;约四分之三的似然提升归因于对各揭示计划的加权。
RLVR 训练使 OLMo-2-1B 在 GSM8K 的首次尝试准确率从 58.0% 升至 61.3%,但 256 次采样的解题覆盖率仅从 94.5% 微增至 96.9%。 内部探针检测推理错误的 AUROC 保持在 0.798 至 0.840 之间,显示模型未建立更清晰的错误表征;仅在最终答案 token 处探针达到 0.93 AUROC,证实 RLVR 改变的是答案选择偏好。
SpecPilot 是一个自动智能体循环系统,通过发现新算法和系统优化提升推测解码性能。 单请求场景下,其将相对自回归解码的加速比从 4.46 倍提升至 10.87 倍;批量场景下,加速比从 1.94 倍提升至 3.93 倍。 该系统实现了无质量损失的无损 12-bit 权重格式和树状验证机制。
研究人员提出 MetaPOCS 框架,旨在解决地震数据插值中重构保真度与计算预算的平衡问题。该框架基于空间-频谱 POCS 重构主干,通过元学习监督中间阶段,并在每个出口保留采集数据。
提出边界边缘化方法,首次实现自回归语言模型基于舍入、有界及截断数值标签的精确似然训练。 该方法通过固定宽度且保持顺序的数字表示分组连续网格值,利用至多两个长度对数级的边界路径计算精确概率与梯度。 实验表明,该方法可从舍入和截断报告中恢复条件分布,在支持一百万数值时仍能保持计算可行性。
论文指出当奖励依赖组内其他样本时,GRPO 因引入负相关基线导致模型进行零和竞争,易致多样性崩塌。 团队提出的 Team-GRPO 将系数设为 +1,作为无偏估计器仅需每组两个样本,无需额外调用模型计算成对奖励。 在 GlobalOpinionQA 上,Team-GRPO 将错误率从 0.20 降至 0.08,避免了 GRPO 的多数答案坍缩,显著提升了集合效用。
基于 Qwen3-0.6B 的实验证明,先前训练中拥有奖励控制权的语言模型,在新任务学习上显著快于无控制的 yoked 模型。 该优势并非源于奖励缺失的伤害,而是控制带来的益处;在 Qwen3-1.7B 及消除练习差异后优势依然成立,且可通过模型权重预测。 这表明控制经验会留下持久印记,常规模型评测无法直接反映这种可塑性变化。
7B-32B 开放模型在 256 事件日志中准确率跌至 48%-55%,而 32B 推理模型读取当前状态可达 96%-98%。 120B 推理模型在 1024 事件时落后显式状态约 10 个点,表明“状态超越长上下文”的边界随读者能力变化。 该研究将智能体记忆建模为递归过滤,证明基于状态依赖的写时选择优于查询时检索及 Mem0 等方案。
基于 Qwen3.5-9B 开发的 Concise-9B 通过两轮简洁自训练移除冗余思考,在 32K 预算下生成 0.66 倍 token,精度相当。 技术细节显示,该模型 86% 的节省 token 位于答案形成后,且 54-64% 的原始冗余思考可在强制每 2,048 token 回答时截断。
研究提出使用中间层(0.4至0.75深度)作为KV缓存驱逐的最佳评分层。 在0.5B至109B的18个模型中,该策略比默认自身层在16个模型上表现更优,紧预算下击败SnapKV 18至43分。
针对LLM对语义保留改写的脆弱性,定义条件因果难度(CCD)并引入GlassGSM/GlassMATH基准。 GlassGSM将脆弱性提升约12倍,Frail预测器在可靠性上限0.613处超越基线,CRD与复杂度代理变量不相关。
论文提出基于共享 DQN 策略的 Edge-Intelligent 架构,实现电动汽车在智能城市中的实时充电管理。 在摩洛哥 Rabat 和 Tangier 路网仿真中,DQN agent 相比 Adaptive Heuristic 的充能率提升 6.8% 和交付能量增加 5.4%。
利用高维渐近分析,CoT 监督在长时程推理中存在依赖上下文长度的相变。 研究区分了错误积累与错误放大两种机制,显示增加训练 CoT 预算可能先加剧长时程错误后趋于稳定。 结果提供了理论解释,为设计支持稳定推理的教师 CoT 提供了指导。
SparseLift 提出一种低开销编译器,将推荐模型训练中的不透明稀疏节点重构为可分析子图,实现全图优化。 它在包含 100B 稀疏参数的工业视频平台任务上,将稳态吞吐量提升 16.5%;在 DLRM 基准测试中,相较于 TorchRec 实现 1.26 倍加速。
在自相关实验设计中,基于替换或移除动作的准确率损失诊断会产生虚假的动作效应。 当已知设计律时,基于完整状态的条件随机化e值检验在有限样本中是有效的;而从较简单的律重采样会复现虚假效应。
Sonny-ENS 引入3个68.9M参数网络MC dropout集成,以2.7 A40 GPU-days训练,在2022年570个目标中96%的CRPS优于ECMWF ENS,平均CRPS在1-10天铅时间降低8.3%。
研究指出因果掩码阻碍最优传输注意力的列平衡,作者提出前缀一致的非平衡算子以表征位置先验。 在 25M 和 100M 参数语言模型预注册实验中,CABLE 方法在损失外推上优于 softmax。 相比 RoPE 配合 YaRN,CABLE 在三种训练长度的所有种子评测中表现更好,且改变偏差可预测长上下文损失变化。
summary_zh: 自适应索引复用(AIR)在 SWE-bench Verified 上将任务成功率从 27.0% 提升至 32.4%,并在 Terminal-Bench 2.0 等基准中超越静态调度。
LLM.int8 通过批内并集将离群激活列路由至高精度路径,打破冻结层敏感度隔离前提,导致敏感性通胀。 实验显示 LoRA-Opacus 见证值达加删界限的 $15.0\times$,OPT-125M 中 20% 层精度分裂受其他记录影响。 对发布适配器的审计发现 $\varepsilon$ 下界为 $3.25$,低于宣称保证值 $4.38$,证实直接契约检查为实用审计手段。
针对小语言模型面对不可回答问题的行为,研究引入 784 项基准 ConfabQA 以解耦知识截止混淆。 实验基于 Qwen3-1.7B、Gemma 2 2B 及 Llama 3.2 3B,使用线性探针和 SAE 映射隐藏状态几何。
变分贝叶斯信息搜索可被蒸馏至 8B 语言模型,通过结构化的信念状态 scratchpad 提升交互任务表现。 在 Multi-Turn Puzzles 测试中,学生模型将 Circuit Decoding 成功率从 0.00 提升至 0.93,并将词语猜测尝试次数从 32 次降至 3.4 次,性能超越最强已报告的语言模型。
针对多轮对话中嵌入相似度预测复用风险不准的问题,提出 CUCB-SC-MT 和 CLCB-LS-MT 算法。 利用裁判反馈学习复用风险,在 1,000 个缓存条目下避免 35--41% 生成成本,降低 19--35% 延迟。 优于 ContextCache 等基线,适用于数学辅导和电影购票等多轮场景。
Jet-QSparse 提出一种免训练方法,结合 NVFP4 缓存存储与 Blackwell 张量核心的原生 FP4 计算以加速 Agentic LLM 推理。
研究基于单层单头线性注意力模型,精确求解了参数动力学,阐明记忆与泛化如何从学习中涌现。 该工作将动力学与训练及泛化误差关联,并计算数据依赖的自由能量以预测长时极限下的误差。 此成果为从学习动力学视角理解上下文学习机制提供了新见解。
研究提出嵌套分支维度,证明语言类可私有统一生成当且仅当闭包维度与该维度均有限。 这一发现揭示了隐私约束带来的额外组合阻碍,区别于以往仅依赖闭包维度的非私有生成特征。
研究利用层级生成参考数据评估概率预测模型在粗粒度观测下的表现。 发现标准扩散模型和随机插值器存在显著分布误差,级联短程预测在湍流和波浪中能大幅降低误差。 提出了可解析的解析模型,表明最优级联深度取决于未分辨尺度与观测尺度间的耦合强度及预测依赖性。
研究建立奇异学习理论与机制可解释性的数学对应,证明两者均为参数-预测映射的函数,并在 Pythia-1B 模型上验证。 在 Dyck 括号匹配任务中测试 154 个训练检查点,发现 Fisher 信息量随因果效应变化,中位数偏秩相关系数达 0.51。 该工作首次在大模型尺度统一了基于局部几何理论与干预电路分析,为理解模型内部机制提供量化基础。
研究提出基于期望接受长度的损失族TVP,通过调节权力参数平衡覆盖与接受目标。 TVP在三种drafter架构和三个目标模型上实现最高或并列最高接受长度。微调时TVP比交叉熵损失提升接受长度9.8%,比公开DFlash2训练方案提升6.2至12.9%。
L2RR通过优化双层目标显式纳入目标侧性能反馈,改进GRPO在源提示上的离散采样分布。 实验在六个数学推理基准和三种模型规模上验证,L2RR提升了目标域性能并提高了rollout效率。 该方法解决了法律或隐私限制下无法共享目标提示的问题,对RLVR训练具有实用价值。