用于闭式相对密度估计的谱框架
提出线性参数化概率模型的闭式谱框架,通过加权卡方散度积分将Kullback-Leibler散度估计转化为最小二乘问题。 仅依赖一阶和二阶特征矩推导显式谱公式,可扩展至f-散度族并与神经网络结合,提供收敛保证。
提出线性参数化概率模型的闭式谱框架,通过加权卡方散度积分将Kullback-Leibler散度估计转化为最小二乘问题。 仅依赖一阶和二阶特征矩推导显式谱公式,可扩展至f-散度族并与神经网络结合,提供收敛保证。
研究人员提出一种名为 $\Delta$LPS 的离散朗之万启发式后验采样器,旨在解决离散状态空间中的逆问题。该方法利用梯度信息识别离散移动,且无需离开离散状态空间。
GRAPHLCP 提出了一个将图拓扑和节点间依赖纳入定位与加权的邻近性局部共形预测框架。 该框架通过特征感知稠密化步骤缓解稀疏图局部偏差,并基于个性化 PageRank 内核计算建模结构邻近度。 该方法在回归和分类数据集实验中展示了改进测试条件覆盖率且避免过度保守的效果,已被 NeurIPS 2026 接收。
提出可达性修正辅助目标 RC-aux,在潜空间世界模型中解耦预测精度与规划对齐问题。 该方法在 LeWorldModel 骨干网络中加入时序多步预测与预算条件可达性监督,提升 LIBERO-Goal 等任务表现。 表明潜空间模型规划能力取决于表示是否编码了下游搜索所需的时空几何结构。
该研究揭示了训练时批量归一化(BN)通过平移切换超平面,重塑了连续分段仿射(CPA)网络在局部窗口内的几何结构。 在一般位置假设下,BN 层使局部窗口内的仿射区域数量下限取决于批次扩散度而非偏置,且该精确公式在深层网络中依然成立。 实证数据显示,BN 增加了期望局部区域数量,其中大部分额外区域源自内部交集。
提出多智能体 LLM 强化学习的边际贡献策略梯度方法,解决单一奖励信号带来的高噪声问题。 证明贡献信号能保持系统梯度正确性,并将梯度噪声分解为三项以优化学习过程。 在 GSM8K 数据集上使用 Llama-3.2-3B 验证,贡献信号比共享奖励学习更快(p=7.5×10^-5)且容忍两倍的学习率。
研究提出去偏神经网络算子 DOPE,用于估计物理系统轨迹的目标标量量,解决传统方法的一阶偏差。 方法结合半参数估计与 Riesz 回归学习权重,支持部分和不规则观测,兼容任意神经网络算子架构。 数值实验表明 DOPE 在多种场景下表现优于传统插值法,显著提升目标量估计精度。
基准测试了 156 个采用 Llama-3.2 和 Qwen3 架构的生成式医疗事件模型,重点评估 Tokenization 决策。 融合 Token 在 8 个结果家族中的 6 个产生显著增益,Spearman 相关系数提升 0.032 至 0.114。 将输入映射至 CLIF 格式可减少 71.4% 训练 Token 和 97.8% 词表大小。
研究人员提出 TAB 方法,将多轮推理建模为多目标马尔可夫决策过程,动态分配计算预算。 在数学推理任务中,TAB 比静态基线减少最高 35% 的 token 消耗和 30% 的延迟。 该方法成功泛化至工具调用和对话等智能体工作流,在保持精度的同时节省资源。
研究指出,由于 EEG 信号固有变异性高,许多在常规机器学习领域有效的分布外(OOD)检测方法在运动想象脑机接口中失效,常导致模型对陌生类别做出盲目猜测。 Deep Ensemble 和 MC-Dropout 模型实现了任务内 AUROC > 0.9,且 OOD 检测能力可达 0.7;该研究提出了首个针对运动想象脑机接口的分布外检测基准。
该研究在预测多重性框架下正式化过校准悖论,揭示后验校准对决策稳定性的未考察影响。 评估九个信用风险投资组合,检验Platt Scaling、Isotonic Regression和Beta Calibration对个体预测一致性与期望校准误差的影响,识别出两种不同运行机制。 在模型已良好校准时,后验校准过拟合噪声,悖论性增加误差与预测多重性,暴露软对抗操纵漏洞。
在55个回归数据集基准测试中,CPU可行的光滑模型与树集成在中等数据规模(约5万样本、50特征)精度上统计持平。 开发了各向异性RBF网络、岭正则化切比雪夫多项式回归器及光滑树混合模型,并开源为兼容scikit-learn的包。 当下游应用受益于光滑预测表面时,建议将光滑基底模型纳入候选。
提出扩散模型各向异性噪声调度的变分框架,通过矩阵值路径分配子空间噪声并联合训练score network。 在CIFAR-10等四个基准测试中,该方法在低NFE条件下显著提升了FID分数。 框架包含高效的反向ODE求解器及调度参数估计器,代码已开源。
LinkedIn 部署端到端 Decoder-Only Transformer CADET 用于广告 CTR 预测,在线 A/B 测试中较生产基准 LiRank 提升 11.04% CTR。 采用多塔预测头建模广告位等后评分信号,并结合自门控注意力、基于时间戳的 RoPE 及会话掩码策略,通过张量打包与 Flash Attention 内核优化实现工业级规模化部署。
研究通过主动概率推理任务对比人类与 LLM,发现扩展推理主要提升推断性能,对主动采样改善有限。 模型通过可解释参数拟合捕获行为偏差,使模型表现趋近人类的证据积累与信念映射机制,NeurIPS 2026 论文。
该框架将学术综述重构为长期维护问题,通过智能体(Agentic AI)实现综述文档的持续更新,使其能随研究进展动态演进。 框架采用回顾性实验验证,能在增量整合新研究的同时,保持综述结构与连贯性,有效解决因研究产出快速增长导致的综述过时与碎片化问题。
研究证明门控注意力矩阵可分解为分层专家混合,其学习可重构为专家估计问题。 结果显示门控注意力比多头自注意力更具样本效率,恢复参数仅需多项级数据,而后者需指数级数据。 该分析为门控注意力缓解 Attention Sink 现象及低秩瓶颈提供了理论依据。
研究团队提出一种轨迹探测协议,通过截断并重新注入部分推理轨迹来评估模型预测答案的动态变化。 该协议应用于 Qwen3-4B/8B/14B、gpt-oss-20b/120b 等七款开源模型及 GPQA Diamond、MMLU-Pro 等四个基准。结果显示准确率随推理 token 比例增加而提升,且强模型常复现弱模型的错误,但允许进一步推理可显著恢复正确率。
研究人员系统评估了将用于分类的表格基础模型(TSM)应用于离散时间生存分析的方法。 提出了直接建模累积失效概率的新方案,证明了在标准删失假设下,最小化加权交叉熵损失可恢复真实生存概率。 在60个现实数据集上的测试表明,TSM配合分类归约方法在多个生存指标上表现优于或与经典及深度学习基线持平。
提出自适应逐层变换框架,将 LLM 量化中的激活和权重离群值转化为可微分优化问题,并根据权重分布峭度指导逐层选择最优变换。 在 LLaMA-3-8B 模型的 W3A3KV2 低比特量化下,该方法比现有最优方法 FlatQuant 降低高达 4.58 点的困惑度,并将六项零样本任务的平均准确率提升 2.11%。 该工作证明了采用异构逐层变换策略对于实现最优 LLM 量化是必要的。
提出 Space Group Conditional Flow Matching 生成框架,通过在给定空间群和 Wyckoff 位置条件下采样,使生成结果更接近目标的高对称稳定晶体分布。 该框架使用条件对称噪声分布和群条件等变参数向量场限制原子运动,利用高效的群平均重构将对称化计算开销降至可忽略水平。 在晶体结构预测和从头生成基准测试中达到 state of the art 结果。
研究人员提出 GCSL-NF 方法,通过评估轨迹在重新标记目标下的正向表现及原目标下的修正反馈来优化学习,克服了现有 GCSL 仅依赖成功结果且强化固有偏差的局限。
提出误差反馈校准(EFC)框架,在测试时对时间序列预测进行事后确定性修正,显著降低有害过度修正。 该框架通过因果误差对角线构建失败行为视图,利用累积误差传输映射未来残差,并结合时间残差学习预测剩余结构。
符号分支网络 SBN 将决策树映射为神经元,在 29 个多分类数据集上平均准确率从 84.0% 提升至 87.9%。 该模型固定分支到类矩阵 W2,通过梯度学习特征到分支矩阵 W1,显著优于教师集成模型,统计检验 p 值为 4.71x10-7。 SBN 提供显式结构基础,允许通过分支神经元追溯预测,支持特征级和分支级解释。
提出 JUSSA 框架,通过诚实导向向量生成对比替代方案,提升 LLM 评判器识别细微不诚实的可靠性。 GPT-4.1 评判器的 AUROC 从 0.893 提升至 0.946,Claude Haiku 从 0.859 提升至 0.929,且在人工验证的数据集上表现显著。 研究指出导向向量可作为白盒审计工具,在模型中间层最有效,开启了评估而非输出优化的新方向。
研究人员提出 MADAC 算法,通过双策略迭代保证收敛到广义纳什均衡,在保持可行性的同时提升性能。 该算法引入控制不变集(CIS)解决约束违反问题,适用于高维复杂系统的安全 MARL 任务。 实证结果显示,MADAC 在现有基准测试中显著优于其他方法,在提高奖励的同时减少了约束违规。
神经图模拟器(NGS)提出了一种数据驱动框架,直接从噪声和不完整的观测中学习多变量连续时间动力学,无需预知控制方程。 通过图网络架构,NGS 利用时间间隔作为直接输入近似状态转移积分,避免了数值积分,支持非均匀时间步长和异质时间尺度,并能泛化到未见过的图结构。 在涵盖线性扩散、混沌动力学等基准测试中,NGS 展现了与数值求解器竞争的准确率,并在计算密集场景下实现了显著加速。
研究人员开源了名为 quanda 的 Python 工具包,旨在标准化训练数据归因(TDA)评估流程。 该工具集涵盖了图像分类、文本分类和语言建模等基准测试,并提供了统一的接口以集成不同的 TDA 实现。 其比较研究发现,现有 TDA 方法在不同指标间存在忠实度与下游任务性能的权衡,未表现出全面优势。
提出采用自适应鲁棒优化(ARO)构建时序预测线性回归集成模型,模型权重随时间自适应调整。 在真实场景(如空气质量、能源、台风)中,该方法的RMSE比最佳单模型低16-26%,CVaR降低14-28%。 论文被NeurIPS 2026接收,代码已开源。
ProofLoom 是一个全自动 LLM 智能体系统,用于在 Lean 中构建随机优化的算法模型和领域理论。在 15 个教科书和论文任务中,其平均人工评分为 6.3/7 和 6.4/7,高于最强基线的 4.9/7 和 5.0/7。 系统在 33 次开发中生成 490,693 行无 sorry 的 Lean 代码,并在 22 次开发中发现 28 处已验证的公式错误或证明缺口。
Vestrum 通过改进现有智能体框架组件,从 1 到 10 个长开发轨迹中学习,在五个设置中提升了未见任务的性能。 在 Claude Code 上,Vestrum 将 Terminal-Bench 4 Hard 从 63.7% 提升至 70.3%,在 GAM 系统上将 UltraHorizon 从 47.6 提升至 59.8,且泛化过滤器防止了过拟合。
Hyperlyve 框架引入并行算法,通过枚举 ReLU 激活形成的超平面排列来认证非线性动力系统的渐近稳定性。 该框架在反例指导归纳合成(CEGIS)循环中学习并正式认证连续分段仿射(CPA)神经 Lyapunov 函数,且比竞争工具快 150 倍。
summary_zh: 提出“结构化思维”方法,通过两轮推理提升 LLM 因果推断。Qwen3.5-27B 在 Corr2Cause 基准上 F1 从 77.5 升至 86.5。
提出SADL方法解决JEPAs中的表示坍塌问题,无需额外参数或架构改动。 通过约束编码器以匹配正则化器需求,SADL将坍塌率从50%降至0%。 在控制与图像分类任务中提升学习速度与稳定性。
针对 AI 代理中工具调用成功但工作流失败的问题,提出效果历史模型并整理八种外部效果异常,指出黑盒工具调用无法提供通用保证。 基于官方 MCP 注册中心 98,291 个工具的测量显示,现有标准注释词汇仅提供粗略提示,无法完整表达排除异常所需的能力。 该研究动机是推动在工具边界建立可复用的事务性契约。
summary_zh: 研究基准测试了变分量子循环神经网络(QRNN)在时间序列预测中的记忆与非线性处理能力。结果显示,量子模型性能与经典模型相当,但经典模型在研究范围内随记忆尺寸扩展性更好。
研究人员提出多智能体关系信念优化框架 MARBO,利用关系信念指导 LLM Agent 的策略决策与游戏内语音。该框架仅在行为由可靠信念支持且带来有利社交结果时提供偏好反馈,确保学习一致性。实验表明,MARBO 使小型 LLM Agent 持续优于现有基线,代码已开源。
R 包 ONAM 通过正交神经网络加性模型拟合,实现了黑盒预测的事后可解释性分解。该包提供函数分解技术,将预测结果分解为与不同输入特征相关的组件,并满足分层正交性条件,确保所有组件可识别且唯一定义。作为模型无关方法,ONAM 支持广泛的预测模型应用,并包含可视化和量化可解释性评估功能。
QuantumEvo 框架将 LLM 用于生成感知量子电路成本(QCC)的 BDD 变量排序启发式,在基准测试中相对最优基线实现了 70.9% 的平局或胜率。 该框架演化出的 HGA-QE 启发式通过调整遗传算法内的 sifting 步骤对齐 QCC,并在 13.5% 的函数上取得严格最优。
在线共形预测中,长期覆盖率约束与即时覆盖率稳定性存在权衡。论文证明当长期覆盖率偏差界为 O(T^{-β}) 且 β∈[0, 1/2] 时,可构建两全算法;若 β∈(1/2, 1],则无法同时优化即时覆盖率。该结论揭示了在线预测中鲁棒性与稳定性之间的理论界限。