跳到正文
11月10日周二
  1. arXiv · NLP41

    HARDTESTGEN: 用于 LLM 算法编程的高质量 RL 验证器生成管道

    HARDTESTGEN 提出合成高质量算法编程测试用例的方法,构建了含 26.6k 题目的 HARDTESTS 数据集。 相比现有测试,HARDTESTGEN 在验证 LLM 生成代码时精确度提升 11.22 个百分点。 使用 HARDTESTS 验证器进行拒绝采样和强化学习下游训练,能提升 LLM 代码生成性能,相关数据和管道已开源。

  2. arXiv · NLP40

    AVCORP:基于博弈论与心智理论的欺骗检测基准及微调模型

    LLM Agent 易受欺骗,研究人员构建包含 5,000 条标注对话的语料库 AVCORP,并基于该语料对 Qwen3-8B 进行训练。 在 25 场留出游戏中,最佳检测器超越 GPT-5.6 Sol、Gemini 3.1 Pro 等前沿模型,表现匹配 Claude Opus 5.5;在 20 场人类游戏中,所有训练后的检测器 F1 分数均高于未训练基线。

  3. arXiv · NLP55

    MIRIX-2.0: 面向LLM智能体的多智能体记忆系统

    MIRIX-2.0是一个多智能体记忆系统,在五个QA基准中取得四项最高准确率,LoCoMo得分91.4%,LongMemEval-S得分72.6%。该系统由六种类型化记忆代理维护完整记录,通过AutoDream在写入路径外合并重复锚点,并能在禁用AutoDream时比HyperMem在所有五个计时基准上回答更快,且无需微调即可兼容闭源和开源模型。

  4. arXiv · NLP21

    RDS-MOPD:基于鲁棒优化的多教师同策略蒸馏混合调度方法

    RDS-MOPD 引入分布鲁棒优化改进多教师同策略蒸馏,解决现有方法无法保证落后领域训练质量的问题。 该方法重新设计 DRO 的噪声处理、异常值限制及最坏情况定义,确保仅当差异显著超出噪声时调整资源分配。 实验显示 RDS-MOPD 在数学推理、代码生成及指令遵循基准测试中性能优于近期竞争方法。

  5. arXiv · NLP25

    保留 LLM 概率向量提升人机协同回归效率

    研究表明,在有限人工标注辅助下,使用 LLM 输出的完整概率向量(Soft)比硬性类别标签(Hard)显著提升回归效率。 该结论基于三个 LLM 模型在三个社会科学文本数据集上的匹配实验,证实概率向量中额外变异在包含有用信息时优化了统计推断。 代码与可复现材料已公开,确立了输出表示法在 LLM 辅助测量中的关键设计选择。

  6. arXiv · NLP38

    构建与审计化学数据集:LLM 作为评判者框架在 PET 去聚化领域的应用

    该研究提出基于引用的 LLM-as-a-Judge 框架,用于提取和验证文献中同相催化 PET 去聚化的实验数据。 在 295 个人工审核基准实验中,LLM 评判者与人类评估的一致率为 85.7%;应用于 561 篇论文、3942 条记录时,67.5% 的记录被直接接受。 研究团队开源了端到端无代码化工具包,实现可复现的数据集提取、交互式溯源审查及模型无关审计。

  7. arXiv · NLP38

    Hibana:统一内存设备上的快速智能体推理引擎

    Hibana 是针对统一内存设备设计的推理引擎,通过模型手术、统一内存管理和自适应推测解码协同优化,支持本地多智能体负载。 在单台 DGX Spark 上运行 125B 参数的 Qwen 和 Nemotron 模型时,Hibana 每小时可完成比 vLLM、NVIDIA Flare、TensorFold 等框架多 3.4 倍的智能体任务,解码吞吐量提升高达 3.9 倍。代码已开源。

  8. arXiv · NLP41

    ASCENT 提出规模互补外部状态框架以提升冻结长上下文大语言模型性能

    ASCENT 框架通过规模互补外部状态提升冻结长上下文 LLM 表现,16K BABILong 实验中 Qwen2.5 准确率增益显著。 在 0.5B、1.5B 和 3B 参数规模下准确率分别提升 10.50、78.88 和 82.63 个百分点。 结果显示外部状态价值随读者容量与状态预算联合扩大而增加,基准测试确认其有效性。

  9. 美团技术团队80

    美团正式开源 1.6 万亿参数 LongCat-2.5:多模态模型在国产算力上实现高效推理

    美团正式以 MIT 协议开源 LongCat-2.5,该原生多模态模型总参数 1.6 万亿、每个 token 激活约 480 亿参数并支持一百万上下文,面向长程智能体任务在代码开发、Visual Coding 与专业办公场景中端到端交付能力明显提升。

    推荐理由:原文详细披露了1.6万亿参数多模态模型在国产算力下的W4A4量化策略与训练细节,展示了在显存受限场景下落地万亿模型的具体工程路径。

11月9日周一
  1. Hugging Face Blog38

    HOPE:面向 MoE 语言模型的高阶专家剪枝方法

    Hugging Face 提出 HOPE 方法,通过计算专家间高阶交互实现 MoE 模型的精准剪枝。 作为二阶方法,HOPE 在 50% 剪枝率下表现最优,相比次优方法在 agentic coding 任务上提升最高达 6.1%。 该方法无需训练且兼容量化,能有效解决传统一阶剪枝忽视专家协同集群导致的性能衰减问题。

  2. arXiv · AI25

    SCDBench:基于 LLM 的智能合约反编译器评测基准

    SCDBench 发布,包含 600 个真实 Solidity 合约及语义检查点,用于评估 LLM 智能合约反编译性能。 该基准对 Claude Opus 4.7、GPT-5.3-Codex 和 GLM-5 进行零样本评估,最佳模型仅能完美反编译 42/600 个合约,引入编译修复可显著降低成本。 SCDBench 为区块链安全和透明度领域提供了严谨且可复现的反编译器评估基础。

  3. arXiv · AI24

    有限状态方法的快速通用自动微分:基于“morphism-trick”的高效反向传播算法

    提出名为“morphism-trick”的新方法,用于将自定义的向量-雅可比积集成到自动微分软件中。 该方法实现了动态规划算法高效的、与半环无关的反向传播,并针对有限状态方法引入了计算和微分有限状态自动机所有路径权重的⊕-和的算法。 用户无需大量修改代码,该开源库即可比当前最先进的自动微分系统快几个数量级地计算有限状态自动机权重函数的梯度。

  4. arXiv · ML33

    SegMate: 基于非对称注意力的轻量级多器官分割架构

    研究提出高效 2.5D 框架 SegMate,在三个数据集中将计算量降低 2.5 倍、显存占用降低 2.1 倍,Dice 分数普遍提升约 1%。 该框架在 TotalSegmentator 数据集上以 295 MB 显存实现 93.51% Dice 分数,并在其他数据集上展现出强泛化能力。 SegMate 支持单 GPU 每小时处理 10,000 个体积,代码已开源。

  5. arXiv · AI33

    LLM 层程序:通过皮层区域视角分析 PoLar 的动态层路由

    研究复现并扩展了 PoLar 的层跳过与重复机制,证实组合策略优于单一操作,且难题需更多层重复。 发现学习路由器增益主要源于修复答案格式,固定程序在修正格式提示下同样有效,且纠错程序具有脆弱性。 PoLar 类似丘脑-皮层协调机制,但能有效按输入选择更优程序的类丘脑路由器尚未找到。

  6. arXiv · AI32

    LLM 智能体框架发掘跨组织蛋白共丰度程序

    LLM 智能体框架分析了 22 种人类组织间共 231 对组合,识别出 1,825 个保守蛋白共丰度簇。 该框架整合了表达图谱、蛋白互作数据库及文献证据,76% 的组织对表现出超越随机的共丰度共享,379 个可测试簇在独立 CPTAC 数据中复现。 这些保守簇揭示了现有数据库缺失的机制,如肝脏与骨髓共同关联的白质病变基因,为疾病研究提供假设生成资源。

  7. arXiv · AI21

    Gated DeltaNet-2:线性注意力中解耦擦除与写入

    Gated DeltaNet-2 通过引入通道级擦除门控 b_t 和写入门控 w_t,解耦了线性注意力中记忆擦除与写入过程。 在 1.3B 参数规模、使用 100B FineWeb-Edu tokens 训练下,该模型在 Mamba-2、Gated DeltaNet 和 KDA 等对比基线中,于语言建模、常识推理及检索任务取得最优整体表现。

  8. arXiv · ML24

    子空间感知稀疏自编码器(SASA)用于提升大语言模型机制可解释性

    summary_zh: 研究提出子空间感知稀疏自编码器(SASA),通过将单向量解码器替换为学习子空间,解决传统稀疏自编码器因假设特征一维导致的特征分裂问题。 SASA 利用 Top-s 组门控和核范数正则化适配组秩,在 GPT-2 和 Mistral-7B 上的实验表明,该方法相比传统 SAE 显著降低了特征吸收,并以较低重建成本提高了概念成员预测的准确性。

  9. arXiv · ML29

    串联 2-FWL GNN 实现组合图对齐

    提出串联 2-FWL GNN 方法解决组合图对齐,在稀疏 Erdos-Renyi 图噪声 0.25 时,初始化 FAQ 达 85% 准确率,优于凸松弛初始化的 13% 及现有 GNN 的 0%。 相关正则图上串联法是唯一能恢复非平凡对齐的方法;在酵母 PPI 等基准上,该方法进一步超越强化后的 FAQ 基线,代码已开源。

  10. arXiv · AI35

    HomeLoop:面向日常家庭协助与安全的机器人-IoT协同仿真框架与基准

    研究人员推出基于Isaac Sim的HomeLoop仿真框架及基准,包含20项基于真实家庭隐患的任务。 该基准结合机器人本体、联网设备及故障传感器,通过时间逻辑检查评估动作;评测六款VLM显示最佳模型得分61.9%,且存在过度反应现象。 HomeLoop旨在支持机器人-IoT协同、长期记忆及隐私-安全权衡等研究。