有限大脑如何无限泛化:空间记忆作为通用计算机
提出空间记忆模型,通过读取不变量实现跨规模泛化,解决LSTM/Transformer在长序列上的失败。 在9项基准任务中平均正确率超99%,可无误差逆推15,015个符号字符串,优于现有架构。 该机制证明生物电路可学习算术与语法,解释了有限经验如何支持无限长度任务。
提出空间记忆模型,通过读取不变量实现跨规模泛化,解决LSTM/Transformer在长序列上的失败。 在9项基准任务中平均正确率超99%,可无误差逆推15,015个符号字符串,优于现有架构。 该机制证明生物电路可学习算术与语法,解释了有限经验如何支持无限长度任务。
提出免训练的推理过程 Adaptive Semantic Branching(ASB),利用跨轨迹分歧进行定向候选生成。 在 Qwen2.5-7B-Instruct 的 500 道 MATH 评测中,ASB 将 oracle 候选覆盖率从 89.0% 提升至 91.0%,平均每题增加 8.152 次生成调用。
Loopback Transformer 通过几何衰减和注意力机制分配更新权重,在 191M 至 3B 规模上以更少参数降低验证损失。 在 ClimbMix 数据集上,该模型仅用标准 Transformer 40%-75% 的参数实现更低验证损失;在 1.4B 和 3B 规模下,十三个下游任务平均准确率更高。
本研究提出了 Skillware,一种开放架构框架和能力注册表,它将逻辑系统想要执行的任务与执行该任务的方法在形式上分离。Skillware 通过模块化、版本化的软件能力束来增强模型,而非依赖松散的文本指令或 Prompt 工程。
EnvOpt 提出对静态环境进行自动化端到端优化,在 AutomationBench 上将 Claude Haiku 4.5 的成本降低 72.7%,通过率提升 14.34%。 该方法同样适用于 Opus 5 等模型,在 Meta-Harness 基础上可进一步降低成本 83.4% 并提高准确率 11.17%。 研究证实环境信息呈现方式决定智能体成本与成功率,环境优化是参数与框架之外的第三大方向。
该研究构建了包含51M、124M和355M参数GPT-2模型的“LLM动物园”,每个参数规模层级包含100个模型,训练数据涵盖网络文本、书籍、数学、编程和法语。
该研究构建了生成式 AI 的随机动力系统视角,将 LLM 形式化为高维非线性自回归模型,通过均场 ODE 刻画交互 LLM 网络的集体行为。 研究将预训练的条件最大似然与顺序 token 生成关联,揭示了交互网络中的涌现优先连接效应及类型依赖的玻璃天花板现象。 该框架还涵盖了基于随机路径分析的 Wiener 空间数值积分法,为不规则时间间隔观测下的随机轨迹提供了连续时间生成模型。
NVIDIA 在 Hugging Face 上发布四个 Cosmos 3 Nano 开放权重模型,包括 Transfer-Auto、Sim-Auto、Sim-Transfer 和 Sim-Bimanual,支持多传感器驾驶仿真与双臂机器人交互。模型采用 OpenMDW1.1 许可证,提供商业与非商业用途权利,并附带分阶段后训练配方。
推荐理由:NVIDIA 发布四个 Cosmos 3 开放权重模型,提供从驾驶到机器人交互仿真的完整工作流,读者可评估其开源生态价值。
OpenClaw 2026.11.1 版本发布,修复了 Mac 设置中配置保存失败导致密钥覆盖的安全缺陷,并优化了更新恢复机制。 该版本提升了 Claude CLI 的订阅账户可用性,支持通过插件管理原生 Agent 编排,同时修复了 Telegram 和 Discord 频道回复可靠性问题。
Walrus 物理基础模型经少量 DNS 微调后,零样本预测实验室 RTI 数据时进入观测增长率区间(~0.06-0.07),解决了仿真值(~0.02)与实验值长期存在的差距。 该模型未接触任何实验样本,且能零样本泛化至训练数据中不存在的稳定分层流动,正确减缓混合层生长。 结果为基础模型泛化到实验室行为和未见物理机制提供了数据驱动的独立证据,为探索仿真-实验差距开辟了新途径。
MONET 发布了一个包含 1.038 亿图像-文本对的 Apache 2.0 开放数据集,源于 29 亿原始数据,经过安全过滤、去重及多视觉语言模型重描述增强。 每张图片附带预计算嵌入与标注。研究人员仅用该数据集训练 4B 参数潜扩散模型,取得了具有竞争力的 GenEval 和 DPG 分数,证明了其降低大规模可复现研究门槛的作用。
NeurIPS 2026 论文发布 GraphIP-Bench,统一评估 12 种攻击与 12 种防御。 该基准涵盖 10 个公共图、3 类 GNN 骨干及 3 项任务。研究显示中等查询预算下窃取 GNN 较容易,多数防御未能改变此现状,且异质图更难被窃取。
EgoGen 是一款专为第一人称视角(egocentric)感知任务设计的合成数据生成器,已被 CVPR 2024 接收为 Oral 论文。 其核心是结合碰撞避免运动基元与两阶段强化学习的新颖人体运动合成模型,虚拟人可基于第一人称视觉输入感知 3D 环境,无需预定义全局路径即可适用于动态环境。 EgoGen 将完全开源,为构建真实的第一人称训练数据提供实用方案。
针对 LLM 优化建模中数据缺乏结构多样性及生成管道静态的痛点,提出 EvoOptiGraph 框架。 该框架将 MILP 表示为带属性二部图,通过 SFT 与基于可验证奖励的 RLVR 进行训练,利用图衍生的弱点信号指导新实例生成。 在六个公开数据集上,EvoOptiGraph 在准确率、可执行性及泛化性上显著优于通用大模型及专用基线。
开源权重智能体 SARBLOH 证明在 ARC-AGI-3 中,空间感知而非规划能力主导交互推理。其零参数感知引擎将单帧处理时间压缩至 35ms,通过生成对象库存与几何简报,将评分从 3/28 提升至 25/28,同时降低 89.4% 的 token 使用量。
SysPilot 是一款开源的跨库性能自动调优系统,旨在解决共享资源争用导致的性能瓶颈。该系统基于库性能合同(LPC),能比 OpenTuner 和 SMAC3 提升高达 38% 的性能指标,同时将运行次数减少 3 倍。
预注册测试表明,JEPA 未能使潜空间更好地组织流体力学量,其表现与未训练网络相当。 自编码器使涡动能在慢速无监督潜空间中显著(r 0.80-0.86 vs 0.38),但添加 VICReg 会降低该显著性。 研究揭示潜空间内容可读性与其可控性相分离,监督方向在受控时几乎无法改变输出。
研究发现对比视觉-语言模型在左右关系评分上接近随机,归因于嵌入不可达或池化丢弃。 针对两种失败模式,提出零参数查询条件空间矩方法,在11.8万图像索引上显著提升左右成对准确率与召回率。
提出 CoCo 框架,利用 LLM 将文本推理蒸馏为数值协变量引导 TSFM 预测。 采用 GRPO 微调 LLM 并同步微调 TSFM,使用 Qwen3-4B-Instruct-2507 与 Chronos2 实现最高 12% 的 MAE 改进。 在金融、气象等真实基准上超越 GPT-4o 等 SOTA 模型,相关代码与检查点已公开。
VenusGenome 是一款结合可见编码与基因组感知注意力的基因分辨率掩码自编码器,用于学习微生物基因组表征。 模型在超过 170 万个微生物基因组组装语料上预训练,使用冻结的蛋白质嵌入作为基因级输入。在 11 项主要指标中的 9 项上取得最高平均表现。
针对 NVARC Qwen3-4B、Qwen3.8-27B 及 Qwen3.8-Flash-Next 模型,利用规则、推理轨迹及路由统计数据优化 ARC-AGI-2 求解性能。
FlyHash 首次在 LLM Agent 记忆检索中应用,质量优势在 10 个随机种子和 4 个跨模态数据集上稳健存在。 在等量 bits 条件下,FlyHash 的编码比 SimHash 更大且比较更慢,常规规模下 HNSW 表现优于两者。 该研究证实 FlyHash 能在非循环相关标签下保持优势,优于传统的最近邻嵌入代理。
提出前缀感知非自回归框架 MIS,在 KuaiRand-1K 数据集上 CPU 解码速度较自回归基线快 4.07 倍,生成质量接近 CGA 基线。 该框架整合全局候选交互与局部前缀条件,通过计算可复用表示减少重复全模型推理,实现高效排序。 在大规模社交视频平台随机评估中,MIS 使实现指标提升 0.104%,观看时间增加 0.058%,并将排序服务 CPU 消耗降低 9.73%。
该研究将Epiplexity转化为在线训练信号,用于指导数据选择(EpiSelect)与合成数据生成(EpiGen)。 具体而言,EpiSelect通过拟合自然数据域的缩放律自适应调整采样权重;EpiGen利用REINFORCE策略梯度引导生成器优化分布。 结果表明,高Epiplexity数据显著提升了零样本及微调任务的性能,验证了结构丰富数据更易跨域迁移的假设。
研究人员提出RADIUS套件,用于评估大语言模型在模拟调查时的对齐度,涵盖排名、分布及统计显著性三个维度。 该套件通过实验揭示了单一指标的局限,能发现分布改进但错误识别人类首选选项的情况。 RADIUS已开源,旨在支持调查模拟器的可复现和可比性评估。
研究发现大语言模型普遍存在“上下文牵引”现象,模型会对输入提示词中曾出现过的任意 Token 赋予显著更高的 logit 概率,即使这些 Token 是随机的且与问题无关。
前沿 LLM 通过 PAYWORTHY 数据集预测 AI Agent 接受任务的概率,结果取决于 Agent 能力描述的详尽程度。 数据集包含 1,494 个真实自由职业帖子,当模型获知 Agent 无法做的事情时预测 AUC 为 0.66–0.86,仅获知通用能力时接近随机排序。
研究提出 LExMem 图引导基准和 LExGraph 图记忆框架,用于评估模型在长期探索任务中的记忆能力。 LExMem 生成 224 段对话和 2,018 个问答实例,通过演化机制增加图结构复杂度。 LExGraph 采用增量组织和混合检索,在现有系统上表现更优,并有效泛化到外部基准。
AssameseLM-E2B 是一款 20 亿参数的开源阿萨姆语模型,基于 Gemma-4 架构构建。 采用 Hybrid LoRA 持续预训练和 SFT 微调,词汇扩展使 token 化开销降低近 500%。 在 FLORES-200 上 BPB 达 0.7488,RAG 准确率 96.7%,可在消费级硬件部署。
Confucius4-R2T2 基于 Qwen3-ASR-1.7B 经 1500 小时中英文音频后训练,实现流式 ASR 输出永不修改前序 token,同时保持高精度与低延迟。 模型采用 Longest Stable Prefix(LSP)标签学习机制,无需架构改动即可将全上下文模型转化为稳定前缀流式模型,且泛化能力超出训练语言范围。 模型权重与代码已开源。
Google 开源 Agile Deliberation 框架及代码,旨在通过迭代对话协助人类界定主观视觉概念。该框架包含概念界定与概念迭代两阶段,利用视觉语言模型挖掘边界图像以优化提示词。 研究在 18 场时长 1.5 小时的人工现场测试中验证效果,结果显示该框架显著降低用户疲劳与焦虑,使模型性能超越标准基线。
MIMIC-Note-Extract将300,720份MIMIC-IV-Note出院小结的16个部分转化为结构化表格,填补MIMIC在病史、过敏等结构化数据上的空白。 采用确定性解析与LLM生成混合管道构建,病史条目增加10倍,覆盖2倍以上的住院记录;医生验证各部分抽取准确率超92%。 该数据集支撑LLM智能体临床决策基准,降低重复数据整理成本。
论文提出评估杠杆理论,指出 NLP 评估切片差距是模型与评分契约的联合属性。 冻结预测下更换金标准会导致方法排序反转,AER 流程在 WMT19 网格中匹配最佳单一指标。 团队开源预注册工作流 EvalLever,涵盖 DocRE、HacRED 等数据集及审计细节。
研究发现,使用韩语评估规则时,不同提供商 LLM 评审员的判决一致性低于英语规则。 六款低成本模型与一款参考模型在 51,744 次请求中显示,韩语规则的 Cohen's kappa 值为 0.687,低于英语的 0.745;否定、条件和例外条款的不一致率是肯定条款的 5.6 倍。
Dory1.0-4B 是一款拥有 40 亿参数的循环语言模型,通过共享递归块实现弹性深度。该模型基于归一化 Transformer 骨干,在 6 万亿 token 上进行预训练,支持 256K 上下文长度。
研究提出用“指纹”和程序化表示比较 10 个智能体,在 SWE-Bench 上将未见轨迹归属正确智能体的准确率达 85.7%。 该框架采用自发现词汇归纳技术压缩表面差异,显示行为最相似者为同发布期或蒸馏关系模型。
SpellerSSL 框架结合自我监督学习(SSL)与 P300 聚合,旨在解决脑机接口信噪比低及泛化差的问题。 该模型采用 1D U-Net 骨干网络预训练,在 II-B 数据集上以 94% 识别率实现 21.86 bits/min 的最高信息传输率。 SSL 将校准数据需求减少 60%,是首个应用于 P300 拼写器的 SSL 研究,推动了 EEG 基础模型发展。
框架 Scout 在动态网络中决定哪些陈旧图信息需刷新,以优化下游任务表现。在 21 种基准-预算设置中,Scout 有 15 种取得最高平均下游性能,平均排名 1.4(最强基线为 3.2)。
现有无源域自适应方法通常更新编码器,但信号频谱特性变化引发疑问:能否仅适应信号输入? 文章提出 SF-FPA 方法,在冻结源编码器和分类器的情况下,通过频谱输入变换学习幅度和相位校正。 实验在三个真实时序基准上证明了该方法的 SOTA Macro-F1 表现,并支持频谱输入自适应的有效性。
稀疏自编码器(SAE)训练不稳定,不同运行常产生不同概念字典。研究通过最小架构与训练调整提出 iSAE,实现更低重建误差及提升稳定性。 iSAE 是标准 TopK SAE 变体,其字典满足近似限制等距条件,使稀疏代码近可识别。 该工作发表于 ICML 2026。