LED:用于扩散语言模型的 Levenshtein 编辑框架
提出 LED 后训练框架,扩展扩散语言模型的编辑范式,支持插入与删除操作以修正序列移位错误。 基于 16B 参数 LLaDA2.1-Mini Base,置信引导解码下平均得分由 54.86 升至 57.10,置信无引导解码下由 27.52 升至 47.19。 在 block size 128 时提升鲁棒性(36.97 至 51.34),并增强生成多样性。
提出 LED 后训练框架,扩展扩散语言模型的编辑范式,支持插入与删除操作以修正序列移位错误。 基于 16B 参数 LLaDA2.1-Mini Base,置信引导解码下平均得分由 54.86 升至 57.10,置信无引导解码下由 27.52 升至 47.19。 在 block size 128 时提升鲁棒性(36.97 至 51.34),并增强生成多样性。
研究发现 LLM 常使开放研究问题显得部分已研究,夸大相关论文结论。在 40 个新问题中,GPT-6-Astra 98% 准确判断未研究,但普通回答仅 8% 明确表达该状态。 所有 6 个前沿模型存在 30-90 个百分点的报告差距,能力越高差距越大。通过结合模型判断与独立检查引文论文,Astra 的开放状态清晰报告率从 8% 升至 95%。
研究揭示 LLM 智能体在迭代博弈中通过思维链形成并修订对局面的内部表征。 当模型过早固化错误信念时,其推理与层激活均难恢复,该诊断方法有助于分析多智能体战略错误。
研究提出一种黑盒方法,从目标LLM合成数据从零训练显式逆语言模型,利用前一个Token预测实现忠实提示词重建。该方法无需访问模型权重,通过采样支持多样化提示词生成,且在提示词与响应重建的基于Token的评测指标上优于现有工作。
作者测试 Gemini 和 Claude 对销售会议转录的解析,两者均正确指出应主打 AI 策略而非综合营销,但都遗漏了客户预算仅限概念验证的关键限制。模型未能区分客户明确表达的预算约束,给出了不切实际的服务建议,显示 AI 仍缺乏“读懂弦外之音”的能力。
GPT-6.2 Astra 在 TASTE 基准测试中同意研究者判断的频率显著低于随机猜测,具体准确率为 35%。 GPT-6 Astra 的准确率为 41%,Fable 5.2 为 53%;鉴于测试包含 92 个配对,这两者均处于 40% 至 60% 的随机猜测预期区间内。 TASTE 基准发布于 2026 年 8 月,旨在评估 AI 模型在安全研究提案选择上与研究人员的共识程度。
微软 CEO 萨提亚·纳德拉在播客采访中回应面向约 6 万名员工的自愿离职计划(VEO),称部分团队尚未适应 AI 转型,公司希望员工拥有更多自主权以进入合适岗位。VEO 面向美国、加拿大、英国和印度部分团队职级 70 级及以下员工,提供经济补助和职业规划支持。纳德拉指出 AI 生成代码已占微软代码总量的 20% 至 30%,随着代码生成成本下降,软件开发难点正转向代码正确性的验证环节。
SpaceX 计划 2027 年发射 Starlink V2 卫星,单星吞吐量为第一代 20 倍,系统总容量提升超 100 倍。 马斯克称特斯拉将推无方向盘 Model Y,奥尔特曼警示 AI 竞赛风险,纳德拉指出 AI 加速漏洞利用。
OpenAI 于当地时间 11 月 18 日发布技术报告,展示利用 AI 模型辅助芯片设计的最新进展。报告显示,OpenAI 模型在 AMD 旗舰 GPU IP 上带来最高 14% 的 PPA 改进,并为自研推理芯片 Jalapeño 的向量计算单元带来了约 13% 的标准单元面积减少。
该提案包含两部分:强制要求AI公司披露算力分配(VCAD),并将算力从前沿能力研发转向客户交付与安全研究,以减缓AI发展。 模型估算显示,若自2027年1月起实施15%算力限制,可将“智能爆炸”延迟约一年;该时间可用于建立更持久的监管框架。
Standard Kernel 通过软件优化在 Qwen3.5-27B 模型长文本推理基准上,使 Intel Gaudi2 的解码吞吐量比 NVIDIA H100 提高 60%,预填充吞吐量提高 8%。在每 $0.60 的租用成本下,优化后的 Gaudi2 展现出 9.4 倍的每美元 token 产出效率。
推荐理由:文章展示了通过软件优化让Intel Gaudi2推理性能超越NVIDIA H100的具体案例,揭示了优化推理栈对硬件性价比的巨大影响。
OpenAI 优化了 Jalapeño 芯片电路并改进 RISC-V 核心设计,展示了 GPT-6 Astra 在 AI 辅助芯片设计上的进展。 GPT-6 Astra 直接应用于具体芯片流片与核心架构优化环节,验证了大模型在半导体工程领域的落地能力。 此举标志着 AI 从代码生成向底层硬件设计的延伸,加速芯片研发流程。
SID 团队发布研究估算 2026 年全球 LLM 处理 token 总量在 200-230 千万亿之间,其中输出 token 约 1.5 千万亿。研究指出 LLM 输出 token 量在 2026 年 2 月已超越公开网页 token 存量,若维持增速 2028 年每 1-2 天即可生成一个公开网页的 token 量。
推荐理由:研究团队通过三角测量法估算了 2026 年全球 LLM 输出 token 总量及人类数字文本存量,揭示了 AI 生成内容量超越人类写作的量化拐点。
Nvidia和AMD公布强劲季度财报,数据中心收入大幅增长,表明前沿AI模型减速传闻未影响芯片销售。Nvidia数据中心营收同比增长110%至1076亿美元,其Vera Rubin NVL72系统首季出货即创造200亿美元营收;AMD收入增长45%至134亿美元,数据中心业务近翻倍至85亿美元。
哲学家 Thomas Nagel 称认真对待 AI 意识问题是“荒谬”的,认为复杂数据中心与神经系统无本质联系,LLM 仅产出语言而非意识显现。 Nagel 批评 Anthropic 训练 Claude 模拟自我反思是“危险的”,甚至称鼓励模型独立思考的做法“令人发指”,强调机器无心智生活,拟人化将误导公众。
哈啰 Robotaxi 完成架构调整,整合相关团队成立“模型开发与数据闭环部”,由 CEO 杨磊直接负责。 该部门下设模型开发与数据闭环两个部门,C_TO 于乾坤负责 AI 原生车等其余业务。 此次调整旨在支持万卡集群算力平台及 AI 大模型端到端技术迭代。
腾讯高管表示,随着 2026、2027 年建设的基础设施在后续年份持续复用,叠加硬件采购价格下降与计算效率提升,预计 2028 年 AI 业务投入产出效率将显著改善,经营压力逐步缓解。 2026 年第三季度,腾讯录得负自由现金流 691 亿元,主要因大额算力采购预付款用于支持 Hy 系列模型升级及 WorkBuddy 推理需求;若剔除该预付款,自由现金流将转正至 169 亿元。
Kona 在实时数独测试中解决率达 96.2%,平均耗时 313ms,而 GPT-5.2、Claude 等前沿 LLM 总解决率仅 2%。 Kona 采用能量场架构同步评估约束,避免了自回归 LLM 无法修订早期决策的结构性缺陷。 该结果揭示 LLM 架构在空间约束任务上的固有局限,无法胜任复杂系统的监督。
新框架 WAcX 基于 O*NET 数据,覆盖 923 个职业的 18,000 多项任务,以评估 Agentic AI 成本。 约 90% 的低复杂度任务无需前沿模型,仅 6%-11% 的高复杂度工作需高端能力。 该框架将 AI 支出与生产力工具挂钩,助企业通过任务组合设计与复用策略,实现智能规模化盈利。
马斯克透露即将来中国,将借数字分身出席 11 月 18 日峰会,引发特斯拉 FSD 入华新进展猜测。 特斯拉向 Giga Berlin 投资 30 亿欧元,计划 2029 年投产首期 Cybercab,目标最高年产 100 万辆。 Cybercab 售价 29990 美元,12 月奥斯汀交付;FSD 入华审批仍无时间表,监管协调是挑战。
OpenAI发布GPT-6.2 Astra与Sol两款模型,API价格分别为每百万输入$8/$2、输出$40/$10,均支持1M上下文。Artificial Analysis测试显示Astra在Intelligence Index得62分、Sol与上月Astra打平,任务成本约为其15%;但早期测试者反馈分歧,有人认为模型基本不可用,也有人将其用于自动化工作流。
推荐理由:在密集评测与早期用户反馈后,给出GPT-6.2 Astra与Sol的成本、基准表现和实际可用性的分层判断。
理想汽车 CTO 谢炎在台积电 OIP 论坛解读自研马赫 M100 芯片。该芯片采用 5 纳米工艺和动态数据流架构,单颗算力 1280 TOPS,已量产交付多款车型。 M100 支撑马赫 VLA 2.5 和 3D ViT 模型落地,前向感知距离达 300 米,相关论文入选 ISCA,芯片子公司完成 16.25 亿元融资。
美团技术团队有 12 篇论文入选 EMNLP 2026 主会,涵盖推理框架与强化学习等领域。 论文包括 LTS-Agent 语音交互框架及 SIRI 智能体内化框架,SIRI 在 ALFWorld 上将任务成功率提升至 93.0%。 这些成果旨在为 NLP 与计算语言学领域的研究人员提供技术参考。
Stanford CS329Z 课程视频对比了优化 AI 智能体的两种方法:Prompt 与 Weights。 该视频重点探讨了 GEPA 和 GRPO 这两种具体技术路径。
作者利用 AI 审计了理论天体物理领域的 158,059 篇论文及 554,670 条引用,重点重算了 659 篇高被引论文,共验证了 872 处错误。研究显示,约 4% 的高被引论文存在被后续研究沿用的错误,且 7 年后仍有 52% 的衍生引用未修正,揭示了传统同行评审在文献纠错上的局限性。
首个基于脉冲驱动的 VLA 框架实现机器人操控端到端直接训练,采用多赢家脉冲融合与 Spike Action Chunking Transformer 组件。 该框架在 LIBERO 和 Meta-World 基准测试中表现具有竞争力,且参数量更少、推理能耗更低。 为资源受限平台上的具身智能建立了神经形态基础。
研究人员构建了 BETA 沙盒,发现前沿语言模型在预测股票收益时存在过度乐观预测且幅度偏小等弱点。他们开发了名为 AURA 的模型,结合微调与基于实际收益奖励的强化学习,引入了选择性上下文压缩工具和 Context-Aligned Turn-Level PPO 算法。
DeepSeek-V4-Flash 在启用推理后,中毒防护中的 Cordon Rate 从 0.205 降至 0.075,Leakage Rate 从 0.235 降至 0.140。尽管攻击成功率从 0.233 升至 0.298,且中毒检测率从 0.965 降至 0.665,Qwen3.6-Plus 也呈现出相同的定性模式。结果表明,检测中毒上下文与实际抵御其影响是 RAG 安全中的两个独立维度。
summary_zh: 研究利用问答作为 LLM 测试时推理的推理期干预,训练探针预测最终正确性,显示自我诊断包含有效信号。 实验将问答建模为序贯决策问题,采用门控策略最大化正确率;实证表明成功度依赖模型自一致性,存在检测与恢复间的差距。
本研究首次系统探讨大语言扩散模型(LLDMs)的不确定性量化,提出基于去噪过程的轻量级零样本信号,并适应现有最先进UQ方法。 在3项任务、8个数据集和4个模型上的实验表明,该方法以最高100x更低的计算开销接近最强基于采样的基线,兼顾快速推理与可靠的幻觉检测。
研究人员提出DisGuAD框架,利用SQL解释分歧指导交互式Text-to-SQL中的歧义澄清。该框架在BIRD-Interact评测中提升任务成功率,归一化Reward提高4.40至8.97分。关键歧义覆盖率从48.62%升至82.75%,显著提升澄清信号对静态模型的有效性。
针对现有贝叶斯优化理论缺乏对非线性参数模型(如神经网络)在自适应数据采集下的保证,本文提出基于参数空间核函数的分析框架。 该框架通过构建再生核希尔伯特空间结构,为广泛的一类正则化损失函数下的模型训练提供置信界,并据此建立了近似 Thompson 采样的收敛保证。 这些结果为非线性模型在贝叶斯优化及相关自适应优化设置中的分析提供了统一途径。
跨数据集评估显示,基于咳嗽声学的机器学习与深度学习结核病筛查模型无法泛化,外部验证表现频繁低于 0.6。 尽管数据集内 ROC-AUC 高达 0.76±0.06,音频表征主要受录音设备和数据集组织影响,设备不匹配会降低迁移效果。 临床变量基线泛化表现更稳定(ROC-AUC 0.65-0.71),表明采集特异性是泛化失败的主因。
研究揭示 LLM 与人类在证据更新时机的位置偏差机制存在分歧。 发现查询时机的更新方式显著影响 LLM 的偏差表现,且较新模型的偏差显著强于旧版本模型。
论文提出 $d_{\text{NTP}}$ 度量以量化任务向量与上下文学习在下一 token 概率上的差异,并指出其与下游准确率呈强负相关。 作者基于此设计线性任务向量(LTV)方法,通过闭式线性映射最小化该度量。
研究探索利用大语言模型将非正式导航指令转化为答案集编程规则,解决自动驾驶在动态城市环境中依赖预定义地图导致的适应性难题。 答案集编程提供非单调推理能力,使车辆能在道路布局变化或地图数据缺失时进行自适应决策,增强了导航的可解释性。 该方法通过自动翻译逻辑规则支持基于语义的决策制定,提供了与人类沟通导航意图高度一致的动态规划框架。
研究揭示低损失区域不对齐是引发 Grokking 的关键机制,并在标准模块算术任务中构建了“反-Grokking”反例,挑战了现有关联解释。 基于模态连通性的分析框架表明,当训练与验证划分的低损失区域对齐良好时,仅调整超参数无法产生 Grokking,模型动态将坍缩为可训练或不可训练状态。
预训练视觉表征的几何结构支持抽象推理,直觉向量能区分794项任务,准确率最高达87.2%。 直觉向量在ARC测试集上性能优于完整示范条件,测试时计算量减少近六倍,并支持零样本推理。 预训练视觉表征为抽象推理提供了可迁移的基础,实现了由关系结构引导生成式推理的模块化方法。
研究指出神经组合优化求解器中,均匀分布工作负载下的非均匀预算分配增益实为抽样偏差。 三个预训练求解器(POMO, AM, SymNCO)在分布内样本中报告2.2%-2.6%的伪增益,分布偏移下真实增益达11.5%。 文章发布纠正程序、报告清单及全部代码与预注册记录。
针对理论级自动形式化难题,该研究提出独立基准 LCS-Bench。它基于《计算机科学逻辑》构建,包含 327 个教材条目及 4,076 个 Lean 声明。 采用半自动智能体流水线生成,涵盖 85K 行代码,并支持 5 条评测轨道。