Logit-Gap Steering：用前向传播诊断大模型对齐鲁棒性的研究
该论文提出Logit-Gap以第一解码步中最高拒绝token与最高肯定token的logit差值量化每个提示的安全边际。作者设计了一种无梯度、仅前向传播的后缀搜索方法，每个模型家族约需26000次前向传播等价量（约2分钟A100），比单次GCG搜索低约125倍。
推荐理由：提出Logit-Gap诊断度量安全边际，并以仅约125倍于GCG的算力即可发现可跨模型迁移的对抗后缀。
内容形态
论文研究 最新动态
值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展的精选解读。
85 条精选近 30 天 69 条共收录 7,421 条
更新
精选归档 · 第 4 页
arXiv · ML精选AI 评分6868 Towards AI精选AI 评分7676 我测试了181个AI模型写我的脚本，结果是这样
Louis-François Bouchard 用团队打磨的10份个人YouTube脚本，让181个模型配置各写5次，共生成9050份草稿，由4个AI评分模型对照定稿打分。
推荐理由：原文给出了181个模型配置在9050份脚本上的实测排名与成本对比，读者可以据此判断不同模型在写作场景下的可用性。
量子位精选AI 评分9292 Hinton等发布首篇RSI论文《What if automating AI R&D triggers an intelligence explosion?》
Geoffrey Hinton等22位研究者发布了关于递归自我改进（RSI）的论文，探讨AI研发自动化可能触发智能爆炸。论文引用Anthropic数据指出，AI自主完成内部研发工作的比例在半年内从1%升至26%，并估算若全面自动化，AI技术进步速度在1.5年内可提高10倍，即将一年需完成的进步压缩至约5周。
推荐理由：论文量化了AI研发自动化趋势，指出自动化效率足以启动智能爆炸的反馈循环。
美团技术团队精选AI 评分7979 美团 LongCat 发布 MineExplorer：揭示顶级多模态大模型被忽视的能力断层
美团 LongCat 团队构建了 MineExplorer，一个在开放世界中做到分钟级长程任务的评测基准，并开源了相关数据和代码。基准包含 813 个人工验证的高质量任务实例，支持 1 到 4 级多跳推理任务。
推荐理由：文章给出了18款多模态大模型在MineExplorer动态环境中的具体成绩，读者可以据此判断感知与长程规划之间的实际能力断层。
Hacker News LLM精选AI 评分8282 GPT-6 Astra 首次实现 LLM 智能体通关 NetHack 并自主构建代理框架
GPT-6 Astra 在 9 月 21 日通过独立运行 37,140 回合，首次实现 LLM 智能体通关 NetHack 3.6.7 的 Hardfought 难度。该智能体未依赖预设代码，而是通过自主编写和修复 Python 工具链构建代理框架，并利用外部参考资料和终端状态解析保持决策连续性。整个过程耗资约 300 美元额外算力及 200 美元订阅费，相关证据与代码已开源。
推荐理由：文章完整披露了 GPT-6 Astra 实现 NetHack 通关的独立运行架构、成本及证据链，为评估 LLM 智能体自主构建工具解决复杂问题的能力提供了具体案例。
机器之心精选AI 评分8080 LegoFlow 发布：实现代码数据构建与训练测评全流程自动化
华为、港中文、港大团队推出 LegoFlow，一个自动化的代码数据工程框架，支持从任务收集、轨迹生成到训练评测的全流程智能体工作流。团队开源了 LegoFlow-SWE 数据集，包含从 1200 万个拉取请求中筛选出的 5000 个任务及 2780 条高质量轨迹。
推荐理由：展示了全自动代码数据流水线的完整实现，并给出了小样本训练在 SWE-bench 上的具体提升数据。
Google Research精选AI 评分6161 Diffusion Controller 统一并简化 AI 图像生成
Google Research 发布 Diffusion Controller 框架，将扩散生成重构为连续控制问题。实验显示该框架在灰箱环境中 HPS-v2 胜率超过 LoRA，白箱版本对基线胜率 90%。
推荐理由：提出统一扩散模型控制框架，提供比LoRA更轻量的灰箱控制方案。
Xiaomi MiMo精选AI 评分6060 Xiaomi MiMo-V3 预览新架构 HySparse2
小米发布 MiMo-V3 核心架构 HySparse2，面向长程多轮 Agent 优化 Prefill 计算与 KV Cache 占用。该架构通过两级 KV 共享和 token 级稀疏选择，将 Prefill 计算量降低，KV Cache 从 12GB 降至 2.7GB，并显著提升 MRCR-v2 与 RULER-v2 基准测试成绩。
推荐理由：架构设计细节完整，展示了如何在减少计算量的同时提升长上下文检索精度。
Anthropic (X)精选AI 评分7878 Anthropic 报告 Claude 发现细菌噬菌体中未知酶系统
Claude 在细菌噬菌体 DNA 中发现了此前未知的酶系统。该酶基因旁有一段类似 CRISPR 的重复 DNA 序列，目前其功能尚未明确，但已知具备相似特征的少数系统均可剪切、复制和粘贴 DNA，该发现可能为遗传医学带来新的研究路径。
推荐理由：披露了可编辑的酶系统及其位置，为理解其潜在应用和后续研究方向提供了一条入口。
面壁智能精选AI 评分7272 开源全模态智能体 Gander 基于面壁 MiniCPM-o 4.5 实现 Agent 边做边聊
外部研究团队基于面壁智能的 MiniCPM-o 4.5 开源模型开发并开源了全模态交互智能体 Gander。该模型采用前脑-后脑架构，前脑负责全双工实时交互，后脑负责长程任务执行，使用户在任务运行期间可随时语音打断或补充需求。在 Full-Duplex-Bench v3 评测中，该模型在 100 个场景的适时接话率达到 100%，抢话率为 8.0%。
推荐理由：基于MiniCPM-o 4.5构建的全模态智能体Gander论文与代码开源，其前脑-后脑架构让Agent执行任务时仍可被随时打断，展示了开源端侧模型作为Agent统一交互入口的工程路径。
蚂蚁开源精选AI 评分6666 蚂蚁开源：Agent 提升了代码生成效率，但开源仓库的 PR 积压仍在增长
蚂蚁开源技术委员会发布 2026 年 Agentic AI 生态协作报告，基于 Top 100 开源仓库数据指出，虽然 Agent 将 Pull Request 流入量翻倍并覆盖了 37.6% 的代码审查，但 90 天内未解决的 PR 比例也翻倍，导致代码合入速度与长期维护能力面临压力。
推荐理由：原文基于千个开源仓库的协作数据，揭示了 Agent 在代码生产端的扩张与在代码集成端的瓶颈之间的错位。
Anthropic (X)精选AI 评分6161 Anthropic 发布最详细威胁情报报告
Anthropic 发布了迄今最详细的威胁情报报告。报告详述了用户试图将 Claude 用于网络攻击、影响行动、监控、生物及武器制造等滥用行为及干预过程。该报告展示了高难度滥用案例，旨在通过公开这些信息，帮助其他平台识别类似活动并改进模型安全防御机制。
推荐理由：报告通过拆解具体滥用案例揭示模型风险边界，为构建防御策略提供可参考的实践案例。
千问大模型精选AI 评分6969 E-Commerce Bench 开源揭秘：评估大模型长程网店经营能力
千问联合淘天集团发布 E-Commerce Bench，评估模型在 365 天、10 万本金约束下的电商经营能力。该基准通过确定性内核和 LLM 渲染层还原真实市场与供应商谈判，对 18 个模型进行七维度评估。结果显示 GPT-5.6 Sol 年末总资产达 143 万，但 18 个模型在反欺诈和长程学习上仍存在显著差距，未能在所有维度上同时保持优势。
推荐理由：联合淘天集团发布评测基准，通过确定性内核还原电商经营，量化了18个模型在反欺诈与长程学习上的显著短板。
爱诗科技 AIsphere精选AI 评分7474 爱诗科技发布 PixVerse R2 实时全模态世界模型
爱诗科技发布 PixVerse R2，进一步探索实时全模态世界模型的 Scaling 路径。该模型基于 Omni Causal AR 和 Real-Time Acceleration 两个核心层次，通过动态 Chunk、多时间尺度记忆和 Error Bank 等技术，实现了在严格交互延迟约束下对长程世界状态的持续建模与加速。
推荐理由：原文阐述了实时全模态世界模型的统一训练范式，揭示了如何在持续交互中平衡生成速度与长程状态一致性。
Anthropic (X)精选AI 评分7070 Claude 自主设计 14 个新蛋白结合分子
Anthropic 发布 Claude 在 de novo 蛋白设计中的测试结果，模型根据人类专家编写的提示词自主设计了针对 15 个目标中 14 个的蛋白结合分子。这些设计随后由 Adaptyv Bio 和 Twist Bioscience 独立构建并测试。
推荐理由：官方给出了Claude在de novo蛋白设计中自主生成结合蛋白的具体结果，展示了模型在复杂科学工程任务中的执行能力。
OpenAI精选AI 评分6565 OpenAI 如何使用思维链监控检测内部编码智能体的错位
OpenAI 宣布利用思维链监控技术分析内部编码智能体中的错位现象。该方法旨在分析真实世界的部署场景以检测风险，并以此强化 AI 安全防御措施。
推荐理由：原文展示了利用思维链监控研究编码智能体错位风险的方法，为理解内部部署的安全保障提供具体视角。
OpenAI精选AI 评分7979 GPT-5.2 推导出理论物理新结果
新预印本显示 GPT-5.2 提出了一个关于胶子振幅的新公式，该结果随后由 OpenAI 及学术合作者进行了正式证明与验证。
推荐理由：原文披露 GPT-5.2 提出新公式并获学术验证，读者可据此了解 AI 在基础物理推导中的具体进展。
OpenAI精选AI 评分6565 OpenAI 与 Anthropic 分享首次联合安全评估结果
OpenAI 与 Anthropic 发布了首个同类联合安全评估结果，两家机构互相测试对方模型的对齐性、指令遵循、幻觉及越狱能力。该评估凸显了跨实验室协作在识别安全挑战方面的价值及进展。
推荐理由：原文展示了跨实验室协作测试模型对齐、幻觉及越狱风险的罕见路径，读者可据此理解安全评估的新合作模式。
Hugging Face Blog精选AI 评分8686 DeepSeek-V3 0324 模型更新解析与使用指南
DeepSeek-V3 0324 模型发布，其性能在 MMLU-Pro、GPQA 和 AIME 等基准上均优于前代版本，整体能力接近 GPT-4.5 并超过 Claude Sonnet 3.7。
推荐理由：给出了DeepSeek-V3 0324的基准对比与优化方法推测，并提供了量化和部署指引。
Hugging Face Blog精选AI 评分7575 Open R1 Update #3：CodeForces-CoTs 数据集与 OlympicCoder 模型
Hugging Face 发布 Open R1 Update #3，公布从 DeepSeek-R1 蒸馏得到近 10 万条高质量 C++ 与 Python 代码推理样本的 CodeForces-CoTs 数据集，并发布基于 IOI 的新基准。
推荐理由：给出了代码推理复现的细节与 7B、32B 模型结果，可参考训练策略与评测方法。