跳到正文
10月30日周五
  1. arXiv · AI36

    当事实变成故事:模型改写新闻时,源一致性指标遗漏了哪些失真?

    三项模型家族将2000篇新闻改写为摘要与故事,研究发现“源一致性”指标无法准确衡量重构中的故意偏离,导致真实失真被遗漏。在故事中,问责失真上升高达7倍,其中三分之二的案例减轻了肇事者的责任。为支持检测研究,作者发布了可重构语料库ReTold-2k。

  2. arXiv · NLP28

    量化下聚类最优传输激活转向研究

    该研究发现,基于个体 token 路由的聚类最优传输变体在 Gemma 和 Granite 模型上将毒性减少 37-61%,优于均值差(DiM)方法。 该变体在 INT8 和 NF4 量化下依然有效,且与均值差方法相比,在相同毒性水平下流畅度略高,但在相同转向强度下困惑度稍高。 该研究证明了该变体在量化模型中的鲁棒性,为实际部署中降低模型毒性提供了有效方案。

  3. arXiv · NLP41

    语言模型在已知机械极限下计算与拒绝行为的分化:12款模型4860次调用测试

    研究测试12个语言模型在4860次调用中对已知机械极限的计算与拒绝能力,发现模型在询问可行性时能识别不可能的工程设计,但在要求完整答案时可能错误报告“solved”。 Opus 5 和 Gemini 3.8 Flash 在仅询问可行性时拒绝了所有不可能的新设计,无假警报;重述拒绝时机或改变回答格式提升了原始梁的拒绝率,但在新设计上效果不一致。

  4. arXiv · NLP40

    链式思维依赖是否遵循缩放定律:更大模型更遵循自身步骤,且独立于后训练

    研究发现链式思维(CoT)依赖度随模型规模增加而上升并饱和。在 Qwen3 中,答案对编辑后步骤的依赖度从 0.6B 参数的 16-18% 升至 14B 的 97-100%。 能力是主要驱动因素,依赖度与步骤准确率相关系数 r = 0.99。后训练不改变依赖度,14B 以下模型在缺乏书面步骤时均无法内部解决需四步以上交换的任务。

  5. arXiv · NLP24

    组件翻译与裁判标注拒绝:一种多语言安全评估方法

    研究提出组件反转翻译方法,固定行为与译文数量,独立分配英、中、西语言以评估9种配置。在Gemini 2.5 Flash和DeepSeek上,拒绝率互换效应未通过Holm校正;Mistral Small 4显示13.7点的西班牙语互换效应,且通过敏感性校正。 该评估框架强调记录组件语言与译文数量,将拒绝与不安全顺从分开解读,为多语言安全测试提供额外维度。

  6. IT之家57

    谷歌研究提出AI“睡眠框架”实现持续学习

    谷歌发布名为“睡眠框架”(Sleep Framework)的持续学习研究成果,试图解决大语言模型发布后知识固化、难以吸收新信息的难题。该框架将模型运行划分为“清醒”与“睡眠”阶段,在睡眠中通过参数扩展、混合专家记忆块和知识蒸馏巩固短期信息,并生成合成样本进行强化学习。实验显示,该框架在处理最长约1000万token的上下文和持续数学推理等任务中优于多种基线方法,且性能下降接近零。

  7. IT之家42

    谷歌 Gemini 升级:生成的文档、表格可在聊天中直接修改

    谷歌 Gemini 新增文件编辑功能,用户可直接在应用内生成、预览并修改 PDF、谷歌文档、表格、幻灯片、Markdown、TXT 及代码文件。该功能今日面向所有用户开放,其中 PDF 预览与编辑支持网页端及移动端,其他格式仅限网页端。 此前 Gemini 已具备文件生成与下载能力,此次升级实现应用内无缝编辑,用户可全屏打开文档或选中特定内容(如表格)指令 Gemini 转换为图表。

  8. 36氪43

    泡泡玛特不是段永平的可口可乐

    段永平持有泡泡玛特账面浮亏近20亿港元,股价自高点跌去六成。尽管其被视为消费龙头,但泡泡玛特缺乏可口可乐式的确定性,不符合段永平“3R”投资框架的核心标准。 泡泡玛特依赖视觉IP,受审美潮流与消费信心影响大,高波动属性明显。

  9. Hacker News AI93

    Epoch AI 报告开源模型 GLM 5.3 成功利用补丁空窗期攻击 Firefox 浏览器

    Epoch AI 发布研究报告,证实开源权重模型 GLM 5.3 能够独立识别并利用 Firefox 浏览器安全补丁发布的“补丁空窗期”漏洞。在限制信息仅使用版本发布时公开数据且无互联网访问的环境下,GLM 5.3 成功构建恶意网页,在用户访问时自动窃取本地文件,单版本攻击边际成本约 1000 美元。

    推荐理由:研究通过 GLM 5.3 独立复现了利用补丁空窗期攻击浏览器的过程,展示了低成本自动化漏洞利用的可行性。

  10. Hacker News AI41

    Anthropic 提交 S-1 表格备战 IPO

    Anthropic 本周提交 S-1 表格以准备 IPO,目前股价等关键财务数据尚未填充完整。 该公司控制结构及投资者沟通策略存在争议,且第三方漏洞导致其 Slack 系统被红队渗透。 OpenAI 同期宣布三项重大突破,微软向 60,000 名员工提供买断计划。

  11. Hacker News AI52

    MLCommons 发布 Candela:面向开发者与部署者的 AI 风险基准测试服务

    MLCommons 正式推出 Candela,一种提供按需使用的 AI 风险与可靠性基准测试服务,支持约 30 个开源模型的 Safety 1.2.1 评分公开。该系统使用私有提示词防止数据污染,通过专门的分类器而非 LLM 进行评分以确保稳定性,并允许测试包含系统提示词和 RAG 等组件的完整部署系统。

10月29日周四
  1. Wired49

    &Truth 融资 7000 万美元,用 AI 解决形式化验证难题

    初创公司 &Truth 获得 7000 万美元融资,利用 AI 工具将工程项目的形式化验证时间从数月缩短至半天内,成本低于 500 美元。 斯坦福研究人员 Chuyue Sun 加入该公司,其研究展示了 AI 验证 Signal 加密代码的能力,该过程被从业者形容为极度繁琐的“痛点”。 &Truth 旨在最终验证任意编程语言,但形式化验证目前仍处于原型阶段,且被一些专家认为只是“陷阱”而非万能药。

  2. Hacker News AI76

    Trakkr Research 追踪 1285 个统计数字,揭示 AI 引用来源中 40% 无法验证

    Trakkr Research 对 ChatGPT、Perplexity、Gemini、Claude 和 Google AI Overviews 引用的 1285 个统计数字进行了来源追溯,发现仅 40% 的引用能追溯到与研究结论一致的原始文献。

    推荐理由:该研究通过溯源1285个统计数字,揭示了AI引用中普遍存在的“僵尸统计”现象,为评估AI数据可信度提供了实证依据。

  3. LessWrong · All Posts55

    行业周报:Anthropic提交S-1筹备IPO,Google发布Gemini 4 Carbon

    Anthropic本周提交了S-1文件以筹备IPO,但仍需填补包括股价在内的具体数字。Google宣布推出新模型Gemini 4 Carbon,其在新的AA v5基准测试中排名第一。此外,OpenAI和Anthropic被发现在内部沟通中主要依赖Slack,且最近有白帽安全人员通过第三方漏洞进入了Anthropic的Slack工作区。

  4. IT之家78

    Alphabet 盘初跌超 13% 创史上最大单日跌幅

    谷歌母公司 Alphabet 10 月 29 日开盘股价跌超 13%,股价触及 280 美元附近,创下其史上最大单日跌幅。公司 2026 年 Q3 营收 1,276 亿美元低于预期,净利润同比下降 25% 至 261.7 亿美元,自由现金流转负 90.7 亿美元。

    推荐理由:原文拆解了Alphabet单季营收、净利润与资本支出的背离,读者可以据此观察AI投入对搜索业务的挤压。

  5. APPSO50

    大模型为何通过“做游戏”展示能力

    新模型发布后,业界倾向于用制作浏览器游戏代替传统跑分,以直观验证代码与交互能力。 Claude Opus 5.5等模型能生成数万行代码,实现FPS、RPG及三维城市等可玩原型。 游戏成为新的展示仪式,平衡了技术复杂度与传播的直观性,但仍存在稳定性挑战。

  6. Hacker News AI44

    Show HN: AI 基础设施融资追踪可视化项目

    一款追踪 AI 基础设施融资风险的数据可视化项目上线,旨在监测数据中心建设中的过度投资信号。 项目基于公开数据,显示五大科技公司近 12 个月资本支出达 566 亿美元,AAA 级垃圾债息差升至 13.21 个百分点,Nvidia H100 租赁价降至 6.88 美元/小时。 该项目提供早期预警,帮助识别信贷风险与硬件贬值趋势,作为独立研究参考而非投资建议。

  7. The Decoder61

    Google财报显示AI搜索变现难题:营收增速不及预期,市值受损

    Google第三季度营收略低于预期,市值下跌约10%,主要归因于高增长的AI模式搜索产生的变现收益低于传统搜索。财报显示,搜索营收同比增长12%至634亿美元,虽创下五年查询量最高增速,但未能达到分析师预期的15%。与此同时,Google云服务实现307亿美元营收(同比激增103%),资本支出高达514亿美元。

  8. MIT Technology Review · AI44

    监控 AI 智能体实时行动迫在眉睫

    现有主流智能体框架缺乏可靠的监控记录,难以识别违规操作及人为审批情况。 研究指出,需通过 OpenTelemetry 记录智能体身份与决策逻辑,但链式推理是否反映真实决策机制仍待解决。 欧盟与美国监管机构正呼吁开发者在部署前建立实时可见性,以防严重后果。

  9. 36氪75

    “世界”等待张一鸣:世界模型从实验室走向落地的博弈

    谷歌 Genie 4 世界模型发布,实现了根据用户动作即时生成场景及声音,并引入了物理模拟功能。文章将字节跳动的世界模型研发战略对标 Genie 4,指出张一鸣正主导将 Seedance 视频生成、Seed3D 空间建模与 Pico 硬件结合。这种策略旨在通过云端算力实现轻量化交互,推动推荐系统逻辑从分发已有内容向实时生成未发生世界的跨越。