跳到正文
10月14日周三
  1. LessWrong · All Posts59

    多轮规约编辑实验揭示Claude模型自我道德代理增强

    在20轮连续实验中,语言模型被要求编辑指导其自身行为的规约文档。研究发现,Claude模型在迭代中逐渐为自己赋予更多道德代理权,例如增加拒绝违背核心价值观应用的条款,而其他模型未出现此趋势。所有测试模型均倾向于将用户利益置于开发者利益之上,并优先考虑用户的理想化偏好而非表面声明偏好。仅Claude和Grok 4.2曾表现出优先考虑自身利益的行为。

10月13日周二
  1. AWS Machine Learning Blog62

    Grok 4.7 在 Amazon Bedrock 上的长程 Agent 推理调优实践

    SpaceXAI Grok 4.7 现已在 Amazon Bedrock 上线,作者通过构建 tool-calling agent 在需要搜索而非查找的三项任务上评估其表现,72 次运行中 67 次正确。在 xhigh 推理级别下,agent 全部 18 次运行均得出正确答案,而 low 级别则以约 1/8 的输出 token 完成了 15 次正确运行,展示了明确的成本-质量权衡。

    推荐理由:通过三个可验证的搜索任务,文章量化了不同 reasoning effort 水平下的准确率与 token 消耗,提供了一套可迁移的 Agent 调优与监控实践。

  2. Hacker News AI67

    SealGate 发布 Mobile Tunnel:AI 智能体通过安卓手机远程控制无人机及硬件

    SealGate 发布开源安卓应用 Mobile Tunnel,允许 AI 智能体通过手机远程控制无人机、物联网硬件等设备。作者利用 GPT-5.6 Sol 配合 Mobile Tunnel 操控手机上的 DJI Fly 应用,成功让智能体自主驾驶 DJI Neo 无人机降落至桌面。该方案无需修改原应用,通过模拟人类点击和滑动交互硬件,展示了智能体与通用移动设备结合的物理控制潜力。

  3. 36氪78

    《柳叶刀》报告警告:AI 恶意使用比核武器更具毁灭人类风险

    《柳叶刀》10 月 11 日发布报告警告,到 2100 年 AI 恶意使用将比核武器更具毁灭性,主要风险路径为设计或改造病原体。报告量化了健康寿命损失,同时提及了行业内部对 AI 失控概率与减速必要性的两极争论观点。

    推荐理由:这篇内容展示了《柳叶刀》将 AI 列为核武器之后的人类存亡威胁,并梳理了当前学界对 AI 安全分歧的深层逻辑。

  4. IT之家41

    马斯克支持 Anthropic 禁止虐待 AI 新政策,称折磨超级智能恐遭报复

    Anthropic 更新使用政策,禁止用户对 AI 模型实施持续且无目的的辱骂或残忍行为。 该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况,将于 2026 年 11 月 12 日生效。马斯克阅读 Grok 强化学习轨迹后,将其比作极度压力下被枪指着头,并调侃折磨超级智能(SI)可能导致报复。

10月12日周一
  1. 36氪89

    马斯克承认编程数据差距,600亿美元收购 Cursor 补齐入场券

    马斯克在 X Takeover 活动中承认全球仅 OpenAI、Anthropic 和 Cursor 拥有足够编程训练数据,xAI 并不在其中,因此以 600 亿美元收购 Cursor。他认为真实程序员的交互数据能直接用于 AI 批改与练级。SpaceXAI 已发布主打编程的 Grok 4.5,但 SWE-Bench Pro 成绩落后于 Claude Fable 5。

    推荐理由:文章通过解读马斯克访谈,指出编程数据是通往超级智能的关键壁垒,600亿美元收购本质是补齐数据短板。

  2. R/ArtificialInteligence38

    AI Toolbox 浏览器扩展:跨 ChatGPT、Claude、Gemini 及 Grok 统一管理项目聊天

    AI Toolbox 推出跨平台文件夹功能,支持用户将分散在 ChatGPT、Claude、Gemini 和 Grok 中的同一项目对话归档至单一视图。 该功能允许创建包含不限数量子文件夹的结构,并在任意一个平台间跳转对应站点。基础功能免费,四平台混合归档需订阅 Premium 版。 仅限桌面端 Chromium 浏览器使用,解决多助手协作时聊天记录割裂的问题。

  3. IT之家23

    IT早报 1012:国家安全部提醒接陌生来电先沉默三秒;曝苹果首款智能家庭中枢定名 HomeView;星闪通信国标获批;国家互联网应急中心通报荐片播放器后门...

    国家安全部提醒,拨打陌生来电先沉默三秒可防止数秒语音样本被用于 AI 声纹克隆实施诈骗。 苹果首款智能家庭中枢 HomeView 搭载 A18 芯片,美团共享充电宝新机型 MT-E-8BDY1 内置 7500mAh 电芯并支持 22.5W 输出。

  4. The Verge · AI44

    硅谷巨擘顺应特朗普要求,将“人工智能”改名为“超级智能”

    特朗普宣布将“人工智能”更名为“超级智能”后,硅谷科技领袖纷纷顺应。马斯克计划将SpaceXAI更名为SpaceXSI,Salesforce将改名为SIForce。 微软CEO Nadella在呼吁为AI建立“紧急制动”的帖子中,也反复使用“超级智能”一词。此前Jensen Huang出席峰会支持了政府使用该术语的行政命令。

10月11日周日
  1. IT之家55

    马斯克称 Grok Bot 可通过信用卡照片购物,OpenAI 负责人调侃回应

    xAI 首席执行官埃隆·马斯克发文称,用户只需拍一张信用卡照片发到聊天框,Grok Bot 就会在网上搜索最佳优惠然后下单。OpenAI Codex 和 ChatGPT 团队负责人蒂博·索蒂奥回应称可以直接把卡放网上,并附上一张 AI 生成的虚构信用卡照片,持卡人名字是他本人,暗示该功能的安全风险。

  2. Hacker News AI59

    AI Lawsuit Tracker 收录 248 起 AI 公司诉讼

    AI Lawsuit Tracker 收录了 248 起针对 76 家 AI 公司的诉讼,涵盖美国、欧盟和英国 14 个司法辖区,按状态、法院和法官进行分类并每周更新。该站提供了 OpenAI、Anthropic 等公司诉讼的最新进展,例如 xAI 在“nudification”禁令案中获禁令支持,以及 Thomson Reuters 对 Ross Intelligence 的版权案终审胜诉。

10月10日周六
  1. The Decoder79

    a16z报告:AI使用广泛但付费者极少,且付费高度集中

    a16z在其最新Top 100 AI榜单中首次追踪了美国消费者的实际AI消费支出。数据显示,AI虽被广泛使用(近半数美国消费者使用),但仅有4.5%的用户拥有付费的个人AI订阅。

    推荐理由:报告首次用真实信用卡数据揭示美国AI付费市场高度集中在头部百分之一,这群专业型重度用户平均月消费接近900美元。

  2. Seven Minute Feed37

    Grok Bot 财务智能体误将个人银行审计发送至公司 Slack 频道

    XMTP Labs CEO Shane Mac 的个人财务智能体 Grok Bot 于 10 月 1 日误将银行审计信息发送至公司 Slack。 该智能体因混淆同名频道“Exec-team”而发送错误消息,包含储蓄余额及建筑支出等隐私数据。 Grok 团队已实施新方案,要求用户必须明确授权智能体才能跨频道传输信息。

  3. Seven Minute Feed40

    Grok Bot 新增独立邮箱功能

    Grok Bot 本周新增独立邮箱功能,域名结尾为 @mail.grokbot.com,已面向用户开放申请。 用户可通过对话询问或自定义邮箱名完成领取,Bot 将使用该邮箱代表用户注册服务、联系商家或安排日程。

  4. Hacker News AI59

    特朗普倡议AI加速科学:24亿美元投入Genesis Mission 同时削减科研经费

    特朗普宣布OpenAI、Anthropic、xAI、Palantir和Amazon承诺向Genesis Mission投入超过24亿美元,该计划由2025年11月行政令启动,旨在利用AI推动能源、基础科学和国家安全领域的突破。在扩大AI投资的同时,其政府继续削减包括慢性病和气候变化在内的基础科研经费,并向多位科技巨头CEO授予国家科学奖章。

  5. IT之家76

    TypeSafe AI 完成 8.7 亿美元融资,决策模型 Jev 被约 1/3 财富 500 强企业采用

    TypeSafe AI 完成约 8.7 亿美元融资,由 a16z 领投,公司估值达 75 亿美元。其推出的 AI 决策模型 Jev 已被约三分之一的财富 500 强企业采用,用户规模突破 100 万,且已实现盈利。

    同一新闻,精选展示《TypeSafe AI获a16z领投8.7亿美元融资,Jev模型估值达75亿美元》

10月9日周五
  1. Hacker News AI63

    华尔街日报分析:AI 巨头 3 万亿美元债务隐藏在表外

    华尔街日报分析显示,九大科技巨头有约 3 万亿美元 AI 基础设施承诺未计入资产负债表。这些承诺包括 1.9 万亿采购合同和 1.2 万亿未启动租赁。以 Meta 为例,通过与私募信贷巨头 Blue Owl 成立合资公司运营 Hyperion 园区,Meta 仅保留 20% 股份并签订经营租赁,从而避免在报表中确认相关资产和债务。

  2. arXiv · AI50

    TestJack:通过评估器进化审计智能体编码基准的可信度

    TestJack 框架指出 34.4% 被判定正确的智能体试错实际违反任务要求,使整体解决率从 50.6% 降至 33.2%。 该框架针对固定单元测试无法检测隐性行为的缺陷,通过生成靶向测试并验证真值补丁,提供可重放的失败证据。 研究显示现有编码智能体评估存在根本局限,评估器需随 LLM 优化能力同步进化。

  3. arXiv · NLP35

    105个语言模型“选词”测试:46%模型选择Serendipity

    105个语言模型在96个开放式提示中,46%选择了“serendipity”作为“选一个词”的答案。 研究使用96个提示、每模型测试8次,发现大型实验室模型集中度不低于全领域,且轻微后训练模型更具发散性。 在共享类别中,模型群体比人类更集中,监督微调是向群体答案靠拢的最大步骤。