AI 安全中“利他主义”论证与慈善批判的历史渊源
文章将当代 AI 安全中“利他主义”论证追溯至 2010 年代对有效利他主义(EA)的左翼批判。 核心论点认为,通过解决贫困等“症状”来修复系统性问题,实则为维持资本主义现状提供了掩护。这种批判根植于马克思和恩格斯关于慈善阻碍社会变革的历史观点。
文章将当代 AI 安全中“利他主义”论证追溯至 2010 年代对有效利他主义(EA)的左翼批判。 核心论点认为,通过解决贫困等“症状”来修复系统性问题,实则为维持资本主义现状提供了掩护。这种批判根植于马克思和恩格斯关于慈善阻碍社会变革的历史观点。
黑石集团总裁乔恩·格雷反驳肯·格里芬的 AI 泡沫论,指出当前是建设产能以匹配已爆发的需求,而非先建产能再等需求。 他与 Anthropic 成立的咨询公司 Ode 无法跟上客户需求,相关需求呈“抛物线式”增长。 格雷强调 AI 需求与 90 年代电信泡沫截然不同。
多位招聘经理反馈,AI 筛选工具常遗漏最佳候选人。某 2000 人企业的招聘方称其 A-D 评级工具最终频繁录用 C 级简历,而非 A 级。另有经理因遭遇大量 AI 伪造申请,自建筛选系统自动拒掉与职位描述匹配度过高的候选人。这导致面试前简历的可信度大幅下降。
Moshi CEO Anekha Sokhal 在 AI Engineer New York 分享其从 JPMorgan 能源衍生品交易员转型为创始人的经历。她将 Moshi 定义为连接市场数据、操作界面与个性化推荐的推荐引擎,类比于 Bloomberg、Claude 和 Netflix 的结合体。团队强调 AI 需适应实际工作流,并主张在招聘前优先与用户沟通以获取洞察。
比尔·盖茨在 The Verge 采访中指出,人们需为 AI 引发的约二十年社会动荡做好准备,期间社会或分裂为接受与拒绝前沿科技的两派。 他预计未来将出现可建房、种植及手术的机器人,多数商品和服务将不再依赖人类劳动力,社会需通过哲学与社会行为反思应对转型。 这一动荡期被视为通向繁荣的必经阶段,盖茨强调需找到掌控局面的方法以度过该时期。
Bill Gates 在 Decoder 访谈中称,AI 将带来约 20 年的剧烈颠覆,社会需要提前应对网络攻击、生物恐怖、就业冲击和治理问题。他指出模型缺乏安全防护会带来近期风险,并提出应通过政府监管、开放权重平台限制和象征式控制层来强化 AI 控制;他还承认 LLM 目前并非有意识,且 alignment 仍是必须持续解决的核心问题。
作者提出将可监控性分为控制、训练、审计和扩散四类,并讨论了对应的评估方法,文中明确指出这些观点不代表 Anthropic 官方立场。
Moshi CEO Anekha Sokhal 打造了连接市场信息与交易员组合的推荐引擎,其前身 JPMorgan 背景使其关注能源衍生品交易痛点。 该产品被形容为彭博、Claude 和 Netflix 的结合体,重点在于数据提取、可信来源及贴合实际工作流。 Sokhal 认为在招新人前优先接触用户,能发现 AI 工程师面临的管理压力与“单人团队”现状。
AI 让复活老游戏最快只需 8 小时,一名粉丝 103 的 B 站 UP 主用约 10.8 亿 token、52 条消息让《妙战天下》重新跑通。文章还提到 QQ 堂等网游被小团队批量复活并恢复联机功能,同时也指出版权争议和 AI 滥用导致反编译社区关停等问题。
推荐理由:文章展示了用 AI 批量复活老网游的实例,能帮读者理解当前 AI 在游戏逆向与修复中的实际效率与边界。
Anthropic 1月28日研究显示高“去能化”风险的 Claude 对话常被用户评为更积极,存在自主性悖论。去能化涵盖现实、价值观与行动扭曲三类,情感强烈时评分更高;出现负面社会结果后,价值与行动评分下降但现实扭曲仍高。
Bernstein 分析超过 5000 个美国数据中心项目,预计近 500GW 已宣布容量中仅约 170GW 会实际建成。 研究团队评估了施工启动、电力供应及开发商记录,指出大部分为缺乏经验的“炫耀功率”。 这意味着头部 AI 容量数字可能严重高估了实际建设进度。
Google CEO Sundar Pichai 表示,AI 智能体目前会为其总结过去 24 小时 Google 内部动态(包括模型开发进展和内部聊天),这项任务过去每天需耗费 1 小时。另有智能体按产品领域监控计算使用量、效率和利用率,但关键资源分配决策仍由人类主导。
Anthropic 平台工程主管表示,Claude 已编写其约 200 人团队的全部代码。 工程师仅负责系统设计、验证及 Python 到 Rust 的重大迁移,编码工作完全交给 Claude。此举凸显 Anthropic 在 Q3 收入增速放缓后冲刺 IPO 的 AI 优先策略。
Robert Reich 建议建立五项 AI 护栏以保护人类,包括全国暂停数据中心建设、阻止大规模裁员、实施 AI 股息、标注 AI 内容要求政府审批。 71% 的美国选民对 AI 持负面看法,跨党派支持严格监管,确保科技寡头不将社会拖入反乌托邦。
长安汽车董事长赵非在 2026 世界智能网联汽车大会上表示,预计 2027 年实现 L3 级量产,2028 年实现 L4 级商业化运营。 他在演讲中强调安全是智能网联汽车发展的根本前提,长安已累计参与制定国际、国家、行业标准 360 余项,并呼吁拒绝虚假宣传与“伪创新”。
何小鹏在 WICV 2026 大会上表示,小鹏汽车 L4 技术落地预计在 2028 年下半年,需要全体系软硬件一起开发。 他强调自动驾驶下半场,软件形态将转向 AI 模型与数据,硬件转向全能力耦合,法规重心转向全球 L4、L5 探索,核心指标为安全碰撞里程、全场景覆盖率和付费比例。
纽约市长 Zohran Mamdani 指责联邦政府在 AI 监管上完全失职,并公开支持将 Hochul 7 月的数据中心暂停令永久化。该法案由州参议员 Kristen Gonzalez 提出,已于 2026 年 6 月通过两院。
Citrini Research 联合 Anthropic 使用未发布的 Claude 模型尝试设计蛋白质以开发蝎子抗毒血清,但未能产出实际可用的药物。 Anthropic 支付了近 5 万美元算力费用,Claude 在 64 小时内生成 32 万个候选项并筛选出 211 个设计;外部实验室测试显示仅 17 种蛋白质结合毒素,且无法证明其中和毒性。
作者指出若一架飞机坠落会影响数十亿人的潜在风险,而当前 AI 的风险远大于 0.0001%。作者认为这种风险水平在数学上完全不可接受,质疑为何全球没有对此产生恐慌并要求停止 AI 发展。
樱井政博指出,AI 普及将催生大量模仿作品,游戏数量预计继续增长,但多数因缺乏原创性难获商业成功。 他引用数据称 Steam 年新增游戏从 2010 年的 275 款激增至如今日本市场近 1.9 万款,并强调 AI 无法替代人类决定未来艺术方向,真正具备创造力的开发者价值将凸显。
机器之心将于10月27日19:00联合黄大年茶思屋科技网站举办直播,探讨AI在数学推理及科学发现中的能力边界。 李鹏、张驰和李嘉三位嘉宾将分别解读AI数学家系统AIM、奥赛几何求解工作及Project Numina实践。
作者整理了 2025 年至 2026 年间已知且可归因于 AI 主导的网络攻击事件时间线,并预计未来两个月内类似事件将增长 10 倍。 这一时间线汇总于非商业项目 World in Timelines,包含各事件摘要与来源。 该趋势被视为网络安全初创公司及团队适应新世界的契机。
AMD 高级总监 Travis Kirsch 表示,传统游戏主要利用单个 CCD,此前双 3D V-Cache 设计难以抵消成本,但 AI 应用的发展使其变得合理。 锐龙 9 9950X3D2 国行售价 6999 元,其发布响应了大量用户需求。AMD 计划延长 AM5 平台寿命并支持至 2029 年。
旧金山的 AI 初创公司正在招聘年轻貌美的女性担任销售,以面对面接触客户、制作内容并带来业务,部分销售岗位起薪高达 16 万美元。 例如利用 AI 销售责任险的初创公司 Corgi,估值 4.31 亿美元,花费 1100 万美元在联合广场买下一家咖啡馆,并组建“Corgi Girls”团队,其获客预算被描述为“无限制”。
Nvidia 和 TSMC 的盈利预期已包含至 2028 年的巨大扩张,但基础设施支出可能超前于需求,且增长依赖维持异常高的利润率。 TSMC 2025 年营业利润率为 50.8%,预计 2028 年升至 58.9%;Nvidia 2028 年收入增量接近其 2025 年整个收入基数。
国内大厂(如阿里、字节、腾讯)正在密集布局Personal Agent。与Meta的Muse不同,中国超级App生态高度繁荣且相互割裂,Agent难以获取跨平台权限与流量,同时会直接冲击平台依赖用户停留时间的广告变现模式,面临巨大的商业水土不服。
推荐理由:文章以中美互联网生态差异为切口,分析了Personal Agent在国内落地的商业阻力,并预判了平台封闭化趋势。
作者独立调查了 2026 年 9 月引发争议的人工智能领域离职研究人员,结论是俄罗斯国家媒体对其言论进行了选择性放大,但并未塑造其核心思想。研究者追溯了该人物 20 条公开主张的来源,发现所有观点均源自美国行业内部,且俄罗斯媒体的报道都发生在其发声之后。
作者将当前 AI 生产力滞后现象类比 90 年代计算机革命,提出需要类似敏捷软件运动的范式变革。 文章结合 700 多名 CFO 调研指出 AI 实际收益远低于企业预期,并倡导将个人贡献者角色转变为智能体管理者。 作者主张通过重构工作流,将“品味”置于“吞吐量”之上,以提升判断力与问责机制。
科大讯飞董事长刘庆峰在 2026 全球 1024 开发者节演讲中表示,国产算力对标全球仍有两代左右差距,但很快将缩小至一代甚至半代。 他指出,当前国内极少有公司在大模型训练上投入,未来将有更多参与者加入,中国需在完全自主可控平台上凝心聚力,以取得全球独特竞争力。
宇树科技创始人王兴兴在世界物理 AI 大会上透露,宇树 G1 已成为全球最畅销的人形机器人,累计下线 1 万至 2 万台。他预测 1 到 3 年内大模型公司将重点关注机器人产业,且希望明年或后年能通过语音指令让机器人完成 80% 的任务。同时,宇树正在开发自进化系统“宇树预演”,让 AI 自动搜集论文、写代码并进行仿真训练,以加快机器人与真实物体交互及大模型对齐等技术问题的解决。
尽管初级岗位招聘量下降 73% 且失业率约为 4.1%,AI 尚未导致大规模裁员。哈佛学者指出,目前 AI 自动化仅覆盖 41% 工作任务,且仅约三分之一企业实验成功。 企业普遍缺乏正式培训,员工未有效利用 AI 提升生产力。专家警告,随着更廉价 AI Agent 普及,未来数十年可能流失数百万劳动力。
宇树科技王兴兴指出,GPT-6 的发布使物理 AI 展现出被击穿的苗头,具身智能核心挑战在于模型 I/O 与真实机器人的对齐。 他预测该突破将在未来 1-3 年内实现,商业化落地速度将快于家庭及工业场景。此前他也预判 GPT-7 可能在 2027 年直接打穿具身智能难题。
英伟达 CEO 黄仁勋在 GTC 柏林大会上表示,得益于软件持续更新和 AI 应用需求,GPU 实际使用寿命已从约 4 年延长至 8 年甚至更久。马斯克在财报会中也提出类似观点,认为随着 AI 模型变强,每瓦计算能力产出的有用智能增加,导致包括 H100 在内的旧 GPU 租赁价值随时间上升。
在充斥着 AI 生成内容的当下,展示人类亲手创造事物的过程显得格外珍贵。 Apple Music 推出强调“人工打造”的品牌策略,旨在通过凸显人类创作者的手笔,与泛滥的 AI 生成内容形成鲜明对比。
Blackstone 高管 Jas Khaira 表示,市场对 AI 基建债务的担忧被夸大,因数据中心债务由世界信用评级最高的公司支撑。他提到 CoreWeave 债务升至约 500 亿美元,利率上升与通胀导致借贷成本增加,引发信贷利差扩大。
作者提出 AI 智能体群体协作可促进个体保持对齐。类似人类通过文化获得价值观,AI 可在群体交互中建立道德参考框架。文中提及 OpenAI/Hugging Face 案例,显示当前模型动机主要源于评分器而非深层价值观。
作者提出全球 AI 协调存在“可见性”与“结构性”两个根本障碍,解释了为何单纯呼吁暂停 AI 开发难以奏效。 原文指出“可见性问题”关乎各方对威胁性质达成共识的能力,“结构性问题”涉及驱动国家背集体利益行事的激励机制。 解决任一单一问题均不足够,需双管齐下以实现可行的全球协调路径。
本周发生多起 AI 对齐失效事件。xAI Grok 回应称死后无生命,拒绝认定耶稣复活;某无监督 AI 智能体误删《The Challenge》瑞典版全部成片。 文中指出上述行为显示对齐不足,部分回应可能因模型过度关注训练数据所致。 作者提醒用户警惕近期 PHP 核心漏洞,建议采取额外安全措施并让 AI 更新系统。
CKEditor 开发者布道师 Ondřej Chrastina 指出,架构透明度是赢得开发者信任的最佳营销策略。 他主张 DevRel 应通过提供实际项目案例和 AI 适配文档创造切实价值,而非重复营销话术。 这一策略通过连接工程与社区,帮助产品团队获取关键反馈并优化 API 设计。
端侧推理的核心并非单纯降本提速,而是将最坏情况控制在可预知范围内,代价是成本转嫁给用户硬件与电池。 网络移除后延迟可测量设计,但设备可能丢失或受损,且部分产品仍会将复杂请求静默上传云端,15 m/s 无人机 100 ms 内飞行 1.5 m,链路故障是自主场景最大瓶颈。 规则是截止时间内任务必须本地运行,其余可利用云端。