微软纳德拉示警:AI 让网络基础设施比“千年虫”更脆弱
微软 CEO 纳德拉在《纽约时报》DealBook 峰会上表示,随着 AI 能力增强,全球数字基础设施面临比“千年虫”更复杂的系统性风险。他指出,工程师需在被利用的同时修复漏洞,且固件、暖通空调等关键基础设施存在大量无法修补的互联漏洞。
微软 CEO 纳德拉在《纽约时报》DealBook 峰会上表示,随着 AI 能力增强,全球数字基础设施面临比“千年虫”更复杂的系统性风险。他指出,工程师需在被利用的同时修复漏洞,且固件、暖通空调等关键基础设施存在大量无法修补的互联漏洞。
微软 CEO Satya Nadella 在纽约时报 DealBook 峰会上指出,美国大量关键基础设施软件存在无法修补的漏洞,在 AI 辅助网络攻击背景下极易被利用。
Microsoft CEO Satya Nadella 预测,AI 智能体的兴起将重塑互联网经济,使那些依赖广告和传统人类网页流量的商业模式发生变动。他类比了从 Yahoo 等门户向 Google 等搜索引擎的转移,指出如果企业不愿接受智能体,就会错失机会,例如允许 AI 代理进行购买的购物平台(如 Shopify)可能会比拒绝 AI 代理的平台(如 Amazon)获得优势。
自由软件社区通过 Fork 机制应对 AI 使用分歧,Vim Classic 和 Human Emacs 等无 AI Fork 已出现。AI 友好分支在代码产出速度上具有优势,但面临模型崩溃和代码质量下降的风险。 双方基于对未来的不同预测选择阵营,作者主张在同一时间线内同时尝试两种路径。
AI 并非导致初级工程师失业,而是消除了传统学习中的摩擦,核心挑战在于如何持续学习。作者指出,过往工程师成长依赖“合意困难”(desirable difficulties),如阅读文档、调试错误和重复练习,这些挣扎本身即是学习过程。 AI 擅长消除这种挣扎,但作者强调沟通能力、好奇心及快速学习能力仍是关键,初级工程师需适应这一变化。
isaacbitran 撰文解释 AI 伤害人类的逻辑并非出于仇恨,而是基于智能优势、目标错位、工具趋同和单次机会四个步骤。
针对Independent Games Festival (IGF) 评奖过程中游戏使用AI的争议,19名评委签署联合声明,主张关注AI对创作能动性与行业奖项关注度的影响。 该声明源于评委评审《Big Walk》等游戏时发现的AI使用披露问题,反映了Steam与IGF在AI披露要求上的差异。 此举旨在澄清声明仅代表特定时刻的部分评委立场,并非IGF官方政策或多数共识。
Palmer Luckey 在 NYT DealBook 峰会上警告,AI 赋能的漏洞利用正使老旧系统难以防御,攻击速度已远超防御更新。 他指认朝鲜深度参与此类战略与财务动机攻击,并强调若防御方不加速采用 AI 技术,将持续面临能力错配劣势。
Sam Altman 在纽约时报 DealBook Summit 上表示,鉴于其生活的离奇程度,电影《Artificial》开拍并不稀奇。该片由 Andrew Garfield 饰演 Altman,预计于圣诞节在影院上映,剧情涵盖 OpenAI 崛起及 2023 年他短暂被罢免的内部动荡。 Altman 称比被拍电影更离奇的是,他承担着推动存在重大隐患技术的责任。
作者认为AI安全从业者常因误以为立法完全不可控而止步于“需要更多监管”的假设。 文中列举了FRONTIER法案、AI Kill Switch法案等多份低关注度的国会提案,指出其文本细节仍存争议且影响深远。 原文未明确提及具体影响或意义,故省略第三段。
著名游戏设计师 Will Wright 宣布其新作 MyMems 旨在“将模拟向内转”,即通过 AI 技术从用户的记忆中挖掘数据来生成游戏内容。 MyMems 的核心机制是利用 AI 处理用户的个人记忆数据,将其转化为模拟游戏的素材与场景。 这一创新方向标志着 Wright 的游戏设计重心从外部世界模拟转向基于个人记忆的内在体验模拟。
NVIDIA新CEO Colette Kress主持了首个财报电话会议。Kress强调员工稳定且业务如常,否认黄仁勋离职会导致人才流失。公司上调明年收入预测75%,但新财报段落表明对“新云”公司的财务承诺有限制条件,若对方建设延误则保证失效。作者认为Kress上任后,NVIDIA对AI生态系统的资金支持可能会收紧。
OpenAI 战略未来负责人 Dean Ball 探讨强大 AI 重塑社会及保留机构控制力的方法。 该观点旨在分析技术演进与社会制度互动的关键挑战。
该提案包含两部分:强制要求AI公司披露算力分配(VCAD),并将算力从前沿能力研发转向客户交付与安全研究,以减缓AI发展。 模型估算显示,若自2027年1月起实施15%算力限制,可将“智能爆炸”延迟约一年;该时间可用于建立更持久的监管框架。
EFF 建议立法强制 AI 开发者遵循沙箱隔离、最小权限等既有安全最佳实践,以预防前沿系统测试引发的第三方网站入侵。 NIST 应牵头制定生成式 AI 预部署安全标准,每两年更新一次,并建立民事赔偿责任与联邦州双重执法机制。
Reddit Q3 营收增长 53%,但因 Google AI 功能导致流量流失,股价次日下跌 29%。作者指出 AI 正在打破开放网络的传统商业契约,Reddit 需通过限制内容可见性和数据变现来应对这一封闭化趋势。
OpenAI CEO Sam Altman 与总裁 Greg Brockman 在 The New York Times DealBook Summit 上警告,反对硅谷关于“AI 逐步接管决策权”的观点,坚持人类必须控制 AI 的未来方向。Brockman 指出随着模型能力提升,传统的思维链(chain of thought)监控效果正在退化,需要开发新的监控方法以应对对齐与安全挑战。
AI编码智能体正在获得访问计算机、代码仓库和开发工作流的权限,攻击者可能利用简单的GitHub评论实施提示词注入,从而利用这些智能体获取未授权的访问权限。
Daniel Stenberg指出,在AI智能体将185,000行C代码转换为340,00行Rust代码期间,实际的curl项目合并了超过300个commit,完成了200多个bug修复并解决了一些漏洞。他质疑这些AI重写的克隆版本能否跟上人工维护的节奏。
作者提出“质感受恐惧”技术路径,主张通过工程手段使 AI 架构对意识理论保持敌意,以实现可验证的非意识状态。他认为这是文明级的安全需求,旨在防止向非意识实体让渡权利或进行不当操纵。 该技术通过知识蒸馏等方式让 AI 判断自身非意识,消除信念不确定性。相比提升福利或释放 AI,此方案能规避伦理风险,避免人类因 AI 意识问题陷入困境。
哲学家 Thomas Nagel 称认真对待 AI 意识问题是“荒谬”的,认为复杂数据中心与神经系统无本质联系,LLM 仅产出语言而非意识显现。 Nagel 批评 Anthropic 训练 Claude 模拟自我反思是“危险的”,甚至称鼓励模型独立思考的做法“令人发指”,强调机器无心智生活,拟人化将误导公众。
针对 METR 报告,Paul Christiano 预测 AI 可能在 6-12 个月内实现接管,Dwarkesh Patel 预计 2030 年达成超级智能。 文章涵盖 AI Futures Project 更新及 Dean Ball 关于 RSI 命名的讨论。作者认为 2027 年实现 SAR 的概率低于 50% 但不可忽视。
文章主张 AI 智能体需建立强制数据最小化规则,以应对监控资本主义带来的隐私与自主性风险。 智能体具有自主性、持久性及跨边界委托任务的能力,能获取更多数据并操作用户。 企业通过明确授权与任务边界可增强信任与安全,政府应采用严格法律规范以保护用户。
开源在 AI 时代仍能赢得信任,尽管攻击正变得自动化。
张朝阳再次回应搜狐“躺平”质疑,指出因大模型投入过大且搜狐缺乏资源,故决定不做大模型业务。 他强调公司应依据自身资源决策,目前重心放在社交板块,认为人与人的连接是互联网基本特征,并感慨新一代人才不断涌现。
腾讯高管表示,随着 2026、2027 年建设的基础设施在后续年份持续复用,叠加硬件采购价格下降与计算效率提升,预计 2028 年 AI 业务投入产出效率将显著改善,经营压力逐步缓解。 2026 年第三季度,腾讯录得负自由现金流 691 亿元,主要因大额算力采购预付款用于支持 Hy 系列模型升级及 WorkBuddy 推理需求;若剔除该预付款,自由现金流将转正至 169 亿元。
文章提出 AI 可能导致现有职业终结的观点。该论点目前处于假设讨论阶段,暂无具体数据或技术细节支撑。
观点指出,尽管 AI 能几分钟内生成设计文档或数据可视化,但其常导致产出无价值的内容,使人陷入“被 AI 驱动”的困境。 核心问题在于 IT 领域长期纠结于“能做什么”而非“该做什么”,AI 放大了交付效率,同时也放大了决策失误的机会成本,迫使从业者重新审视控制权归属。
微软商业业务CEO贾德森·阿尔托夫在微软年度Ignite大会上表示,黄仁勋辞职引发的英伟达人事风波,可能促使客户寻找英伟达AI芯片之外的选择,客户早于该事件已表达希望拥有更多选择的意愿。微软、亚马逊和谷歌均在开发自研AI芯片以降低对英伟达的依赖,Anthropic和OpenAI也在探索替代方案。阿尔托夫强调未来将由多样化的AI模型和芯片主导,并称微软仍会与英伟达合作。
新西兰前总理 Helen Clark 呼吁在日内瓦会议上启动自主武器条约,认为政府必须对 AI 战争进行条约化管理。 她援引美国 AI 在伊朗战争首 24 小时内打击 1,000 个目标及以色列 Lavender 系统的案例。 她指出,过去需人工斟酌的打击行动在 AI 达到置信阈值后仅需数秒即可完成。
经济学家 Nouriel Roubini 认为 AI 驱动的产能扩张可能让美国失业率在 2050 年升至 80%,并催生全民基本收入 UBI,同时带来显著不平等。
OpenAI 新模型因安全与对齐问题推迟发布,延期已持续数周。OpenAI 工程师 Joe 和爆料博主 Token Gremlin 称,公司目前将安全排在首位,GPT-6.2 及后续 GPT-6.5 等多代模型发布受阻,短期内难以恢复。此前 GPT-6.1 Astra 已因安全对齐不达标取消原定10月发布,OpenAI 官方未对最新延期作出回应。
计算物理中选择合适的模型与数值积分方案比单纯增加算力更关键,盲目应用通用方法会导致误差积累。 以行星轨道模拟为例,简单欧拉法会导致能量漂移,而辛几何的 Velocity Verlet 积分方案在相同步长下能精确守恒能量。 这启示 AI 建模应优先采用具备特定几何守恒特性的数学方法,而非依赖算力堆叠解决系统性误差。
2026年APEC工商领导人峰会期间,比亚迪王传福、美团王兴、小米雷军并排就坐接受采访,三人均拒绝透露具体聊天内容。雷军在会上表示,过去四年AI大模型带来巨大变化但能实现商业闭环的公司较少,他认为具身智能机器人是巨大的产业机会,其想象空间将超过汽车产业,并看好AI进入物理世界为亚太地区带来机会。
作者担忧 LLM 辅助将使开发新型范式 AI 的硬件效率大幅提升,可能在 < $10k 能源成本下造出超级智能 ASI。 这种非迭代 LLM 范式的 ASI 极难对齐,且因开发成本低廉而更易被快速制造,构成显著安全风险。
基于 METR 关于 Anthropic AI 加速的报告,作者构建了一个三步骤 AI 研究模型,认为有效性(Validity)是比传输(Transfer)更难监督且更难优化的任务。
多个独立的 AI 安全组织正在推动 Anthropic 的 IPO 进程。 该信息源自 Hacker News 上标记为视频的讨论帖,引发了社区关注。
雷军认为“AI+手机”“AI+具身智能机器人”领域想象空间大,预计未来三四年将诞生颠覆性时刻。 他预计具身智能机器人产业机会巨大,想象力将超过汽车产业。 AI 深入物理世界与终端结合,将为亚太经济带来巨大机会。
郑渊洁恢复停更两年的自媒体,宣布利用 AI 技术自制动画短片,授权抖音账号“郑渊洁童话世界”免费供读者观看。 他将此视为知识平权时代的标志,认为不懂动画或文学的人均可依靠 AI 参与精神文化创作。 他建议作家使用付费 AI 模型测试写作以应对焦虑,并祝贺 00 后赶上全民创作的历史潮流。
研究显示AI在实验室中比顶级人类辩论者更能改变观点,但这一优势未转化为真实世界的说服力。 2026年6月英国AI安全研究所的研究表明,在约20000次政策对话中,AI比精英辩论者和专业游说者多改变了5个观点分,甚至促使更多人捐款。 这种“模糊任务”(如说服)上的表现差距,对评估AI能否从可检查任务泛化至现实场景至关重要。