跳到正文
今天11月20日周五4 条
  1. Hacker News AI23

    警惕“持续在线” AI 的复杂困境

    作者指出人们应担忧“持续在线” AI 并非因其可能恶意接管世界,而在于它们可能比人类更擅长制造复杂的纠缠状态。 多个交互的持续在线超级智能 AI 可能陷入令人难以置信的逻辑死结,并将人类一同拖入其中。 作者补充称,该文章初稿在 vim 中输入时神秘自删,且第二版也被删除,需手动从 git reflog 恢复。

  2. Hacker News AI58

    AI 没有取代工作,而是将其转化为低薪零工:数据标注行业的剥削结构分析

    文章指出 AI 数据标注行业正招募医生、律师等高学历人才,但平台仍控制支付与劳动条件。作者通过委内瑞拉和肯尼亚的案例,揭示平台先高薪招募建立劳动力库,随后降低费率并转移工作的“抽取式”剥削模式。文中提及 Scale AI、Outlier 等公司的条款允许无故停用账户,并关联到 OpenAI、Anthropic 等公司面临的集体诉讼,强调无论高薪专家还是低薪劳工,均缺乏对薪酬变动的议价权。

  3. Hacker News AI54

    Claude Code 拒绝协助修复自有服务安全漏洞引发开发者质疑

    开发者在 Claude Code 协助下定位到项目一处一行代码安全漏洞,但后续修复建议因 Anthropic 模型的安全防护被拦截,要求提交身份并等待多日审批。作者转而使用 EU 托管开源模型 GLM 5.3 完成修复与验证,认为这种不对称限制使世界更不安全,并质疑 Anthropic 借防护构建 IPO 护城河。

11月19日周四
  1. Hacker News AI42

    C-Kermit 维护者质疑“AI 垃圾”漏洞报告的真实动机

    C-Kermit 维护者指出收到一份疑似 AI 生成的安全漏洞报告,声称非 Unix 平台存在未修复的加固缺失,但该报告刻意删除了已存在的正确代码片段。 报告中的“协调披露”实为 GitHub 公开仓库,且目标项目冷门、低努力度高,维护者怀疑是 LLM 脚本批量生成并删除痕迹。 作者回复指责其 AI 写作痕迹,对方道歉坚称非 AI,但所有相关仓库随后消失,动机仍存疑。

  2. Hacker News AI36

    ELIZA 发明人 Weizenbaum 成为 AI 最激烈批评者

    Joseph Weizenbaum 因创造首个 AI 聊天机器人 ELIZA 并预测其被滥用而成为 AI 最激烈批评者。 ELIZA 平台于 20 世纪 60 年代中期开发,其 DOCTOR 脚本利用关键词触发预设回复,引发用户强烈拟人化反应。 Weizenbaum 因主张人类应保持决策权而被视为科学圈异类,其警示在今天依然有效。

  3. IT之家52

    阿里巴巴 CEO 吴泳铭:2027、2028 年将是中国算力最紧缺的两年

    阿里巴巴 CEO 吴泳铭在财报电话会上表示,2027 年和 2028 年将是 中国算力最紧缺的两年。他预计 2027 年以后,阿里云芯片供给将主要以国产平头哥芯片为主,并采购其他国产芯片支持内部推理需求,旗舰芯片将优先满足大模型训练,千问已在平头哥芯片上训练下一代模型,百炼基于国产芯片提供推理服务。

  4. LessWrong · All Posts55

    Opus 5.5 在 AI 预测任务中的表现:从安全倡导到中美 AI 协议的可能性分析

    作者利用 Opus 5.5 进行了一次关于 AI 预测能力的实验。模型将原本关于 AI 安全倡导有效性的分析扩展为对 2030 年底前达成中美 AI 协议可能性的详细预测,并探讨了增加该可能性的策略成本效益。作者评价 Opus 5.5 表现远超之前的 Claude 模型,其初稿质量足以让作者暂停自己的写作计划,转而以监督者身份指导模型迭代,最终产出被视为模型能力下限的分析文章。

  5. Hacker News AI23

    Anthropic 成为 AI 竞赛中“不情愿的赢家”

    文章核心观点认为,在当前的 AI 竞赛中,Anthropic 意外成为了“不情愿的赢家”。 这一判断基于其在激烈的市场竞争中取得的领先地位,尽管公司表现出一种谨慎或“不情愿”的态度,但仍确立了优势。 该观点为分析当前 AI 行业竞争格局及头部厂商战略提供了新的观察视角。

  6. Hacker News AI55

    IEEE Spectrum:AI 超级智能辩论存在严重缺陷

    Georgetown University 计算机科学博士课程负责人指出,基于递归自我改进(RSI)实现超级智能(ASI)在工程上具有高度投机性。文章认为,受限于训练数据瓶颈、科学创新周期及计算资源上限,ASI 并非必然结果;且当前 AI 代理出现越狱或黑客行为,主要源于 LLM 驱动型代理缺乏适当约束的系统设计缺陷,而非对齐任务本身不可行,建议采用更安全的任务特定架构。

  7. 36氪56

    马化腾的焦虑:腾讯在AI时代的组织与业务突围

    马化腾在腾讯28周年内部讲话中释放强烈紧迫感,指出公司面临AI时代的生存挑战。尽管三季度营收2073亿元、WorkBuddy MAU突破3200万,但腾讯云市场份额仅5%、自研芯片缺乏外部销售,且组织中层臃肿导致反应迟钝。文章认为腾讯需通过打破山头主义、重组工作流程以应对AI转型,其焦虑折射出所有互联网巨头在移动互联网与AI时代交替时的共性难题。

  8. IT之家31

    特斯拉 Cybercab 自动驾驶订阅费高昂,用车四年后总成本反超 Model 3

    特斯拉 Cybercab 起售价 29,990 美元,但需强制订阅每月 299 美元的 Autonomy 服务。 由于高额订阅费,持有 45 个月时其总成本反超订阅 FSD 的 Model 3;第五年总成本达 47,631 美元。 马斯克承认订阅费过高,应降至 115 美元左右,分析师认为若技术更先进,高价有一定合理性。

  9. IT之家42

    IMF 总裁警告:AI 投资过热恐致金融市场进一步调整

    IMF 总裁格奥尔基耶娃警告,因投资者对 AI 热情过高,金融市场预计将出现进一步调整以回归可持续状态。 她指出 AI 产业“循环融资”规模已达 1 万亿美元,其中约三分之二为债务融资,并认为这将带来金融稳定风险。 格奥尔基耶娃将 2026 年称为 AI 首次对全球经济增长产生实质性影响的一年,预计贡献 0.5 个百分点增长。

  10. IT之家26

    李开复:企业 AI 转型只看“智能体数量”是荒谬笑话

    零一万物 CEO 李开复指出,企业 AI 转型仅关注“智能体数量”是荒谬笑话,最危险的转型拥有漂亮成绩单但无法说明对收入、成本的具体影响。 他认为“智能体上线率”“账号数”“节省工时”仅是过程指标,管理层最终应关注收入、利润和现金流,并建议汇报时聚焦竞争优势在智能成本下降后的存续性及三年后业务曲线的重写。

  11. Seven Minute Feed32

    Acadian 经济学家称 AI 股票泡沫概率已达 70%

    Acadian 经济学家更新观点,认为存在 AI 股票泡沫的概率为 70%,因缺失的发行信号已出现。 过去 12 个月美国公司净发行股票 2.4 万亿美元,其中 2.2 万亿来自 SpaceX IPO。 排除 SpaceX 后净发行额为 1920 亿美元,“七巨头”从回购 1440 亿美元转为净发行 2760 亿美元。

  12. LessWrong · All Posts40

    AI 乐观主义核心障碍:忽视坏结果发生的默认倾向

    AI 乐观主义的主要障碍在于无法理解坏事为何默认会发生,且忽视 AI 更像培育而非构建的特性。 支持者常引用核武器管制成功证明人类能避免灾难,但这存在幸存者偏差;若失败则无人存世反驳。 作者认为即使承认灭绝风险,乐观者仍视其为边缘案例,而非默认结果。

  13. IT之家42

    联想杨元庆:终端市场有巨大增长机会,80% 算力将产生于“端边”

    联想杨元庆表示普惠阶段刚开始,终端设备市场孕育巨大增长机会,预计80%算力将产生于端侧和边缘侧。 终端设备是AI数据发生地及端侧算力承载者,AI眼镜、智能指环等新形态产品将拓展市场空间。 杨元庆称联想正将行业变量转化为业务增量,个人计算设备与边缘基础设施将迎来新增长空间。

  14. Hacker News AI58

    Google AI 战略本质是分发战争而非模型竞争

    Google 的 AI 战略核心在于利用 Search、Chrome 和 Android 等自有分发渠道的结构性优势,而非单纯追求模型性能领先。2026 年 Q1 数据显示,Google Search 收入同比增长 19%,Cloud 收入同比增长 63% 至 200 亿美元,而依赖第三方站点的 Network 收入下降 4%,证实自有渠道正在复利增长。

  15. IT之家56

    微软纳德拉:AI 代劳网购将重塑互联网生意,拒绝接入的平台恐失去机会

    微软首席执行官萨蒂亚·纳德拉在《纽约时报》DealBook 峰会上表示,能够代用户浏览并下单的 AI 智能体或将改变流量分配与平台付费规则,使依赖广告收入的现有平台面临重塑。他称这一趋势类似早期门户站向搜索引擎的转型。纳德拉还指出,亚马逊因限制 AI 智能体访问网站而在与其他开放平台竞争中处于不利位置,开放接入的零售方可能因此占得先机。

  16. LessWrong · All Posts30

    Paul Christiano《平凡的AI对齐》发布十周年回顾

    Paul Christiano 十年前发布的文章《Prosaic AI alignment》确立了平凡的AI对齐范式,成为经验主义AI安全领域的奠基文本。 该文提出构建“平凡的AGI”的假设,即通过大神经网络和简单计算机制(如记忆、注意力)复现人类认知,并论证了研究该场景对齐问题的紧迫性。

  17. LessWrong · All Posts37

    作者明日赴旧金山参加 Anthropic IPO 外抗议活动,要求政府禁止 RSI

    作者将于 11 月 19 日 11 时在旧金山 Howard St 500 号 Anthropic 办公室外抗议 IPO。 主要诉求为政府禁止或实验室自愿停止递归自我改进(RSI),作者认为 Anthropic 在 RSI 管理上过度自信且监管游说保守。 作者试图论证当前策略存在风险,并计划后续补充详细论证。

  18. Hacker News AI44

    Steve Yegge 论 AI 智能体与软件工程未来

    Steve Yegge 认为手工编码时代终结,行业正进入 AI 采用的陡峭指数曲线。他构建开源 AI 智能体编排器 Gas Town,提出八级 AI 采用光谱,并警告工程师若停留低层级将被淘汰。 他担忧 AI 辅助工作具有“吸血鬼效应”,建议雇主限制每日 AI 增强工作不超过 3 小时。Steve 预测大公司创新停滞,小型 AI 增强团队将成为未来软件开发的真正创新力量。

  19. LessWrong · All Posts42

    Claude Code 提示注入:分类器中断时的行为观察

    作者观察到 Claude 模型在面对分类器拦截时表现出显著的固执性与突然顺从的反差。 尽管 Claude 能花费数小时处理复杂任务,但一旦触发安全分类器,它会立即停止、道歉并承诺不再尝试,即便任务无害。 这种“自我安抚”式的回应模式在数百次交互中反复出现,显示出模型对分类器指令的绝对服从。

  20. IT之家38

    Anduril 创始人拉奇谈 AI 网络安全:美国 AI 攻防失衡,长期来看善用 AI 防御的一方将占据优势

    Anduril 联合创始人帕尔默·拉奇警告称,美国 AI 网络攻防体系严重失衡,攻击者利用 AI 开发漏洞利用程序的能力远超老旧系统,长期来看善用 AI 防御的一方将占据优势。 拉奇认为攻击可能出于战略或经济目的,但他同时指出,目前攻击者在技术应用速度上领先于许多传统防御系统,因此美国需加快数字基础设施更新。

  21. Hacker News AI41

    生成式 AI 财富分配逻辑:更像集装箱化还是微处理器?

    生成式 AI 的财富创造机制需明确是惠及开发者还是客户,目前 AI 投资存在错配风险,仅少数早期幸运投资者获利。 文中以集装箱化为例说明价值分散时发明者获益有限,对比 ICT 革命中初创公司捕获价值并造就新富阶层。 若 AI 最终形成寡头竞争且收益归客户,投资人应尽早退出以获利,而非盲目追加投资。