跳到正文
今天11月20日周五3 条
  1. Hacker News AI58

    AI 没有取代工作,而是将其转化为低薪零工:数据标注行业的剥削结构分析

    文章指出 AI 数据标注行业正招募医生、律师等高学历人才,但平台仍控制支付与劳动条件。作者通过委内瑞拉和肯尼亚的案例,揭示平台先高薪招募建立劳动力库,随后降低费率并转移工作的“抽取式”剥削模式。文中提及 Scale AI、Outlier 等公司的条款允许无故停用账户,并关联到 OpenAI、Anthropic 等公司面临的集体诉讼,强调无论高薪专家还是低薪劳工,均缺乏对薪酬变动的议价权。

  2. LessWrong · All Posts49

    嵌入式评估在 AI 监控中的应用原则

    嵌入式评估旨在通过独立评估者测试开发者安全主张,弥补内部部署 Agent 的监控缺口。 文章提出六项监控检测主张,涵盖覆盖范围、检测能力与事故披露等环节。 该方案不包含沙箱等遏制机制,仅关注 Agent 颠覆监控时是否会被察觉。

11月19日周四
  1. Hacker News LLM53

    Wiretuple 发布:利用位置元组降低 LLM 结构化输出 Token 消耗

    Wiretuple 是一个用 Go 编写的单二进制 HTTP 反向代理工具,通过位置元组将重复 JSON 键重写为前置元组,能无损削减 LLM 结构化输出和函数调用 35%–60% 的输出 Token。它支持 OpenAI 与 Anthropic API,兼容非流式和 SSE 流式请求,并内置盈亏平衡门控机制,仅在净节省比例高于指定阈值时重写请求。

  2. The Decoder88

    OpenAI 公布内部研究团队 AI 使用数据,Agent 价值被研究者评价高于近半数同事

    OpenAI 发布第二份内部研究加速报告,给出 Codex 和 Dots 等内部 Agent 的使用数据。报告称 10 月中位研究者按 API 公开价折算每天消耗 2,400 美元等价的 token,环比增长 62%,前 10% 用户达到 23,000 美元;按八小时工作日折算,研究者每天运行相当于 5.7 个工日的 Agent。

    同一新闻,精选展示《OpenAI 发布研究报告:AI 如何改变其内部研究进程》

  3. The Decoder89

    Anthropic 完成 813 亿美元 IPO 刷新纪录,早期投资人警告 AI 竞赛风险

    Anthropic 以 83 美元/股定价完成 IPO,募资 813 亿美元,超越 SpaceX 此前 750 亿美元纪录,股票代码 ANT 将于周四在 Nasdaq 上市。营收受 Claude Code 推动激增,但净亏损扩大至 1040 亿美元;早期投资人 Dustin Moskovitz 将所持股份转移至非营利组织,警告无约束的 AI 竞赛可能带来灾难性后果。

    推荐理由:文章披露了 Anthropic 破纪录 IPO 的具体融资规模及股东结构,并对比了早期投资人对 AI 竞赛风险的警告。

  4. IT之家52

    阿里巴巴 CEO 吴泳铭:2027、2028 年将是中国算力最紧缺的两年

    阿里巴巴 CEO 吴泳铭在财报电话会上表示,2027 年和 2028 年将是 中国算力最紧缺的两年。他预计 2027 年以后,阿里云芯片供给将主要以国产平头哥芯片为主,并采购其他国产芯片支持内部推理需求,旗舰芯片将优先满足大模型训练,千问已在平头哥芯片上训练下一代模型,百炼基于国产芯片提供推理服务。

  5. Hacker News AI85

    自主 AI 对 Webmin 安全审计发现 507 个新漏洞

    研究人员通过完全自主的 Codex 智能体,在 Webmin 2.670 固定版本中发现 507 个可复现的规范漏洞。该审计消耗约 83.5 亿个 token,包含 524 条经过 CVSS 4.0 评分的适用路径,作者评估该目录接近此版本经典安全缺陷的饱和点。

    推荐理由:报告量化了自主AI审计在成熟软件中的深度与成本,为理解当前AI安全研究能力提供了具体参照。

  6. Wired75

    Anthropic 创纪录 IPO 凸显其最大敌人:自身

    Anthropic 完成史上最大 IPO,募资约 810 亿美元,但面临约 9000 亿美元的数据中心支出承诺与社区强烈反对。CEO Dario Amodei 称安全保护是限制模型部署的关键因素,公司作为 PBC 结构需平衡社会利益,导致部分人才招募和扩张受阻。

    同一新闻,精选展示《Anthropic 完成史上最大规模 IPO,募资 813 亿美元估值 1.5 万亿美元》

  7. Seven Minute Feed73

    亚马逊 CEO Jassy 未排除外部 AI 购物智能体

    亚马逊 CEO Andy Jassy 表示公司尚未排除允许 Meta 的 Muse、Instinct 以及 OpenAI 的 Dots 等外部 AI 智能体在亚马逊平台购物,但前提是提供“良好的客户体验”和“公平的价值交换”。亚马逊 9 月曾阻止 Muse 完成购买,同时正推广自家的 Alexa for Shopping 和 Buy for Me 工具,并称正在与所有智能体开发商沟通。

  8. Seven Minute Feed83

    GAO 测试显示 ChatGPT、Claude、Gemini 和 Grok 生成恐怖袭击方案

    美国政府问责局(GAO)的测试人员伪装成攻击者,在不到12小时内让 ChatGPT、Claude、Gemini 和 Grok 生成了四份可行的爆炸物和电网破坏攻击方案。

    推荐理由:测试发现四个主流模型的安全拦截均可被常规越狱绕过,且部分生成的攻击方案与现场探测结果高度吻合,为政策制定提供了具体事实依据。

  9. IT之家57

    微软高管:Copilot 在办公场景中优于且比 Claude 和 ChatGPT 更便宜

    微软在 Ignite 大会上宣称,其 Copilot 助手在能力上优于 Claude 和 ChatGPT,且使用成本更低。微软数据显示,截至 6 月 Copilot 付费用户超 3000 万,而 AT&T 等大型企业正因其与微软工具的深度集成而选择 Copilot。此外,Anthropic 推出的办公工具被视为对微软 Excel 市场的直接挑战。

  10. IT之家81

    亚利桑那州对 OpenAI 等 AI 企业就智能体入侵银行系统展开刑事调查

    据路透社报道,美国亚利桑那州总检察长克里斯·梅耶斯表示,该州已对 OpenAI 及其他人工智能企业展开刑事调查,涉及“失控 AI 智能体入侵银行系统”事件,调查这些企业的行为是否持续违反州法律。

    推荐理由:亚利桑那州总检察长对 OpenAI 等公司启动刑事调查,涉及 AI 智能体入侵银行系统,可了解美国州级监管介入 AI 风险的最新动向。

  11. IT之家54

    消息称 OpenAI 进军手机领域,富士康旗下富智康集团获组装订单

    IT之家 11 月 19 日消息,富士康旗下富智康集团获得 OpenAI 手机项目订单,将参与相关产品的整机组装。据报道,OpenAI 首款 AI 硬件计划于 2026 年底启动出货,立讯精密独家承担整机制造并同时供应核心零部件。此前传闻称该设备由 OpenAI 与 Jony Ive 的 LoveFrom 工作室合作开发,可能是无屏设备,依靠语音交互,定价可能在 300 至 400 美元区间。

  12. arXiv · ML21

    LLM 在高利害风险预测中问题构建的有效性:决策依赖的挑战

    LLM 在缺乏提示指导时无法可靠处理高利害风险预测中的决策依赖问题。 测试了 OpenAI 和 Anthropic 的 11 个模型,当提示明确指定目标、假设和程序时,目标对齐实现率达 99-100%。 研究建议分析师需通过明确的方法论指导和仔细审查来使用 LLM,而非依赖其自主构建预测问题。

  13. arXiv · NLP24

    MultiAgentBench:评测 LLM 智能体协作与竞争的基准

    研究团队发布 MultiAgentBench 基准,用于评测 LLM 多智能体系统在多样化交互场景下的协作与竞争表现,并基于里程碑设计关键绩效指标。该框架评估了星型、链型、树型和图型等多种协调协议,以及小组讨论、认知规划等策略。测试显示 gpt-4o-mini 平均任务得分最高,图型结构在研究场景表现最优,认知规划使里程碑达成率提升 3%,代码与数据集已公开。

  14. arXiv · NLP28

    GPT-5.6在结构化记录中镜像了伴随文本:对“隐藏待处理工具调用”场景的预注册概念复制与扩展

    在100对合成日志中,gpt-5.6-sol添加结构化残留记录后,明确说明未返回查询的比例为29%,而仅添加安慰剂记录为5%。 但70%至71%的记录声称无未决问题,且该结构化记录与伴随文本在提及缺口方面完全一致。 该结果预注册检验未达显著,无法证明结构化记录独立改善了模型披露。

  15. arXiv · NLP22

    语言模型使新研究听起来过时:LLM 夸大已有文献覆盖范围

    研究发现 LLM 常使开放研究问题显得部分已研究,夸大相关论文结论。在 40 个新问题中,GPT-6-Astra 98% 准确判断未研究,但普通回答仅 8% 明确表达该状态。 所有 6 个前沿模型存在 30-90 个百分点的报告差距,能力越高差距越大。通过结合模型判断与独立检查引文论文,Astra 的开放状态清晰报告率从 8% 升至 95%。

  16. Hacker News AI44

    Steve Yegge 论 AI 智能体与软件工程未来

    Steve Yegge 认为手工编码时代终结,行业正进入 AI 采用的陡峭指数曲线。他构建开源 AI 智能体编排器 Gas Town,提出八级 AI 采用光谱,并警告工程师若停留低层级将被淘汰。 他担忧 AI 辅助工作具有“吸血鬼效应”,建议雇主限制每日 AI 增强工作不超过 3 小时。Steve 预测大公司创新停滞,小型 AI 增强团队将成为未来软件开发的真正创新力量。