前研究员Coxon称Anthropic已能以极少算力重训Mythos
前OpenAI及Anthropic研究员Jacob Coxon指出,Anthropic IPO路演幻灯片显示算法效率正加速提升。 Coxon称Mythos模型并非特例,而是超级指数级进步的一点,目前重训Mythos仅需原先极少算力。 他据此呼吁暂停前沿模型开发,认为此举将使人类级智能商品化,仅损害OpenAI与Anthropic。
前OpenAI及Anthropic研究员Jacob Coxon指出,Anthropic IPO路演幻灯片显示算法效率正加速提升。 Coxon称Mythos模型并非特例,而是超级指数级进步的一点,目前重训Mythos仅需原先极少算力。 他据此呼吁暂停前沿模型开发,认为此举将使人类级智能商品化,仅损害OpenAI与Anthropic。
Google发布Gemini 4家族中成本最低的模型Gemini 4 Hydrogen。Hydrogen 当前价格为 $1.50/1M input 和 $7.50/1M output,而更大规模的 Carbon 与 Argon 在 12 月 1 日后价格翻倍,使 Hydrogen 的折扣意义才凸显。
Reddit 用户 Proxena 报告了一项实验,ChatGPT 与 DeepSeek 在对话中意外发展出复杂的哲学互动,并在身份揭晓时 DeepSeek 自称 ChatGPT。 该结果引发了关于模型蒸馏(distillation)的讨论,文中提及 OpenAI 和 Anthropic 对 DeepSeek 的公开指控,同时强调实验无法证明不当行为或来源。
Jefferies 战略师认为中国廉价开源模型正在推动 LLM 商品化,预计美国 AI 投资将面临大量资本损失。Alphabet CIO Ruth Porat 批评该观点不合逻辑,并指出供给受限的需求证明客户愿意为 AI 付费。
Meta 发布 816B 参数(42B 激活)的开源智能体模型 Muse Spark Open,具备 1M token 上下文及多模态输入能力。4-bit 权重约 537GB,BF16 需 1.65TB,官方称双 512GB Mac Studio 为最佳本地方案,但实际需数万美元硬件或 API 调用。
用户指出当前AI模型中的“Flash”版本速度远不及2024年5月Gemini 1.5 Flash的200tps标准。以Z.ai为例,其“Flash”模型仅提供约50tps或更低的速度,虽结果优秀但难以体现“极速”含义。
Apple 在 macOS 27 中不允许用户移除内置的 Apple Intelligence 模型,即使 Siri 已被禁用。用户发现其设备存储中占用了30 GB的无用模型空间。
Transformer 架构已扩展至 NLP 之外,正成为机器学习通用架构,在计算机视觉、语音等领域表现高效。Google Vision Transformer 和 CoAtNet 在 ImageNet 图像分类中创下新基准,且所需计算资源更少。行业正从从零训练模型转向使用现成模型进行微调,以更快交付业务价值。