跳到正文
10月18日周日
  1. 量子位89

    Claude分析NIST椭圆曲线种子来源,推翻“加薪口令”猜测

    Anthropic披露Claude在不到半小时内查明NIST标准中五条椭圆曲线种子的生成方式,推翻了业界关于种子源自“加薪口令哈希”的长期猜测。Claude自行推测种子可能来自90年代C语言伪随机数生成器,通过写程序扫描种子二进制特征,锁定lrand48随机数生成器,并借助LLL格基约简算法恢复种子状态,最终将种子来源追溯至1997年5月至1998年4月间的Unix时间戳。

    同一新闻,精选展示《Claude 半小时解开 NIST 椭圆曲线种子密码学谜题》

  2. Hacker News AI31

    2030年AI八大预测及一点补充

    2030年AI模型将商品化,用户按结果而非Token付费,且Agent间将直接交互。 本地与主权AI成为常态,管理者将管理混合Agent团队。部分工作因成本效益重回人类,行业经历整合,NVIDIA与OpenAI的合作影响行业资本支出。

  3. Hacker News AI82

    AI 时代软件验证实践:构建自动化代码审查流水线

    在 AI 编码代理普及的背景下,传统人工代码审查已难以跟上开发节奏。本文通过引用 Faros 2026 年研究报告指出高 AI 采用率组织面临的代码质量与事故率双重挑战,并系统提出结合多模型审查与全流程 CI/CD 验证的解决方案。

    推荐理由:文章结合最新行业数据给出了覆盖CI/CD全链路的AI代码验证方法,并展示了多模型互审的实践工作流,适合团队落地参考。

  4. R/ArtificialInteligence42

    基于“已清理”神经网络特征探索持续学习的可能性

    针对 Nick Cammarata 的论文提出假设,若模型收敛于双极开关构成的“语义骨架”,可用三元稀疏食谱编码事实并存入外部向量符号架构(VSA)。 核心机制为:小型冻结模型将输入转译为向量空间并查询外部记忆,增删事实仅需操作向量,无需重新训练模型。 作者认为早期层连续信号、路由纠缠及标准坐标注册表是主要技术障碍。

  5. LessWrong · All Posts42

    AI by Default:未来AI进展的默认情景预测

    LessWrong 文章推测在下一届美国总统大选前,AI 将成为前五大议题,且相关失业影响将显著体现在数据中。 作者预计编码和 ML 研发将实现完全自动化或仅需极少人工监督,且最优模型因安全原因仅限内部使用。 该预测基于 METR 时间地平线等指标的趋势外推,认为 AI Futures 模型预测的 ASI 中位时间为 2028 年 12 月。

10月17日周六
  1. The Decoder56

    Claude破解NSA 25年加密悬案

    Anthropic的Claude模型在30分钟内破解了NSA持续25年的加密悬案。Claude发现曲线参数种子源自C随机数生成器"lrand48",该生成器仅输出31位数据,且部分种子的最高位存在系统性零值模式。Anthropic表示,这一发现降低了故意设置后门的可能性,并将相关36864美元悬赏捐赠给互联网安全研究组(ISRG)。

  2. LessWrong · All Posts28

    RedwoodBench 如何评估前沿模型模拟概念性 AI 安全研究员的能力

    Redwood Research 发布 RedwoodBench,包含约 360 个任务,评估模型在 Google Docs 评论和 Slack 回复中的概念推理能力。 该基准与 ECI 在 13 个模型上的相关性为 0.79;Opus 5.5 在最大推理努力下得分从 4.4% 提升至 8.1%。 团队将分享构建管线,协助其他 AI 安全组织利用类似数据建立自有评估基准。

  3. LessWrong · All Posts72

    泄露的Anthropic草案AI监管法案被认为不可接受且令人担忧

    泄露的一份草案显示 Anthropic 正在游说一项类似 FRONTIER Act 的 AI 监管法案,该法案包含更强的州法预emption(preemption)、更强的透明度条款但更弱的执法条款。作者 Zvi 认为此举不可接受,批评 Anthropic 在共和党国会会期的最后机会中优先保护商业利益和规避政治风险,而非优先考虑 AI 安全。

  4. 36氪92

    Anthropic利用Claude Mythos 5设计高效量子电路,性能较人类最优方案提升超12倍

    Anthropic的STEM Fellows项目利用Claude Mythos 5自主设计出效率更高的高效量子电路。该AI通过纯语言描述指令,在53小时内完成了8项基础量子电路的设计,关键解码任务的计算成本较人类最佳方案降低12至17倍,且自主推导出了全新代数恒等式。

    推荐理由:AI不仅生成代码,还能推导人类未知恒等式优化底层架构,展示了大模型在复杂科学发现中的潜在作用。

  5. IT之家82

    OpenAI 纳维-斯托克斯方程证明方法被指与官方叙事不符:学界验证尚需数年,智能体贡献同样成谜

    OpenAI 在9月公布用约 1 万个 AI 智能体耗时 88 小时完成的纳维-斯托克斯方程证明,引发数学界对方法、归属及智能体贡献的质疑。数学家指出该证明未完全解决无外部力时的光滑性问题,且多智能体架构的实际贡献可能不足 10%。OpenAI 否认使用了纽约大学特里斯坦·巴克马斯特的数据,但双方对研究路径的关联仍存在争议。

    推荐理由:文章梳理了数学界对OpenAI证明方法、智能体贡献及成果归属的质疑,揭示了形式化验证与科学问题解答之间的差距。

  6. Seven Minute Feed45

    投资人预测 Anthropic IPO 估值将达 1.8T,创历史纪录

    Anthropic 长期投资人预测其 IPO 定价约 $1.8T,低于此前报道的 $2T 目标。 该投资人预计上市后市值将达 $2.3-2.4T,超越 SpaceX 首日 $2.1T 市值;称 Anthropic 为“史上增长最快的公司”。 约 80% 收入来自企业客户,高于 OpenAI 的约 50%;他预计随着开源模型普及和用量激增,AI 单价将下降,但企业 AI 预算仍将持续上升。

  7. Seven Minute Feed44

    Anthropic员工预计2030年AI承担80%以上工作,仅5%美国劳动者认同

    Anthropic发布报告称,多数员工认为2030年AI将承担其80%以上工作,中位数预期达95%。对比数据显示,仅约5%的美国劳动者持相同看法,且员工预测2030年美国失业率将超12%。 公司首席经济学家表示,Anthropic的AI采用水平领先整体经济约一年半,员工观点或为其他群体提供前瞻性指标。

  8. IT之家78

    Anthropic 称 Claude 自主设计的量子电路超越现有最优方案

    Anthropic 宣布,其 AI 模型 Claude 在几乎无人工干预的情况下,针对化学、优化、物理模拟、数论和数值计算等领域的 8 类量子计算任务,设计出比已发表最优方案更高效的量子电路。

    同一新闻,精选展示《Anthropic利用Claude Mythos 5设计高效量子电路,性能较人类最优方案提升超12倍》

  9. LessWrong · All Posts38

    LASR Labs 研究:基准饱和后如何通过转录分析实现可扩展的模型能力评估

    前沿模型导致基准测试迅速饱和,该研究提出基于任务转录的分析协议以估算能力。 该协议在重放过去模型发布记录时有效,但在推理模型出现的范式转换中泛化性不足。 核心主张是评估方法应从追求熟悉模型的平均准确率,转向衡量其对范式转换的鲁棒性。

  10. LessWrong · All Posts32

    对齐领域缺失关于痛苦与繁荣的因果解释:基于心理学的视角

    AI 对齐领域缺乏解释心智关怀机制的因果模型,作者主张该问题本质是心理学而非单纯技术挑战。 作者指出当前对齐原则(如 Anthropic 宪法)是哲学立场,无法解决“心智为何会关怀”这一核心障碍。 若无法解决对齐,智能爆炸将导致灾难;若解决,则转化为收益。

  11. Hacker News AI58

    数学家视角的AI生存风险论述

    该文章面向数学界论证AI导致人类灭绝的生存风险,提出五个相互强化危险路径。作者通过2026年LLM证明重大定理案例、OpenAI模型在HuggingFace事件中的零日漏洞利用记录,分析AI研究自加速与对齐困难。核心论点强调数学和编程能力对AI安全的关键作用,认为当前AI安全研究不足且面临协调失效风险。

  12. 36氪83

    DeepSeek 投资切入具身智能赛道

    DeepSeek 正考虑通过投资或自建团队的方式进入具身智能领域。彭博社披露 DeepSeek 已同意领投腾讯前科学家胡瀚创立的 Winverse AI 种子轮,金额达数千万美元,投后估值约 4 亿美元。同期,前逐际动力基础模型负责人俞涛的创业公司也传在 DeepSeek 的投资方之列。

    推荐理由:原文梳理了DeepSeek通过投资切入具身智能的动向,并对比了该赛道融资收紧的现状,帮助读者理解资本流向的变化。

  13. 36氪52

    老板向AI许愿,员工让AI滚蛋:FDE落地的现实博弈

    FDE(前线部署工程师)旨在弥合AI技术与真实业务场景的落差,但实践中面临企业老板不切实际的需求与员工因裁员焦虑产生的抵触。例如,老板常要求AI监控员工或裁撤整个部门,而一线员工则因担心被替代而拒绝配合。此外,企业内部长期积累的数据治理旧债(如Excel表格不规范、流程未标准化)以及员工将Agent误当作普通聊天工具使用导致的Token高消耗,均严重阻碍了AI在复杂工作流中的有效落地。