36氪·· 3 天前精选AI 评分71
Anthropic前研究员Jacob Coxon承认爱钱,透露预训练效率与后训练风险
别问了,我就爱钱!裸辞天才研究员反悔,或想重返大厂
AI 导读
Anthropic前研究员Jacob Coxon在斯坦福对谈中承认喜欢持有OpenAI股票,称这是带血的钱,同时坦言不确定离开大厂是否正确。他透露Claude参与寻找算法效率乘数,让预训练算力走出超指数级曲线,并认为递归自我改进只需攻克自主修改Transformer架构与优化数据集配比这一环节,模型异常行为主要出自后训练强化学习阶段。
推荐理由
原文给出了 Anthropic 前研究员 Coxon 对预训练效率、递归自我改进和后训练风险的拆解,读者可以据此判断前沿模型的安全边界。
来源:36氪 · 36kr.com