Latent Space· Latent Space·· 8 天前精选AI 评分85
[AINews] 智能体推翻多义性假设，大幅改善可解释性与对齐
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Meta 发布 Muse Spark Open 模型，Goodfire 团队提出神经网络已具备良好可解释性的新理论。Meta 开源的 Muse Spark Open 总参数 816B，激活 42B，支持 1M 上下文窗口和多种模态输入，被视为美国领先的开源权重模型。
推荐理由
文章通过汇总 Goodfire 关于模型可解释性的新观点，展示了自动智能体在分析神经网络结构方面的潜在应用，为评估模型对齐难度提供了新视角。
来源：Latent Space · latent.space