arXiv · NLP· Yuan Pu, Yudong Lu, Ting Wang, Zhicong Hong, Qinuo Li, Xuansheng Wu, Na Zou, Xia Hu, Guanchu Wang·· 4 小时前AI 评分42
OpenESM：能源导向模型是可扩展的基础学习者
OpenESM: Energy-Steered Models Are Scalable Foundation Learners
AI 导读
能源导向模型（ESM）将能源引导搜索整合入单一架构，用于基础语言建模。 模型先在能源景观上优化潜在状态，再据此生成 token，并在 26 项下游任务上多数超越 GPT。 模型权重与训练基础设施已全面开源，支持社区复现与扩展。
来源：arXiv · NLP · arxiv.org