跳到正文
arXiv · AI· Xiao Cao, Fuchen Long, Yansong Qu, Wen Xiao, Xin Zhang, Xinlong Sun, Xi Chen, Zhiyong Huang·· 8 小时前AI 评分30

VideoEditor-MoE:首个开源的视频编辑混合专家(MoE)框架

VideoEditor-MoE: Scaling Complex Video Editing with Mixture of Experts

AI 导读

VideoEditor-MoE是首个开源的视频编辑混合专家框架,将模型规模扩展至14B和56B参数,每个token仅激活约8B参数,以降低复杂视频编辑的计算成本。 该框架基于5B视频编辑模型初始化,引入了MoE-Attention层,通过路由键值专家扩展注意力容量。实验表明,其学习路由对样本内容和扩散噪声水平的响应强于人类定义的编辑类别。

来源:arXiv · AI · arxiv.org