MoDDiT：在 Diffusion Transformers 中实现简单 Token 路由
热点事件持续更新
MoDDiT：在 Diffusion Transformers 中实现简单 Token 路由
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
MoDDiT 是一种在扩散变换器中实现动态计算分配的技术，通过独立的“路由 MLP”和自注意力操作，使模型能够根据输入动态选择需要处理的 token。这一设计让模型在从零开始训练时，仅处理 12.5% 的 tokens，从而显著降低计算成本，而不牺牲生成质量。该分配过程具有可解释性，可直观观察哪些 token 被选中及其原因。此外，MoDDiT 已被应用于训练视频生成模型，并可作为工具用于蒸馏稠密双向扩散变换器，进一步扩展其应用范围。
AI 根据报道生成 · 1 小时前更新
最新进展10月21日 12:00
MoDDiT：在 Diffusion Transformers 中实现简单 Token 路由报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- arXiv · AIMoDDiT：在 Diffusion Transformers 中实现简单 Token 路由
MoDDiT 通过独立路由 MLP 和 self-attention 操作，在 Diffusion Transformers 中实现动态计算分配。 模型从零开始训练时，MoDDiT 可仅处理 12.5% 的 tokens，从而显著降低计算成本。其分配过程具有可解释性，并能用于训练视频生成模型及蒸馏稠密双向模型。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。