arXiv · ML· Yuwei Zeng, Zekun Shi·· 1 天前AI 评分28
FlowVQ：通过分位数传输解决向量量化码本崩溃问题的可扩展方法
Transporting Quantiles to Codebook: Scalable Vector Quantization without Codebook Collapse
AI 导读
论文提出FlowVQ，通过联合建模与聚类过程解决VQ-VAE中的码本崩溃问题。 该方法利用轻量级流匹配模型学习潜在空间，传输源分布的分位数分区先验码，并在诱导分布下获取Voronoi质心生成码本。 在图像分词与高精度分词任务中，展示了码本全利用率、可扩展性及表达能力提升。
来源：arXiv · ML · arxiv.org