跳到正文
热点事件持续更新

CSD跨分词器蒸馏论文发布

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

2026年10月22日，研究者Mingyu Yang等在arXiv cs.lg领域发布了名为“Common-Support Distillation (CSD)”的论文。该研究提出了一种用于跨词表模型知识迁移的统一框架，旨在解决师生模型间词表不一致导致的分布对齐难题。 CSD框架的核心机制是通过构建师生模型间的共享支持集来对齐预测分布。在一对一对齐中，它显式使用公共token对；而在其他对齐场景中，则通过自回归链式法则计算虚拟支持概率。此外，该框架还利用残差事件确保概率分布的归一化，从而实现基于logits的统一知识迁移。

AI 根据报道生成 · 13 小时前更新

最新进展10月22日 12:00
CSD：用于跨词表模型知识迁移的公共支持蒸馏框架

报道时间线

沿着报道，了解事件的不同侧面。

10月22日
  1. arXiv · ML
    CSD：用于跨词表模型知识迁移的公共支持蒸馏框架

    研究者提出公共支持蒸馏（CSD），一种统一的基于 logits 的跨词表知识迁移框架，通过构建师生模型间的共享支持集来对齐预测分布。 CSD 在一对一对齐中显式使用公共 token 对，其他对齐通过自回归链式法则计算虚拟支持概率，并用残差事件确保分布归一化。

本事件热度走势

可比范围当前
7
可比范围峰值
910月22日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。