跳到正文
arXiv · ML· Junxian Li, Bin Shi, Erfei Cui, Hua Wei, Qinghua Zheng·· 2026-10-14AI 评分33

三阶段多任务知识蒸馏框架:增强MLP图结构信息处理

Teaching MLP More Graph Information: A Three-stage Multitask Knowledge Distillation Framework

AI 导读

提出三阶段多任务知识蒸馏框架,通过位置编码和隐藏层匹配解决图神经网络推理任务中MLP位置信息丢失和泛化率低的问题,首次实现MLP隐藏层蒸馏与图位置编码结合。 框架采用位置编码捕捉位置信息,利用神经热核处理图数据,通过学生MLP隐藏层输出匹配优化性能,在多种设置下表现出良好稳定性。 作者提供了代码实现。

来源:arXiv · ML · arxiv.org