arXiv · ML· Vlad Alexandru S\u{a}nduleac, Shahariya Rasheed Rayamarakkarveettil Puthanpurayil, Noman Khan, Remus Teodorescu·· 2026-10-16AI 评分22
20.1M参数GridFM教师蒸馏至0.62M参数6层学生模型用于实时边缘推理
Physics-Aware Distillation of a Grid Foundation Model for Real-Time Edge Inference
AI 导读
研究人员将20.1M参数、12层的GridFM教师模型蒸馏为0.62M参数、6层的学生模型,参数量减少32.5倍,消息传递深度减半。 该过程采用结合掩蔽功率流损失、输出、物理残差、潜在状态和注意力转移的多目标蒸馏方法。
来源:arXiv · ML · arxiv.org