arXiv · ML· Pawel Olszowiec, Michal Byra, Grzegorz Gruszczynski, Grzegorz Stefanski, Alberto Presta·· 9 小时前AI 评分21
bViT与ViT在12导联心电图分类中的机制对比:权重循环与堆叠架构的动力学差异
Same path, different walk: a mechanistic comparison of looped and stacked transformer encoders on 12-lead ECG
AI 导读
受控研究表明,应用一次权重绑定块L次的bViT模型在12导联心电图分类任务中实现了与标准ViT相当的准确率,参数减少达8.9倍。 几何相似度指标显示两种架构构建了具有等效规范顺序的潜在表示;bViT表现出更小的步长和患者间敏感性,而ViT存在表示维度坍缩和分布外特征扩展现象。
来源:arXiv · ML · arxiv.org