Hugging Face Blog·· 28 天前AI 评分45
Hugging Face 发布 TorchNeuron 模型兼容性查询工具
Does Your Model Run on AWS Trainium? Look It Up
AI 导读
Hugging Face 上线 torch-neuronx 模型支持 Space,用于查询 Hub 热门模型在 AWS Trainium 上的运行状态。 该工具基于 trn2 实例测试,记录核心分片数、耗时及内存,并生成包含静态缓存和 torch.compile(backend="neuron") 的 run.py 脚本。
来源:Hugging Face Blog · huggingface.co