跳到正文
Hugging Face Blog·· 9 天前

Does Your Model Run on AWS Trainium? Look It Up

Does Your Model Run on AWS Trainium? Look It Up

原始来源:Hugging Face Blog阅读原始报道
AI 导读

Hugging Face 推出 TorchNeuron 后,发布 aws-neuron/torch-neuronx-model-support Space,可查询主流模型在 AWS Trainium 上的兼容性与性能表现。该工具提供模型运行结果、Trainium 核心数、编译耗时及峰值显存数据,支持查询特定模型版本与编译器配置,帮助用户判断模型是否可在 Trainium 上无修改运行。

来源:Hugging Face Blog · huggingface.co