Hugging Face Blog·· 13 天前精选
TorchNeuran:在 AWS Trainium 上更轻松运行 Hugging Face 模型
TorchNeuron: running HF models on AWS Trainium is easier than ever
原始来源:Hugging Face Blog阅读原始报道
AI 导读
TorchNeuron 作为 PyTorch 的新原生后端,现已在 AWS Trainium 上原生支持 Transformers、Diffusers 等 Hugging Face 库,用户只需传入 device_map=neuron 参数即可直接运行,相比 Optimum Neuron 覆盖的模型架构从 46% 提升至 89%。
推荐理由
原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
来源:Hugging Face Blog · huggingface.co