跳到正文
Hugging Face Blog·· 13 天前精选

TorchNeuran:在 AWS Trainium 上更轻松运行 Hugging Face 模型

TorchNeuron: running HF models on AWS Trainium is easier than ever

原始来源:Hugging Face Blog阅读原始报道
AI 导读

TorchNeuron 作为 PyTorch 的新原生后端,现已在 AWS Trainium 上原生支持 Transformers、Diffusers 等 Hugging Face 库,用户只需传入 device_map=neuron 参数即可直接运行,相比 Optimum Neuron 覆盖的模型架构从 46% 提升至 89%。

推荐理由

原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

来源:Hugging Face Blog · huggingface.co