跳到正文
Hugging Face Blog·· 11 天前精选

PyTorch 2.15 发布:MPS FP8 支持、MoE 解码加速、Wan2.2 视频显存大幅压降

MPS in PyTorch 2.15

原始来源:Hugging Face Blog阅读原始报道
AI 导读

PyTorch 2.15 发布,MPS 首次支持 FP8 低精度张量,存储空间仅为 BF16 一半。MoE 模型解码速度 5-6.5 倍提升,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升至 61.3 tokens/s。

推荐理由

PyTorch 2.15 发布 MPS FP8 支持、MoE 解码 5-6.5 倍加速、Wan2.2 视频 VAE 显存从 270 GiB 降至 8 GiB 等关键改进,读者可直接获知 Mac 本地 LLM 加速和显存优化的具体细节。

来源:Hugging Face Blog · huggingface.co