AWS Machine Learning Blog· Alex Iankoulski·· 2 天前精选
AWS博客发布:在Amazon EKS和SageMaker HyperPod上加速使用NVIDIA Nemotron模型
Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
原始来源:AWS Machine Learning Blog阅读原始报道
AI 导读
NVIDIA Nemotron 3.5 Super VL是一个120B参数的多模态MoE模型,支持文本、图像、文档和视频输入,输出文本。该模型由Nemotron 3 Ultra蒸馏而来,提供12B激活参数/token,上下文长度达1M token。
推荐理由
原文给出了Nemotron 3.5 Super VL的架构、性能基准和部署指南,读者可以了解其多模态能力、GPU配置要求以及在EKS/HyperPod上的部署实践。
来源:AWS Machine Learning Blog · aws.amazon.com