跳到正文
Hugging Face Blog·· 23 小时前精选AI 评分66

TorchNeuron 开启公测,Hugging Face 原生支持 AWS Trainium 芯片训练与推理

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 宣布原生支持 PyTorch 新后端 TorchNeuron,开发者可直接在 AWS Trainium 芯片上运行 Transformers 与 Diffusers 等核心库。

推荐理由

原文将 TorchNeuron 与旧版 Optimum Neuron 对比,文本生成模型开箱支持率从 46% 提升至 89%,读者可据此评估迁移成本。

来源:Hugging Face Blog · huggingface.co