Hugging Face Blog·· 23 小时前精选AI 评分66
TorchNeuron 开启公测,Hugging Face 原生支持 AWS Trainium 芯片训练与推理
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 宣布原生支持 PyTorch 新后端 TorchNeuron,开发者可直接在 AWS Trainium 芯片上运行 Transformers 与 Diffusers 等核心库。
推荐理由
原文将 TorchNeuron 与旧版 Optimum Neuron 对比,文本生成模型开箱支持率从 46% 提升至 89%,读者可据此评估迁移成本。
来源:Hugging Face Blog · huggingface.co