PyTorch 2.15优化Mac MPS后端性能并引入FP8支持
热点事件持续更新
PyTorch 2.15优化Mac MPS后端性能并引入FP8支持
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
PyTorch 2.15 在 Mac MPS 后端引入 FP8 支持，并通过专用 Metal 算子大幅提升大语言模型解码及底层计算性能。据 Hugging Face 介绍，新版本使 MoE 模型解码速度提升 5 至 6.5 倍，词表 softmax 采样计算提速约 8 倍，并将 Wan2.2 视频 VAE 解码的显存峰值从 270 GiB 降低至 8 GiB。 该更新仅适用于搭载 Apple 芯片的 Mac 设备，且要求系统运行 macOS 15 及 Python 3.11 或更高版本。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 08:00
PyTorch 2.15 MPS 带来 FP8 支持与 LLM 解码加速报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- Hugging Face Blog精选PyTorch 2.15 MPS 带来 FP8 支持与 LLM 解码加速
PyTorch 2.15 在 Mac MPS 后端引入 FP8 支持，并通过专用 Metal 算子大幅提升大语言模型解码效率与底层算子性能。MoE 模型解码速度提升 5 至 6.5 倍，词表 softmax 采样计算速度提升约 8 倍。此外，Wan2.2 视频 VAE 解码驱动显存峰值从 270 GiB 降至 8 GiB，新版本要求 macOS 15 及 Python 3.11 或更高版本。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。