跳到正文
Hugging Face Blog·· 4 天前精选AI 评分70

开源多模态模型 Apertus 1.5 发布技术报告与训练检查点

Apertus 1.5 Release Notes

AI 导读

Apertus 团队发布 Apertus 1.5 8B 与 70B 模型的完整技术报告,原生支持图像与音频理解,并引入可选的思考模式及 262,144 tokens 上下文窗口。模型采用早期融合架构与分阶段持续预训练,已在 Apache 2.0 协议下开源权重,并全面公开了数据配方、评估记录以及各阶段的中间训练检查点。

推荐理由

项目公开了从数据配比、分阶段预训练到对齐检查点的全流程细节,为多模态与推理模型的训练复现提供了参考。

来源:Hugging Face Blog · huggingface.co