跳到正文
Hugging Face Blog·· 6 天前精选AI 评分70

Liquid AI 开源端侧推理智能体模型 LFM2.5-24B-A2B

Run fast, private agents on-device with LFM2.5-24B-A2B

AI 导读

Liquid AI 在 Hugging Face 开源推理智能体模型 LFM2.5-24B-A2B 及 Base 版本,总参数 24B 且每 token 仅激活 2B 参数,上下文窗口扩展至 131K tokens。

推荐理由

原文提供了端侧 MoE 架构细节与不同芯片上的实测吞吐数据,适合开发者评估低资源硬件下的本地 Agent 部署可行性。

来源:Hugging Face Blog · huggingface.co