Dharma AI提出VocabX词表优化方法，称小模型推理成本可降77%

Dharma AI 提出小语言模型词表定制方法 VocabX，称在不改动基座模型和训练方案的前提下，可将生产环境小模型的实测推理成本降低 77%。该方法依据生成阶段的 token 计算成本而非单纯的出现频率重构分词器，将高频重复结构转化为宏 token，同时剪除未使用的词表条目。 Dharma AI 表示，相关实验数据来自目前仍在审稿阶段的论文，正式发表前可能发生变动，完整方法与具体实验数据将在即将上线的正式论文中公布。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。