是石科技发布TokenFleet分布式调度框架
热点事件持续更新
是石科技发布TokenFleet分布式调度框架
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
是石科技发布 TokenFleet 分布式调度框架,通过优化请求路由、跨机房容量协同与混合负载治理,提升大模型集群的有效 Token 产出。 该框架包含 TokenPilot、FleetMind 与 SLOMax 三项核心技术。据测试数据,在 GLM5.3 测试中,该框架使 P95 首 Token 延迟降低 32.4%、P50 延迟降低 71.3%,达标输出吞吐提升约 29.4%。
AI 根据报道生成 · 1 小时前更新
最新进展10月20日 16:01
是石科技发布 TokenFleet 分布式调度框架,首 Token 延迟降低 32.4%报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- 量子位是石科技发布 TokenFleet 分布式调度框架,首 Token 延迟降低 32.4%
是石科技发布 TokenFleet 分布式调度框架,通过优化请求路由、跨机房容量协同与混合负载治理,提升大模型集群的有效 Token 产出。该框架包含 TokenPilot、FleetMind 与 SLOMax 三项核心技术;在 GLM5.3 测试中使 P95 首 Token 延迟降低 32.4%、P50 降低 71.3%,达标输出吞吐提升约 29.4%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。