跳到正文
热点事件持续更新

是石科技发布TokenFleet分布式调度框架

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

是石科技发布 TokenFleet 分布式调度框架,通过优化请求路由、跨机房容量协同与混合负载治理,提升大模型集群的有效 Token 产出。 该框架包含 TokenPilot、FleetMind 与 SLOMax 三项核心技术。据测试数据,在 GLM5.3 测试中,该框架使 P95 首 Token 延迟降低 32.4%、P50 延迟降低 71.3%,达标输出吞吐提升约 29.4%。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. 量子位
    是石科技发布 TokenFleet 分布式调度框架,首 Token 延迟降低 32.4%

    是石科技发布 TokenFleet 分布式调度框架,通过优化请求路由、跨机房容量协同与混合负载治理,提升大模型集群的有效 Token 产出。该框架包含 TokenPilot、FleetMind 与 SLOMax 三项核心技术;在 GLM5.3 测试中使 P95 首 Token 延迟降低 32.4%、P50 降低 71.3%,达标输出吞吐提升约 29.4%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。