8月15日，IDC 发布的统计数据显示，2024年下半年中国大模型商用落地呈现爆发式增长，日均Tokens消耗量较此前增长近10倍。2024年中国公有云大模型调用量累计达114.2万亿Tokens，且该数据不包含使用海外MaaS平台的调用量。
随着大模型商用进程的加速，数据中心内Token用量持续攀升激增，带来了一系列连锁反应。东西向流量大幅增长、通信能耗不断加大，网络正逐渐成为AI基础设施的决定性瓶颈，制约着AI技术的进一步发展与应用。
在这样的背景下，高端网络硬件市场迎来快速发展。2024年，中国高端以太网（≥200G）端口出货量突破600万，IDC预测，未来其将保持45.6%的复合增长率，到2029年中国高端以太网端口出货量将超过4300万个。同时，中国生成式AI相关网络硬件支出也将持续加速，从2023年的65亿元增长到2028年的330亿元，复合增长率达到38.5%。
据此前国家数据局数据显示，2024年初，中国日均Token的消耗量为1千亿；截至今年6月底，日均Token消耗量已经突破30万亿，1年半时间增长了300多倍。