1. 算力度量体系
采用四层三级度量体系:
- 硬件基础指标:算力(FP64/FP32/FP16)、显存带宽、能耗比
- 核心性能指标:算力性能(images/sec、tokens/sec)、通信性能、算子性能
- 网络资源指标:带宽、时延、抖动、丢包率、吞吐率
- 服务质量指标:可用性、稳定性、响应时延
2. 核心评估指标
- 算力度量精度:GPU/NPU 等异构算力度量误差 ≤ 3%
- 时长预估误差:训练时长预估误差 ≤ 10%,推理时长预估误差 ≤ 5%
- 调度响应时间:算力匹配与调度响应时间 ≤ 3 秒
- 资源利用率:算力资源平均利用率从 30% 提升至 60% 以上
- 成本优化效果:用户算力使用成本平均降低 25%-30%
3. 算力算效衡量标准
采用统一的算力算效衡量技术:
- BOPS 指标:每秒完成基本操作数,用于归一化计量异构算力
- FLOPS/TOPS:浮点运算/张量运算能力
- 能效比:单位功耗的算力指标
- 算效指标:计算资源的算效衡量指标、单位功耗的算力指标
4. 城域毫秒用算指标体系
工信部明确的三级量化指标:
- 算力中心毫秒互连:城域内主要算力中心之间互连时延 < 1ms
- 算力资源毫秒接入:产业园区、医疗机构等重点场所接入算力资源时延 < 1ms
- 算力应用毫秒可达:终端侧行业应用调用算力时端到端网络时延 < 10ms