智算中心

一、智算中心与传统数据中心有什么本质区别？

1. 核心算力底座的差异

• 传统数据中心：以 CPU（中央处理器）为核心，处理通用的逻辑控制任务，单机柜功率通常较低
• 智算中心：以 GPU（图形处理器）、NPU（神经网络处理器）等 AI 加速芯片为核心算力底座，专门针对 AI 大模型所需的海量并发矩阵运算进行优化，单机柜功率密度远高于传统数据中心

2. 网络架构的差异

• 传统数据中心：多采用"核心-汇聚-接入"的三层树状架构，主要处理外部访问内部的"南北向流量"，网络延迟通常在 50μs 以上。
• 智算中心：标配叶脊网络架构（Spine-Leaf），将网络扁平化为两层，使任意两台服务器间的通信跳数相同，采用 RDMA（远程直接内存访问）技术实现极低延迟（1-2μs）和零丢包的无损传输，适应大规模并行计算产生的"东西向流量"。

3. 存储系统的差异

• 传统数据中心：常使用 SAN 或 NAS 等集中式存储，在面对 PB 级 AI 训练数据时，控制器易成为性能瓶颈。
• 智算中心：采用分布式并行文件系统（如 Lustre、GPFS），将海量数据打散存储在成千上万台服务器中，支持数万张 GPU 同时进行高吞吐量的数据读取，确保算力引擎不会因为"喂不饱"数据而闲置。

4. 能源与散热的差异

• 传统数据中心：以风冷为主，PUE（电源使用效率）通常在 1.3-2.0 之间。
• 智算中心：以液冷（冷板式或浸没式）为主，PUE 可降至 1.1 以下，应对远超传统机房的算力密度并降低能耗。

二、智算中心的主要功能定位是什么？

1. 算力生产供应平台

智算中心以数据为资源，以强大算力驱动 AI 模型对数据进行深度加工，源源不断产生各种智慧计算服务。面向全行业领域提供基于深度学习技术的人工智能算法能力、算法框架和相关接口，为政府、企业及科研院所等多方用户提供生产生活各领域智慧服务，降低社会服务成本。

2. 数据开放共享平台

智算中心作为新型公共基础设施，通过全量汇聚各行业领域数据资源，开放共享全面提升 AI 算法训练数据质量。通过跨领域数据的多次开发利用，以数据流引领技术流、业务流、资金流、人才流等聚集，使沉淀的数据资源在各个应用场景中实现价值最大化。

3. 智能生态建设平台

智算中心是集人工智能、大数据、云计算等多种技术和 AI 算力服务、数据服务和模型服务于一体的新型 IT 基础设施。其广泛应用将加速推动产业 AI 化和 AI 产业化，以智能算力生态聚合带动形成多层级产业生态体系，赋能多个产业、惠及多类主体。

4. 产业创新聚集平台

以 AI 算力生产供给为核心的智算中心，面向政府、企业及科研机构等多主体，围绕数据、算法和算力三大要素着力构建 AI 全产业链。通过打造人工智能开放服务平台，全面汇聚并赋能各产业领域 AI 应用，助力加速孵化新业态，推进数字经济与传统产业深度融合。

三、智算中心的核心技术架构包括哪些层次？

1. 硬件基础设施层

硬件层是智算中心的物理底座，主要包含以下核心组件：

• 异构算力集群：CPU（如 Intel Xeon、海光、鲲鹏）、GPU（如 NVIDIA H100/A100、华为昇腾 910B）、NPU 等多类型算力芯片的混合部署
• 高速互联网络：InfiniBand（EDR/HDR/NDR）或 RoCEv2，支持 400G/800G 带宽，延迟低于 2μs
• 分布式存储平台：并行文件系统（Lustre、GPFS、BeeGFS）、对象存储（Ceph、MinIO）
• 能源与冷却系统：HVDC 高压直流供电、液冷系统（冷板式或浸没式）

2. 资源池化与调度层

资源层负责对各类硬件资源的感知、虚拟化与池化任务，主要功能包括：

• 容器化管理：基于 Kubernetes 的调度系统，支持十万级节点的弹性伸缩
• 算力调度系统：如腾讯云 TI-ONE 的潮汐调度与高低优调度，实现资源的动态分配与高效利用
• GPU 虚拟化：支持 vGPU 切分与共享，提升算力利用率
• 多租户隔离：支持不同用户、不同业务的资源隔离与计费

3. AI 开发与 MaaS 平台层

框架层提供完整的 AI 开发环境与模型服务化能力：

• 开发框架适配：PyTorch、TensorFlow、MindSpore（华为）、PaddlePaddle（百度）
• 大模型开发平台：训练（如华为 ModelArts、百度百舸）、微调（LoRA、QLoRA）、推理（TensorRT、ONNX Runtime）
• MaaS 服务化平台：模型管理、版本控制、API 服务部署、弹性扩缩容

4. 数据治理与安全平台层

运营层作为智算平台的中枢神经，负责整个平台的监控、调度与优化：

• 数据全生命周期管理：数据采集、治理、脱敏、加密、质量监控、血缘分析
• 安全防护体系：网络安全、访问控制、审计日志、商用密码应用
• 智能运维：AI 预测性维护、故障自动隔离与恢复、慢节点检测

四、智算中心的异构计算硬件有哪些类型？

1. GPU（图形处理器）

GPU 是当前智算中心最主流的算力芯片，主要厂商与产品包括：

• NVIDIA：H100 SXM（80GB HBM3）、H20（96GB HBM3）、B200（192GB HBM3e）
• AMD：MI300X（192GB HBM3）
• 华为昇腾：910B（64GB HBM）、910C（96GB HBM2e）、950PR（128GB）、950DT（144GB）

2. NPU（神经网络处理器）

NPU 专为神经网络推理优化，代表产品包括：

• 寒武纪：思元 590、思元 690
• 百度昆仑芯：昆仑芯 P800、R200
• 平头哥：含光 800、玄铁 C950

3. TPU（张量处理器）

TPU 是 Google 专为 TensorFlow 框架设计的 AI 加速器，最新产品为 TPU v7，单片功耗达 980W。

4. ASIC（专用集成电路）

针对特定 AI 任务优化的定制芯片，如 Google TPU、AWS Inferentia 等。

五、智算中心的高速互联网络技术有哪些？

1. InfiniBand（IB）

InfiniBand 是高性能计算和 AI 集群的主流高速网络方案，主要特点包括：

• 原生无损特性：采用基于信用的流控机制，从根源上杜绝丢包
• 超低延迟：端到端延迟低于 1μs，转发时延仅 260ns
• 高带宽：NDR 400Gbps、XDR 800Gbps
• 代表产品：NVIDIA Quantum、Mellanox 系列

2. RoCE（RDMA over Converged Ethernet）

RoCE 是基于以太网的 RDMA 技术，主要特点包括：

• 成本优势：兼容以太网基础设施，成本较 IB 低 30%-50%
• 需要无损网络：依赖 PFC（优先级流控制）+ ECN（显式拥塞通知）实现无损
• 延迟略高：通常在 2-8μs 范围
• 代表产品：Intel Infinity，国内厂商自研方案

3. 国产原生 RDMA 方案

2026 年，中科曙光发布国内首款全栈自研 400G 原生无损 RDMA 高速网络——scaleFabric，填补了国产集群"高速互联"技术空白，支持超大规模组网，网络成本较进口 IB 降低 30%。

六、智算中心的存储系统架构是怎样的？

1. 分层存储体系

智算中心采用分层存储架构，满足不同性能与成本需求：

• 热数据层：全闪存阵列（NVMe SSD），提供最高 IOPS 和最低延迟，用于模型参数存储和频繁访问的训练数据
• 温数据层：大容量 NVMe 设备，存储预处理后的训练数据集
• 冷数据层：高密度 HDD 或对象存储，归档原始数据和历史模型

2. 并行文件系统

并行文件系统是 AI 训练场景的核心存储组件，主流产品包括：

• Lustre：开源、成熟、超大规模，并行 I/O 性能卓越，适合超算和大规模 AI 训练
• GPFS（IBM Spectrum Scale）：企业级、功能丰富，元数据性能优势显著，适合小文件随机读写场景
• BeeGFS：轻量、易用、高性能，适合中小规模 AI 集群
• 华为 OceanStor Pacific：全闪、高密、多协议，企业级 AI 和大数据场景

3. 存算分离架构

现代智算中心普遍采用存算分离设计：

• 计算节点：专注 GPU 计算，通过 RDMA 网络访问远程存储
• 存储节点：独立部署，支持弹性扩展
• 优势：避免存储成为瓶颈，提升整体系统可靠性

七、智算中心的资源调度与管理系统如何工作？

1. 容器化资源管理

智算中心基于 Kubernetes 构建统一的资源调度平台：

• 异构资源纳管：统一管理 CPU、GPU、NPU 等异构算力资源
• GPU 虚拟化：支持 vGPU 切分，将单卡 GPU 分配给多个用户
• 弹性伸缩：根据负载自动调整计算资源

2. 智能调度策略

针对 AI 工作负载特点，智算中心采用多种调度策略：

• 潮汐调度：根据白天/晚上推理业务变化，自动将训练任务调度至推理卡闲置时段，提升资源利用率
• 抢占调度：针对突发流量，支持在线 100% 抢占，自动伸缩推理服务
• 优先级队列：按任务优先级分配算力资源

3. 慢节点检测与故障自愈

万卡集群的稳定性保障依赖智能运维：

• 流式遥测：实时监控 GPU、网络、液冷状态
• 慢节点检测：微秒级定位引发通信拥塞的慢节点
• 自动隔离：故障自动隔离与业务迁移，千卡以上训练任务断点恢复时间缩短 80% 以上

八、智算中心为什么要采用液冷散热技术？

1. AI 芯片功耗急剧攀升

AI 芯片功耗的飙升直接导致液冷成为必选项：

• NVIDIA H100 单卡功耗达 700W
• NVIDIA GB200 单柜功率达 120kW 以上（典型功耗 125-135kW）
• 华为昇腾 950DT 采用自研 HiZQ 2.0 HBM，内存容量 144GB、带宽 4TB/s
• 传统风冷方案难以满足高功率 AI 芯片的散热需求

2. PUE 合规要求

政策端对数据中心 PUE 提出更高要求：

• 新建大型/超大型数据中心 PUE ≤ 1.25
• 国家算力枢纽节点内项目 PUE 需控制在 1.2 以内
• 液冷可大幅降低制冷系统能耗，PUE 可降至 1.1 以下

3. 空间与成本效益

液冷技术带来多重优势：

• 提升功率密度：单机柜功率可提升至 100kW 以上
• 节省空间：同等算力所需机房面积大幅减少
• 降低运维成本：减少空调系统能耗占比

4. 稳定性提升

液冷为高功率 GPU 提供稳定的运行环境：

• 精准控制芯片温差，保障 7×24 小时稳定运行
• 减少风扇噪音，故障率大幅下降

九、智算中心如何支持大模型训练任务？

1. 万卡集群架构

大模型训练需要数万张加速卡协同工作数月时间，智算中心通过万卡集群提供支撑：

• 集群规模：截至 2025 年底，我国已建成万卡智算集群 42 个；2026 年国内万卡级 GPU 集群数量预计将突破 110 个，同比增长 161.9%
• 互联带宽：采用 400G/800G InfiniBand 或 RoCEv2 高速网络
• 线性加速比：通过优化网络拓扑和通信算法，集群线性加速比突破 90%

2. 分布式训练框架

智算中心提供主流分布式训练框架支持：

• 数据并行：PyTorch DDP、FSDP
• 模型并行：Tensor Parallelism、Pipeline Parallelism
• 序列并行：Sequence Parallelism、Ring Attention
• 混合并行：结合多种并行策略，支撑万亿参数模型训练

3. 训练加速技术

• 训练框架优化：如腾讯云 TI-ONE 的 Angel 框架、百度百舸 AI 计算平台
• 通信优化：GPU Direct RDMA、NVLink 高带宽互联
• 故障容错：自动检查点、断点恢复

十、智算中心如何支持大模型推理服务？

1. 推理集群部署

大模型推理服务对成本和延迟要求较高：

• 推理卡选型：NVIDIA L40S、T4、华为昇腾 910B 等，算力要求低于训练场景
• 集群规模：千卡级推理集群即可满足大规模推理需求
• 成本优化：推理集群动辄数十台服务器，需要精细化资源调度

2. 推理加速技术

• 推理框架：TensorRT、vLLM、TGI（Text Generation Inference）
• 量化技术：INT8、INT4 量化，降低显存占用和计算量
• KV Cache 优化：PagedAttention、GQA、MQA
• PD 分离：Prefill 和 Decode 阶段分离部署，提升吞吐量

3. 推理服务平台

智算中心提供 MaaS（模型即服务）能力：

• API 服务：RESTful/gRPC API，弹性扩缩容
• 模型管理：版本控制、A/B 测试、灰度发布
• 监控运维：延迟、吞吐量、GPU 利用率实时监控

十一、智算中心在智慧城市中有哪些应用场景？

1. 智慧政务

• 政务大模型：基于 DeepSeek 等大模型提供智能问答、公文生成、政策解读等服务
• 政务云平台：如中国电信"息壤"算力调度平台，实现算力资源的统一管理和调度
• 智慧监管：AI 辅助巡查、视频监控、风险预警

2. 智慧城市治理

• 城市大脑：整合城市运行数据，提供决策支持
• 智能交通：交通流量预测、信号灯优化、自动驾驶测试
• 生态环境：空气质量预测、水质监测、污染源追溯

3. 智慧民生服务

• 智慧医疗：AI 辅助诊断、病历质控、药物研发
• 智慧教育：AI 教学助手、个性化学习方案、考试智能巡考
• 智慧社区：安防监控、垃圾分类、能耗管理

十二、智算中心如何与算力网络协同？

1. 全国一体化算力网

智算中心是全国一体化算力网的核心节点：

• 算力监测：实时监测算力资源分布、负荷、利用率
• 算力调度：跨地域、跨架构的算力资源调度，实现供需匹配
• 算力交易：以"卡时"为单位实现算力计量流通

2. 东数西算工程

依托东数西算工程，智算中心实现东西部协同：

• 八大枢纽节点：京津冀、长三角、粤港澳、成渝、内蒙古、贵州、甘肃、宁夏
• 算力调度：东部高价值需求与西部低成本算力的匹配
• 绿电协同：枢纽节点新建算力设施绿电应用占比达到 80% 以上

3. 算力互联互通

• 算力标识网关：为每份算力资源赋予唯一身份，实现跨主体算力的标准化互联
• 算网协同：IPv6+ 与 SRv6 技术深度应用，实现数据高速低时延传输
• 云边端协同：从中心智算集群到边缘推理节点的多级算力协同

十三、智算中心的安全防护体系包括哪些方面？

1. 网络安全

• 边界隔离：重要网络区域与其他区域之间采取可靠的技术隔离手段
• 入侵检测：部署 IDS/IPS，对网络攻击进行检测和阻断
• DDoS 防护：网络层实现 100% 攻击清洗

2. 数据安全

• 传输加密：采用商用密码技术保证通信过程中数据的保密性和完整性
• 存储加密：敏感数据存储采用 SM4 等国密算法加密
• 数据备份：重要数据异地备份（同城 ≥ 30km，跨省市 ≥ 100km）

3. 计算安全

• 身份鉴别：采用双因素认证（MFA），基于密码技术进行身份鉴别
• 访问控制：遵循最小权限原则，限制非法网络连接
• 安全审计：审计记录保护且不可篡改，留存 ≥ 6 个月

4. 密码应用安全

• 密钥管理：采用硬件安全模块（HSM）保护密钥安全，密钥永不明文暴露
• 密钥分发：基于国产密码算法的密钥分发机制，保障入算、算内、算间各环节安全
• 密码产品合规：使用的商用密码产品须经检测认证合格

5. 智算云服务安全

2026 年，中国网络安全审查认证和市场监管大数据中心启动智算云服务安全评估试点工作，重点评估：

• 基础设施安全：服务器、网络、存储等底层设施的安全防护
• 模型安全：大模型训练和推理过程中的安全风险
• 应用安全：AI 应用场景下的数据安全和隐私保护