报告连载 | 大模型助力 算电协同创新

最近，《2024数字中国万里行暨算力经济中国行考察报告》出版，我们将对报告内容开启连载模式。

PART IV 产业联动 第六章 算力能源协同，主要探讨了以下话题：

大模型助力 算电协同创新

绿电应用探索实践

绿电供给实践

二.大模型助力 算电协同创新

面对算力集群的用电结构与未来能耗增长趋势带来的挑战，基于商汤大装置SenseCore和“日日新SenseNova”大模型体系强大的架构底座，商汤基于临港算力集群（一期）作为应用场景，在算力电力协同、调度一体化管理中不断创新。依托新片区的前瞻性能源战略部署和源网荷储一体化管理的思路，基于商汤大模型体系强大的架构底座，进行智能预测与决策，并通过生成式AI虚拟电厂实现精准、动态、实时的能源调度，参与用户侧需求响应、获取削峰填谷收益、实现绿电交易，最终降低能源费率，目标降低电力成本5%以上。

在基础设施运营层面，为实现智算中心高效用能，实现算力电力的一体化管理，商汤从以下三维维度进行统筹规划实施：

电网资源侧：以源网荷储的逻辑进行整体规划，由政府统筹协调管理电网源侧、网侧整体资源，通过源网端的一体化管理实现能源源头的高效规划；用户侧主要解决负载效率的提升，通过企业参与的方式解决负荷端的应用问题；同时政府和企业共同开展储能的建设和应用，提升整体能源储备容量，丰富用能侧应用场景的灵活性。

基础设施侧：整体基础设施需要综合考虑用能侧的应用场景和诉求，在算力基础设施的全生命周期践行用能侧实施方案，具体包括：在基础选址中考虑区位、气候、绿能绿电资源、区域内储能资源等因素、在实际运营过程中针对基础设施（机电系统、储能）及IT系统（服务器、网络）进行分层精细化算力运营、在软件平台中通过通过算力管理平台、任务调度平台等软件系统的应用提升基础设施用能效率。

创新应用侧：除以上基础用能方案外，商汤积极践行高效用能的创新应用，包括开发和应用基于生成式AI技术，提升算力设施电力运行效率的垂类能源大模型、开发建设拉通能源-电力-机房-服务器-集群-算力全链路数据及流程整合的基础设施运营平台、应用基于数字孪生的算力电力一体化协同调度的算力驾驶舱等。

除此之外，商汤构建全生命周期标准化运维管理体系，研发了运维大模型与AI智能运维管理平台，利用数字化与智能化技术提升运营效率15%，通过动态制冷优化，实现能耗降低5%。

在算力算效管理层面，商汤基于自身实践，形成了一套实现算电一体化协同管理的算效管理方案，有效的打通了从硬件到软件、从电力到算力的应用场景，能够为算力高效输出提供有效依据。

基础设施层：通过对供配电系统、温控系统及IT系统的监控，输出算力基础设施PUE值；

机柜层：记录小时级机房包间、机柜用电量，以及单机柜小时级负载量；

GPU服务器层：通过自研软件对GPU服务器进行全维度信息管理，包括GPU卡类型、GPU卡使用属性、服务器负载率监控等；

软件管理层：通过SenseCore算力云管平台及计算调度平台实现对于算力使用实际情况的有效管理和调度，包括GPU使用量、GPU使用率、实时训练/推理任务数、实时算力数等；

业务运营层：通过自研软件对于GPU算力实际服务客户情况进行整盘监控，包括物料信息、客户属性、运营成本等；

基于上述不同层面的管理措施落地，商汤可以实时掌控算力利用效率，建立算力与能耗之间的逻辑关系与评估体系，形成算力电力协同调度平台的优势能力，并根据实际运行数据结合园区能耗管理、储能设备进行及时的电力资源调度，更高效的开展算电一体化管理。

在算电协同创新中，商汤大模型体系能力至关重要。商汤自研“日日新”大模型体系，针对各类能源场景（如能源调度、交易、运营等），整合科学计算大模型、气象大模型、风力发电预测模型、用电负荷预测模型、调节能力预测模型和调度决策智能模型，与生态企业合作研发广泛适用的全自主能源大模型体系。

能源大模型体系采用多模态MoE架构，基于超过4TB的行业知识文本、能源结构化数据、视觉图像、气象信息等多模态数据训练，形成700亿模型参数。在保证基础通识能力的同时，该大模型能够通过预测、决策、调度，处理复杂的能源任务，是能源行业内首个具备“分析、优化、决策、交互”等多种能力的全栈式大模型，可以满足行业客户的不同场景需求。

能源大模型通过边端能量控制器感知源网荷储资源信息，以节点“能量块”数据结构为基本单元，通过预测下一个15分钟的“能量块”数据，生成自适应的“能量系统”，针对能源场景提供分析与决策能力，并通过生成式AI虚拟电厂进行能源调度。调度过程中支持人为评估与策略调整，调度完成后自动进行策略校验，所有人为调整和校验结果将被反馈至大模型，以实现模型性能的持续调优。