做深度学习训练研究如何选择配置深度学习服务器？

关键词：深度学习；卷积神经网络；深度学习服务器；液冷工作站；蓝海大脑；液冷散热；算力；数据存储

前言：随着生命科学、航空遥感、遥感测绘、地质勘探的快速发展，深度学习的发展越来越被人所关注。相信大家对深度学习一词并不陌生，如今深度学习发展已经历经很多年。现在的相关算法已经是二三十年前的理论，或者说相关数学算法和模型都没有太大变化。为什么到最近几年，深度学习才真正火起来。因为在这个时间段，计算能力达到了和深度学习理论对应的水平。

深度学习计算配置要求

一、数据存储要求

做深度学习首先需要一个好的存储系统，将历史资料保存起来

主要任务:历史数据存储，如:文字、图像、声音、视频、数据库等。。。

二、性能要求:

数据容量:提供足够高的存储能力

读写带宽:多硬盘并行读写架构提高数据读写带宽

接口:高带宽，同时延迟低

三、CPU要求

数据从存储系统调入到内存的解压计算

GPU计算前的数据预处理

运行在代码中写入并读取变量执行指令，如函数调用启动在GPU上函数调用，创建小批量数据启动到GPU的数据传输

GPU多卡并行计算前，每个核负责一块卡的所需要的数据并行切分处理和控制

求解后数据保存前的压缩计算

上述每一类操作基本都是单核计算模式，如果要加速这些过程，唯有提升CPU 频率

四、GPU要求

主要任务：承担深度学习的数据建模计算、运行复杂算法

五、内存要求

主要任务：存放预处理的数据，待GPU读取处理、运行复杂算法

深度学习训练平台现状

深度神经网络计算数据模型繁多，结构复杂，主流模型含几十个隐含层，每层都有成千上万级的神经元，整个网络更多，其计算量巨大。

市场上用于深度学习的训练计算机大致情况如下：

一、服务器/工作站

普遍存在噪音大

无法放置与办公环境，必须放到专门的机房

维修成本高

数据存储带宽、延迟、容量也不尽如意

能源消耗大

传统的风冷散热模式

二、分布式集群架构

性能强大，但是开发成本太高，是大多数科研单位无法承受

那么问题来了，市场上是否有一个理想产品，弥补上述缺陷，让更多单位都能用的起超级人工智能深度学习服务器。

深度学习服务器怎么选？

简单来说，如果你是短期使用GPU服务器，建议您直接选择云服务器就可以。当然如果长期使用的话还是选择带显卡的硬件服务器，综合性能也比较好。与传统的服务器相比，GPU服务器主要服务于以海量数据为特征的高性能计算。

蓝海大脑深度学习服务器是面向开发者的一站式AI平台，为机器学习与深度学习提供海量数据预处理及交互式智能标注、大规模分布式训练、自动化模型生成，及端-便-云模型按需部署能力，帮助用户快速创建和部署模型，管理全周期AI工作流。

其深度学习GPU服务器采用四块 NVIDIA Tesla V100 GPU。其深度学习性能达 500 万亿次浮点运算 (TFLOPS)，堪比数百台传统服务器。并以 NVIDIA NVLink 技术为基础打造出体积轻便的深度学习服务器。采用水冷却系统，静音运行，可安置于桌下。它还利用相同的深度学习软件堆栈为所有解决方案提供动力支持，这样开发者和研究人员就可以试验和调整其模型，快速迭代，轻松地在数据中心的 DGX 上部署工作，以进行大规模的生产训练。

一、产品优势

开箱即用

预安装AI开发环境、底层软件库、开发框架，2小时开箱即用自动生成模式

参数自动调优，模型一键部署

极致性能

位于标准框架和编程环境之上，提供经过优化的AI环境极致性能调度算

提升资源利用率

集成管理

易用界面，摆脱低效的命令型操作方式

二、产品架构

三、客户收益

首先帮助深度学习的研发人员更快的训练出成熟的模型；其次，用户可以根据需求选择不同的平台，深度学习研发人员需要在算法、统计方面精益求精，都需要一个生态环境的支持，GPU 已经构建了 CUDA、cuDNN 及 DIGITS 等工具，支持硬件兼容，GPU 高性能解决方案让研发人员能够排除意外干扰，专注于深度学习的研究项目中。