Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >7.数据分析(1) --在MATLAB中通过Nvidia GeForce GPU加速深度学习计算

7.数据分析(1) --在MATLAB中通过Nvidia GeForce GPU加速深度学习计算

作者头像
用户9925864
发布于 2022-07-27 00:12:56
发布于 2022-07-27 00:12:56
1.8K00
代码可运行
举报
运行总次数:0
代码可运行

0. 前言

笔者用的是华硕飞行堡垒电脑,自带2G的GPU

1. 基本环境

软件:MATLAB 2020a (当前最新的matlab版本,提供了很多关于深度学习(常见的卷积神经网络循环神经网络)的接口)

据说matlab现在只支持NVIDIA系列的显卡,matlab 2018a Neural Network Toolbox关于深度神经网络在GPU上的加速计算有以下要求:

Using a GPU requires a CUDA® enabled NVIDIA® GPU with compute capability 3.0 or higher.

即需要一个计算能力在3.0以上的带CUDA驱动的NVIDIA系列GPU才能实现GPU加速, 在matlab命令行窗口内通过‘gpuDevice’查看显卡是否具备加速功能,

笔者的显卡的计算能力是5.0,满足要求。

2. 显卡测试

关于GPU的基本信息和基本测试流程在这里可以找到:https://ww2.mathworks.cn/help/parallel-computing/gpu-computing.html

本篇的目的主要是如何实现GPU对深度神经网络训练过程的加速计算。为实现GPU的加速过程,不同版本的matlab对GPU的计算能力有不同的要求:

CUDA-enabled NVIDIA GPUs with compute capability 3.0 or higher. For releases 17b and earlier, compute capability 2.0 is sufficient. For releases 14a and earlier, compute capability 1.3 is sufficient.

以Create Simple Deep Learning Network for Classification示例程序为例,https://ww2.mathworks.cn/help/deeplearning/examples/create-simple-deep-learning-network-for-classification.html;jsessionid=b3ffae289605ec143885daccfff2

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
options = trainingOptions('sgdm', ...
'InitialLearnRate',0.01, ...
'MaxEpochs',4, ...
'Shuffle','every-epoch', ...
'ValidationData',imdsValidation, ...
'ValidationFrequency',30, ...
'Verbose',false, ...
'ExecutionEnvironment','cpu',...
'Plots','training-progress');

'ExecutionEnvironment'可以设置为cpu、gpu或者auto

示例程序以CPU进行网络训练的过程如下图所示,费时45 sec

笔者以GPU进行加速训练的过程如下图所示,费时21 sec

GPU加速了计算,相比较于CPU解决了一半时间

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-09-23,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 算法工程师的学习日志 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
训练好的深度学习模型原来这样部署的!(干货满满,收藏慢慢看)
当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后,终于可以应用到具体场景,但是,突然发现不知道怎么调用自己的模型,更不清楚怎么去部署模型!
计算机视觉研究院
2021/07/30
32K0
​GPU,CUDA,cuDNN的理解
我们知道做深度学习离不开GPU,不过一直以来对GPU和CPU的差别,CUDA以及cuDNN都不是很了解,所以找了些资料整理下,希望不仅可以帮助自己理解,也能够帮助到其他人理解。
云深无际
2020/08/11
1.2K0
【GTC 2020】cuDNN v8在深度学习加速方面的新进展:api,优化,以及如何应对未来硬件和软件的挑战
NVIDIA CUDA®深度神经网络库(cuDNN)是一个gpu加速的原始深度神经网络库。cuDNN为标准例程提供了高度调优的实现,如前向和后向卷积、池化、标准化和激活层。
GPUS Lady
2020/04/01
8920
【GTC 2020】cuDNN v8在深度学习加速方面的新进展:api,优化,以及如何应对未来硬件和软件的挑战
CPU vs GPU:为什么GPU更适合深度学习?
众所周知,深度学习作为一种能够从海量数据中自主学习、提炼知识的技术,正在为各行各业赋能,成为企业和机构改变现实的强大工具。这一技术不仅赋予了计算机前所未有的智能能力,更为创新注入了强劲的动力,使得看似无法落地的业务场景充满了无限可能。
Luga Lee
2024/11/01
3470
CPU vs GPU:为什么GPU更适合深度学习?
深度学习|如何确定 CUDA+PyTorch 版本
对于深度学习初学者来说,配置深度学习的环境可能是一大难题,因此本文主要讲解CUDA; cuDNN; Pytorch 三者是什么,以及他们之间的依赖关系。
数据科学工厂
2023/09/28
13K0
深度学习|如何确定 CUDA+PyTorch 版本
专访 | MATLAB更新R2017b:转换CUDA代码极大提升推断速度
机器之心原创 作者:蒋思源 近日,Mathworks 推出了包含 MATLAB 和 Simulink 产品系列的 Release 2017b(R2017b),该版本大大加强了 MATLAB 对深度学习的支持,并简化了工程师、研究人员及其他领域专家设计、训练和部署模型的方式。该更新版本从数据标注、模型搭建、训练与推断还有最后的模型部署方面完整地支持深度学习开发流程。此外,MATLAB 这次更新最大的亮点是新组件 GPU Coder,它能自动将深度学习模型代码转换为 NVIDIA GPU 的 CUDA 代码,G
机器之心
2018/05/08
1.5K0
专访 | MATLAB更新R2017b:转换CUDA代码极大提升推断速度
深度学习如何挑选GPU?
深度学习是一个对计算有着大量需求的领域,从一定程度上来说,GPU的选择将从根本上决定深度学习的体验。因此,选择购买合适的GPU是一项非常重要的决策。那么2022年,如何选择合适的GPU呢?这篇文章整合了网络上现有的GPU选择标准和评测信息,希望能作为你的购买决策的参考。
abs_zero
2022/03/25
2.7K0
深度学习如何挑选GPU?
初学者怎么选择神经网络环境?对比MATLAB、Torch和TensorFlow
选自arXiv 机器之心编译 参与:吴攀、蒋思源、李亚洲 初学者在学习神经网络的时候往往会有不知道从何处入手的困难,甚至可能不知道选择什么工具入手才合适。近日,来自意大利的四位研究者发布了一篇题为《神经网络初学者:在 MATLAB、Torch 和 TensorFlow 中的快速实现(Neural Networks for Beginners A fast implementation in Matlab, Torch, TensorFlow)》的论文,对 MATLAB、Torch 和 TensorFlow
机器之心
2018/05/07
2.1K0
初学者怎么选择神经网络环境?对比MATLAB、Torch和TensorFlow
深度学习最佳 GPU,知多少?
Hello folks,我是 Luga,今天我们来聊一下人工智能应用场景中一个至关重要的解决方案:如何选型高效、灵活的 GPU 方案。
Luga Lee
2025/01/07
7450
深度学习最佳 GPU,知多少?
深度学习的GPU:深度学习中使用GPU的经验和建议
深度学习是一个计算需求强烈的领域,您的GPU的选择将从根本上决定您的深度学习体验。在没有GPU的情况下,这可能看起来像是等待实验结束的几个月,或者运行一天或更长时间的实验,只是看到所选参数已关闭。 有了一个好的,坚实的GPU,人们可以快速迭代深度学习网络,并在几天而不是几个月,几小时而不是几天,几分钟而不是几小时的时间内运行实验。因此,在购买GPU时做出正确的选择至关重要。那么你如何选择适合你的GPU呢?这个博客文章将深入探讨这个问题,并会借给你的建议,这将有助于你做出适合你的选择。 拥有高速GPU是开始学
机器学习AI算法工程
2018/03/15
2.9K0
深度学习的GPU:深度学习中使用GPU的经验和建议
一文读懂 NVIDIA GPU Core
Hello folks,我是 Luga,今天我们来聊一下人工智能(AI)生态领域相关的底座技术 - NVIDIA GPU Core。
Luga Lee
2025/01/10
4190
一文读懂 NVIDIA GPU Core
GPU计算加速01 : AI时代人人都应该了解的GPU知识
金融建模、自动驾驶、智能机器人、新材料发现、脑神经科学、医学影像分析...人工智能时代的科学研究极度依赖计算力的支持。提供算力的各家硬件芯片厂商中,最抢镜的当属英伟达Nvidia了。这家做显卡起家的芯片公司在深度学习兴起后可谓红得发紫,如果不聊几句GPU和英伟达,都不好意思跟别人说自己是做人工智能的。
PP鲁
2019/12/26
1.6K0
AIGC | 在机器学习工作站安装NVIDIA cuDNN 深度学习库
cuDNN(CUDA® Deep Neural Network library)是由英伟达(NVIDIA)开发的深度学习库,专门用于加速深度神经网络(DNN)的训练和推断过程,cuDNN 提供了高度优化的实现(如前向和后向卷积、attention、matmul、池化和归一化),利用 NVIDIA GPU 的并行计算能力来加速神经网络的运行。
全栈工程师修炼指南
2024/07/06
9230
AIGC | 在机器学习工作站安装NVIDIA cuDNN 深度学习库
计算机视觉深度学习训练推理框架
前言 本文整理了一些深度学习训练推理框架,涉及计算机视觉、语音、时序任务上的框架,共计20多种。
小白学视觉
2025/02/05
2460
计算机视觉深度学习训练推理框架
深度学习中 GPU 和显存分析
深度学习最吃机器,耗资源,在本文,我将来科普一下在深度学习中: 何为 “资源” 不同操作都耗费什么资源 如何充分的利用有限的资源 如何合理选择显卡 并纠正几个误区: 显存和 GPU 等价,使用 GPU
AI研习社
2018/03/16
7.7K0
深度学习中 GPU 和显存分析
深度学习算法优化系列十七 | TensorRT介绍,安装及如何使用?
由于前期OpenVINO的分享已经基本做完了,笔者也可以成功的在CPU和Intel神经棒上完整的部署一些工作了,因此开始来学习TensorRT啦。先声明一下我使用的TensorRT版本是TensorRT-6.0.1.5 。
BBuf
2020/03/06
6.5K0
【深度分析】深度学习选GPU,RTX 20系列值不值得?
深度学习常被戏谑为“炼丹术”,那么,GPU于深度学习研究人员而言就是不可或缺的“炼丹炉”。
新智元
2018/09/25
2.4K0
【深度分析】深度学习选GPU,RTX 20系列值不值得?
【现代深度学习技术】深度学习计算 | GPU
深度学习 (DL, Deep Learning) 特指基于深层神经网络模型和方法的机器学习。它是在统计机器学习、人工神经网络等算法模型基础上,结合当代大数据和大算力的发展而发展出来的。深度学习最重要的技术特征是具有自动提取特征的能力。神经网络算法、算力和数据是开展深度学习的三要素。深度学习在计算机视觉、自然语言处理、多模态数据分析、科学探索等领域都取得了很多成果。本专栏介绍基于PyTorch的深度学习算法实现。
Francek Chen
2025/02/15
1710
【现代深度学习技术】深度学习计算 | GPU
为深度学习选择最好的GPU
在进行机器学习项目时,特别是在处理深度学习和神经网络时,最好使用GPU而不是CPU来处理,因为在神经网络方面,即使是一个非常基本的GPU也会胜过CPU。
deephub
2023/02/01
2.5K0
英伟达深度学习专家路川详解“如何升级GPU深度学习系统”
GPU 成为在构建深度学习系统时必不可少的需要关注的方向,但是诸如如何选择一款 GPU 来搭建深度学习平台,如何升级自己的 GPU 之类的问题一直困扰着开发者。现在,这些问题都将由来自英伟达的深度学习专家为你解答。 GPU 成为每一家企业在构建深度学习系统时必不可少的需要关注的方向,与此同时英伟达每一年在推出新的 GPU 架构和依托于此的新的产品,其最推先推出的 Volta 架构,比起当前 Pascal 的性能提升了 5 倍,优于两年前推出的 Maxwell 架构 15 倍,远远超过摩尔定理的预测,在此
小莹莹
2018/04/24
1.6K0
英伟达深度学习专家路川详解“如何升级GPU深度学习系统”
推荐阅读
相关推荐
训练好的深度学习模型原来这样部署的!(干货满满,收藏慢慢看)
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验