我想在提交作业之前查看GPU的内存。我设法让slurm告诉我模型：但我想看看内存的大小。我知道我可以使用<code>D1</code>登录到队列并使用<code>D2</code>查看资源，但是队列太满了，可能需要16小时才能给我提供资源。我如何告诉slurm告诉我这些队列GPU拥有的GPU<
浏览 173提问于2020-11-14得票数 0
假设我在GPU1中有一个GPU1，在GPU2中有另一个cudaArray。使用cudaMemcpyArrayToArray标志调用cudaMemcpyDeviceToDevice实际上会导致GPU1 cudaArray通过查看分析器复制到主机内存和复制到GPU2 cudaArray的主机内存。我尝试将GPU1 cudaArray复制到GPU1全局内存，并调用cudaMemcpyPe
浏览 6提问于2016-02-09得票数 1
回答已采纳
2回答
如果我在Google引擎工作中使用--规模级基本GPU，我如何查看GPU的利用率？我可以在“作业详细信息”选项卡上查看CPU利用率和内存利用率，但我想知道GPU被使用了多少。这仅仅包含在CPU使用中，还是有另一个选项卡可以查看GPU的利用率？
此外，是否有任何方法可以查看哪些操作系统占用了大部分CPU使用？我的CPU利用率很高，我的内存<
浏览 2提问于2017-08-23得票数 5
回答已采纳
我正在使用烧瓶与Gunicorn实现一个人工智能服务器。服务器接收HTTP请求并调用该算法(用py手电筒构建)。计算在nvidia GPU上运行。在这种情况下，我需要一些关于如何实现并发/并行的输入。本机有8 vCPUs，20 GB内存，1 GPU，12 GB内存。
1工作人员占用，4 GB内存，2.2GB GPU内存。(由于GPU内存2.2GB* 5工
浏览 5提问于2021-02-09得票数 0
当我关闭VS代码时，GPU内存将被清除。我不能像浏览器中的传统方法那样使用jupyter。我用localhost将jupyter更改为remote :在VS代码中端口，显示在VS代码GUI按钮中的Jupyter: Server Remote。(可能没有必要)
运行ipynb文件和nvidia-smi来查看GPU的使用情况。关闭VS
浏览 14提问于2022-07-15得票数 3
2回答
显然，GPU的每个核心都可以处理一个请求，而不是一个主处理器(系统的CPU)处理所有请求。从表面上看，这似乎是可能的，也许使用GPU + Redis数据库中的模板在GPU GDDR5中？这是可能的和值得的吗？
浏览 4提问于2010-10-21得票数 1
回答已采纳
我想知道是否有任何方法可以在visual studio中查看gpu的原始vram内存。就像从visual studio打开内存布局一样，它显示了进程内存。大多数主题都是关于gpu使用的，我实际上想要在我的应用程序执行期间查看gpu内存的原始比特和字节。我知道NVIDIA有一个叫Nsight的实用程序，但我想要通用的实用程序。
浏览 90提问于2020-08-16得票数 1
下面的代码用于管理tensorflow内存的使用。我有大约8Gb的GPU内存，所以tensorflow不能分配超过1Gb的GPU内存。但是，当我使用nvidia-smi命令查看内存使用情况时，我发现它使用了~1.5GB，尽管我用GPUOptions限制了内存的数量。memory_config = tf.ConfigProto(gpu_options=tf.GPUO
浏览 1提问于2019-04-05得票数 3
回答已采纳
我想运行一个在服务器上也使用Tensorflow的Python脚本。当我在没有会话配置的情况下运行它时，进程会分配所有GPU内存，从而阻止任何其他进程访问GPU。服务器规范如下：
GPU: 2×Nvidia Titan此服务器由其他同事共享，因此不允许我分配所有GPU
浏览 9提问于2017-05-16得票数 1
这个问题的动机是查看不同GPU的两个数字：(1)内存大小和(2)内存带宽。
我的理解是，内存带宽意味着每秒可以从系统RAM复制到GPU的数据量(反之亦然)。但是从典型的GPU来看，每秒的内存带宽远远大于内存大小:例如，Nvidia A100的内存大小为40或80 GB，内存带
浏览 0提问于2022-05-26得票数 1
0回答
我有一个多线程程序，应该可以在6个GPU设备上运行。我想在每个设备上打开6个流，以便在我的程序生命周期内重用(总共36个)。我还使用GPU内存监视器来查看每个句柄的内存使用情况。但是，当我查看每个设备上的GPU内存使用情况时，它只在第一个流创建时增长，而在我创建的其余流中不会发生变化。据我所知，我想使用的流的数量没有任何限制。但是我不明白为什么句
浏览 5提问于2016-07-04得票数 0
我已经使用colab pro一个月了，但使用时只有16 it。在右上角，它说它有25 GB，但它只有16 GB。
浏览 29提问于2020-02-24得票数 3
1回答
对于我的16 GB内存的Tesla P100卡，我遇到了一个“内存不足”异常，即显卡上没有足够的内存可以分配。
所以我想知道在这种情况下我的选择是什么。如果我有多个GPU，那么TF模型将被拆分，以便填满两个卡的内存，这是正确的吗？因此，在我的情况下，使用第二张16 GB的Tesla卡，我在训练期间总共将拥有32 GB？如果是这样的话，我可以使用多个GPU<
浏览 18提问于2021-03-03得票数 0
回答已采纳
2回答
我正在使用Keras和Tensorflow后端，查看nvidia-smi并不足以理解当前的网络架构需要多少内存，因为似乎Tensorflow只是分配所有可用的内存。所以问题是如何找出真实的GPU内存使用情况？
浏览 1提问于2017-05-18得票数 9
我正在尝试用Nvidia GPU节点/奴隶来设置Kubernetes。我遵循了的指南，并且能够让节点加入集群。我尝试了下面的kubeadm示例pod：kind: Pod name: gpu-pod containers: extendedResources: resources:
浏览 3提问于2018-08-07得票数 1
回答已采纳
我有一个深度学习工作站，其中有4个GPU，每个GPU有6 GB的内存。是否有可能将4个GPU视为一个24 GB的docker容器？
谢谢。
浏览 43提问于2020-02-10得票数 0
2回答
是否可以将显示列表数据存储在显卡内存中？我想只使用视频内存，如视频缓冲对象(VBO)来存储DisplayList。但当我尝试它时，它总是使用主存而不是显存。
浏览 6提问于2012-06-25得票数 1
回答已采纳
2回答
我学习了罗伯特·克罗夫拉( Robert )关于如何使用Nvidia's 的。根据
没有MPS，每个CUDA进程使用GPU在GPU上分配单独的存储和调度资源。相反，MPS服务器分配由其所有客户端共享的GPU存储和调度资源的一个副本。
我将其理解为减少每个进程的上下文大小，这是可能的，因为它们是共享的。这将增加可
浏览 6提问于2019-12-19得票数 0
回答已采纳
我有几乎相同的问题已经回答了，但略有不同：config = tf.ConfigProto()
config.gpu_options
浏览 0提问于2018-11-03得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
