为什么我只有200 MB的GPU使用量，即使我只创建了一个字节的数据？
为什么我只有200 MB的GPU使用量，即使我只创建了一个字节的数据？
提问于 2022-08-01 09:04:37
我在RTX 3060和RTX 3080 Ti中运行以下代码。通过使用nvidia-smi，我发现RTX 3060和RTX 3080 Ti的实际GPU使用量分别为105 Ti和247 Ti。但是我在GPU中只有一个字节的数据。为什么会这样呢？以及为什么GPU的基本用法不同？
// compiled with nvcc -O3 show_basic_gpu_usage.cu -o show_basic_gpu_usage
#include <unistd.h>
#include <iostream>
int main(){
int run_count = 100;
int * ddd;
cudaMalloc(&ddd, 1); // 1 byte
for (int i = 0; i < run_count; i++){
sleep(1);
printf("%d\n" , i);
}
}回答 1
Stack Overflow用户
回答已采纳
发布于 2022-08-01 11:20:55
在GPU上运行CUDA程序需要类似于操作系统的东西，与您可能在主机系统CPU上编写的典型程序运行方式不同的是，也需要操作系统。
在CUDA中，这个GPU操作系统经常被称为"CUDA运行时“或"CUDA驱动程序”。CUDA运行时为GPU执行各种管理和内部管理，它需要( CPU内存和) GPU内存。有些需求与代码的实际操作无关，有些则可能因代码的实际操作而有所不同。
这种“开销”的内存需求可能会根据以下几个因素而有所不同：
您正在使用的GPU type/architecture
- the主机操作系统
- 、GPU主机操作系统
- 、您的代码链接或loads
- whether或不是多个GPU的内核和库的内核和库对CUDA runtime
- (related)都是可见的，无论其他用户是否正在使用GPU内存，例如显示驱动程序
< code >H 115以及可能还有其他因素H 216F 217/runtime
(related)>
对于这种开销，每个GPU使用数百兆字节是很常见的。这种开销是除了您的程序可能分配的。从一种GPU类型到另一种GPU类型的变化也很常见。由于影响因素的多样性，无法准确地预测所使用的开销的数量。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/73197215
复制相关文章
相似问题
Android Flurry与admob广告的集成
NDK与Android Studio集成
将BlackBerry应用程序与Flurry集成
将duktape与android ndk集成
Flurry未集成到android应用程序中
添加站长 进交流群
领取专属 10元无门槛券
AI混元助手 在线答疑
关注 腾讯云开发者公众号
洞察 腾讯核心技术
剖析业界实践案例
腾讯云开发者
