CUDA：共享内存和无并行性时性能不佳
CUDA\
CUDA（Compute Unified Device Architecture）是一种由NVIDIA开发的通用并行计算架构。它允许开发者使用NVIDIA的GPU（图形处理器）进行高性能的计算任务处理，如科学计算、深度学习等领域。CUDA提供了一系列API、库和编程模型，可以让开发者更方便地利用GPU进行并行计算。
优势\
- 并行计算性能：CUDA允许开发者使用GPU进行并行计算，相比传统的CPU计算，GPU计算可以提供更高的计算性能，特别是在处理大规模数据时。
- 易用性：CUDA提供了一组易于使用的API和库，使得开发者可以更方便地将GPU用于计算任务。
- 通用性：CUDA可以用于处理各种计算任务，包括图形处理、科学计算、深度学习等，具有很高的通用性。
应用场景\
CUDA广泛应用于各种计算密集型领域，如：
- 科学计算：CUDA在物理模拟、气象预报、生命科学等领域有着广泛的应用。
- 深度学习：CUDA常用于处理大规模数据集，如图像、文本等，广泛应用于计算机视觉、自然语言处理等领域。
- 图形处理：CUDA可用于渲染3D图形，在游戏、动画等领域有广泛应用。
推荐的腾讯云相关产品\
腾讯云GPU云服务器（CVM）可以提供高性能的GPU计算资源，适用于各种计算密集型场景。此外，腾讯云还提供了丰富的SDK和API，方便开发者进行CUDA编程。
产品介绍链接：腾讯云CVM
相关·内容
我正在开发一个CUDA应用程序GTX 580与CUDA工具包4.0和VisualStudio2010Professional在Windows 7 64位SP1上。我的程序比典型的CUDA程序占用更多的内存，我正试图为每个CUDA块分配尽可能多的共享内存。但是，每当我试图为每个块使用超过32K的共享内存时，程序就会崩溃。通过阅读官方的CUDA文档，我了解到在计算能力为2.0或更高的<
浏览 4提问于2012-09-13得票数 4
回答已采纳
当运行TensorFlow作业时，我有时会得到一个非致命的错误，说GPU内存已超出，然后我在Windows10上的性能监视器上看到“共享内存GPU使用率”。
TensorFlow是如何做到这一点的？我查看了CUDA文档，但没有找到对性能监视器中使用的专用和共享概念的引用。CUDA中有一个共享内存的概念，但我认为它是设备上的东西，而不是我在性能监视器中看到的RAM，
浏览 1提问于2018-07-13得票数 2
1回答
如果我启动内核并考虑，例如，块0中的线程0，在调用__syncthreads()之后，所有其他块中的所有其他线程都会看到块0中的线程0对全局内存所做的更改吗？
只有
浏览 0提问于2013-11-02得票数 2
回答已采纳
我知道要使CUDA程序高效，我们需要启动足够的线程来隐藏昂贵操作的延迟，例如全局内存读取。例如，当一个线程需要从全局内存读取时，其他线程将被调度运行，以便读取操作与线程的执行重叠。因此，CUDA程序的总体执行时间就是每个线程执行时间的总和，不包括读取全局内存的时间。但是，如果我们可以将数据放到共享内存中，并让线程从共享内存中读取数据，通常我们可以使CUDA程序运行得更快。我的困惑是，由于内存
浏览 1提问于2012-05-18得票数 0
回答已采纳
1回答
同时，我不使用共享内存。现在我想把这个常量数据存储在共享内存中。这是个好主意吗？有性能上的近似值吗？广播对共享内存和常量都有效吗？
性能对应用程序至关重要。我想，我的特斯拉C2075 (CUDA2.0)只有8KB的常量内存缓存。
浏览 2提问于2012-12-05得票数 2
回答已采纳
2回答
我试图利用这个内核函数中的共享内存，但是性能并不像我预期的那么好。这个函数在我的应用程序中被多次调用(大约1000次或更多次)，所以我想利用共享内存来避免内存延迟。但是，有些地方出了问题，显然是因为我的应用程序由于使用共享内存而变得非常慢。，因为我不知道b1和b2的大小，因为它们取决于我只能在运行时知道的客户数量(但两者的大小都是相同的)。cudaMemcpyDeviceToHost ));
// Free Me
浏览 0提问于2012-04-21得票数 1
回答已采纳
在CUDA程序中使用无符号的短整数(用于存储寄存器的内存)和共享内存(更快的访问)是否有意义？因此，没有理由使用未签名的短int。
浏览 2提问于2012-10-04得票数 2
我没有发现在NVIDIA Tesla M2050上共享内存的速度有任何提高，每块共享内存约为49K。实际上，如果我在共享内存中分配一个大的char数组，它会减慢我的程序。
浏览 0提问于2012-02-08得票数 8
回答已采纳
我已经对块和线程的几个值进行了经验测试，使用特定的值可以大大减少执行时间。
我看不出块和线程之间有什么区别。我认为这可能是一个块中的线程具有特定的高速缓存，但对我来说这是非常模糊的。我的目标可能是根据我必须使用的内存大小自动调整块和线程的数量。这有可能吗？谢谢。
浏览 0提问于2012-07-21得票数 1
回答已采纳
与库达共享内存中的多维数组相比，使用扁平数组有什么性能优势吗？
我知道，当涉及到主机内存空间时，扁平数组比多维数组提供了某些优势，但我不确定这是否适用于gpu共享内存中的数组。这主要是因为我看到了许多在共享内存中使用多维的代码示例，例如CUDA最佳实践指南中的矩阵乘法示例。
浏览 2提问于2015-07-20得票数 0
回答已采纳
如果必须以多种方式处理每个条目(io操作或注释)，则具有更好的并行性能和可伸缩性，因为可以使用多个使用者进行并行处理，而不存在争用。相反，如果必须仅以一种方式处理每个条目，则 (即本地存储条目和从其他线程窃取条目)具有更好的并行性能和可伸缩性，因为将条目分散到中断模式中的多个线程上会引起争用。(当涉及多个生产者(即)时，干扰模式是否仍然比其他无锁的多生产者多消费者队列(例如)快得多？)
处理一个条目可以产生几个新条目，这些条目最终也必须被处理。它指出，
浏览 7提问于2013-03-11得票数 11
回答已采纳
我一直在阅读CUDA中的原子操作，atomicInc()的更新模式似乎相当武断。来自
读取位于全局或共享内存中地址的32位旧字，计算((旧>= val) 0：(old+1))，并将结果存储回同一地址的内存中这是一个增量和“环绕”操作。atomicInc(&x, val)非常类似于x = (x+1) % (val+1)。
对于什么样的应用程序，这将是有用的？这
浏览 1提问于2022-07-15得票数 2
回答已采纳
1回答
我只发现一句话，本地内存比寄存器内存慢，寄存器内存是每线程两个类型。我想做的是一种中值滤波器，但使用给定的百分位数，而不是中位数。但是我不能开始对共享内存列表进行排序，否则就会出错。仅仅复制到本地内存会损失很多性能吗？
浏览 1提问于2011-08-30得票数 15
2回答
为了避免长时间和无凝聚力的函数，我从内核中调用了许多设备函数。我在内核调用开始时(即每个线程块)分配一个共享缓冲区，并将指向它的指针传递给正在内核中执行某些处理步骤的所有设备函数。我想知道以下几点：( a
浏览 11提问于2012-06-07得票数 3
2回答
我对线程和进程有基本的理解，我想知道为什么每一本教科书都谈到线程级并行性，进程级并行性是否存在？与进程级并行相比，线程级并行的优点是什么？
浏览 0提问于2019-01-17得票数 2
回答已采纳
2回答
我已经编写了一段CUDA代码来解决NP-Complete问题，但性能并不像我怀疑的那样好。
我知道“一些”优化技术(使用共享内存、纹理、零拷贝...)CUDA程序员应该知道的最重要的优化技术是什么？
浏览 1提问于2010-06-22得票数 1
回答已采纳
1回答
cudaSuccess) {printf("ERROR 6"); exit(-1);}
return 0;当用一个很大的矩阵(比如10000×10000)和半径为100 (从矩阵中的每一个点到前面的“距离”有多远)启动这个问题时，这需要花费大量的时间。我认为问题既存在于applyAvg<<<(N + THREADS - 1) / THREADS, THREADS>>> (我决定运行多少块和线程)，也存在于applyAvg(...)
浏览 4提问于2013-10-29得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
