我在两个GPU上对工作负载进行了分区(也称为模型分区)。默认情况下，TF/Keras在GPU0上分配所有的渐变，但我想使用colocate_gradients_with_ops将分配分散到两个GPU上。
我正在寻找一种在Keras中做到这一点的简单方法。我正在寻找一种比Keras中的方法更短、更直接的方法。
浏览 0提问于2018-09-22得票数 0
1回答
我是Keras的新手，想要在4个Gpu上训练我的模型。不幸的是，我得到了一个内存不足的错误，批量大小为4。(输入形状256x265x32)。现在我在想，是否有可能在所有4个GPU上进行训练，尽管批量大小为2？ 提前谢谢你， 致以亲切的问候， 迈克尔
浏览 6提问于2019-06-19得票数 0
回答已采纳
我已经构建了一个语义分割Keras (tensorflow后端)模型，并试图在google cloud ml引擎上对其进行训练。我有大约200,000 (256x256)个图像可以在小批量(10)上训练大约100个时期。当我只使用complex_model_m_gpu类型的主设备时，1个纪元几乎要花25个小时。我不确定Keras模型如何适应多GPU训练设备(例如，complex_model_m_gpu)。没有关于这方面的文档，只有关于
浏览 11提问于2018-07-18得票数 2
使用自定义模型运行AWS SageMaker，在多gpu配置中使用Keras加上Tensorflow后端时，TrainingJob在算法错误中失败：
from keras.utils import multi_gpu_model根据SageMaker文档和，当Keras后端为MXNet时，multi_gpu_model实用程序将正常工作，但是当后端是Tensorflow时，我没有发现任何提到，后者具有相同的多gpu配置。都是可见的，并
浏览 1提问于2018-11-26得票数 0
回答已采纳
我有一台有4个GPU的服务器。我想使用其中的2个来进行多GPU训练。
提供的Keras文档提供了一些关于如何使用多个图形处理器的见解，但我想选择特定的图形处理器。有没有办法实现这一点？
浏览 66提问于2019-05-27得票数 0
3回答
在我的机构中有一个有2个GPU的共享服务器。假设有两个团队成员希望同时训练一个模型，那么他们如何让Keras在特定的GPU上训练他们的模型，以避免资源冲突？理想情况下，Keras应该知道哪个GPU目前正忙于训练一个模型，然后使用其他GPU来训练另一个模型。然而，情况似乎并非如此。默认情况下，Keras似乎只使用第一个GPU (因为第二个GPU的Volatile <
浏览 0提问于2018-11-29得票数 4
回答已采纳
3回答
是否有任何方法来检查Keras框架是否使用GPU或CPU来训练模型？
我正在用keras在GPU上训练我的模型，但是速度太慢了，我不确定它是用CPU还是GPU来训练。
浏览 13提问于2020-08-14得票数 1
回答已采纳
该代码经过验证可以在1个GPU上运行。我的操作系统是Red Hat Enterprise Linux8 (RHEL8)。错误出现在model.fit()上。我已经安装了适当的NCCL Nvidia驱动程序，并使用tensorflow.org中的一个示例验证了我可以将训练数据解析到两个GPU上。427 model.save('unet_seg_final_3d_test.model')
~/anaconda3/envs/gputest/lib/python3.7/
浏览 41提问于2020-01-31得票数 0
回答已采纳
当我启用混合精度训练时，每步时间增加而不是减少。我搞不懂为什么会发生这种事，我真的很感激任何人提出解决方案。我花了这么多钱买这个gpu，如果我不能让它更快地训练模型，那是没有用的。代码：def create_model(): keras.layers.Flatten(input_shape=(32,32,3)),
keras.l
浏览 8提问于2021-02-25得票数 0
3回答
我希望我的模型在多个GPU共享参数上运行，但具有不同的数据批处理。
我能用model.fit()做类似的事情吗？还有没有别的选择？
浏览 4提问于2017-07-18得票数 11
我想使用两者来训练，但是由于RTX可以处理两倍于FP16的速度，所以我想设置它，以便训练是多GPU的，并且RTX处理FP16层，GTX处理FP32层。这在tensorflow、pytorch或keras下是可能的吗？
浏览 24提问于2019-02-15得票数 1
回答已采纳
我正在训练RNN，这是我使用tf.keras.layers.GRU层构建的。他们需要很长时间来训练(>2个小时)，所以我将把他们部署到GPU进行训练。我想知道一些关于GPU训练的事情：
tf.keras.layers.CuDNNGRU和tf.keras.layers.GRU (以及tf.keras.layers.LSTM和tf.keras.layers.CuDNNLSTM我从中了解到，Cu
浏览 1提问于2019-08-05得票数 1
回答已采纳
我使用aws ec2来训练一个多标签分类任务的模型.经过训练，我在同一台机器上测试了模型，取得了很好的效果(90+%的准确性)。但是，当我将保存的模型导入我的本地机器(没有GPU)后，它给出了不同的结果(准确率小于5%)。对为什么会发生这种事有什么建议吗？谢谢。TL;DR：Keras/tensorflow模型在将从GPU机器转换到CPU时产生不同的结果。
浏览 1提问于2017-02-24得票数 5
回答已采纳
我想在我的多图形处理器系统上使用tf.contrib.distribute.MirroredStrategy()，但它没有使用GPU进行训练(参见下面的输出)。另外，我正在运行tensorflow-gpu 1.12。 我确实尝试在MirroredStrategy中直接指定GPU，但同样的问题也出现了。tf.contrib.distribute.MirroredStrategy(num_gpus=NUM_GPUS)
config = tf.estimator.RunConfig(train_distribu
浏览 49提问于2019-02-19得票数 9
1回答
我使用的是Tensorflow-gpu=2.0.0后端的Keras=2.3.1。当我在两个RTX 2080 ti 11G gpu上训练模型时，它将所有的数据分配给'/gpu:0'，没有任何变化与'/gpu:1‘。当然，第二个GPU根本没有使用。但是，如果我只选择一个GPU，每个GPU都可以工作。
此外，这两个gpus可以并行运行，在毕道尔。按照一些实例，我尝试使用以下代码运行多个gpu
浏览 0提问于2020-09-04得票数 1
1回答
我正在使用现有的模型来训练一个基于Tensorflow和Keras的CRNN模型。我正在使用anaconda-navigator来训练模型。在训练模型时，它似乎没有使用GPU，因为我的GPU使用率为5-6%。我附加了顶级-i命令Nvidia Xserver的图像，而且我的gpu没有被Tensorflow拾取，因为tf.test.gpu_device_name()只显示CPU，如下面的tf.test.gpu_device_name()
浏览 20提问于2021-01-08得票数 1
我正在尝试使用TensorFlow对象检测应用编程接口执行多GPU训练。 我在我的NVIDIA-SMI中看到的是，实际上只有1个GPU被使用。提供的其他3个GPU加载了GPU进程，但内存使用率为300MB，利用率始终为0% 我使用在COCO上预先训练的基于固态硬盘MobileNetV1的网络，然后用我的自定义数据集对其进行训练。我希望当我为Tensorflow提供更多的GPU时，框架实际上会使用它们来加速训练。
浏览 49提问于2019-10-09得票数 3
我用tensorflow 1.13/1.14训练了一个multi_gpu_model，并用keras.model.save('<.hdf5>')保存了它们。现在，在迁移到tensorflow 2.4.1 (其中将Keras集成为tensorflow.keras )之后，由于以下错误，我不能像以前那样进行tensorflow.keras.models.load_model：
AttributeError: module 'tensorfl
浏览 3提问于2021-03-22得票数 0
回答已采纳
1回答
我刚刚启动了一个AWS P2实例，试图训练一个模型。然而，它似乎在使用CPU训练，而不是GPU。我怎么能强迫它使用GPU而不是CPU来训练呢？$ nano ~/.keras/keras.json says this
{
"image_dim_ordering": "th",
"floatx然后我改变了
$ nano ~
浏览 3提问于2017-10-01得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
