1回答
在上，我猜GPU实例不一定对参数服务器有效，因为参数服务器只保留值，不运行矩阵乘法等任何计算。因此，我认为的示例配置(参数服务器使用CPU，其他服务器使用GPU )具有良好的成本性能： scaleTier: CUSTOM parameterServerType:
浏览 3提问于2017-04-14得票数 0
回答已采纳
我有3个服务器，每个服务器有32个cpu和8个泰坦X gpu。
当我用单服务器和单gpu训练该模型时，它连续使用gpu 50~60%。步长时间也比较合理(0.2~0.3秒).然而，当我用集群(1参数服务器，2名异步工作人员)训练相同的模型时，他们不能利用gpu，步骤时间增加(3秒，比单个版本慢10倍)。我发现参数服务器的参数大小为220 of，网络使用率为2Gbit/秒。
浏览 6提问于2017-03-31得票数 1
回答已采纳
我试图理解这个论点的作用，AdamOptimizer的的compute_gradients方法这样说-但我不太清楚。在这种情况下，共分梯度意味着什么?所述op是什么？
浏览 3提问于2018-02-12得票数 3
回答已采纳
如果我将我的模型配置为使用单个standard_p100 GPU运行，我可以以大约15步/秒的速度进行训练。但是，如果我将配置更新为具有4个工作人员和3个参数服务器的分布式设置(请参见下面的配置)，则会弹出抢占错误，10个步骤将花费大约600秒.trainingInput我在网上找到的唯一建议是建议参数服务器的数量至少是员工数量的一半(这就是为什么我增加到了3个参数服务器)，但我仍然没有运气。更新
我将<em
浏览 0提问于2018-10-13得票数 8
我想在Cloud上使用多个GPU运行一个Tensorflow应用程序。是否有指南帮助我将基于塔的multiGPU培训应用程序所需的更改调整到分布式tensorflow应用程序？
浏览 4提问于2017-10-06得票数 0
回答已采纳
在中，您可以使用N个GPU数将N个小批(每个包含M个训练样本)分发到每个GPU，并同时计算梯度。所以，在我看来，唯一的优势是你可以在相同的时间内使用一个更大的小型批次。(上面的教程是同步培训。如果是异步训练，那么
浏览 5提问于2016-06-10得票数 4
回答已采纳
2回答
Version: 10.0 || GPUECC ||==============我们相信这是因为我有两个不同类型的GPU在我的机器上。我需要在启动omnisql服务器时指定一种类型的<e
浏览 5提问于2019-04-02得票数 0
回答已采纳
我有一个服务器访问，它有多个GPU，可以同时被许多用户访问。我只从终端中选择了一个gpu_id，并且有这样的代码。device = "cuda:"+str(FLAGS.gpu_id) if torch.cuda.is_available() else "cpu"
其中FLAGS是一个解析器，解析终端中的参数。尽管我只选择了一个id，但我看到我使用的是两个不同的GPU。这会导致问题，当其他GPU内存几乎满时，而我的进程通过抛出&qu
浏览 5提问于2022-09-08得票数 0
2回答
我的视频卡不时崩溃。这是相当恼人的，但我忍受它-通常我只是重新启动图形与sudo systemctl restart lightdm.service，或如果需要，重新启动整个系统。该崩溃在dmesg中登录为[944520.212256] [<ffffffff818384d5>] schedule+0x35/0x80
[944520.212257] [<ffffffff8183b625>] schedul
浏览 0提问于2017-03-17得票数 12
回答已采纳
这并没有为我提供我需要的东西，因为回调fn需要将未来作为唯一的参数。)
gpu_queue.put(cu_device_id)
future解决这一问题的一种方法是将gpu_queue传递给客户端： cu_device_id = gpu_queue.get()
print("Hello
浏览 0提问于2019-03-08得票数 4
在代码中没有使用集群和服务器的情况下，我看到了一些关于多GPU的例子。非常感谢!
浏览 4提问于2016-06-09得票数 10
回答已采纳
最近，其中一个项目增加了CUDA的要求，以使GPU加速。我不想改变我们的管道(对接和gitlab-ci正在为我们工作)，所以我想给予对接者与nvidia GPU交谈的能力。其他详情：
我们没有使用ubuntu或centOS，所以不能直接使用。您不能向gitlab提供--runtime参数，因此不能使用nvidia建议的停靠调用。编辑:实际上，你现在可以了。见 ]
浏览 2提问于2018-12-06得票数 6
我正在编写代码，以便在一个集群中运行分布式同步培训，其中32台主机各有16个GPU。我读过本教程：和这个示例代码：在将平均梯度发送到参数服务器之前，可以在每个主机中平均16个GPU的梯度吗？
浏览 2提问于2016-10-25得票数 1
回答已采纳
假设我有10台机器，每台机器都有2个GPU，我想运行一个分布式TensorFlow集群。VS master应该分配多少个参数服务器？
浏览 1提问于2017-09-06得票数 6
网络是如此巨大，它应该使用大量的gpu，但在ml-engine的作业详细信息页面中显示，它没有使用主cpu以及gpu。尽管主cpu和gpu中的一些内存正在被使用。我使用"complex_model_s“作为主cpu，使用"standard-gpu”作为辅助处理器，并使用类型为"standard“的参数服务器。自开始训练以来，它也不会输出任何较新的日志或检查点。为什么ml-engine不使用gpu，也不输出任何新的日志和检查点文件？如果我使用
浏览 3提问于2018-07-05得票数 0
我正在尝试使用SyncReplicaOptimizer和MonitoredTraining会话在分布式tensorflow中编写同步训练代码。这是我写的代码。从张量流记录中读取数据。我遵循了tensorflow网站中描述的确切方法。 self.modelObj = Model(self.imagesize, self.targetSize) self.global_step = tf.con
浏览 5提问于2017-10-05得票数 0
OpenCV具有封装异步调用队列的gpu::Stream类。某些函数使用附加的gpu::Stream参数进行重载。除了之外，OpenCV文档中几乎没有关于如何以及何时使用gpu::Stream的信息。例如，(我)不太清楚gpu::Stream::enqueueConvert或gpu::Stream::enqueueCopy到底做了什么，或者如何使用gpu::Stream作为额外的重载参数。我在找一些像教程一样的gpu::Stream概
浏览 0提问于2013-07-25得票数 4
回答已采纳
1回答
但是，我想使用多GPU，所以我设置了--num_clones=2或4，它们都不工作。结果是它们都停留在global_step/sec: 0。他们不能继续下去了。
浏览 1提问于2017-06-24得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议活动推荐
腾讯云开发者
