1回答
朴素模型-跨多个GPU进行分区会导致工作负载在向前和向后传递期间从GPU移动到GPU。在任何时刻，都有一个GPU在忙碌。这是一个简单的版本。activation='relu')) model.add(Dense(num_classes, activation='softmax'))
我们需要示例代码(模板)来流水线工作，并通过发送批处理波和协调每个GPU上的工作(向前
浏览 11提问于2018-08-08得票数 0
我已经使用pytorch训练了一个图像分类模型。我正在考虑使用TensorFlow扩展。我非常怀疑我是否能够在TensorFlow扩展管道中使用我的PyTorch训练模型(我可以将训练模型转换为ONNX，然后转换为Tensorflow兼容格式)。我不想重写和重新训练训练部分到TensorFlow<
浏览 6提问于2020-11-13得票数 2
我最近在Coursera上参加了Andrew Ng写的courser。在那之后，我转向Python，使用Pandas，Numpy，Sklearn来实现ML算法。现在，当我在网上冲浪的时候，我遇到了tensorFLow，我发现它非常神奇，并实现了这个，它将MNIST数据作为输入。但是我不确定为什么要使用诸如库(TensorFlow)之类的库？我们没有做任何并行计算，因为在前一个时期更新的权重将在下一个时期使用？我发现很难找到使用这样的库的</em
浏览 1提问于2017-01-05得票数 1
我编写了一些代码，用Tensorflow的CPU(仅限于CPU)进行推理。它运行在一个集群节点上，在那里我可以访问24个GPU和1个GPU。我不使用GPU，因为我将需要做的任务CPU-只是稍后。不知怎么的，每次我从另一个程序(OpenFOAM)调用Tensorflow代码时，Tensorflow似乎都运行在所有并行的CPU上。然而，我没有做任何事情来造成这种行为。现在我想知道Tensorfl
浏览 1提问于2019-05-17得票数 1
我读过Tensorflow关于InterOp和IntraOp并行性的文档。然而，我还没有完全理解InterOp并行是如何影响Tensorflow的。我的问题是:来自InterOp线程池的线程实际上是并行地训练模型(也就是说，每个线程都在训练批的不同子集上进行训练，方法是在线程之间分割训练迭代)，还是它们只是<e
浏览 0提问于2017-08-03得票数 2
回答已采纳
1回答
我已经生成了新的Base model(dataset1_model_cased_L-12_H-768_A-12)，使用cased_L-12_H-768_A-12作为从训练的多标签分类。我需要添加更多的额外数据，比如dataset2_model_cased_L-12_H-768_A-12，模型应该是dataset2
=> dataset1 =>数据集1_model_L_L-12_H-768_A
浏览 0提问于2020-07-17得票数 3
我正在使用tensorflow在一台机器上训练几个GPU中的模型。然而，我发现速度比在一个GPU上训练要慢得多。我想知道tensorflow是否在不同的GPU中并行地或顺序地执行子模型。tf.device('/gpu:0'):with tf.device('/gpu:1'):
浏览 2提问于2018-04-02得票数 0
回答已采纳
1回答
我正在使用知识蒸馏实现快速的DNN模型训练，如下图所示，以并行运行教师和学生模型。
我查看了一些流行的代码库，比如和。它们逐步执行学生和教师模型的前向操作，即不在不同的设备(GPU或CPU)上并行执行。我正在尝试加快这个训练过程，以便使用多个设备同时运行两个模型(例如，在CPU上加载一个模型，
浏览 5提问于2020-09-11得票数 0
我成功地将我的TensorFlow模型的一个版本移植到了Graphcore议会联盟，并运行了数据并行性。然而，全尺寸模型并不适合于单一的议会联盟，我正在寻找实现模型并行性的策略。到目前为止，我还没有找到关于模型并行方法的信息，除了中的TensorFlow指南中针对议会联盟的信息之外，在该指南中
浏览 2提问于2020-06-23得票数 2
回答已采纳
我一直在使用单个GTX Titan训练我的tensorflow再训练算法，它工作得很好，但当我尝试在再训练示例中使用多个GPU时，它不起作用，当我在Nvidia SMI中运行它时，它似乎只使用一个GPU为什么会发生这种情况，因为它在从头开始在初始模型中重新训练时使用多个gpus，而不是在重新训练期间？
浏览 5提问于2016-09-05得票数 1
回答已采纳
我有预先培训过的模型centernet_32 104_512x512_kpt_ and 17_tpu-32，创建了.record文件并使用键点数据集进行了注释。), dtype=tf.float32)
在pipeline.config中，我有指向标签映射文件和.record文件的路径。我训练过盒子模型，没有任何问题，但是有了关键点注释，
浏览 5提问于2022-01-13得票数 0
我有一个预先训练过的模型(tensorflow模型)，它是使用来自公共数据集的数据进行训练的。我有元文件和录入文件。我想训练我的tensorflow模型使用新的数据从私人获得的数据集。我有小数据集，所以我想微调我的模型根据‘战略2’或‘战略3’。
Strategy 2:训练一
浏览 0提问于2020-03-02得票数 1
1回答
我目前正在开发一个有2个GPU的系统，每个GPU的容量为12 of。我想在两个GPU之间实现模型并行，以训练大型模型。我一直在互联网上浏览，所以，tensorflow文档等等，我能够找到关于模型并行性的解释及其结果，但是我没有找到一个关于如何使用tensorflow实现它的小教程或小代码片段。我的意思是我们必须在每一层之后交换激活，对吗？那我们怎
浏览 1提问于2017-02-06得票数 9
回答已采纳
是一个非常好的教程，在TensorFlow中训练序列到序列模型.我只想知道是否有一个分布式版本的，它利用(一组GPU)在单机上获得更好的性能？已经提到，可以训练一个大型的多层递归神经网络(参见图8和“模型并行训练”部分)。有谁知道目前的教程是否涵盖模型并行培训？如果没有，如何改进最初的教程来利
浏览 2提问于2016-03-03得票数 2
回答已采纳
我正在训练一个模型来检测夜空图片中的流星，我有一个相当小的数据集，大约有85张图像，每张图像都有一个边界框注释。我正在使用迁移学习技术，从ssd_mobilenet_v1_coco_11_06_2017检查点和TensorFlow1.4开始。在训练过程中，我将图像大小调整为600x600像素。我在流水线配置中使用数据增强来随机地水平、垂直翻转图像，并旋转90度。经过5000步后，模型收敛到损失约0.3，并将检测到流星
浏览 1提问于2018-04-26得票数 2
当我在导入tensorflow之前导入scikit-learn时，我没有任何问题。运行这段代码会产生1.7766212763101197e-12的输出。，那么学习我的代码将不再起作用。当我运行这个代码块时import numpy as npimport numpy.random as randmod.fit_transform(X)pri
浏览 2提问于2018-03-02得票数 0
我目前正在筛选大量关于神经网络分布式训练(反向传播的训练)的材料。因此，如果我们只是以某种巧妙的方式将梯度和分布式训练结合起来，那么整个过程训练就相当于每个分布式节点内的训练所产生的网络平均。如果我对上面描述的事情是正确的，那么我想尝试将由分布式节点手工生成的权重组合起来。
，所以我的问题是：，如何使用任何主流技术，例如
浏览 0提问于2019-06-30得票数 0
回答已采纳
2回答
通过REST访问机器学习模型
、、、、
我制作了一个卷积神经网络来分类猫和狗的图像。数据集以及代码都可以在线获得。我使用Python作为我的编程语言。但是现在我需要在服务器上部署这个模型，并需要使用REST访问它。我使用HDF5格式保存了我的模型。参考示例"model.h5“：但是我更喜欢java.
我更喜欢使用Spri
浏览 2提问于2018-07-26得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
