1回答
我是PyTorch的新手，并且正在习惯一些概念。 我需要训练一个神经网络。为了进行优化，我需要使用具有4个不同learning rates = [2e-5, 3e-5, 4e-5, 5e-5]的Adam优化器 优化器函数定义如下 def optimizer(no_decayoptimizer = BertAdam(optimizer_grouped_parameters, lr, warmup=.1)
return optimizer 如何确保优化器使用我指定的学习</
浏览 35提问于2019-09-22得票数 1
回答已采纳
1回答
针对每一个时代，对训练数据加载器进行迭代，计算损失，优化等。然后将最佳模型应用于测试数据。计算精度，绘制ROC曲线。我想知道如何扩展我<
浏览 0提问于2021-01-30得票数 1
回答已采纳
我编写了简单的代码来学习Keras：
(x_train, y_train), (x_test, y_test但每一个时代都是一样的。tensorflow-gpu v1.9
我遗漏了什么？
浏览 1提问于2018-07-26得票数 0
回答已采纳
1回答
我知道冻结网络中的单层是可能的，例如，只训练预训练模型的最后一层。我正在寻找的是一种将特定的学习率应用于不同层的方法。
例如，第一层的学习率非常低，为0.000001，然后逐渐增加后续每一层的学习率。所以最后一层的学习率是
浏览 166提问于2018-08-12得票数 25
回答已采纳
在训练模型CatBoostRegressor()期间，有没有可能改变(减少)参数‘学习率’，梯度步长系数？它会减少迭代次数，加快训练速度？
浏览 6提问于2017-12-30得票数 0
1回答
我是深度学习的新手。我完成了一个花了8个小时运行的模型的训练，但我忘记了在关闭jupyter笔记本之前绘制精度图。任何帮助都将不胜感激！谢谢!
浏览 0提问于2020-12-09得票数 0
1回答
我对机器学习的整个领域都是新手，但我之前确实有过一些AWS识别的经验。在Rekognition中，您可以自定义图像中的不同部分，而不仅仅是整个图像。我希望在Tensorflow中做一些类似的事情，但尽管浏览了他们的文档并进行了搜索，但我还是找不到任何东西。 这在Tensorflow中是不可行的，还是我错过了什么？如果我在单独建模的图像上训练一个<
浏览 24提问于2020-06-26得票数 0
回答已采纳
1回答
基于深度学习的多参数恢复
、、、、
作为我实际研究问题的一个简化版本，假设我有一个二阶多项式函数y = a_x^2 + b_x +c，我想用一个深神经网络来预测给定变量x和函数y的值的参数a、b和c，变量x和参数a、b、c在0,1范围内从均匀分布中剔除当我尝试使用不同的体系结构、成本函数和超参数组合对网络进行最常用的训练时，我总是会遇到同样的问题:训练损失和测试损失迅速收敛到一个明显高于0的值，然后开始以奇怪的方式波
浏览 14提问于2021-12-14得票数 0
1回答
每次重启后降低最大学习率
、、、、
我正在训练一个神经网络来完成一个基于计算机视觉的任务。对于优化器，我发现在整个训练中使用单一的学习率并不理想，人们所做的就是使用学习率调度器以特定的方式衰减学习率。因此，为了做到这一点，我尝试了PyTorch's CosineAnnealingWarmRestarts().，它的作用是以余弦方式退火/降低初始学习</e
浏览 46提问于2020-06-17得票数 1
我很难理解当模型从磁盘加载时，当使用像下面这样的调度器时，训练将如何恢复。tensorflow.keras.optimizers.schedules.ExponentialDecay(decay_steps=1000, staircase=True) 考虑这个假设的情况，我训练了一个时期的模型并保存了下来。后来，我加载了模型并重新拟合。在这种情况下，训练是从先前保存模型</
浏览 98提问于2021-03-01得票数 1
回答已采纳
我正在使用Pytorch，我在MNIST数据集上实现了一个CNN，它在训练和测试集上都具有99+%准确性。 我决定切换到时尚MNIST，以了解我的网络架构是如何执行的。我在训练集上获得了95%的准确率，在测试集上获得了91%的准确率。 然后，我开始尝试通过调整模型来提高性能。简而言之，我的模型看起来像这样：
浏览 16提问于2019-03-21得票数 0
我正在学习Pytorch，并试图理解这个库是如何进行语义分割的。到目前为止，我所理解的是，我们可以在pytorch中使用预先训练好的模型。我找到了一篇在.eval()模式下使用该模型的文章，但我还没有找到任何关于在我们自己的数据集上使用这种模型进行训练的教程。我有一个非常小的
浏览 27提问于2019-12-13得票数 0
在PyTorch中，是否可以在训练过程中动态更改优化器的学习率(我不想预先定义学习率计划)？假设我有一个优化器：现在，由于我在训练期间进行了一些测试，我意识到我的学习率太高了，所以我想将其更改为
浏览 4提问于2018-01-18得票数 62
回答已采纳
3回答
由于图像很大，我想知道可以用来处理它们的方法。到目前为止，我遇到了将图像分成多个部分，处理这些部分并合并结果的技术。然而，我想更多地了解其他更好的方法，以及它是否是好的方法。任何参考现有文献都会有很大的帮助。
浏览 3提问于2019-11-04得票数 1
3回答
我在用Hugginface的训练器。如何在N个时期后调整学习率？例如，我将初始学习率设置为lr=2e-6，并且我希望在第一个时期之后将学习率更改为lr=1e-6，并在剩余的训练中保持该学习率。last_epoch=-1我知道有，但在这里，它每个时代都会降低学习</
浏览 5提问于2021-07-23得票数 1
1回答
计算训练中迭代次数？
、、、、
我有一个Caffe原型，如下所示：iter_size: 4gamma =0.1
其中，数据集具有40.000图像。这意味着在20000后，学习速度会降低10的次数。在pytorch中，我想要计算出具有相同行为的时代数(用于学习速率)。我应该用多少时间来降低10倍的学习率(注意，我们有iter_siz
浏览 0提问于2019-01-27得票数 1
2回答
据我所知，利用BERT进行某些NLP分类任务有两种方法：
BERT可以执行“特征提取”，其输出将进一步输入到另一个(分类)模型中。另一种方法是微调一些文本分类任务的BERT，方法是在预培训的BERT中添加一个或多个输出层，并对整个过程进行再培训(有不同数量的BERT层固定)。但是，如果在第二种情况下，我们修复了所有的层，并且添加了分类模型中的所有层，那么第一种和第二种方法实际上是相同的，对吗？
浏览 0提问于2020-03-26得票数 1
1回答
我目前正在关注中的PyTorch迁移学习教程我正在使用谷歌云平台笔记本实例，并使用4个NVIDIA Tesla k80 x 4GPU。正是在这里，当我在超过1个GPU上训练网络时，遇到了服务器连接错误(无效响应: 504)错误num_ftrs =0.1)
model_ft = train_model(model_ft, crit
浏览 1提问于2019-08-08得票数 1
我正在训练一个深度学习模型，使用谷歌的Colab对NIH的胸部Xray-14数据集中的疾病进行多标签分类。我不能一次将所有图像加载到Dataloader中，因为大约有112k个训练样本和有限的RAM。有没有办法在pytorch的DataLoader中只存储图像的路径，在训练期间只读取当前迭代所
浏览 10提问于2019-09-08得票数 2
回答已采纳
1回答
我正在研究一个LSTM模型，我想保存它，并在它积累时继续使用额外的数据。我的问题是，下次运行脚本时，保存模型并再次加载它之后，预测是完全错误的，它只是模仿我输入的数据。下面是模型初始化：if retrain == 1:
print "Creating a newly retrained networkload_model("model.{}.h5".format(
浏览 0提问于2018-05-09得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
