我正在尝试使用具有步长衰减学习率的tf.keras框架来训练模型。但是，每次我调用fit方法时，学习率都会重新启动，并且不会从最后一个状态继续。 以下代码是演示该问题的最小示例。tf.keras.callbacks.LearningRateScheduler(step_decay)
print('Learning Rate: ',
浏览 21提问于2019-01-16得票数 1
回答已采纳
我很难理解当模型从磁盘加载时，当使用像下面这样的调度器时，训练将如何恢复。tensorflow.keras.optimizers.schedules.ExponentialDecay(decay_steps=1000, staircase=True) 考虑这个假设的情况，我训练了一个时期的模型并保存了下来后来，我加载了模型并重新拟合。在这种情况下，训练是从先前保存模型时</
浏览 98提问于2021-03-01得票数 1
回答已采纳
随着你了解未来的奖励，epsilon应该会衰减，这样你就可以利用你发现的更高的Q值。
然而，在随机环境中，我们的学习率是否也会随着时间的推移而下降？所以我看到的帖子只讨论epsilon衰变。
浏览 1提问于2018-11-08得票数 12
回答已采纳
1回答
例如，如果我想使用手动学习率，初始学习率为0.01,10000步后衰减学习率为0.001,20000步后衰减学习率为0.0001。
我如何才能知道这些我需要衰减学习率的步骤？有什么经验可以指导我吗？我们通常可以在论文中找到这些步骤，但作者是如何获得这些步骤的？
浏览 11提问于2017-12-08得票数 0
我在带有patience=2的回调中使用EarlyStopping在keras中训练了一个模型Wall time: 58.4 s
显然，模型在第二个时期之后没有改善，但patience=2
浏览 1提问于2020-11-26得票数 1
1回答
迁移学习中的模型微调
、、、、
我正在研究一个深度学习模型，用于“年龄不变的人脸检测”。我开始对数据进行预处理，包括通过MTCNN进行人脸裁剪，图像对比度校正和锐化。然后我开始构建模型架构，我设计了一个定制的顺序CNN模型。训练和验证损失接近1.9，但模型一个时期大约需要8小时。我需要快速的结果，所以我开始尝试迁移学习。我读到一篇论文，说Resnet-18在任务中表现很好，所以我首先使用了Resnet-18。尝试通过改变学
浏览 17提问于2020-10-02得票数 0
我一直在一台普通的机器上训练盗梦空间V3，只有一颗GPU (GeForce GTX980Ti，6 6GB)。最大批处理大小似乎约为40。我使用了inception_train.py文件中指定的默认学习率设置：initial_learning_rate = 0.1、num_epochs_per_decay = 30和learning_rate_decay_factor经过几周的训练，我能够达到的最佳精度如下(大约500K-1M迭代)：
2016-06-06 12:07:52.245005:
浏览 2提问于2016-07-08得票数 10
3回答
softmax')model.compile(SGD(lr=.1), loss='binary_crossentropy', metrics=['accuracy'])如何设置模型的自适应学习率？
浏览 3提问于2018-11-26得票数 5
2回答
我使用的是最新的Keras和Tensorflow后端(Python 3.6) loss='categorical_crossentropy', metrics = ['accuracy'])
如果我加载模型并在不重新编译的情况下继续训练，我的准确率将保持在86%左右(即使在<
浏览 0提问于2018-05-22得票数 1
2回答
神经网络的实现
、、
30%的准确率。有100棵树的随机森林给出了97%的结果。但我听说神经网络可以逼近任何函数。我的理解有什么问题？loss='categorical_crossentropy',另外，我尝试了许多层，激活函数，损失函数，优化器，但从未获得超过30%的准确率:
浏览 3提问于2016-12-01得票数 1
1回答
我还尝试添加更多的CNN层，但模型在测试集上的平均准确率约为45%，表现稍差。我尝试手动计划每10个时期的学习率，结果是相同的。重量衰减似乎对结果影响不大，从0.1%到0.000001。从以前的测试中，我有一个模型，在测试和训练集上都达到了60%的访问率。然而，当我尝试重新训练它时，两个集合(训练和测试)的acc立即下降到~40，这是没有意义的。
浏览 1提问于2020-09-21得票数 5
3回答
我现在开始发现用于deap学习的Keras库，似乎在训练阶段选择了一个百分之一的纪元数，但我不知道这个选择是基于哪个假设。在Mnist数据集中，选择的纪元数为4： batch_size=128, nb_epoch=4,
show_accuracy
浏览 0提问于2017-07-19得票数 6
3回答
我正在探索使用CNN进行多类分类。我的模型细节如下：以及培训/测试的准确性/损失：从图像中可以看出，在几个年代里，精度从0.08提高到0.39到0.77到0.96。我尝试过更改模型的细节(过滤器的数量、内核大小)，但我仍然注意到了相同的行为，而且我没有深入学习的经验。这种行为可以接受吗？我做错什么了吗？给出一些背景。
浏览 0提问于2022-05-19得票数 0
回答已采纳
1回答
LSTM训练模式
、、、、
我是NNs的新手，我正在用LSTM做我自己的"Hello World“，而不是复制一些东西。我选择了一个简单的逻辑，如下：
3个时间步长的输入。第一个是1或0，另外两个是随机数。可以训练逻辑以达到100%的准确率。我运行了许多测试，我发现最有效的模型是3个LSTM层，每个层都有15个隐藏单元。这在22个时期之后返回了100%的准确率。然而，我注意到了一些我很难理解的事情:在前12个时期，模型在</e
浏览 7提问于2017-04-17得票数 4
7回答
我想知道是否有可能保存一个部分训练的Keras模型，并在再次加载该模型后继续训练。#Partly train model
#Save(second_training, second_classes, batch_size=32
浏览 789提问于2017-03-08得票数 123
回答已采纳
回想一下，当中的TensorFlow 1中的学习速率是这样的：
如果参数阶梯为真，则global_step /decay_steps是整数除法，衰减学习率遵循阶梯函数。什么时候更好地衰减每一个X数的步骤，并遵循楼梯的情况下的功能，而不是一个</e
浏览 5提问于2016-06-27得票数 4
我在Colab上为我的光通信项目训练一个模型，然后发生了一件奇怪的事情。我首先训练的模型显示了接近99%的训练和97%的验证准确率，但运行时在晚上的某个时候到期了。现在，对于相同的模型，我尝试在重新连接到运行时后重新训练。但现在，准确率从第一个时期起保持不变，为25%。令人惊讶的是，有4个类别，我的模型将它们都
浏览 31提问于2021-11-03得票数 0
我正在尝试使用TensorFlow实现一个神经网络来解决异或问题。我选择sigmoid作为激活函数，shape (2, 2, 1)和optimizer=SGD()。我在Google Colab上这样做，Tensorflow的版本是2.3.0。loss=tf.keras.losses.MeanSquaredError(),
history = model.fit
浏览 46提问于2020-11-04得票数 3
回答已采纳
1回答
我正在使用Gensim Word2vec在Tobias提供的著名维基百科转储上训练一个Word2vec模型，链接如下： (大约4GB)。我想知道，我应该运行多少个时代的模式进行培训，直到该模式将融合。 model = Word2Vec(size=self.1.523399350026239e-06learning_rate=9.140396100157433e-07
我不明白为什么损失函数的结果没有减少，并且<
浏览 1提问于2018-08-11得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
