使用tf.train.save时无法恢复Adam优化器的变量
问题：使用tf.train.save时无法恢复Adam优化器的变量
回答：
在使用TensorFlow进行模型训练时，我们通常会使用优化器来更新模型的参数。Adam优化器是一种常用的优化器，它结合了动量法和自适应学习率的特性，能够有效地加速模型的收敛。
然而，当我们使用tf.train.save函数保存模型时，由于Adam优化器的特殊性，它的变量无法直接保存和恢复。这是因为Adam优化器中的变量包括了动量的一阶和二阶矩估计，而这些矩估计是根据模型参数的梯度计算得到的，而不是直接保存的。
为了解决这个问题，我们可以采取以下两种方法之一：
- 使用tf.train.AdamOptimizer的get_slot_names方法获取Adam优化器的所有槽位名称，然后将这些槽位的变量单独保存和恢复。例如，对于每个槽位名称，可以使用tf.train.Saver来保存和恢复对应的变量。具体代码如下：
# 创建Adam优化器
optimizer = tf.train.AdamOptimizer(learning_rate)
# 训练模型
# 保存模型
saver = tf.train.Saver()
saver.save(sess, save_path)
# 恢复模型
saver.restore(sess, save_path)
# 恢复Adam优化器的槽位变量
for slot_name in optimizer.get_slot_names():
slot_var = optimizer.get_slot(var, slot_name)
saver.restore(sess, slot_var_save_path[slot_name])- 使用tf.train.AdamOptimizer的minimize方法中的var_list参数来指定需要优化的变量。通过这种方式，我们可以只保存和恢复需要优化的变量，而不包括Adam优化器的槽位变量。具体代码如下：
# 创建Adam优化器
optimizer = tf.train.AdamOptimizer(learning_rate)
# 定义需要优化的变量
train_vars = tf.trainable_variables()
# 使用Adam优化器进行优化
train_op = optimizer.minimize(loss, var_list=train_vars)
# 训练模型
# 保存模型
saver = tf.train.Saver(var_list=train_vars)
saver.save(sess, save_path)
# 恢复模型
saver.restore(sess, save_path)以上两种方法都可以解决使用tf.train.save时无法恢复Adam优化器的变量的问题。具体选择哪种方法取决于实际需求和场景。
推荐的腾讯云相关产品：腾讯云机器学习平台（https://cloud.tencent.com/product/tfmla）
相关·内容
1回答
在训练我的模型之后，我保存它，然后尝试恢复它来计算开发集上的成本/准确性。
在还原之前，我运行以下语句来计算我的变量。
from tensorflow.python.tools import inspect_checkpoint as chkp
chkp.print_tensors_in_checkpoint_file("./trained_models/my_nn_model.ckpt", tensor_name='',
all_tensors=True, all_tensor_n
浏览 1提问于2018-03-27得票数 0
我在Tensorflow训练一个卷积神经网络。我的代码运行到完成时没有错误。尽管如此，我很难准确理解如何保存NN学习的权重和偏差(这很重要，因为我正在服务器上进行培训，并且希望在本地进行更容易的可视化操作)。
我初始化了我的权重和偏差：
weights = {
'wConv1': tf.Variable(tf.random_normal([5, 5, 1, 3],0,0.25), name='wC1'),
'wConv2': tf.Variable(tf.random_normal([5, 5, 3, 32],0,0.25),
浏览 9提问于2017-10-12得票数 1
回答已采纳
我希望恢复优化器的状态，因此我执行了以下操作：
# create optimizer
optimizer = tf.keras.optimizers.Adam(0.1)
# save
ckpt_dir = 'logs\\ckpts\\ckpt_0'
optm_ckpt = tf.train.Checkpoint(optimizer=optimizer)
optm_ckpt.save(os.path.join(ckpt_dir, 'adam', 'adam_ckpt'))
# restore and check
optm_ckpt.restor
浏览 3提问于2021-04-23得票数 1
我正在尝试tensorflow中的一些简单模型，包括一个看起来非常类似于第一个的模型，但是它的维度稍微大一些。我可以使用梯度下降优化没有问题，获得足够好的收敛性。当我尝试使用ADAM优化器时，会得到如下错误：
tensorflow.python.framework.errors.FailedPreconditionError: Attempting to use uninitialized value Variable_21/Adam
[[Node: Adam_2/update_Variable_21/ApplyAdam = ApplyAdam[T=DT_FLOAT, use_loc
浏览 6提问于2015-11-18得票数 51
回答已采纳
3回答
我的模型需要运行多个时代才能获得良好的结果，使用v100在Google上只需几个小时。
因为我处于先发制人的状态，所以我在训练中就开始了。我希望能从它停止的地方恢复。
在我的定制CallBack中，我运行self.model.save(.)在on_epoch_end中。此外，如果分数在过去的50年间没有提高，就会停止训练。
以下是我尝试过的步骤：
我跑了model.fit，直到赛后250年才开始停站(最好的成绩是200分)。
我加载了100年代后保存的模型。
我和model.fit一起经营initial_epoch=100。(从101世纪开始。)
然而，要赶上第一轮就需要时
浏览 0提问于2019-06-02得票数 6
当我试图恢复一个经过训练的评估模型时，我得到了一个错误，但是只有在测试集上进行评估时才会出错。错误是：
InvalidArgumentError: Assign requires shapes of both tensors to match. lhs shape= [2325,11] rhs shape= [4891,11]
注意，lhs形状= 2325,11和rhs形状= 4891,11对应于测试集中的2325幅图像和训练集中的4891幅图像；而11是11个类的一个热编码，因此它们很可能对应于标签。当我在训练集上运行评估时，维度匹配且没有错误结果。我会很感激你的帮助！
下面是完整的堆栈跟踪
浏览 4提问于2017-02-02得票数 0
回答已采纳
我已经使用rmsprop优化器对MobilenetV1模型进行了一定数量的训练。现在，我想将优化器从rmsprop切换到adam，并从现在开始继续训练。但是当它加载训练好的模型时，当我将优化器从rmsprop更改为adam时，我得到了以下错误。我正在使用TF-slim来训练模型。
2017-11-08 12:02:55.104019: W tensorflow/core/framework/op_kernel.cc:1192] Not found: Key
MobilenetV1/Conv2d_0/weights/Adam_1 not found in checkpoint
2017-11-0
浏览 18提问于2017-11-09得票数 0
如果我的代码像这样：
from sklearn.model_selection import train_test_split
from keras.models import Sequential
from keras.layers import Dropout, Flatten, Dense, Conv2D, MaxPooling2D, BatchNormalization
from keras.callbacks import TensorBoard
from keras.callbacks import ModelCheckpoint
from keras.optimizer
浏览 0提问于2021-06-08得票数 0
我使用以下命令保存张量流图和变量：
builder = tf.saved_model.builder.SavedModelBuilder(export_dir)
builder.add_meta_graph_and_variables(sess, ["nn"])
builder.save(as_text=False)
我想要最小的保存文件，我可以用它来运行分类。具体地说，我希望从保存文件中排除在训练期间创建的Adam变量。
当我在保存之前迭代tf.all_variables()返回的值时，我得到的变量如下：
tf.Variable 'mymodel/fully_c
浏览 4提问于2017-12-02得票数 3
我遇到了一个奇怪的问题，我一直试图调试，但没有太多的运气。我的模型开始正常训练，批量损失持续减少(从最初的约6000下降到20个时期后的约120)。然而，当我暂停训练并在稍后通过从检查点恢复模型来恢复训练时，批量丢失似乎从先前的批量丢失(在暂停之前)意外地增加，并从较高的损失点恢复减少。我担心的是，当我恢复模型进行评估时，我可能没有使用我认为是经过训练的模型
与Tensorflow教程相比，我已经对我的代码进行了多次梳理。我试图确保使用教程建议的方法进行保存和恢复。以下是代码快照： - train.py文件包含保存和恢复步骤、图形设置和训练过程；而model.py创建网络层并计算损失。
下面是
浏览 1提问于2017-02-04得票数 5
3回答
我正在从保存的模型加载，我希望能够重置tensorflow优化器，如Adam Optimizer。最理想的情况是：
sess.run([tf.initialize_variables(Adamopt)])
或
sess.run([Adamopt.reset])
我试着寻找答案，但还没有找到任何方法。下面是我发现的没有解决这个问题的东西：
我基本上只是想要一种方法来重置Adam Optimizer中的"slot“变量。
谢谢
浏览 33提问于2016-09-21得票数 8
回答已采纳
2回答
我使用的是最新的Keras和Tensorflow后端(Python 3.6)
我正在加载一个模型，当我上次训练它时，它的训练准确率约为86%。
我使用的原始优化器是：
r_optimizer = optimizer=Adam(lr=0.0001, decay = .02)
model.compile(optimizer= r_optimizer,
loss='categorical_crossentropy', metrics = ['accuracy'])
如果我加载模型并在不重新编译的情况下继续训练，我的准确率将保持在86%左右(
浏览 0提问于2018-05-22得票数 1
在和等GPflow的文献中，在使用随机变分推理技术训练GP模型的参数(长度、方差、诱导输入等)时，使用了TensorFlow中的Adam优化器，而对于变分参数，则使用了自然梯度优化器。代码段如下所示
def run_adam(model, iterations):
"""
Utility function running the Adam optimizer
:param model: GPflow model
:param interations: number of iterations
"""
浏览 18提问于2020-05-25得票数 1
回答已采纳
我一直在使用tensorflow中的自动渐变，我有一个问题。如果我们正在更新一个优化器，比如说ADAM，什么时候动量算法应用于梯度？它是在我们调用tape.gradient(model.trainable_variables，model.trainable_variables)时应用还是在调用loss model.trainable_variables时应用？
谢谢!
浏览 3提问于2020-09-17得票数 0
我使用adam-optimizer创建了一个tensorflow模型 tf.train.AdamOptimizer(..., name='AO').minimize(...) 在我存储模型并从模型文件中恢复它之后，我想使用优化器最小化一个不同的变量集。我的问题是如何获得名为'AO'的优化器对象
浏览 14提问于2019-04-26得票数 0
在最近升级了我的TensorFlow版本之后，我遇到了无法解决的错误：
Traceback (most recent call last):
File "cross_train.py", line 177, in <module>
train_network(use_gpu=True)
File "cross_train.py", line 46, in train_network
with tf.control_dependencies([s_opt.apply_gradients(s_grads), s_increment
浏览 0提问于2017-05-02得票数 4
回答已采纳
当每一次反向传播迭代中，某一组参数保持不变时，我试图实现一个训练/细化框架。我希望能够将一组更新或固定的参数从迭代更改到迭代。TensorFlow方法显然强制某些参数的梯度保持为零，它对此非常有用，如果更新或固定的参数集不从迭代更改为迭代，则它在不同的优化器中都能很好地工作。如果与一起使用，它还可以处理各种更新或固定参数集。我的问题是，tf.stop_gradient在与一起使用时无法处理这种情况。更具体地说，它确实在tf.compute_gradients输出中将固定参数的梯度保持在零，但是当应用梯度(tf.apply_gradients)时，固定参数的值确实会发生变化。我认为这是因为Ada
浏览 2提问于2018-07-03得票数 2
回答已采纳
我训练模型，称为模型A。然后，我更改优化器并使用模型A中的检查点初始化模型。但是发生了一个错误。因为我想保存新模型的所有变量，所以我没有使用import_meta_graph('**.ckpt')，也没有在tf.train.Saver()中设置变量。我该如何解决这个问题？
saver = tf.train.Saver(max_to_keep=args.num_snapshot)
saver.restore(sess, tf.train.get_checkpoint_state(path).model_checkpoint_path)
下面是错误日志：
NotFoundErro
浏览 0提问于2019-06-11得票数 0
我使用optimizer.get_config()获取adam优化器的最终状态(如)，但是.get_config()返回初始状态。我想这意味着以下几点之一
.get_config()应该返回初始状态我的优化器没有更新因为我设置了错误我的优化器没有更新tf的adam (极不可能的)我的优化器正在更新，但在调用.get_config()something reset？之前正在重置
当然，我最初在一个带有培训和验证集等的适当项目中注意到了这个问题，但是这里有一个非常简单的片段，它似乎重现了这个问题：
import tensorflow as tf
import numpy as np
x=np.r
浏览 8提问于2021-01-29得票数 0
回答已采纳
1回答
我的问题很直截了当，但我在网上找不到确切答案(到目前为止)。
我使用以下方法保存了使用adam优化器训练的keras模型的权重：
callback = tf.keras.callbacks.ModelCheckpoint(filepath=path, save_weights_only=True)
model.fit(X,y,callbacks=[callback])
当我在结束练习后继续训练时，我是否可以简单地使用：
model.load_weights(path)
继续训练。
由于Adam依赖于时代数(例如在学习速率衰减的情况下)，我想知道在相同条件下恢复训练的最简单的方法。
继ibarr
浏览 9提问于2020-02-05得票数 3
回答已采纳
继续使用tensorflow 2.0获取这些错误。这样能行吗？
import tensorflow as tf
import numpy as np
x = tf.constant(3.0)
with tf.GradientTape() as t:
t.watch(x)
y = (x - 10) ** 2
opt = tf.optimizers.Adam()
opt.minimize(lambda: y, var_list=[x])
浏览 0提问于2019-04-06得票数 3
回答已采纳
1回答
我想找出并跟踪Adam的更新率
lr_t <- learning_rate * sqrt(1 - beta2^t) / (1 - beta1^t)
我关注了另一篇文章，得到了一个图的节点
[n.name for n in tf.get_default_graph().as_graph_def().node]
在那里我发现
u'Adam/update',
u'Adam/value',
u'Adam',
我假设这三个参数中的任何一个都可能是我正在寻找的更新学习率，但我不知道如何提取它。请帮帮忙
浏览 0提问于2016-09-17得票数 1
假设有一个深度学习模型和一个具有预先训练好的权重的检查点。我想要做的是对预先训练的模型进行微调。然而，我发现我必须使用现有模型图中没有定义的新的ADAM优化器对模型进行微调。因为ADAM优化器本身有一些trainable_variables，所以如果我想要基于检查点对模型进行微调，我必须将它们添加到现有的检查点。有没有办法在tensorflow中强制添加新的变量到现有的检查点？
浏览 19提问于2020-01-15得票数 0
我正试着用Pytorch训练CNN的文本分类器。我像这样使用Adam优化器。
optimizer = torch.optim.Adam(CNN_Text.parameters(), lr=args.lr)
我发现优化器收敛得非常快，然后它的精确度一直在缓慢下降。(验证损失在1-2分钟内减少了很多，然后缓慢增加)
所以，我实现了学习率衰减，
If curr_loss > val_loss: prev_lr = param_group['lr'] param_group['lr'] = prev_lr/10
我发现这并没有多大帮助。但如果我手动保存
浏览 11提问于2018-12-06得票数 1
1回答
如何在此代码段中使用泡菜？
、、、、
我有一个简单的代码片段来训练模型，但是当我使用泡菜保存模型供以后使用时，它会给我一个错误消息：
cannot pickle thread.LOCK objects
我使用了多个格式的泡菜，但它给了我同样的错误。
import pickle
model = keras.Sequential([
keras.layers.Dense(SHAPE, input_shape=(SHAPE,)),
keras.layers.Dense(300, activation='sigmoid'),
keras.layers.Dense(10, activation=&#
浏览 0提问于2019-07-11得票数 0
回答已采纳
我使用Tensorflow进行了一些培训，并使用一个保护程序保存了整个会话：
# ... define model
# add a saver
saver = tf.train.Saver()
# ... run a session
# ....
# save the model
save_path = saver.save(sess,fileSaver)
它工作得很好，我可以通过使用完全相同的模型并调用：
saver.restore(sess, importSaverPath)
现在，我只想修改优化器，同时保持模型其余部分的常量(除了优化器之外，计算图保持不变)：
浏览 7提问于2016-02-21得票数 4
回答已采纳
1回答
我正在尝试建立一个回归模型，使用dataset 来预测电影的“评分”。但是，在对模型进行培训之后，预测会为所有测试特性输出相同的值。我以前读过类似的文章，建议调整学习率，不是。并检验模型预测是否与训练模型相同。这些都不适合我。
我加载数据并进行处理：
links= pd.read_csv('../input/movie-lens-small-latest-dataset/links.csv')
movies=pd.read_csv('../input/movie-lens-small-latest-dataset/movies.csv')
...
datase
浏览 2提问于2019-10-01得票数 1
回答已采纳
我正试图用torch.optim.adam优化场景顶点的翻译。这是redner教程系列中的一段代码，它可以很好地处理初始设置。它试图优化一个场景，用相同的值(称为translation )移动所有顶点。这是原始代码：
vertices = []
for obj in base:
vertices.append(obj.vertices.clone())
def model(translation):
for obj, v in zip(base, vertices):
obj.vertices = v + translation
# Assemble
浏览 4提问于2020-05-17得票数 3
回答已采纳
我最初在Keras中开发了一个分类器，在那里我的优化器非常容易应用衰变。
adam = keras.optimizers.Adam(decay=0.001)
最近，我试图将整个代码更改为纯Tensorflow，但无法找到如何将相同的衰减机制正确地应用于优化器。
optimizer = tf.train.AdamOptimizer()
train_op = optimizer.minimize(loss=loss,global_step=tf.train.get_global_step())
如何将在Keras代码段中看到的相同的学习速率衰减应用到Tensorflow代码段？
浏览 0提问于2019-01-08得票数 6
我想用tf.contrib.keras来摆弄它。然而，有一件事我不明白。tf.train中的类有一个函数minimize，您可以使用它来优化您的函数。但是，tf.contrib.keras.optimizers中的类不存在此minimize函数。假设我们有以下代码：
# tensorflow
tf.train.AdamOptimizer(learning_rate=0.001)
updateModel = trainer.minimize(loss)
# keras wrapper
trainer=tf.contrib.keras.optimizers.Adam()
updateModel
浏览 3提问于2018-02-17得票数 5
1回答
我试图更改优化器，但首先，我想检查以下两种代码是否给出了相同的结果：
optimizer = optim.Adam(params, lr)
for epoch in range(500):
....
optimizer.zero_grad()
loss.backward()
optimizer.step()
for epoch in range(500):
....
optimizer.zero_grad()
loss.backward()
optimizer.step()
如果我在“for循环”之间插入相同的优化器，
optim
浏览 1提问于2020-01-18得票数 2
回答已采纳
昨天在google colab上工作，一切都很好。但是现在我在尝试导入Adam时遇到了一个问题。 这就是我要导入的内容 from keras.optimizers import Adam, SGD, RMSprop 这就是我得到的 ImportError Traceback (most recent call last)
<ipython-input-1-36a1fe725448> in <module>()
30 from keras.layers import GlobalAveragePool
浏览 193提问于2021-08-18得票数 3
我正在使用神经网络来预测给定输入位置坐标的Fe等级。总数据分为训练数据= 3495点和测试数据= 617个数据点。
ann = tf.keras.models.Sequential()
ann.add(tf.keras.layers.Dense(units =25, activation = 'gelu'))
ann.add(tf.keras.layers.Dense(units =15, activation = 'gelu'))
ann.add(tf.keras.layers.Dense(units =10, activation = 'g
浏览 0提问于2021-03-11得票数 0
我能够成功地训练一个RNN，并在Tensorboard中看到准确性/丢失。问题是，当我试图从检查点文件加载模型时，我会得到以下错误：
Key fully_connected/Variable not found in checkpoint
[[node save/RestoreV2 (defined at train.py:87) = RestoreV2[dtypes=[DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOA
浏览 1提问于2019-03-22得票数 0
回答已采纳
我一直在试用TensroFlow v2测试版，我也在试用tf.keras型号。
当我编译一个模型并选择优化器作为字符串'adam'时。模型可以被正确地训练：
model.compile(optimizer='adam', loss='categorical_crossentropy')
model.fit(x, y)
但是，当我尝试使用默认优化器tf.keras.optimizers.Adam()时，它不能被训练，并且在每次迭代时都会输出nan损失。
adam = tf.keras.optimizers.Adam()
model.compile(
浏览 32提问于2019-07-11得票数 7
回答已采纳
我们可以保存任何创建的LSTM模型本身吗？我认为“泡菜”是将python对象序列化为文件的标准方法。理想情况下，我希望创建一个python模块，它包含一个或多个函数，这些函数允许我指定一个LSTM模型来加载，或者使用一个硬编码的预匹配模型来根据传入的数据生成预测来初始化模型。
我试着用它，但给了我一个错误。
我使用的代码：
# create and fit the LSTM network
batch_size = 1
model = Sequential()
model.add(LSTM(50, batch_input_shape=(batch_size, look_back, 1)
浏览 6提问于2017-07-24得票数 2
回答已采纳
我使用以下命令对我的代码应用了急切执行 import TensorFlow as tf
tf.enable_eager_execution()
tf.executing_eagerly() 但是当我使用Adam Optimizer时 single_step_model = tf.keras.models.Sequential()
single_step_model.add(tf.keras.layers.LSTM(32,
input_shape=x_train.shape[-2:]))
single_ste
浏览 15提问于2020-05-03得票数 0
我很难理解当模型从磁盘加载时，当使用像下面这样的调度器时，训练将如何恢复。 learning_rate_scheduler = tensorflow.keras.optimizers.schedules.ExponentialDecay(
0.01,
decay_steps=1000,
decay_rate=0.96,
staircase=True) 考虑这个假设的情况，我训练了一个时期的模型并保存了下来。后来，我加载了模型并重新拟合。在这种情况下，训练是从先前保存模型时的学习率恢复还是从调度器的预定义配置开始？ 编辑 我正在以标准的方式保存我的模型， model.save("
浏览 98提问于2021-03-01得票数 1
回答已采纳
我之前读过，sgd泛化得更好，但adam在训练的早期阶段收敛得很快。所以，我想在一些步骤之后改变我的优化器。但是像下面这样的代码引发了前置错误。如果有人知道如何在培训期间更改优化器？
for i in range(config.train_steps):
_, l, s = sess.run([train_op, loss, summary])
if i % 100 == 0:
saver.save(sess, os.path.join(args.model_dir,
'
浏览 1提问于2018-01-15得票数 3
我正在运行一个带有大约22000张图像(每个类11000张)的带有ResNet50微调的项目。这是我的密码：
base_model = ResNet50(weights='imagenet', include_top=True, input_shape=(224,224,3))
head_model = base_model.get_layer("conv5_block1_1_conv").output
head_model = Dropout(0.75)(head_model)
head_model = Flatten()(head_model)
浏览 1提问于2020-06-01得票数 1
回答已采纳
我试图通过优化一个随机的‘图像’来可视化CNN过滤器，以便它在该过滤器上产生一个高均值激活，这在某种程度上类似于神经风格转移算法。
为此，我使用TensorFlow==2.2.0-rc。但在优化过程中，出现'tensorflow.python.framework.ops.EagerTensor' object has no attribute '_in_graph_mode'错误。我试着调试它，当我不使用opt.apply_gradients()而是像img = img - lr * grads一样手动应用它的渐变时，它以某种方式工作，但我想使用"Ad
浏览 0提问于2020-04-12得票数 8
回答已采纳
我试图让tensorflow最小化关于变量的损失函数，但是，我一直收到错误，并且我不确定原因。我已经创建了一个最小的示例：
import tensorflow as tf
def loss_func(x, target):
return tf.pow(x - target, 2)
x = tf.Variable(initial_value=1., name='x', dtype=tf.float32)
target = tf.constant(value=10., dtype=tf.float32)
adam = tf.train.AdamOptimizer()
浏览 29提问于2019-10-20得票数 2
在Adam优化算法中，学习速度根据迭代次数进行调整。我不太理解Adam的设计，尤其是在使用批量训练的时候。当使用批量训练时，如果有19,200张图片，每次训练64张图片，相当于300次迭代。如果我们的纪元有200次，那么总共有60,000次迭代。我不知道这样的多次迭代是否会将学习速度降低到非常小的规模。因此，当我们训练时，我们应该在每个时期之后初始化optim，还是在整个过程中什么都不做？ 使用pytorch。如果我使用批处理训练，我会尝试在每个时期之后初始化optim，当数据数量很少时，我什么也不做。 例如，我不知道这两段代码是否正确： optimizer = optim.Adam(mod
浏览 46提问于2019-05-13得票数 2
回答已采纳
1回答
正如标题所述，我们如何编译具有多个输出的keras函数模型？
# Multiple Outputs
from keras.utils import plot_model
from keras.models import Model
from keras.layers import Input
from keras.layers import Dense
from keras.layers.recurrent import LSTM
from keras.layers.wrappers import TimeDistributed
# input layer
visible = Input(s
浏览 3提问于2018-01-13得票数 1
回答已采纳
遇到了一个有趣的小问题。我正在编写一个方法来过滤一个数组到唯一的对象：
- (NSArray*)distinctObjectsByAddress {
NSSet* uniqueSet = [NSSet setWithArray:self];
NSArray* retArray = [uniqueSet allObjects];
return retArray;
}
并编写了一个单元测试来检查：
- (void)testDistinctObjectsByAddress5 {
Person* adam1 = [[Person alloc] initWithFirs
浏览 0提问于2012-02-20得票数 7
回答已采纳
有人能帮我吗。当我尝试运行我的代码时，他们出现错误ImportError: cannot import name 'rmsprop‘from 'keras.optimizers’
下面是我使用的库和所有的导入。
import gym
import random
from keras.models import Sequential
from keras.layers import Dense, Dropout
from keras.optimizers import rmsprop, Adam
import numpy as np
import matplotlib.pyplo
浏览 34提问于2020-11-15得票数 5
根据文档，使用Python和C# API似乎是可能的。
没有将Adam作为gradUpdateType的选项之一。
是否可以在Adam optimize中使用BrainScript r？
浏览 3提问于2017-12-21得票数 0
回答已采纳
在tensorflow/keras中使用ADAM作为优化器时，真的有必要优化初始学习率吗？如何做到这一点(在tensorflow 2.x中)？
浏览 282提问于2020-06-14得票数 0
我在单词嵌入序列上使用RNN对句子进行分类。一开始，我在给预先训练过的单词嵌入内容，一切都很好。我将嵌入矩阵设置为一个具有维度(词汇量、嵌入大小)的tf.placeholder，并从GloVe中提供了一些经过预先训练的嵌入。我还使用tf.nn.embedding_lookup将输入(即单词ID序列)转换为嵌入序列。
然后我想让模型也训练嵌入，所以我把嵌入矩阵变成了tf.Variable，而不是占位符。现在TensorFlow给了我这个错误--显然AdamOptimizer不能处理嵌入查找。知道怎么回事或者怎么解决这个问题吗？
tensorflow.python.framework.errors
浏览 1提问于2017-04-30得票数 1
回答已采纳
全,
我在seq2seq任务中使用了类似于bucketing的技术：
# For different length in encoder and decoder
model_map = {}
for i in encoder_shape:
for j in decoder_shape:
with variable_scope.variable_scope(variable_scope.get_variable_scope(),
reuse=True if tt > 0 else None):
浏览 2提问于2016-11-22得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
