验证损失低于训练损失，并在Keras中减少损失
在Keras中，训练损失通常应该低于验证损失。如果验证损失低于训练损失，这可能意味着模型出现了过拟合。为了解决过拟合问题并尝试进一步减少损失，您可以采取以下策略：
- 增加数据集大小：更多的数据可以帮助模型泛化得更好。
- 数据增强：通过对训练数据进行变换（如旋转、缩放、翻转等），可以生成更多的训练样本。
- 使用预训练模型：利用迁移学习，使用已经在大型数据集上预训练过的模型作为起点。
- 调整超参数：调整学习率、批量大小、优化器等超参数。
- 使用正则化技术：例如L1、L2正则化或者Dropout层，可以减少模型的复杂度并防止过拟化。
- 早停法（Early stopping）：在验证损失不再降低时停止训练。
- 使用更简单的模型：减少模型的层数和神经元数量，以降低模型的复杂度。
下面是一个简单的例子，展示了如何在Keras中使用早停法和Dropout层：
import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Dropout
from tensorflow.keras.callbacks import EarlyStopping
# 创建一个简单的模型
model = Sequential([
Dense(64, activation='relu', input_shape=(input_dim,)),
Dropout(0.5),
Dense(32, activation='relu'),
Dropout(0.5),
Dense(1, activation='sigmoid')
])
# 编译模型
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])
# 设置早停法回调
early_stopping = EarlyStopping(monitor='val_loss', patience=3)
# 训练模型
history = model.fit(
x_train, y_train,
validation_data=(x_val, y_val),
epochs=100,
batch_size=32,
callbacks=[early_stating]
)请注意，您需要根据您的具体问题和数据集调整上述代码。
相关·内容
2回答
这是一个过载的网络吗？
、、、、
我在keras中训练了一个神经网络，得到了这个结果，我想知道这是否太合适了。
我有怀疑，因为我读过，过度拟合是产生时，一个网络是过度训练，它发生时，验证损失增加。
但在这种情况下，它并没有增加。它保持不变，但训练损失减少。
额外信息
以这种方式拆分单个数据集：
70%的数据集用作培训数据
30%的数据集用作验证数据
500时代训练
2000时代训练
培训损失: 3.1711e-05验证损失: 0.0036
浏览 5提问于2017-04-03得票数 2
1回答
我正在TACO数据集上训练一个unet模型，但我的输出出现了问题。我的验证损失比我的训练损失要低得多，我不完全确定这是不是一件好事。由于TACO数据集是一个包含1500个图像的COCO格式数据集，因此我通过让我的train_generator包含图像0-1199和我的val_generator包含图像1200-1499来拆分数据。然后，我使用以下函数扩充我的数据：
def augmentationsGenerator(gen, augGeneratorArgs, seed=None):
# Initialize the image data generator with args pr
浏览 21提问于2020-05-23得票数 1
1回答
解释验证损失
、、、
我是神经网络的新手，我不知道如何准确地解释我得到的验证损失的结果。我正在尝试使用tensorflow对图像进行分类。如果我绘制每个时期之后得到的结果，我会得到以下结果：enter image description here 我的训练精度和验证精度提高了，我的训练损失减少了，但验证损失虽然下降了一些，但并不是非常接近训练损失。 我该如何解释这个呢？我不理解验证损失的变化。验证损失没有像训练损失减少那么多的事实是否意味着我有过度拟合？ (以防万一，我做了25个时期，批量:128，学习率:0.0001，训练/验证分割:0.40) 谢谢你的帮助
浏览 53提问于2020-08-11得票数 1
回答已采纳
添加dropout层使val损失保持在低于训练损失的水平，在这段时间内有一个恒定的泛化差距是例外的吗？ ? 架构如下： tf.keras.layers.CuDNNLSTM(1024,input_shape=(9,41),return_sequences=True) ,
tf.keras.layers.BatchNormalization(),
tf.keras.layers.Dropout(0.4),
tf.keras.layers.CuDNNLSTM(512, return_sequences=True),
tf.keras.layers.BatchNormalization(),
t
浏览 16提问于2019-06-19得票数 0
我有一个非常基本的多类CNN模型，用于将车辆划分为4类[pickup, sedan, suv, van]，这是我使用Tensorflow 2.0 tf.keras编写的：
he_initialiser = tf.keras.initializers.VarianceScaling()
model = tf.keras.Sequential()
model.add(tf.keras.layers.Conv2D(32, kernel_size=(3,3), input_shape=(3,128,128), activation='relu', padding='same&#
浏览 3提问于2020-06-26得票数 0
我现在使用Keras来训练我的LSTM模型来解决时间序列问题。我的激活函数是线性的，优化器是Rmsprop。然而，我观察到的趋势是，当训练损失缓慢减少时，在一个较小的值附近波动，验证损失在很大的方差上上下跳跃。
因此，我提出了两个问题: 1.验证性损失是否影响培训过程？2.如何使模型更稳定，从而使模型返回一个更稳定的验证损失值？
谢谢
浏览 6提问于2017-08-21得票数 0
1回答
我目前正在做一个神经网络项目，我需要一些帮助来理解参数和我的神经网络输出的值之间的关系。
我的目标是训练一个LSTM神经网络来检测语音中的压力。我使用的数据集分为中性声音和压力下声音的声音。为了分类哪些声音含有重音，我从每个帧的声音中提取相关特征，然后将这些信息输入到LSTM神经网络中。
由于我是按帧提取特征，从不同长度的音频文件中提取输出也有不同的长度，与音频持续时间成比例。为了规范神经网络的输入，我使用了填充技术，它包括在每个提取的特征集的末尾添加零，以满足最大的集合大小。
因此，例如，如果我有3个音频文件，每个文件的持续时间: 4，5，6秒，从前两个音频中提取的特征将被填充零以满足第三个
浏览 4提问于2021-03-25得票数 1
我正在训练一个模型，使用作者最初的学习速率(我也使用他们的github )，我得到了一个不断振荡的验证损失，它会减少，然后突然跳到一个很大的值，然后再次下降，但从没有真正收敛到它得到的最低值是2(而训练损失收敛到0.0 -远低于1)。
在每一个时代，我得到训练的准确性，在最后，验证的准确性。验证精度总是大于训练精度。
当我测试真实的测试数据时，我得到了很好的结果，但是我不知道我的模型是否太合适了。我预计一个好的模型的val损失会以类似的方式与训练损失相融合，但这是不可能的，而且val损失有时会波动到非常大的值，这让我很担心。
通过调整学习速度和调度器等，我将val损失和训练损失
浏览 0提问于2019-03-26得票数 9
回答已采纳
我目前正在尝试TensorFlow和机器学习，作为一个挑战，我决定尝试并在Kaggle网站上编写一个机器学习软件，它可以分析脑部MRI扫描结果，并预测肿瘤是否存在。我用下面的代码这样做了，并开始训练模型。然而，在训练过程中显示的文本显示，没有一个损失值(训练或验证)具有正确的值，并且精确度平坦，或在两个数字之间波动(每次相同的数字)。
我看过其他帖子，但找不到任何能给我提示的东西。我更改了损失函数(从sparse_categorical_crossentropy改为binary_crossentropy)。但这些都不会改变这些值。
import numpy as np # linear alg
浏览 2提问于2019-07-30得票数 0
2回答
我正在使用Keras为我的项目训练一个神经网络。Keras提供了一个提前停止的函数。我可以知道应该观察哪些参数以避免通过使用提前停止来过拟合我的神经网络吗？
浏览 2提问于2017-05-11得票数 107
回答已采纳
1回答
我听过很多人谈论其中的一些原因，但他们从来没有真正回答它是否应该是固定的。我检查了我的数据集是否泄漏，并从TFRecords数据集中随机抽取了20%的验证集。我开始怀疑我的模型有太多的正则化层。我应该减少我的正规化，以使验证线之上的训练线？还是真的很重要？
浏览 0提问于2021-06-12得票数 0
回答已采纳
2回答
我正在努力理解keras模型是如何工作的。 当我们训练模型时，我们给出指标(如“准确性”)和损失函数(如交叉熵)作为参数。我想知道的是模型优化的目标是什么。拟合后，leant模型最大限度地提高了准确性？或者最大限度地减少损失？
浏览 30提问于2020-10-27得票数 0
1回答
根据Keras文档的说法，sample_weight可以用于训练数据中的任何样本在损失中的不同重要性。
我在谷歌上搜索了一下，但没有找到我的问题的答案如下：
sample weights是否参与衍生产品？换句话说，Keras是使用这些权重来训练模型，还是只产生不同的损失值？即，导数是“静态”计算的w.r.t。对“未加权”损失？
因为损失函数实际上并不是基于样本权重来定义的，所以它只是(作为参数)传递给Keras中的fit函数。
浏览 0提问于2020-03-21得票数 6
我想用keras的预训练模型进行迁移学习
import tensorflow as tf
from tensorflow import keras
base_model = keras.applications.MobileNetV2(input_shape=(96, 96, 3), include_top=False, pooling='avg')
x = base_model.outputs[0]
outputs = layers.Dense(10, activation=tf.nn.softmax)(x)
model = keras.Model(inputs=base
浏览 0提问于2019-07-30得票数 1
3回答
在Keras中，我试图训练一个包含3个变量的虚拟函数的回归模型，在Keras中，训练损失总是远远高于验证损失。
我将数据集分成2/3用于培训，1/3用于验证。我尝试过很多不同的东西：
改变架构
加入更多的神经元
使用正则化
使用不同的批次尺寸
然而，训练误差比验证误差高出一个数量级：
Epoch 5995/6000
4020/4020 [==============================] - 0s 78us/step - loss: 1.2446e-04 - mean_squared_error: 1.2446e-04 - val_loss: 1.3953e
浏览 0提问于2018-05-17得票数 1
2回答
我在为Kaggle做一场比赛。首先，我用竞赛数据集训练了隆弗基地，并在领奖板上取得了很好的成绩。由于数据自动化系统的记忆限制和时间限制，我只能训练出两个批次大小为1的时代，损失开始在2.5左右，在训练结束时逐渐减少到0.6。
然后，我继续训练了两个时代，使用这节省的重量。这一次，我使用了稍微大一点的学习速率(在longer论文上的学习速率)，并将验证数据添加到培训数据中(这意味着我不再拆分数据集90/10)。我这么做是为了争取一个更好的结果。
然而，这一次的损失开始于0.4，在第一个时期的大约一半时间里不断增加到1.6。我停下来是因为我不想浪费计算资源。
我还应该再等吗？它最终能带来更好的测试
浏览 11提问于2022-01-11得票数 0
回答已采纳
在训练神经网络时，我经常使用“早期停止”，例如在喀拉斯中：
from keras.callbacks import EarlyStopping
# Define early stopping as callback
early_stopping = EarlyStopping(monitor='loss', patience=5, mode='auto', restore_best_weights=True)
# ...THE MODEL HERE...
# Call early stopping in .fit
history = model.fit_g
浏览 0提问于2020-05-07得票数 8
回答已采纳
有没有可能运行我的深度学习，在训练过程中的某个时候，我的验证损失会低于我的训练损失？我附上了训练过程的代码： def train_model(model, train_loader,val_loader,lr):
"Model training"
epochs=100
model.train()
train_losses = []
val_losses = []
criterion = nn.MSELoss()
optimizer = torch.optim.Adam(model.param
浏览 457提问于2021-11-21得票数 0
回答已采纳
我有一个包含160个类别的160k图像的数据集，我正在尝试使用CNN对它们进行分类。在120k图像上进行20个时期的训练，开始时损失约4.9，val_loss约为4.6，经过20个时期后，损失分别提高到3.3和3.2。我真的试图阅读Keras的文档，并理解这意味着什么，但我不能，所以我问是否有人可以在我的模型的上下文中向我解释这对我的模型意味着什么。我的意思是损失分数代表了什么？它对这个模型说了什么？
num_classes = 154
batch_size = 64
input_shape = (50,50,3)
epochs = 20
X, y = load_data()
# inpu
浏览 6提问于2018-02-10得票数 0
1回答
我有一个非常小的数据集来训练，我正在训练这个模型，如下所示：
import numpy as np
import pandas as pd
from sklearn import preprocessing
data = pd.read_csv("house.csv")
x=data.iloc[:,0:3]
y=data["price"]
sd=preprocessing.scale(x)
#print(sd)
#print(data.head())
#
from keras.models import Sequential
from keras.layer
浏览 16提问于2020-03-13得票数 0
my_model = models.Sequential()
#first convolutional block
my_model.add(Conv2D(16, (3, 3), input_shape = (178, 218, 3), activation="relu", padding="same"))
#add dropout
my_model.add(Dropout(0.5))
my_model.add(MaxPooling2D((2, 2), padding="same"))
#second block
my_model.
浏览 3提问于2021-06-03得票数 0
回答已采纳
1回答
我有4个班级，每个班级有1350张图片。验证集具有总图像的20% (它是自动生成的)。训练模型使用MobilenetV2网络：
base_model = tf.keras.applications.MobileNetV2(input_shape=IMG_SHAPE, include_top=False, weights='imagenet')
模型创建完成：
model = tf.keras.Sequential([
base_model,
tf.keras.layers.Conv2D(32, 3, activation='relu', kernel_
浏览 2提问于2020-10-02得票数 0
我见过一些帖子在一对一的样本上谈论Keras模型的训练.我也从这些帖子中了解到，Keras模型将更新模型权重，即使是在逐个训练的基础上。那么，在这种情况下，现在的问题是，我们如何提供验证拆分，以及我们如何绘制模型的验证图，因为我们不是将整个数据集提供给我们的模型，而是逐行提供数据集？
reduce_lr = tf.keras.callbacks.LearningRateScheduler(lambda x: 1e-3 * 0.90 ** x)
model.compile(optimizer=keras.optimizers.Adam(clipnorm=1.0, clipvalue=0.5),
浏览 1提问于2021-08-14得票数 1
回答已采纳
我正在使用Keras使用model.train_on_batch(x_batch，y_batch)开发在线学习应用程序。我试着递增地添加培训数据，并列出测试和培训的损失。结果如下，
很高兴看到测试损失正在减少，但正如我在Andrew Ng的ML类中了解到的那样，如果我有一个像DNN这样的强大模型，那么训练损失应该会随着我递增地添加更多的训练数据而增加，而测试损失应该会减少。所以我真的很困惑。他幻灯片的屏幕截图下面。
浏览 3提问于2017-03-30得票数 4
回答已采纳
我在Keras模型上使用以下回调函数，并将最小增量初始化为0.002，因此根据Tensorflow/Keras的文档，验证损失函数中小于0.002的任何改进都不会被计算为改进。然而，在我的情况下，这似乎没有得到实现。
回调函数：
def callback(folder_path, saved_model_name, patience_value, logdir, hparams):
# Initialize parameters
monitor_metric = 'val_loss'
minimum_delta = 0.002
pati
浏览 2提问于2020-07-15得票数 0
简言之：
我已经训练过一个自动编码器，它的验证损失总是高于它的训练损失(见附图)。
我认为这是一个过度适应的信号。但是，我的自动编码器在测试数据集上表现良好。我在想，如果：
1)参照下文提供的网络体系结构，任何人都可以深入了解如何减少验证损失(以及验证损失如何可能大大高于培训损失，尽管自动编码器在测试数据集上的性能良好)；
2)如果培训和验证损失之间存在这样的差距实际上是一个问题(当测试数据集上的性能实际上很好时)。
详情：
我用Keras编码了我的深层自动编码器(下面的代码)。该体系结构为2001 (输入层)- 1000 - 500 - 200 - 50 - 200 - 500 - 100
浏览 1提问于2019-10-10得票数 0
我正在尝试训练一个LSTM模型，我还绘制了训练测试精度和训练测试损失的图表，正如您从我附加的图像中所看到的那样。
让我担心的是这些情节很嘈杂。根据我的理解，如果我错了，请纠正我，噪音意味着我过度拟合我的模型，它不能学习。我说的对吗？
谢谢。
浏览 0提问于2021-07-18得票数 0
1回答
最后的训练步骤可能没有最低的损失，如果损失波动。
我想知道，如果对Keras中的模型进行了验证，那么Keras是如何选择最终模型的？
有吗？
通过从整个培训过程中选择对验证数据损失最小的模型来选择Keras
或
Keras从最终的培训步骤中选择最终模型，而不管最终模型是否给出验证数据的最小损失？
谢谢。
浏览 3提问于2020-12-18得票数 2
回答已采纳
我有一个问题，就是我很难理解导致这些结果的概念。我使用角面密集层将13个输入特性映射到3个输出标签。在训练过程中，即使在2000年代以后，训练数据的损失(RMSE)也会不断减少。但是，如图中所示，验证数据的损失在大约200个历次之后不再减少。
现在，我根本不明白的是，考虑到培训和验证数据对于所有13个输入特性和3个输出标签的分布(几乎)完全相同，您如何解释这个结果。它们是从相同的分布中提取的。为了说明，我为一些输入特性和输出标签(和内核密度函数)绘制了直方图，如下所示：
如果您想查看所有输入特性和输出标签的直方图，您可以在这里找到它们(在trai的所有分布中，有效数据集和
浏览 3提问于2022-05-16得票数 1
3回答
当我试图训练的神经网络的验证误差慢慢减小，但没有太多的减少时，是否可以在这一点上停止训练，还是需要增加训练时间直到达到最小的验证误差？
例如，在过去的5个时代中，我的验证错误如下所示：
| end of epoch 1 | time: 3782.50s | valid loss 6.7914 | valid ppl 890.1194
| end of epoch 2 | time: 3802.14s | valid loss 6.6084 | valid ppl 741.2616
| end of epoch 3 | time: 3791.33s | valid loss 6.52
浏览 0提问于2020-03-13得票数 0
回答已采纳
1回答
我正在尝试建立一个对水果进行分类的CNN。我一直在经历高损失值，我正试图尽可能地减少它，但我不确定如何进一步改进我的模型。
下面是我的代码：
model96 = tf.keras.Sequential()
#Architecture
model96.add(tf.keras.layers.Conv2D(filters = 32,
kernel_size = (3, 3),
activation = "relu",
浏览 25提问于2021-11-24得票数 0
2回答
我正在为回归建立一个深度学习模型：
model = keras.Sequential([
keras.layers.InputLayer(input_shape=np.shape(X_train)[1:]),
keras.layers.Conv1D(filters=30, kernel_size=3, activation=tf.nn.tanh),
keras.layers.Dropout(0.1),
keras.layers.AveragePooling1D(pool_size=2),
keras.layers.Conv1D(filters=20, k
浏览 6提问于2022-07-15得票数 -2
利用matlab训练二值分类神经网络模型，给出了在隐层中使用20个神经元得到的图。交叉熵与年代之间的混淆矩阵和图。
为了防止模型中的过度拟合，损失图中的训练曲线应该与验证曲线相似。
但在目前的情况下，第三张图显示了验证曲线与训练相似的曲线，尽管与上述曲线中两条曲线的分叉曲线相比，总体精度较低。
WHy，这是正在发生的，我在理解这些曲线时做错了什么？
📷
📷
📷
📷
浏览 0提问于2018-05-19得票数 3
3回答
如何配置Keras以停止训练，直到收敛或损失为0时？我强烈地想要让它变得更合适。我不想设置纪元数。我只想让它在收敛的时候停下来。
浏览 2提问于2018-11-26得票数 7
1回答
如何训练分类CNN？
、、、、
我目前正在尝试训练一个模型来进行鸟类种类识别。这个模型稍后将被转换并托管在Arduino nano 33BLE上，靠近鸟类来吃的地方。 为了训练我的模型，我使用kaggle API使用包含250个物种的数据集，这些数据集分为训练集、验证集、测试集。图像为.jpg 224x224RGB。为了简化数据标签，我使用了Keras预处理工具，它允许我根据文件夹对数据进行标签，这非常有效。 下面是预处理过程： from tensorflow.keras.preprocessing.image import ImageDataGenerator
# All images will
浏览 1提问于2021-01-22得票数 1
1回答
我很难理解LSTM模型的性能，因为我将我的模型总结如下：
X_train.shape
(120, 7, 11)
y_train.shape
(120,)
X_test.shape
(16, 7, 11)
y_test.shape
(16,)
model = keras.Sequential()
model.add(keras.layers.LSTM(100, input_shape=(X_train.shape[1], X_train.shape[2]), return_sequences = True))
model.add(keras.layers.Dropout(rate = 0.2
浏览 0提问于2020-04-02得票数 1
2回答
我正在用tensorflow训练以下NN：
def build_model():
inputs_layers = []
concat_layers= []
for k in range(k_i, k_f+1):
kmers = train_datasets[k].shape[1]
unique_kmers = train_datasets[k].shape[2]
input = Input(shape=(kmers, unique_kmers))
inputs_layers.append(input)
x = Dense(4, activ
浏览 6提问于2022-02-21得票数 0
1回答
我在遵循，但遇到了一个问题，即学习与我训练的网络停滞不前，在一个次优解决方案中，将所有图片放在一个类别中。我的第一个想法是，这是由于训练图片在类别()中的分布不平衡，所以我删除了足够多的训练图片，以便每个类别中保留相同数量的图片。然而，问题并没有改变。接下来，我尝试了不同的损失函数，不同的指标，不同的优化器和我的模型的不同层结构，没有任何改进。我的模型在训练后仍然将所有图片放在一个类别中。任何想法都是非常受欢迎的。
这是我尝试过的一个模型：
model = keras.Sequential([
keras.layers.Flatten(input_sha
浏览 1提问于2020-01-17得票数 0
3回答
我为某一层定义了一个自定义变量。我希望这个变量只接受正值。Keras提供了约束，但在我看来，它们只适用于Keras层的kernel_constraint和bias_constraint参数。
在Keras (和TensorFlow)中，有没有一种(简单的)方法来约束自定义可训练变量(即用add_weight方法创建的变量)的值？
浏览 0提问于2020-04-21得票数 1
1回答
我正在用tensorflow做一些测试，我无意中发现了一种非常奇怪的行为。这是我的密码
fashion_mnist = tf.keras.datasets.fashion_mnist
(train_images1, train_labels), (test_images, test_labels) = fashion_mnist.load_data()
train_images = train_images1[:32] / 255.0
train_labels = train_labels[:32]
test_images = test_images / 255.0
batch_size =
浏览 0提问于2021-02-09得票数 0
回答已采纳
1回答
如果在神经网络中，训练和验证损失很低，但是预测(所以使用测试集上的模型)很差，这意味着什么？
神经网络架构：
model = tf.keras.Sequential()
model.add(Masking(mask_value=0., input_shape=(timesteps, features)))
model.add(Bidirectional(LSTM(units=100, return_sequences=True, dropout=0.5, recurrent_dropout=0.5), input_shape=(timesteps, features)))
model.add(
浏览 0提问于2020-04-14得票数 1
我的Keras-Tensorflow模型的行为如下图所示。我可以看到训练和验证损失表现良好，但训练和验证的准确性相当不正常。我认为验证数据集可能比训练集更容易。因此，我得到了很高的验证准确率。我期待着你的善意的建议。
<code>B0</code>
浏览 16提问于2020-03-18得票数 0
回答已采纳
我正在用keras建立一个简单的机器学习模型。我希望建立模型来进行标量回归。我所建立的模型在经历了大约9个时代之后，在训练损失上达到了惊人的收敛速度。训练数据包括约84000个由6个特征组成的例子。
我运行的模型为100个时代，批量大小为250。我正在使用一个验证集，它是训练集的20%。
因为我在我的本地机器上运行这个(单CPU，没有GPU)，所以我希望它需要更长的时间才能收敛，这有什么原因吗？
下面是模型的定义：
def regression_model():
model = keras.Sequential()
model.add(layers.Dense(64, act
浏览 2提问于2019-04-03得票数 1
回答已采纳
我有几个相同的神经网络的实现，但每个实现都有不同的起始参数。
这是我将基础实验的训练损失与另一个实验的训练损失进行比较的图之一。
我还有其他的例子：
谁可以给我一些关于如何理解keras fit()的输出的说明？请注意，我没有任何验证集。
谢谢
浏览 2提问于2019-06-28得票数 0
1回答
我目前正在尝试建立一个CNN，它可以检测病人是否有贪心引起的疼痛，不管我改变了什么参数，模型的准确性都保持在49%/50%，所以它基本上是无用的，因为它和抛硬币一样。这是我的代码，我想我应该尝试使用VGG-16型号。
from tensorflow.keras.optimizers import Adam
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense, Conv2D, MaxPool2D, GlobalAveragePooling2D
from tensorflo
浏览 1提问于2020-10-09得票数 0
1回答
为了学习更多关于数据科学的知识，我从网络上抓取了一些有标签的数据，并试图将示例分类为三个类中的一个。我遇到了一个问题，无论我尝试哪种模型，我的验证损失都会减少，而我的训练损失会继续减少(见下面的图)。
📷
一些可能相关的说明：
我有大约15,000(3,000)个培训(验证)的例子。
对于培训和验证集，标签大致均匀分布和分层( 1: 35%，2: 34%，3: 31%)。
我有73个特征，包括:10个数字特征，8个转换为43个热编码特征的分类特征，以及一个20维文本嵌入。
如果将PCA应用于这73个特征(保持99%的方差使特征数减少到22个)，我会得到类似的结果。
这里显示的图使用的是XGBo
浏览 0提问于2020-11-17得票数 0
在培训期间，我在Keras中使用fit_generator(data_generator, steps_per_epoch=total/batch_size, epochs=epochs, verbose=2,callbacks=mylist)，而我不知道如何在训练时让它打印训练的准确性？好像是在没有任何信息的情况下进行训练.
浏览 7提问于2017-11-11得票数 0
回答已采纳
1回答
我用100000个样本在Keras中训练了一个通用模型，并取得了良好的性能。然后，对于特定样本，我希望使用训练的权重作为初始化，并继续优化权重，以进一步优化特定样本的损失。
然而，出现了这个问题。首先，我通过keras轻松地加载训练过的权重，然后对一个特定样本的损失进行评估，该损失与模型训练过程中验证损失的损失非常接近。我认为这是正常的。然而，当我使用训练后的权重作为输入，并进一步优化model.fit()对一个样本的权重时，损失是非常奇怪的。比评价结果高得多，经过几个时期后逐渐恢复正常。
我认为奇怪的是，对于同一个简单的和加载相同的模型权重，为什么model.fit()和model.eval
浏览 0提问于2018-12-23得票数 0
我训练了一个50年代的模型，按照以下比例分割数据集：
X_train，Y_train = 70%
X_validation，Y_validation = 20%
X_test，Y_test = 10%
所有的拆分都是使用train_test_split(shuffle=True) keras函数完成的：
X = np.load(....)
Y = np.load(....)
# Split on training and validation
N_validation = int(len(X) * 0.2)
X_train, X_validation, Y_train,
浏览 1提问于2021-01-08得票数 1
回答已采纳
2回答
我正在尝试用mnist数据集训练一个简单的神经网络。由于某种原因，当我获得历史(从model.fit返回的参数)时，验证精度高于训练精度，这真的很奇怪，但如果我在评估模型时检查分数，我会获得比测试精度更高的训练精度。
无论模型的参数是什么，每次都会发生这种情况。此外，如果我使用自定义回调并访问参数'acc‘和'val_acc'，我会发现同样的问题(这些数字与历史记录中返回的数字相同)。
请帮帮我!我做错了什么？为什么验证准确率高于训练准确率(您可以看到我在查看损失时也有同样的问题)。
这是我的代码：
#!/usr/bin/env python3.5
from
浏览 1提问于2017-07-17得票数 16
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
