我正在尝试解决一个时间序列预测问题。我尝试了ANN和LSTM,尝试了很多不同的参数,但我只能得到比持久性预测好8%的结果。
所以我想知道:既然你可以在keras中保存模型;是否有任何预先训练的模型(LSTM、RNN或任何其他ANN)用于时间序列预测?如果是这样的话,我如何获取它们?在凯拉斯有吗?
我的意思是,如果有一个包含预训练模型的网站,那将是非常有用的,这样人们就不需要花费太多的时间来训练它们。
类似地,还有一个问题:
可以执行以下操作吗? 1.假设我现在有一个数据集,并使用它来训练我的模型。假设在一个月内,我将访问另一个数据集(对应于相同的数据或相似的数据,将来可能,但不是排他的)。那么是否可以继续训练模型呢?这与批量训练不是一回事。当你批量处理的时候,你在一瞬间就拥有了所有的数据。有可能吗?又是如何做到的?
发布于 2017-10-13 02:52:56
我会先回答你们最后的问题。
到那时还可以继续训练模型吗?这与批量训练不是一回事。当你批量处理的时候,你在一瞬间就拥有了所有的数据。有可能吗?又是如何做到的?
是的,这是可能的。一般来说,它被称为transfer learning。但请记住,如果两个数据集代表非常不同的群体,网络将很快“忘记”它在第一次运行时学到的东西,并将优化到第二次运行。为此,您只需从loaded state开始训练,而不是随机初始化,然后保存模型。还建议在第二次运行时使用较小的学习率,以便逐渐适应新数据。
是否有任何用于时间序列预测的预训练模型(LSTM、RNN或任何其他ANN)?如果是这样的话,我如何获取它们?在凯拉斯有吗?
我还没有找到一个确切的预训练模型,但是快速搜索一下,我发现了几个活动的GitHub项目,您可以运行它们并为自己获得结果:Time Series Prediction with Machine Learning (LSTM,GRU在tensorflow中的实现),LSTM Neural Network for Time Series Prediction (keras和tensorflow),Time series predictions with Keras (keras和theano),Neural-Network-with-Financial-Time-Series-Data (keras和tensorflow)。另请参见this post。
发布于 2021-02-14 14:36:30
现在你可以使用BERT或相关的变体,在这里你可以找到所有预先训练好的模型:https://huggingface.co/transformers/pretrained_models.html
并且可以预先训练和微调RNN,您可以参考本文:TimeNet: Pre-trained deep recurrent neural network for time series classification。
https://stackoverflow.com/questions/46713734
复制相似问题