首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

深度学习在时间序列预测的总结和未来方向分析

基模块试图以自监督的方式确定一组适用于历史和未来时间序列数据的数据基础趋势。basis模块通过对比学习和一个名为InfoNCE loss的特定损失函数(该函数试图学习未来和过去时间序列之间的联系)。...作者在典型的时间序列预测数据集(ETH1, ETH, weather, exchange)上评估他们的论文。...时间序列创建“基础模型”的能力目前还不够完善。多元时间序列预测的一个重要组成部分是学习协变量之间的依赖关系。MTS的维度在不同的数据集之间差异很大。...总结及未来方向分析 在2023年,我们看到了Transformers 在时间序列预测中的一些持续改进,以及llm和多模态学习的新方法。...随着2024年的进展,我们将继续看到在时间序列中使用Transformers 架构的进步和改进。可能会看到在多模态时间序列预测和分类领域的进一步发展。 作者:Isaac Godfried

49210

提升Transformer在不平稳时间序列预测上效果的方法

这篇文章主要针对不平稳时间序列预测问题,提出了一种新的Transformer结构,既能保留原始序列的重要信息,又能消除原始数据的不平稳性,显著提升了不平稳时间序列的预测效果。...Transformer在时间序列预测中的各种应用,可以参考之前的文章如何搭建适合时间序列预测的Transformer模型?...时间序列的不平稳性指的是随着时间的变化,观测值的均值、方差等统计量发生变化。不平稳性会导致在训练集训练的模型,在测试集上效果较差,因为训练集和测试集属于不同时间,而不同时间的数据分布差异较大。...3项:平稳化的方差、Q在时间维度上的均值、平稳化前序列经过Transformer得到的K。...5 总结 本文从一个Transformer在非平稳时间序列预测上的问题出发,提出了简单有效的改进,让Transformer在处理平稳化序列的同时,能够从原始非平稳化序列中提取有用的信息,提升attention

1.2K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    时间序列中的特征选择:在保持性能的同时加快预测速度

    在这篇文章中,我们展示了特征选择在减少预测推理时间方面的有效性,同时避免了性能的显着下降。tspiral 是一个 Python 包,它提供了各种预测技术。...这个时序数据的最后一部分是用作测试使用的,我们会记录其中测量预测误差和做出预测所需的时间。对于这个实验模拟了100个独立的时间序列。...我们使用目标的滞后值作为输入来预测时间序列。换句话说,为了预测下一个小时的值,我们使用表格格式重新排列了以前可用的每小时观测值。这样时间序列预测的特征选择就与标准的表格监督任务一样。...这是一种简单而快速的选择特征的方法,因为我们处理后的数据可以使用通常应用于表格回归任务的相同技术来执行。 在直接预测的情况下,需要为每个预测步骤拟合一个单独的估计器。需要为每个预测步骤进行选择。...它简化了有意义的自回归滞后的识别,并赋予了使用时间序列操作特征选择的可能性。最后我们还通过这个实验发现了如何通过简单地应用适当的滞后选择来减少预测的推理时间。

    66420

    时间序列中的特征选择:在保持性能的同时加快预测速度

    来源:DeepHub IMBA本文约1500字,建议阅读5分钟展示了特征选择在减少预测推理时间方面的有效性。 当我们对数据建模时,首先应该建立一个标准基线方案,然后再通过优化对该方案进行修改。...在这篇文章中,我们展示了特征选择在减少预测推理时间方面的有效性,同时避免了性能的显着下降。tspiral 是一个 Python 包,它提供了各种预测技术。...这个时序数据的最后一部分是用作测试使用的,我们会记录其中测量预测误差和做出预测所需的时间。对于这个实验模拟了100个独立的时间序列。...我们使用目标的滞后值作为输入来预测时间序列。换句话说,为了预测下一个小时的值,我们使用表格格式重新排列了以前可用的每小时观测值。这样时间序列预测的特征选择就与标准的表格监督任务一样。...它简化了有意义的自回归滞后的识别,并赋予了使用时间序列操作特征选择的可能性。最后我们还通过这个实验发现了如何通过简单地应用适当的滞后选择来减少预测的推理时间。

    69120

    2022年深度学习在时间序列预测和分类中的研究进展综述

    时间序列预测的transformers的衰落和时间序列嵌入方法的兴起,还有异常检测、分类也取得了进步 2022年整个领域在几个不同的方面取得了进展,本文将尝试介绍一些在过去一年左右的时间里出现的更有前景和关键的论文...,时间序列预测架构的 Transformer 系列不断发展壮)。...Fedformer:该模型侧重于在时间序列数据中捕捉全球趋势。作者提出了一个季节性趋势分解模块,旨在捕捉时间序列的全局特征。...https://github.com/AIStream-Peelout/flow-forecast 总结 在过去的两年里,我们已经看到了Transformer在时间序列预测中的兴起和可能的衰落和时间序列嵌入方法的兴起...也许Transformer对时间序列预测有好处(也许不是),就像VIT那样如果没有Patch的出现Transformer可能还会被认为不行,我们也将继续关注Transformer在时间序列的发展或者替代

    1.9K42

    时序必读论文15|TimeXer:通过外部变量增强Transformer在时间序列预测中的能力

    实验结果表明,TimeXer在带有外部变量的时间序列预测方面显著提升了性能,并在十二个真实世界预测基准测试中取得了领先的性能。...这里首先给出内生和外生变量的概念定义:内生时间序列代表需要预测的值,而外部变量是影响内生序列的额外因素。...外部变量在实际应用中普遍存在且不可或缺,因为时间序列数据的变化常常受到外部因素的影响,如经济指标、人口变化和社会事件。例如,电价高度依赖于市场的供需情况,仅基于历史数据来预测未来价格几乎是不可能的。...其次,外部因素对内生序列的影响可能是连续的和具有时滞性的。现实世界场景中的时间序列往往是不规则的,外部变量可能会遇到数据缺失、长度不一致和采样时间不一致等问题。...实验结果表明,TimeXer在包含外生变量的短期和长期预测任务中都实现了最先进的性能。

    31010

    ​万字综述 | 图神经网络在时间序列中的应用:预测、分类、填补和异常检测

    在图1中,我们提供了图神经网络在时间序列分析中的概览(GNN4TS)。 相关调查。尽管有越来越多的研究使用GNN执行各种时间序列分析任务,但现有的调查往往集中在特定范围内的特定视角上。...为填补这一空白,本调查提供了一个全面且最新的关于图神经网络在时间序列分析中的回顾,涵盖了从时间序列预测、分类、异常检测到填补等大部分任务。...此外,GNN 能够映射特定数据集中不同时间序列数据样本之间的错综复杂关系。 在接下来的章节中,我们将就单变量和多变量时间序列分类问题提供全新的 GNN 视角。...例如,患者数据通常不仅考虑心率,还包括来自多种健康传感器的时间序列,包括血压传感器、血糖监测仪、脉搏血氧仪等。每个传感器提供了反映患者健康特定方面的独特时间序列。...这种方法有助于区分能够将具有特定神经状况和没有特定神经状况的患者进行分类的复杂模式。 在这两个示例中,变量之间的关系或变量间的依赖关系可以自然地被视为网络图。

    6K40

    R语言高级绘图命令(标题-颜色等)

    (x)如果x是矩阵或是数据框,作x的各列之间的二元图 plot.ts(x)如果x是类"ts"的对象,作x的时间序列曲线,x可以是多元的,但是序列必须有相同的频率和时间 ts.plot(x)同上,但如果x...="n"则设置y-轴但不显示(有助于和axis(side=2, ...)联合使用) 低级绘图命令 R还可以在现有图形(通过高级绘图命令绘制)的基础上增加一些额外的显示,如标题、绘制坐标轴、在特定的位置增加图形...y处画水平线 abline(v=x)在横坐标x处画垂直线 abline(lm.obj)画由lm.obj确定的回归线 rect(x1, y1, x2, y2)绘制长方形,(x1, y1)为左下角,(x2,...,type="n")绘制一个“空白”的图形, 然后用低级函数来添加点,坐标轴,标签等: 低级绘图命令 R还可以在现有图形(通过高级绘图命令绘制)的基础上增加一些额外的显示,如标题、绘制坐标轴、在特定的位置增加图形...y处画水平线 abline(v=x)在横坐标x处画垂直线 abline(lm.obj)画由lm.obj确定的回归线 rect(x1, y1, x2, y2)绘制长方形,(x1, y1)为左下角,(x2,

    6.2K31

    R语言高级绘图命令(标题-颜色等)

    (x)如果x是矩阵或是数据框,作x的各列之间的二元图 plot.ts(x)如果x是类"ts"的对象,作x的时间序列曲线,x可以是多元的,但是序列必须有相同的频率和时间 ts.plot(x)同上,但如果x...(通过高级绘图命令绘制)的基础上增加一些额外的显示,如标题、绘制坐标轴、在特定的位置增加图形(比如辅助线,拟合线)或文字等。...则在各(x1,y1)处画箭头,如果code=3则在两端都画箭头; angle控制箭头轴到箭头边的角度abline(a,b)绘制斜率为b和截距为a的直线abline(h=y)在纵坐标y处画水平线abline...,type="n")绘制一个“空白”的图形, 然后用低级函数来添加点,坐标轴,标签等:低级绘图命令R还可以在现有图形(通过高级绘图命令绘制)的基础上增加一些额外的显示,如标题、绘制坐标轴、在特定的位置增加图形...则在各(x1,y1)处画箭头,如果code=3则在两端都画箭头; angle控制箭头轴到箭头边的角度abline(a,b)绘制斜率为b和截距为a的直线abline(h=y)在纵坐标y处画水平线abline

    4.1K60

    一个时间序列可视化神器:Plotnine

    如果数据点沿对角线密集分布,说明该时间序列存在自相关性,点分布越集中则自相关性越强。如果数据点分散分布,则表明该序列是随机的,前值对后值没有预测作用。...季节子序列图的绘制方法是:根据数据的季节周期,将整个序列分组,每组包含一个完整的季节周期。然后将每个周期的数据值绘制在同一张图上,从而可视化观察序列在不同季节的表现模式。...,索引 23 处发生了一些事件。...这里随意选择了这个特定的时间步骤。但是,你可以使用变化点检测方法来检测重要的时间步骤。 分组密度图 我们绘制了临界点前后的分布图。分布有明显的变化。...分解时间序列图: 将原始序列分解为趋势、周期、残差等不同成分,有助于进一步分析。 滞后散点图: 将当前值与前若干滞后值绘制在散点图上,检验序列的自相关性。

    71921

    【深度学习 | 数据可视化】 视觉展示分类边界: Perceptron模型可视化iris数据集的决策边界

    该函数返回两个二维数组,这些数组中的每个元素都代表了在坐标平面上某一点的 x 和 y 坐标。...这个函数对于在整个坐标空间上进行预测和可视化非常有用,因为它生成了一个包含所有可能组合的坐标点网格。 np.ravel() & np.c_ np.ravel()函数用于将多维数组展平为一维数组。...Y:表示 y 坐标点的二维数组或网格矩阵。 Z:表示对应于 (X, Y) 网格点位置处某种属性(例如,高度、温度等)的数值。...通过传递以上参数给plt.contourf()函数,我们可以生成一个由等高线填充区域组成的图表。其中每个填充区域都代表了相应坐标点处属性数值所在范围内部分。...通过plt.contourf对网格点的每一个预测结果作为其属性画不同颜色等高线实现决策边界的绘制。

    41640

    Python和VizViewer进行自动驾驶数据集可视化

    “场景”由相对于时间的连续观察帧序列组成。场景使用索引列表将其他三个数据表中的每个帧链接到表中的每个记录。 ? 必须注意这种以场景为中心的结构背后的动机。...语义地图可视化 L5预测数据集工具包附带了一个简单的工具,可以将语义地图和场景数据一起可视化。该工具可以采用一组特定的坐标和尺寸来生成道路、车道线和其他标记元素的图像。...此外,在语义映射中对特定属性的可视化搜索可以帮助选择训练集和建模工作流。 特性的增广 如前所述,场景数据库包含场景中物体的空间和方向坐标,这些坐标被组织成一个时间序列的帧。...可配置图表,以各种形式显示数据;时间序列图和直方图用于此特定任务。图和柱状图的复合视图示例如下所示。 ?...通过VV的可配置选择功能,可以在地图上通过点击路径选择特定的场景,显示更多关于场景时间序列数据的细节。在下面的例子中,当场景路径的一部分在左边的地图上被选中时,右面的ego车辆的运动图就会更新。

    2K20

    Python3对股票数据进行分析

    目录 一、量化交易概述 1、量化交易(投资方法) 2、算法交易(自动交易、黑盒交易或机器交易) 3、量化策略 4、量化选股 5、股票回测 二、股票数据 三、股票数据分析 1、导入股票时间序列数据 2、绘制股票成交量的时间序列图...print(stock_data.info()) 2、绘制股票成交量的时间序列图 绘制股票在2013年到2019年的日成交量的时间序列图。...以时间为横坐标,每日的成交量为纵坐标,做折线图,可以观察股票成交量随时间的变化情况。...绘制股票在2016年3月份—2017年12月份的日收盘价和日成交量的时间序列图,因为它们的数值差异很大,所以采用两套纵坐标系来做图。...下面定义了pandas_candlestick_ohlc()函数来绘制适用于本文数据的K线图,其中大部分代码都是在设置坐标轴的格式。

    2.1K21

    实战 | 用 Python 选股票,据说可以多挣个20%

    成交量 换手率:成交量/发行总股数×100% 成交量均量:5、10、20日均量 由于这些指标都是随时间变化的,所以让我们先来观察它们的时间序列图。...时间序列图 以时间为横坐标,每日的收盘价为纵坐标,做折线图,可以观察股价随时间的波动情况。这里直接使用DataFrame数据格式自带的做图工具,其优点是能够快速做图,并自动优化图形输出形式。...下面定义了pandas_candlestick_ohlc()函数来绘制适用于本文数据的K线图,其中大部分代码都是在设置坐标轴的格式。...我之前就警告过,这里的分析只是演示移动平均线策略的思想,而并非真正的投资建议。股票市场是何其的复杂多变,又如何是一个小小的策略所能战胜的呢? 那么这个策略就一无是处吗?非也!...如果考虑更长的时间跨度,比如5年、10年,并考虑更长的均线,比如将20日均线和50日均线比较;虽然过程中也有亏损的时候,但赢的概率更大。也就是说,在更长的时间尺度上该策略也是可行的。

    2.6K60

    R语言分布滞后线性和非线性模型(DLMs和DLNMs)分析时间序列数据

    序言 本文描述的示例涵盖了时间序列数据DLNM方法的大多数标准应用,并探讨了DLNM包用于指定、总结和绘制此类模型。...现在,这些预测已存储在pred1.pm中,可以通过特定的方法对其进行绘制。...在左面板中,其他参数通过ci.arg传递给绘图函数polygon(),绘制阴影线作为置信区间。...在第二个语句中,参数type =“ overall”表示必须绘制整体累积关联,置信区间为线,ylim定义y轴的范围,lwd表示直线的厚度。...第一个表达式中的参数ci =“ n”表示不能绘制置信区间。在多面板图4b中,列表参数ci.arg用于绘制置信区间,将其作为阴影线增加灰色对比度,在此处更加明显。

    12910

    R语言分布滞后线性和非线性模型(DLMs和DLNMs)分析时间序列数据

    本文描述的示例涵盖了时间序列数据DLNM方法的大多数标准应用,并探讨了DLNM包用于指定、总结和绘制此类模型。...现在,这些预测已存储在pred1.pm中,可以通过特定的方法对其进行绘制。...在左面板中,其他参数通过ci.arg传递给绘图函数polygon(),绘制阴影线作为置信区间。...在第二个语句中,参数type =“ overall”表示必须绘制整体累积关联,置信区间为线,ylim定义y轴的范围,lwd表示直线的厚度。...第一个表达式中的参数ci =“ n”表示不能绘制置信区间。在多面板图4b中,列表参数ci.arg用于绘制置信区间,将其作为阴影线增加灰色对比度,在此处更加明显。

    2.8K30

    r语言中对LASSO回归,Ridge岭回归和弹性网络Elastic Net模型实现

    它包括交叉验证曲线(红色虚线)和沿λ序列的上下标准偏差曲线(误差线)。垂直虚线表示两个选定的λ。 我们可以查看所选的λ和相应的系数。...其中λ≥0是复杂度参数,0≤α≤1在岭回归(α=0)和套索LASSO(α=1)之间。 应用坐标下降法解决该问题。具体地说,通过计算βj=β〜j处的梯度和简单的演算,更新为 ? 其中 ? 。...fit = glmnet(x, y, family = "binomial") 像以前一样,我们可以输出和绘制拟合的对象,提取特定λ处的系数,并进行预测。 ?...再次,绘制系数。 ? 像以前一样,我们可以 分别使用coef 和 提取系数并在特定的λ处进行预测 predict。...我们计算默认设置下的求解路径。 绘制系数。 ? 提取特定值λ处的系数。

    6.3K10

    r语言中对LASSO回归,Ridge岭回归和弹性网络Elastic Net模型实现|附代码数据

    它包括交叉验证曲线(红色虚线)和沿λ序列的上下标准偏差曲线(误差线)。垂直虚线表示两个选定的λ。 我们可以查看所选的λ和相应的系数。...原因是沿着正则化路径的解通常是稀疏的,因此使用稀疏格式在时间和空间上更为有效。 可以根据拟合的cv.glmnet 对象进行预测 。让我们看一个示例。...fit = glmnet(x, y, family = "binomial") 像以前一样,我们可以输出和绘制拟合的对象,提取特定λ处的系数,并进行预测。...再次,绘制系数。 像以前一样,我们可以 分别使用coef 和 提取系数并在特定的λ处进行预测 predict。...我们计算默认设置下的求解路径。 绘制系数。 提取特定值λ处的系数。

    3.1K20
    领券