基于AudioKit的量化序列 - 腾讯云开发者社区 - 腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

轻量化的长时间序列预测模型

例如，基于Transformer的模型通常有数百万甚至数千万个参数，这限制了它们在计算资源受限的场景中的实用性。...文章提出了一种新的设计轻量级LTSF模型的视角，即通过分解和转换原始序列的周期性和趋势，将周期模式转换为子序列间的动态，而趋势模式则重新解释为子序列内的特征。 ...SparseTSF模型基于交叉周期稀疏预测技术，这一技术是SparseTSF的核心，通过下采样原始序列结合通道独立策略来专注于跨周期趋势预测，有效地提取周期特征，同时最小化模型的复杂性和参数数量。...然后，对这些子序列进行预测。预测后，将 ww 个子序列上采样回完整的预测序列，每个子序列的长度为 m=⌊Hw⌋m=⌊wH⌋。...具体操作为，在矩阵的最后一个维度上应用线性层，得到 w×mw×m 的矩阵。上采样：将预测出的子序列结果上采样回原始序列的长度，以得到完整的预测序列。

1811 0

基于梯度下降的单词向量化

情感分析是一个必不可少的工具，用于许多不同的任务。这包括从基于tweets预测股市情绪，到预测客户自动生成响应。Google的Word2Vec运行良好，但有一个很大的问题。它需要大量的数据集。...如果要找到、规范化并使用足够的质量数据来让程序正常工作，那将是一场噩梦，使我无法在自己的项目中实现这一点经过一段时间的思考，提出了一种将单词转换成向量的技术，是使用了与Google使用的Word2Vec...概念让我们回到我们的最终目标：将一个单词转换成向量。向量作为程序的直接输出是困难的，这是由于在系统中训练两个同等权重的变量(就像向量的情况一样)。所以我们的最终输出是一个单数值。...步骤5 |向量化、传播和训练： def sigmoid(x): return 1/(1+np.exp(-x)) def sigmoid_p(x): return sigmoid...在我们所看到的所有向量中，它们都是相对于原点的。如果我们认为X轴代表情绪的严重程度，而y轴代表积极/消极，我们就知道原点是完全中性的。

5122 0

您找到你想要的搜索结果了吗？

是的

没有找到

Two Sigma：序列深度学习与量化投资

David kriegman教授在本次网络研讨会，阐明Two Sigma研究人员如何将序列深度学习应用于量化投资。...正如David Kriegman解释的那样，量化投资过程地分为特征提取、预测单个资产的收益、投资组合配置和交易执行等步骤。...图片来自：Two Sigma 接下来的分享分为两大部分：第一部分介绍了Two Sigma的量化投资的流程线，以及各流程中与深度学习结合的过程；第二部分介绍了常见的用于序列预测的深度学习模型。...可以看到，这还是一个传统的因子模型的构建流程，只不过在不同的流程中找到了深度学习的应用场景。所以整体还是基于传统投资框架，用深度学习进行局部优化与提升。...但在量化投资的应用并没有深度学习那么广泛。

9884 0

基于StockRanker算法的机器学习量化策略

机器学习被评为人工智能中最能体现人类智慧的技术，机器学习在量化金融中的运用我们通过下例介绍，以便大家有个直观印象。...基于历史观测数据，我们可以求解下列的最化问题来得到参数Θ 的估计值。求解（1.1）过程称作模型训练（Model Traing）。基于特征变量的最新观测值和训练出来的模型参数就可以预测y的数值。...StockRanker算法是专为选股量化而设计，核心算法主要是排序学习和梯度提升树 StockRanker的图示 StockRanker的特点选股：股票市场和图像识别、机器翻译等机器学习场景有很大不同...Learning)，比如推荐系统的候选产品、用户排序，搜索引擎的文档排序，机器翻译中的候选结果排序等等。...如何使用StockRanker算法开发量化策略在BigQuant人工智能量化平台上，直接拖曳不会编程就能开发AI量化策略。

1.8K6 0

用python做时间序列预测七：时间序列复杂度量化

本文介绍一种方法,帮助我们了解一个时间序列是否可以预测，或者说了解可预测能力有多强。...而实际上A总是小于等于B的，所以A/B越接近1，预测难度越小，直觉上理解，应该就是波形前后部分之间的变化不大，那么整个时间序列的波动相对来说会比较纯(这也是熵的含义，熵越小，信息越纯，熵越大，信息越混乱...)，或者说会具有一定的规律，而如果A和B相差很大，则时间序列波动不纯，或者说几乎没有规律可言。...python实现 def SampEn(U, m, r): """ 用于量化时间序列的可预测性 :param U: 时间序列 :param m: 模板向量维数 :...param r: 距离容忍度，一般取0.1~0.25倍的时间序列标准差，也可以理解为相似度的度量阈值 :return: 返回一个-np.log(A/B)，该值越小预测难度越小 """

2.1K1 0

基于重排序的新量化方法RPTQ：实现大型语言模型的 3 比特量化

机器之心专栏机器之心编辑部作者提出了一种新颖的基于重排序的量化方法 RPTQ，解决了量化大型语言模型激活的问题。...作者提出了一种新颖的基于重排序的量化方法 RPTQ，解决了量化大型语言模型激活的问题。RPTQ 通过重新排列激活中的通道，然后将它们分簇进行量化，从而降低通道范围差异的影响。...为了解决激活中通道差异的问题，作者提出了一种新颖的基于重新排序的训练后量化方法 RPTQ。如图 2 所示，该方法将数值范围相似的通道聚类在一起，然后对每个聚类中的值使用相同的量化参数进行量化。...为了实施基于重排序的量化方法，作者首先使用校准数据集作为推理输入，从中导出每个激活通道的最大值和最小值。...表中展示了不同设置下的内存使用情况，可以发现较低比特的激活可以显著减少内存使用，特别是在批次大小和序列长度较大的情况下。

5662 0

基于 Prophet 的时间序列预测

预测未来永远是一件让人兴奋而又神奇的事。为此，人们研究了许多时间序列预测模型。然而，大部分的时间序列模型都因为预测的问题过于复杂而效果不理想。...这是因为时间序列预测不光需要大量的统计知识，更重要的是它需要将问题的背景知识融入其中。...总之，传统的时间序列预测在模型的准确率以及与使用者之间的互动上很难达到理想的融合。...2.2适用场景前文提到，不同时间序列预测问题的解决方案也各有不用。...其中g(t)表示增长函数，用来拟合时间序列中预测值的非周期性变化；s(t)用来表示周期性变化，比如说每周，每年中的季节等；h(t)表示时间序列中那些潜在的具有非固定周期的节假日对预测值造成的影响。

4.5K10 3

【Python量化投资】基于单因子的Alpha预测

AlphaHorizon介绍 - 以非流动性因子ILLIQ为例名称解释：AlphaHorizon是优矿团队实现的基于单因子的Alpha研究和实现一种过程和方法。...，再取时间序列平均。...还可以计算最好与最坏的分位数组合的平均超额收益之差，并作为时间序列画出来做多最好的分位数组合，同时做空最坏的分位数组合；下图给出这一策略的累积收益曲线 3）信息系数分析信息系数衡量的是因子对股票横截面超额收益率的预测能力...，2014年11月和12月IC出现显著为绿色的情况，是因为这一段时间小盘股表现明显弱于大盘股，而ILLIQ有小盘股暴露 4）换手率分析计算因子换手率可以展示出因子的时间序列稳定性，侧面反映出使用该因子做策略时候的调仓成本等...；直方图中不同的颜色代表不同的调仓周期总结性表格对不同调仓周期，以因子值为权重构建多空组合，得到的策略回测结果的统计本次因子的分析借助优矿量化平台实现。

2.8K6 0

基于序列模型的随机采样

对于目前基于神经网络的序列模型，很重要的一个任务就是从序列模型中采样。比如解码时我们希望能产生多个不一样的结果，而传统的解码算法只能产生相似的结果。...本文回顾了一系列常用的序列模型采样方法，包括基于蒙特卡洛的随机采样和随机束搜索，以及最近提出的基于Gumbel-Top-K的随机束搜索。表1展示了这三种方法各自的优缺点。...图4 束搜索最终结果序列模型中的随机采样从序列模型中采集多个样本有两种经典的方法：基于蒙特卡洛的随机采样和基于蒙特卡洛的束搜索。...基于蒙特卡洛的随机采样在序列模型中采样的最简单方法就是在贪婪搜索的基础上，在每一步挑选下一个词的时候不是根据它们相应的得分而是根据模型输出的下一个词分布来随机选取一个，这样重复到固定长度或者挑选到句子结束符时停止...因为每一步都挑选了不同的词，因此最终产生的K个候选序列都不会相同，从而达到了高效采集K个样本的目的。但是基于蒙特卡洛的随机束搜索也面临着方差的问题。

8892 0

而基于CPU上的向量化运算的技术

因为GPU硬件加速要在一定密度的运算量之上才能够有比较明显的加速效果。比如说我们只是计算两个数字的加和，那么是完全没有必要使用到GPU的。...但是如果我们要计算两个非常大的数组的加和，公务员遴选那么这个时候GPU就能够发挥出非常大的价值。因为这里我们的案例中只有4个原子，因此提示我们这时候是体现不出来GPU的加速效果的。...我们仅仅关注下这里的运算结果，在不同体系下得到的格点结果是一致的，那么接下来就可以对比一下几种不同实现方式的速度差异。其中最普通的for循环的实现效率比较低下，从算法复杂度上来讲却已经是极致。...而基于CPU上的向量化运算的技术，可以对计算过程进行非常深度的优化。当然，这个案例在不同的硬件上也能够发挥出明显不同的加速效果，在GPU的加持之下，可以获得100倍以上的加速效果。...注：其他格式的图片也是同样的做法，其他格式转成RGB或者YUV格式数据交给SDL显示表面。通过对前面分类的小结，我们知道，Java 是一种面向对象、静态类型、有虚拟机、有 GC 的高级语言。

8072 0

基于OneFlow实现量化感知训练

❝【GiantPandaCV导语】本文介绍了量化感知训练的原理，并基于OneFlow实现了一个量化感知训练Demo，并介绍了在具体实现中的各种细节。...希望对想学习量化感知训练的读者有用，本文仅做学习交流。 0x0. 前言这篇文章主要是讲解一下量化感知训练的原理，以及基于OneFlow实现一个Demo级别的手动量化感知训练。 0x1....TensorRT的后量化方案，他们都会基于原始数据和量化数据的数值范围算出一个缩放系数scale和零点zero_point，这个zero_point有可能是0（对应对称量化），也有可能不是0（对应非对称量化...基于OneFlow量化感知训练AlexNet 下面以AlexNet为例，基于OneFlow的三个量化组件完成一个量化感知训练Demo。...总结本文分享了笔者最近的一项工作，基于OneFlow Eager版本做量化感知训练，目前手动做量化感知训练对用户没有友好性。

8553 0

基于LMDeploy部署大模型和量化

TurboMind 是一款关于 LLM 推理的高效推理引擎，基于英伟达的 FasterTransformer 研发而成。...KV Cache 是对序列生成过程中的 K 和 V 进行量化，用以节省显存。我们下一部分会介绍具体的量化过程。当显存不足，或序列比较长时，建议打开此开关。...3.1 KV Cache 量化 3.1.1 量化步骤 KV Cache 量化是将已经生成序列的 KV 变成 Int8，使用过程一共包括三步：第一步：计算 minmax。.../quant_output 命令中 w_bits 表示量化的位数，w_group_size 表示量化分组统计的尺寸，work_dir 是量化后模型输出的位置。...Server 端推理一般用非量化版本或半精度、BF16、Int8 等精度的量化版本，比较少使用更低精度的量化版本。端侧推理一般都使用量化版本，且大多是低精度的量化版本。这主要是因为计算资源所限。

1.4K0 0

CVPR 2021 | LCQ：基于低比特量化精度提升的可学习压扩量化方法

LCQ：基于低比特量化精度提升的可学习压扩量化方法本文是日本冲电气集团（Oki Electric Industry）发表在CVPR 2021上的关于非均匀量化的文章，通过提出可学习的压扩函数灵活而非均匀地控制权值和激活的量化级别...简介深度神经网络(DNNs)已经成功地应用于基于图像的任务，如图像分类和目标检测，但由于需要大量的乘法累积(MAC)操作和参数，它们在资源受限的移动或边缘设备上的实现仍然困难。...本文的方法是基于广泛应用于电信和信号处理的压缩扩展技术，通过非线性限制输入信号的动态范围来减小输入信号的位宽。...虽然这样的映射是通过一个不可微的步进函数来执行的，但是 STE 经常被用于近似梯度计算和基于 backpropagation 的参数更新。...Clipping 的反向传播本文估计裁剪参数 α 基于训练，具体地根据量化器的梯度更新α，表示为：注意 α 是与扩展参数 θ 联合训练的。

2.5K2 1

用 AI 识别基因，从向量化 DNA 序列开始

然而传统的核酸序列比对方法有着诸多限制，并不适用于大规模的数据 [1] ，这使现实应用不得不在成本和准确率中做出取舍。为缓解核酸序列数据特性的掣肘，向量化是面对大量 DNA 序列时的一个更优选择。...经过 k-mer 之后，一条长度为 s 的长序列就被转换成了（s-k+1）个短序列。通过调节k的值，可以提高模型的准确性。转换后的短序列可以更好地进行数据读取、特征提取、向量化。...向量化向量化 DNA 序列的过程其实是将其当作普通文本，一条被 kmer 拆分后的序列就像是一个句子，拆成的单个短序列是一个单词，碱基则对应字符。...应用拓展随着基因大数据的发展和完善，向量化后的 DNA 序列数据能够更好地参与科学研究与实践应用。如果能够结合生物学的专业知识，便可以更合理地向量化 DNA 序列、计算距离、解读结果。...将这些数据通过合适的算法提取特征并向量化后插入 Milvus，计算向量距离并转换成患病概率，就可以实现基于基因序列的人工智能疾病诊断系统。

1.3K2 1

用talib实现基于emv的简易量化投资策略

前两天看到一篇论文《基于EMV指标的量化交易策略在我国A股市场的研究》，想想看我们学习talib中居然没有这个指标，至少目前还没碰见。作者通过EMV指标实现了年化20%的收益。...简易波动指标（EMV），是为数不多的考虑价量关系的技术指标。它是根据成交量和人气的变化，构成一个完整的股价系统循环。...小结：通过上述简易的Demo，我们发现emv指标确实能够捕捉到一些信号。至少会比我盲听别人的观点强的多。作为一个专业搞软件的同学，我觉得咋就搭建一个系统然后做一个EMV策略。...分析一下：emv的周期我设置的是5，maemv的周期设置的是10，当emv和maemv指数均大于0，并且emv指数上穿maemv我们就买入，当emv下穿maven咋就卖出。...每次买入信号来的时候买100股，每次卖出信号来的时候全部卖出。总之在年末我的账面资金是： ? 这里贴一下耗了一下午的策略。

1.8K3 1

GDFQ：基于Data-Free的低比特量化方法

GDFQ 本文是华南理工大学的一个团队发表在ECCV2020上的基于生成器的低比特无数据量化（GDFQ）工作。...为消除数据依赖问题，GDFQ利用知识匹配生成器以利用预训练全精度模型的分类边界知识与分布信息生成有意义的假数据，以实现精度损失较少的低比特无数据量化。...本文贡献在于：提出了一种名为GDFQ的方案，该方案无需任何真实数据即可执行4bit量化。作者提出这是第一个低位宽无数据量化方法。...与现有无数据量化方法相比，在图像分类数据集上的实验证明了我们方法的优越性能。方法设计核心在于设计一种生成伪数据的生成器，以便进行监督学习以提高量化性能。总体框架如下图所示： ?...知识匹配生成器 image.png 训练过程交替优化生成器G和量化模型Q。另外，为了使Q的微调更加稳定，首先仅对G进行几次训练作为预热过程。 ?

1.1K5 0

HAWQ：基于 Hessian 的混合精度神经网络量化

HAWQ：基于 Hessian 的混合精度神经网络量化本文为 UC Berkeley 大学发表在 ICCV 2019上的混合精度量化论文。...而且，HAWQ基于二阶信息为量化层提供了确定性的微调顺序。...因此，提出了一种基于 Hessian 方法来确定不同NN块的微调顺序。...方法海森方法的有效性分析基于最小描述长度(MDL)理论，在给定的阈值下，指定一个平坦区域所需的比特数较少，反之，指定一个具有尖锐曲率的区域所需的比特数较多。...ZeroQ：基于Data-Free的30秒快速量化方法 ? 神经网络低比特量化——LSQ ?

2.9K2 0

基于Python的序列迭代器函数

那么本文就来介绍Python中常用的序列迭代器函数，并提供可运行的源码示例，但愿能够帮助读者更好地理解和运用基于python的这些函数。...序列迭代器函数是一种能够按序访问序列中元素的函数，它通过迭代器的机制，逐个返回序列中的元素，从而实现对序列的遍历和操作。另外，序列迭代器函数可以应用于各种序列类型，如列表、元组和字符串等。...在实际开发中，基于python的序列迭代器函数的应用场景有很多地方，可以说无处不在，这里列举几个比较有代表性的场景，仅供参考。...实现序列迭代器函数的示例源码上面介绍的是局部的常用的序列迭代器函数的使用，那么下面再来分享一个完整的实现序列迭代器函数的源码示例，主要是演示如何使用迭代器函数处理序列数据，具体源码如下所示： # 示例代码...上文也介绍了常用的序列迭代器函数，以及可运行的源码示例，帮助大家更好地理解和应用这一概念，通过灵活运用序列迭代器函数，以及使用迭代器的机制，它能够按序返回序列中的元素，实现对序列的遍历、过滤、转换和惰性计算等功能

3293 5

基于扩散模型的DNA序列设计

通过使用自动编码器将离散DNA序列嵌入到连续的潜在空间，模型能够利用连续扩散模型的强大生成能力来生成离散数据。合成DNA序列设计传统上是基于广泛的实验室实验得出的特定生物数据的工作。...随着这些工作产生的数据量增加，深度生成模型在合成DNA序列生成的新领域中展现出巨大潜力。生成对抗网络（GANs）在合成DNA序列的生成中是一种流行的选择，已有多项研究证明它的功效。...鉴于扩散模型在图像生成、蛋白质合成和电路设计方面的成功应用，将其应用于DNA序列生成可能会产生更高质量的序列。在这“质量”指的是序列的多样性以及捕捉基础分布/基序的能力。...即使随着训练时间的延长，转录起始位点（TSS）峰值的建模得到改进，基于嵌入的方法也倾向于优先考虑DNA序列的整体表达，而不是具体细节。...图 6 图6展示了50,000个生成的和真实DNA序列的染色质剖面。其中，y轴表示与每个剖面对应的序列数量。在这些剖面中，作者突出显示了数量最多的前10个剖面，并省略了细胞系名称以便于清晰呈现。

2271 0

文本摘要生成 - 基于注意力的序列到序列模型

传统的摘要生成系统大部分都是抽取型的, 这类方法从给定的文章中, 抽取关键的句子或者短语, 并重新拼接成一小段摘要, 而不对原本的内容做创造性的修改....下面我们举一个例子来说明训练的过程: ? ? 通过包含编码器并且联合训练这两个组块, 我们根据当前yc对x的不同内容投入不同的关注度, 进而的到更好的结果. 模型结构如下图所示: ? ? ? ?...Step5: 迭代N次, 最终选出可能性最大的一条词序列路径 ? 下面是对Beam Search算法的详细分析, 对原文的Algorithm 1逐条进行解释. Beam Search算法分析 ?...最近谷歌开源了TensorFlow版本的摘要生成程序textsum, Github上的项目. textsum的核心模型就是基于注意力的seq2seq(sequence-to-sequence)模型, textsum...: 读取数据, 调用beam_search解码 beam_search.py: beam search算法的核心程序 textsum程序解析 Google开源的textsum项目的具体算法是基于Hinton

1.2K2 0

点击加载更多

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

运营活动

活动名称

广告关闭