1回答
在伯特纸中，我了解到BERT是只使用编码器的模型，也就是说它只涉及变压器编码器块。我猜有什么区别。我知道编码器和解码器块之间的区别: GPT解码器只查看以前生成的令牌，并向它们学习，而不是在右侧令牌中学习。伯特编码器关注双方的令牌。Q1。one 2，3侧重于新/一/零短期学习。难道我们不能建立新的/一/零短学习模型，像伯特这样只使用编码器的结构吗？
Q2。Huggingfa
浏览 0提问于2021-11-26得票数 8
1回答
我正在使用Python，Tensorflow和Keras在450x450RGB的手表正面图像(例如)上运行自动编码器。我的目标是使用这些图像的编码表示，这些图像是由自动编码器生成的，并将它们进行比较，以找到它们之间最相似的手表。
浏览 15提问于2018-02-23得票数 1
回答已采纳
1回答
import pandas as pdimport matplotlib.pyplot as pltdfeval = pd.read_csv('https://storage.googleapis.com/tf-datasets/titanic/eval.csv
浏览 73提问于2021-03-02得票数 0
回答已采纳
2回答
最近，我了解了解码器-编码器网络和注意机制，并发现许多论文和博客在RNN网络上实现了注意机制。我感兴趣的是，如果其他网络可以结合注意神经网络的例子，编码器是一个前馈神经网络，解码器是一个mechanisms.For。没有时间序列的前馈神经网络可以使用注意机制吗？
浏览 33提问于2019-09-29得票数 0
回答已采纳
1回答
其中400来自one class 1，700来自class 2。我使用了2神经元的一个隐藏层自动编码器来捕捉我的特征。我的初始特征是每个序列的三元组。因此，对于每个序列，我都有6860三元组。现在，经过训练，我在我的500序列测试数据上尝试了编码器，并提取了二维数据的隐藏层。然后使用该数据对另一个5个神经元的单隐层神经网络进行分类。我的结果真的很好，因为我可以避免90%的准确性。我的问题是，我的自动编码器是不是太适合了？我使用另一个神经网络是不是过度拟合了？我担心我的数据点数量太少。我使
浏览 4提问于2016-11-13得票数 1
1回答
一般来说，你能说自动编码器是参数化的还是非参数化的(就模式识别而言)？我认为两者都是可能的，因为你可以假设潜在的误差分布，但你也可以用不同的方法估计误差，对吧？
浏览 5提问于2017-06-20得票数 0
2回答
我知道GPT是一个基于变压器的神经网络，由几个模块组成.这些块是基于原来的转换器的解码块，但它们完全相同吗？在原有的变压器模型中，解码器块有两种注意机制:一种是纯多头自关注机制，另一种是对编码器输出的自我注意机制。在GPT中没有编码器，因此我假设它的块只有一个注意机制。这就是我发现的主要区别。
浏览 0提问于2020-11-16得票数 5
回答已采纳
2回答
似乎带有自动编码器的人工神经网络在这类特征和数量上存在一些问题。因此，我考虑使用PCA来减少尺寸，然后再应用自动编码器。
在神经网络之前的PCA组合是否有意义，因为神经网络也减少了内部层中的信息？
浏览 0提问于2018-01-16得票数 8
2回答
R中的哪个包包含递归神经网络和自联想神经网络函数？
我正在使用nnet和neuralnet函数，但需要使用递归神经网络或自联想神经网络。
浏览 3提问于2012-03-02得票数 2
1回答
我想我可以认为这125个字与二维已经嵌入的字，但编码器和解码器在这个Keras教程期望三维数组为(num_pairs, max_english_sentence_length, num_english_characters据我所知，编码器是many-to-one类型模型，解码器是one-to-many类型模型。我需要获得一个内存状态c和一个隐藏状态h作为向量(？)。然后，我应该使用这些向量作为输入到解码器，并提取(x，y)形状的预测，正如我确定的编码器输出。如果有人能在我的数据集的形状上给出一个编码器-解码器LSTM结构的
浏览 0提问于2020-12-12得票数 0
回答已采纳
2回答
我正在处理一个训练数据集的分类问题，它有100个特性。所有的特征成对没有明显的相关性。您可以在示例对图中看到以下一些特性：我正试图找到减少功能数量的正确方法。所有重要的特征选择方法都会返回不同的特征集。例如：与阈值的相关性>1%，选取其中20例。RandomForest选择了与以前方法不同的近25个特性。PCA方法不适用，因为不存在明显的线性相关特征。我的观点是，不同的工具返回不同的重要特性。一个人可以把他们结合在一起，一个人可以把
浏览 0提问于2019-09-04得票数 9
1回答
我之前没有任何在神经网络方面的工作经验，所以任何帮助都将不胜感激。我正在解决以下任务:我想找出句子对之间的相似度得分。我的想法是为句子中的每个单词生成嵌入，并将向量提供给编码器，编码器将学习将这些多个输入聚合为一个较低的表示序列向量。并使用该序列向量之间的余弦相似度来找出相似度得分。我的问题是，对于哪种类型的自动编码器或神经网络架构更适合我的情况，您有什么建议吗？
浏览 3提问于2019-11-25得票数 0
1回答
我使用Python和Tensorflow构建了一个自动编码器。为了构建自动编码器，我使用了Tensorflow教程，介绍如何构建自动编码器来读取手写数字上的MNIST数据集。到目前为止，我对“自动编码器代码”进行了结构调整，使其能够在自己的数据上使用。我找到了一些特性，并且已经成功地重建了输入，直到出现了某种错误。现在，我尝试使用自动编码器的权重，初始化一个参数类似于我的自动编码器的编码器部分的神经网络。然后，添加一个单独神经元和线性激活函数的额外层来
浏览 0提问于2017-01-31得票数 2
回答已采纳
为什么优化器被使用在不是神经网络的东西上？在样式编码器(在潜在空间中查找图像)中，隐空间被更新，而不是神经网络的权值。为什么它在这些情况下有效，因为更新的不是神经网络的权重？
浏览 0提问于2020-11-20得票数 1
有人能举例说明如何重用自动编码器的隐藏层用于神经网络的分类任务吗?我想在tensorflow的多层感知器模型中使用自动编码器的两层
浏览 1提问于2017-12-17得票数 0
1回答
数值型数据集的自动编解码器
、、、、
我正在处理cryptography.The数据集，我使用的是数字数据来解决降维问题，我想应用自动编码器和解码器神经网络。可以在数字数据集上应用自动编码器吗?如果可以，那么如何应用？
浏览 7提问于2019-11-25得票数 0
很少有疑问与h2o.deeplearning有关：
如果我们不使用自动编码器和RBM，那么我们是否可以称之为深度信念神经网络。
浏览 1提问于2015-11-14得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
