多层感知器权重不变
多层感知器（Multilayer Perceptron，简称MLP）是一种基本的人工神经网络模型，也是深度学习的基础。它由多个神经元层组成，每一层的神经元与下一层的神经元全连接。MLP的训练过程中，权重是需要不断调整的，以使得模型能够更好地拟合训练数据。
MLP的权重不变指的是在某些情况下，我们希望保持已经训练好的模型权重不再改变。这种情况通常出现在迁移学习（Transfer Learning）中，当我们需要将一个已经在大规模数据上训练好的模型应用到新的任务上时，我们可以将模型的权重固定，只训练新任务相关的部分网络层，以加快训练速度并提高模型的泛化能力。
MLP的权重不变可以通过以下步骤实现：
- 加载预训练模型：首先，我们需要加载已经在大规模数据上训练好的MLP模型。
- 冻结权重：将模型的权重设置为不可训练，即冻结权重。这样，在后续的训练过程中，这些权重将不再更新。
- 定义新任务相关的网络层：根据新任务的需求，我们可以在已有的MLP模型上添加新的网络层，用于适应新任务的特征提取和分类需求。
- 训练新任务相关的网络层：只训练新添加的网络层，保持已有的MLP模型权重不变。这样可以加快训练速度，并且由于已有的权重已经在大规模数据上进行了训练，可以提高模型的泛化能力。
- 评估和调优：在训练完成后，我们可以对整个模型进行评估，并根据评估结果进行调优，以进一步提高模型的性能。
在腾讯云的产品中，可以使用腾讯云的AI开放平台（https://cloud.tencent.com/product/ai）来进行多层感知器的权重不变训练。该平台提供了丰富的人工智能服务和工具，包括模型训练、模型部署、数据处理等功能，可以满足多层感知器权重不变训练的需求。
相关·内容
2回答
我正在利用Keras开发一个神经网络。它是一个多层感知器(Mlp).输出层有8个神经元。是否有一种方法可以在每次迭代中访问输出层单个神经元的权重和偏差？
浏览 0提问于2019-10-31得票数 2
回答已采纳
2回答
我已经在keras中训练了一个多层感知器，将模型序列化为JSON，并将权重保存到HDF5。如何在C/C++中导入此模型以对其进行预测？
浏览 20提问于2018-08-02得票数 1
1回答
什么是训练
、、
我是一个深入学习的新手，我有一个简单的问题。
我在读一些关于神经网络的文章。它说人们创造了一个简单的神经网络叫做感知器。这个网络不能解决一个非常简单的问题:排他性或。
我认为这是因为我不知道如何训练一个神经网络，也不知道如何为一个神经网络设定权重。
你能用这个例子和：0 & 0 = 0 1 & 0 = 0 0 & 1 = 0 1 & 1 = 1描述一下感知器的训练过程吗？
通过这样的训练，感知器的重量看起来如何？
浏览 0提问于2017-11-29得票数 0
回答已采纳
1回答
我正在制作一个多层感知器，我需要为输入的->隐藏单元选择权重。我们的讲座说：
目的是选择产生中程函数信号的权重值。
从均匀概率分布中随机选择权值
归一化权值，因此每个单位的加权连接数会产生中量程函数信号。
我不知道他所说的中程函数信号是什么意思。那么，如果单元1的权重为0.5，0.9，0.1，我是否只取和，并将每个权重除以之和？另外，是每个输入单元还是输出单元？
非常感谢。
浏览 3提问于2014-04-21得票数 0
2回答
在我们介绍乙状结肠神经元(具有乙状结肠激活功能的神经元)之前，本网站给出了一些数学上的阐述，即关于感知器。
它从感知器开始，然后进入乙状结肠神经元。一切都很好，但我似乎无法证明第二个问题“西格莫德神经元模拟感知器，第二部分”在本章后面。我很难相信你可以用一个偏差和权重不变的乙状结肠神经元网络取代一个感知器网络(这里可以很容易地构造一个反例:取第三层的权重17，-6，-3，其中b= -3，w= {17，-6}在w.x +b >= 0中，对于{1，0，0}(包括偏置x_0)，感知器网络可以给出0，而乙状结肠网络可以给出1)。
有人能帮我说出我错过了什么或者我哪里出错了吗？谢谢。
浏览 4提问于2014-11-28得票数 4
回答已采纳
1回答
我正在写一篇关于葡萄酒公司的商业管理的文章，在那里我使用了一个多层的感知器网络。
然后我的老师让我写一个方程，让我计算出网络的输出。我的回答是，由于多层感知器网络的性质，就其本身而言，没有单一的方程。我有一张重量和偏见的表格。然后我可以使用这个公式：
f(x) = (\sum^{m}_{i=1} w_i * x_i) + b
其中：
m是前一层神经元的数量，
w是一个随机权重，
x是输入值，
b是一种随机偏差。
为隐藏层和输出层中的每个层/神经元执行此操作。
她给我看了一个她做的另一件作品的例子(底部的图像)，告诉我应该是这样的。从图表上看，我认为这是一个逻辑回归。
因此，我的问题如下：
浏览 0提问于2020-10-14得票数 0
回答已采纳
有人能举例说明如何重用自动编码器的隐藏层用于神经网络的分类任务吗?我想在tensorflow的多层感知器模型中使用自动编码器的两层
浏览 1提问于2017-12-17得票数 0
1回答
我正在使用多层感知器进行深度学习以进行回归。损失曲线在第三个时期变得平坦，而精度曲线在开始时保持平坦。我想知道这是否有意义。
浏览 0提问于2019-09-12得票数 0
1回答
在什么条件下，非线性多层感知器的Vapnik-Chervonenkis维数接近线性多层感知器的Vapnik-Chervonenkis维数？
浏览 0提问于2014-03-29得票数 0
1回答
维基百科：
如果一个多层感知器在所有神经元中都有一个线性激活函数，也就是将加权输入映射到每个神经元输出的线性函数，那么用线性代数很容易地证明任何层数都可以简化为标准的两层输入输出模型(见感知器)。
我看到了，我所理解的是，这是因为线性函数的组合可以用线性函数来表示，这是唯一的原因，对吗？
那么还原过程是什么样子的呢？也就是说，如果我们有3x5x2MLP，SLP会是什么样子？输入层的大小是否基于用于表示线性函数的参数数，如上述链接的答案所示？：
f(x) =a x+b
g(z) =+d
g(f(x)) =c (a x+ b) +d= ac x+ cb +d= (ac) x+ (cb +
浏览 2提问于2015-11-25得票数 1
回答已采纳
2回答
我想用一种语言训练卷积神经网络，但在另一种语言中使用它(出于各种与技术/性能相关的原因)。有没有一种通过节省权重来实现这一点的编程方法？
例如，我可以用Python训练一个多层感知器，然后将所有权重保存在一个CSV文件中，然后用Java创建一个新的MLP并使用该文件设置权重。但是，我不确定如何使用卷积神经网络做类似的事情，因为我不知道如何处理卷积层。我认为我的主要问题是理解如何导出/保存网络的卷积部分，然后将它们加载到其他地方。
浏览 0提问于2016-01-22得票数 0
1回答
假设两个感知器在同一个线性可分分布的无限样本上运行。它们会收敛到同一个决策函数吗？它们会收敛到相同的权向量w吗？我是ML的初学者，所以如果有人能提供详细的解释，那就太好了。
浏览 5提问于2014-10-09得票数 1
回答已采纳
1回答
我目前正在用F#实现一个多层感知器，我将实现标准的反向传播算法，但我想知道如何修改该算法才能处理快捷连接。对于快捷连接，我是指跳过层的连接，例如，直接连接输入层和输出层的连接。
谢谢!
浏览 0提问于2013-01-15得票数 1
1回答
我想用scikit-learn建立一个深信度网络。正如我所知，我们应该单独训练许多受限的Boltzmann机器(RBM)。然后应该创建一个多层感知器( MLP )，其层数与( RBMs )的层数相同，而MLP的权重应该用RBMs的权重来初始化。然而，我无法找到从scikit获得RBMs权重的方法--学习的BernoulliRBM。此外，它似乎也不是一种方法，也初始化一个MLP的权重在科学工具包-学习。
有办法像我说的那样做吗？
浏览 1提问于2014-04-22得票数 0
回答已采纳
2回答
我在Weka多层感知器上做了一些实验，我有一些关于它的参数的问题。我已经查看了帮助文档，但无法理解：
nominalToBinaryFilter是什么？如何使用？
normalizeAttribute:我认为这是将特性的值缩放到-1，1范围。但是，在数值不是数值的情况下，例如天气数据集，他们是如何做到的。
重置:如果当前的训练过程不一致，这将重新设置，并以较低的学习率重新开始。我们应该在多大程度上降低目前的学习率？(如何确定下一个学习速度)
初始权重:这不是一个参数，而是它们如何初始化初始权重？它是否是对称的(类似于-ε，+ε中的值)？
浏览 6提问于2015-08-27得票数 1
我有一个矩形的数字数据集，我正在应用一个多层感知器。我正在取得成功，但现在我想看看我还能应用什么其他架构。
很多深度学习似乎都适用于松散结构的数据--序列、文本、图像--每个人都在用各种有趣的models...at工作，至少当他们遇到适合这些模型的问题时。
基本的、行/列的数据集呢？除了调整基本MLP的层之外，这类数据还将使用哪些规范模型？
浏览 0提问于2017-08-10得票数 3
我有一个8x8矩阵(我将这个矩阵转换为1x64的向量)，并希望将其提供给多层线性规划神经网络，并具有一个具有10个感知器和只有一个输出的1隐藏层。
我该如何使用来做这件事呢？我不知道怎么把它传到网络上？
谢谢，K.A.。
浏览 0提问于2012-09-06得票数 1
实际上这是3个问题：
我应该使用哪种优化算法来优化多层感知器的权重，如果我知道...
1)只有错误函数的值？(黑盒)
2)梯度？(一阶导数)
3)梯度和麻布？(二阶导数)
我听说CMA-ES对于1)和BFGS对于2)应该工作得很好，但我想知道是否有任何替代方案，我不知道3)采用哪种算法。
浏览 0提问于2011-08-28得票数 2
回答已采纳
1回答
我有一个数据集，其中的响应变量为病态(1)或非病态(2)。就变量而言，有几个数字变量(2/14)，其余的都是按等级计算的变量(例如:1-腹痛，2-咽痛.)。
我有两个问题：
多层感知器能对二进制变量进行分类吗？或者只能返回数值？
2-二元或水平变量可以作为训练传递给多层感知器吗？
非常感谢。
浏览 0提问于2022-03-24得票数 0
回答已采纳
这里是Tensorflow教程中的代码：一个多层感知器的实现实例
当批数= 100时，准确度为94.59%。
如果我将批次大小设为1，那么训练需要十倍的时间，但准确率仅为9%。
我在没有运气的情况下测试了不同的学习率。SGD的性能对于小批量来说是很糟糕的。我们可以预期SGD的性能会更低，但不会少十倍！性能损失的原因是什么？
浏览 0提问于2017-02-10得票数 4
回答已采纳
为了更好地理解神经网络，我开始了多层感知器的实现。目前，我已经实现了解决XOR问题的单个Perceptron。从这一点，我想开始构建MLP，但我不确定我是否正确理解MLP结构。假设我有3个属性、2个类和5个输入感知器的数据实例。我应该给每个感知器相同的输入，感知器的每一个输出都应该进入每个隐藏层感知器的输入？我附上神经网络图片。
📷
浏览 0提问于2016-08-18得票数 2
回答已采纳
1回答
我最近被介绍到了神经网络这个令人惊奇的世界。我注意到他们惊人的灵活性和能力。不过，我不想撒谎，我对他们的技术知识很少。兴趣网络是多层感知器。它由输入节点、隐藏节点和输出节点组成。但是，我想知道，是否所有输入节点都需要连接到所有隐藏节点，所有隐藏节点都需要连接到所有输出节点？还是有某种决定因素来决定哪些输入节点应该连接到哪个隐藏节点，然后再连接到哪个输出节点？
非常感谢您的帮助：
浏览 4提问于2015-11-11得票数 3
1回答
如果我有一个具有sigmoid激活函数的前馈多层感知器，该感知器经过训练并具有已知的权重，我如何找到网络近似的曲线的方程(分隔两种类型数据的曲线)？
浏览 0提问于2013-04-21得票数 1
回答已采纳
我有一个多层感知器，用于预测14个连续值的多输出回归问题.下面是相同的代码片段：
# Parameters
learning_rate = 0.001
training_epochs = 1000
batch_size = 500
# Network Parameters
n_hidden_1 = 32
n_hidden_2 = 200
n_hidden_3 = 200
n_hidden_4 = 256
n_input = 14
n_classes = 14
# tf Graph input
x = tf.placeholder("float", [None, n_in
浏览 3提问于2017-10-13得票数 8
2回答
神经网络:求解异或
、、、
有人能给我一个数学正确的解释为什么多层感知器可以解决异或问题吗？
我对感知器的解释如下：
具有两个输入的感知器
和
具有以下线性函数，因此能够解决诸如和和OR这样的线性可分离问题。
是基本的step函数。
我的想法是我替换了两个部分
用+符号分隔为
和
我得到了
这是一条线。通过应用step函数，我得到了一个与输入有关的集群。我把它解释为这一行分隔开的空格之一。
因为MLP的函数仍然是线性的，我如何用数学的方法来解释这个问题，更重要的是:为什么它能够解决XOR问题，而它仍然是线性的？是因为它插值了一个多项式吗？
浏览 3提问于2016-06-09得票数 7
回答已采纳
2回答
我正在做一个python的图像识别项目。我在期刊上读到，如果将自组织映射(SOM)执行的聚类输入到监督神经网络中，则图像识别的准确性比监督网络本身更高。我自己尝试过，使用SOM执行聚类，然后在每次迭代后使用获胜神经元的坐标作为keras的多层感知器的输入。然而，精确度非常差。
SOM的什么输出应该用作多层感知器的输入？
浏览 7提问于2017-03-06得票数 0
我在R中使用包‘monmlp’包，如下所示。(单调多层感知器神经网络)
model = monmlp.fit(trainData, trainLabs, hidden1=3, n.ensemble=1, bag=F,silent=T)
pred = monmlp.predict(testData,model)
preds = as.numeric(pred)
labs = as.numeric(testLabs)
pr = prediction(preds,labs)
pf = performance(pr,"auc")
pf@y.values[[1]]
我想用训练好的模
浏览 2提问于2013-07-03得票数 0
1回答
我已经实现了一个多层感知器，并首先设计了训练方法，以进行一定数量的训练。我针对XOR逻辑门对网络进行了训练，大多数时候网络会学习如何解决问题，但偶尔网络只会学习两个训练示例，并停留在其他两个示例上。
起初我认为这并不重要，但后来我想将训练方法更改为在误差低于我选择的某个可接受的误差值后停止。现在，网络有时会从训练中返回，有时会像我上面提到的那样卡住。这是正常的，是一个多层感知器有时无法正确学习，还是这是我的实现中的一个错误。
如果重要的话，实现是在C++中，并且多层感知器是标准的前馈反向传播神经网络；2个输入神经元，2个隐层神经元，1个输出神经元。
我是否应该使用两个输出神经元，如果是的话，值
浏览 0提问于2013-07-17得票数 1
回答已采纳
1回答
我有一些数据告诉我特定城镇的可用水小时数。你可以在上看到它
我想基于这些数据训练一个多层感知器，以获取一组坐标，并指示该坐标将有水的大约小时数。
这有意义吗？如果是这样的话，我说必须有两个输入层，对吗？一个用于lat，另一个用于long。输出层应该是小时数。
希望能得到一些指导。
浏览 0提问于2013-03-16得票数 2
回答已采纳
感知器可以接受实值作为输入，还是只接受0和1？我很困惑，因为感知器的输出是0或1，所以我认为输入应该是二进制的。
浏览 2提问于2018-09-22得票数 0
1回答
神经网络提取特征
、、、、
我是神经网络新手。我在很多平台上学习了一些教程，但有一件事我不明白。
在一个简单的多层感知器中:我们有输入层，这个例子中的一个隐藏层(与输入层相同的神经元数)和一个单位的输出层。
我们在隐层中随机地在小值范围内初始化单位的权值。现在，输入层与隐藏层完全连接。因此，隐藏层中的每个单元都将接收相同的参数。他们如何从彼此身上提取不同的特征呢？
谢谢你的解释！
浏览 2提问于2016-11-29得票数 0
回答已采纳
1回答
基于相关矩阵的特征选择
、、、
在测试Logistic回归、高斯朴素贝叶斯、随机森林和多层感知器等不同算法时，我只是简单地减去平均值，然后除以一个标准差来规范原始数据。并不是所有的人都有这个必要，但我只是想保持一致。但是特征的相关矩阵在归一化前后会发生变化。在决定选择哪些特征以避免输入数据中的冗余时，应该同时考虑相关矩阵还是只考虑规范化后的相关矩阵，因为这是直接提供给机器学习方法的数据？
浏览 0提问于2018-06-19得票数 0
回答已采纳
1回答
我正在使用NeurophStudio，我正在尝试训练网络来学习它的功能：
如果x< 0.3，则f(x) =0|如果x> 0.3，则F(X)= 0.7
你知道我能不能用神经元网络来做这件事，如果是的话，该怎么做？我试着使用感知器和多层感知器，但还没有成功。
谢谢，安德烈
浏览 0提问于2013-03-16得票数 1
对于家庭作业，我打算创建一个多层感知器人工神经网络来进行分类。
我是PyBrain的新手，我正在尝试创建一个反向传播的前馈神经网络，在谷歌上搜索后，在PyBrain中似乎有两种方法可以做到这一点，使用buildNetwork或FeedForwardNetwork。
此外，我在课堂上了解到感知器有阶跃函数，从我在文档中看到的情况来看，似乎没有阶跃函数选项。
我找不到两者之间的区别，因此无法确定哪个更适合我的任务。
谢谢
浏览 0提问于2015-10-31得票数 2
1回答
我是机器学习的新手，正在学习如何编写感知器。 重边函数的导数是多少？对于上下文，我使用感知器作为伪SVM，这样我就可以对数据点进行分类。 我假设它是0，但是基于教程，我看到人们使用1。为什么这是有效的。另外，有没有可能使用sigmoid类型的激活函数，然后通过重边函数传递输出，因此我可以求sigmoid的导数？ 谢谢。
浏览 273提问于2020-07-14得票数 0
1回答
在我大学的非线性动力学课中，我们讨论了一个简单的感知器，它有两个输入神经元和一个输出神经元，并根据这些模式进行训练。
pattern | Input | Output
1 | 1,0 | 2
2 | 3,1 | 6
3 | 0,0 | 0
求解方程组确定权值
w_1(1) + w_2(0) = 2
w_1(3) + w_2(1) = 6
w_1(0) + w_2(0) = 0
给出w_1 = 2和w_2 = 0，这意味着感知器进行了抽象。在更高级的神经网络中，(a)如何测试网络中的抽象，以及(b)如何解释这种抽象的含义？
浏览 0提问于2019-05-19得票数 0
回答已采纳
1回答
我目前正在研究一个分类问题：
我使用的数据集(2000年特征，25个标签)可以通过使用一个2层多层感知器(1输入+1 OutputLayer =1权重矩阵)来分离，达到很高的精度。
注意:我使用的数据是光谱图。
现在我好奇的是:我可以使用一个深度网络(超过两个层)来提高精确度吗？
我所想的是:增加网络结构将使网络以更复杂的方式解释数据，因此应该能够正确地分类数据集中的小“超出器”和“噪声元素”。
浏览 0提问于2017-12-17得票数 2
回答已采纳
我正在移动我在神经网络中的第一步，为了做到这一点，我正在用一个非常简单的单层，单输出感知器进行实验，它使用了一个S型激活函数。每次出现训练示例时，我都会使用以下命令在线更新权重：
weights += learningRate * (correct - result) * {input,1}
这里，weights是一个n长度的向量，它还包含来自偏置神经元的权重(-阈值)，result是在给定input时由感知器计算的结果(并使用sigmoid进行处理)，correct是正确的结果，{input,1}是用1(来自偏置神经元的固定输入)增加的输入。现在，当我尝试训练感知器来执行逻辑与时，权重不会在
浏览 4提问于2011-08-24得票数 0
回答已采纳
因此，据我所知，交叉验证是用来确定最佳模型的。
我知道一旦我们确定了最好的模型，我们就会在整个数据集上对它进行训练。我应该使用交叉验证的多层感知器，可以分类MNIST数据集。我似乎不明白交叉验证如何适合训练模型。
假设我使用的是5倍交叉验证，这意味着我必须制作5种不同的模型，但是，如何进行这些单独模型的培训呢？特别是，我有以下问题：
这些个体模型的训练是否会像往常一样(反向传播)？
我要用什么来初始化每个模型？(随机权重？)
在完成交叉验证之后，我现在有了最好的模型(比如B)，在整个数据集上训练这个模型意味着什么？(这是否意味着，我与B一起初始化了在整个数据集上训练的新模型的权重)。
浏览 0提问于2018-09-29得票数 1
回答已采纳
不久前我读过有关神经网络的文章，我了解了人工神经网络(特别是通过反向传播学习的多层感知器)如何学习将事件分类为真或假。
我认为有两种方法：
1)你得到一个输出神经元。如果它的值大于0.5，则事件可能为真，如果它的值为<=0.5，则事件可能为假。
2)你得到两个输出神经元，如果第一个的值大于第二个的值，则事件可能是真的，反之亦然。
在这些情况下，ANN会告诉您事件可能为真还是可能为假。它没有说明这种可能性有多大。
有没有一种方法可以将这个值转换为一些赔率，或者直接从ANN中获得赔率。我希望得到这样的输出：“该事件有84%的概率为真”。
浏览 1提问于2009-10-06得票数 38
回答已采纳
3回答
感知学习--最重要的特征
、、、
对于我在AI类中的一项任务，我们的任务是创建Widrow规则的感知器学习实现。我用java编写了这个实现：
以下github链接包含项目：
我现在遇到的问题不是感知器的创造。效果很好。
在该项目中，在训练感知器之后，我将一个非分类数据集应用到感知器中，然后学习每个输入向量的分类。这也很好。
我的问题是学习输入的哪一个特征是最重要的。
例如，如果每个输入向量中的特征集是颜色、汽车模型和汽车制造，那么我们需要对最重要的特征进行分类。怎样才能这样做呢？
我对此的最初理解使我相信，计算相关系数、每个输入的特征值以及生成的分类向量。然而，事实证明，这是一个错误的假设。
还有其他方法可以学习到最重要的特性
浏览 0提问于2014-02-12得票数 4
回答已采纳
2回答
我正在从头开始编写一个多层感知器，只有一个输入层、隐藏层和输出层。输出层将使用softmax激活函数产生几个互斥输出的概率。
在我的隐藏层中，使用softmax激活函数对我来说是没有意义的--这是正确的吗？如果是这样的话，我可以使用任何其他的非线性激活函数，如sigmoid或tanh吗？或者我甚至可以不在隐藏层中使用任何激活函数，只将隐藏节点的值作为输入节点和输入到隐藏权重的线性组合？
浏览 2提问于2018-04-19得票数 1
回答已采纳
1回答
有谁能提供一些关于如何将自组织映射与多层感知器正确结合的信息吗？
最近，我阅读了一些关于这种技术的文章，与常规MLP相比，它在预测任务方面表现得更好。因此，我希望通过对输入数据进行聚类，并将结果传递给MLP后端，将SOM用作降维的前端。
我目前的想法是用几个训练集来训练SOM，并确定集群。之后，我用与SOM集群一样多的输入单元初始化MLP。下一步是使用SOM的输出来训练MLP (BMU的哪个value?...weights？)与网络输入一样(SOM的输出用于集群匹配输入单元，零用于其他输入单元？)。
浏览 4提问于2016-04-05得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
