当使用随机分布初始化SOM时，网络可能正确收敛，但当使用输入初始化时，网络可能不会正确收敛。为什么？
浏览 16提问于2019-07-14得票数 0
回答已采纳
1回答
有谁能提供一些关于如何将自组织映射与多层感知器正确结合的信息吗？我目前的想法是用几个训练集来训练SOM，并确定集群。之后，我用与SOM集群一样多的输入单元初始化MLP。下一步是使用SOM<em
浏览 4提问于2016-04-05得票数 3
回答已采纳
1回答
搜索了大量的研究论文，博客和视频，但找不到一个可以接受的答案，选择权重和偏差的神经网络。很少有人提到随机使用权重，但如果是这样的话，那不是不确定(模糊)吗？
浏览 0提问于2017-11-13得票数 -3
回答已采纳
我正在使用Echo State Networks(ESN)作为强化学习任务中的Q函数。我已经设法在具有特定储层拓扑结构的测试阶段实现了高精度，平均90% (频谱半径=0.9，正则化系数= 10，#输入单元= 2，#输出单元= 1，#储层单元= 8，并且没有泄漏率)。经过100集的训练，系统在测试阶段达到了较高的准确率。但当我用不同的随机种子初始化网络权重时，它的行为变得非常不稳定，无法像以前那样实现
浏览 2提问于2015-05-13得票数 3
tf.contrib.layers.xavier_initializer()是如何知道激活函数的？ initializer=tf.contrib.layers.xavier_initializer())
这个W对X做了一些事情，然后结果被传递给一个tanh或relu，或者有你现
浏览 9提问于2016-09-09得票数 1
最好是让所有节点值从0开始，还是让它们在0到1之间随机？例如，从0开始将更加一致，但随机地它们可以更快地接近正确的值。
浏览 6提问于2017-01-24得票数 1
回答已采纳
1回答
基本的神经网络预测？
、、、
我正在看这个来自的非常基本的神经网络。我用随机的数字数组和随机标签替换了使用的数据。[0.49525392, 0.49652839, 0.49729034, 0.49670222, 0.49342978, 0.49490061, 0.49570397,不管我用什么随机
浏览 1提问于2017-10-03得票数 0
回答已采纳
在RNN序列到序列模型中，训练前需要初始化输入隐藏状态和输出隐藏状态。从PyTorch教程中，它简单地将零初始化到隐藏状态。Is初始化零-- RNN seq2seq网络中初始化隐藏状态的常用方法&
glorot初始化怎么样？对于单层普通的RNN来说，扇入和扇出不等于$(1 +
浏览 0提问于2018-01-30得票数 5
1回答
我基本上理解了k-折交叉验证是如何工作的，并且已经开始在我的MATLAB脚本中实现它，但是我有两个问题。
当使用它来选择网络特征时(隐藏单位、权重衰减优先和否。在我的例子中)。我应该在每个“折叠”之后重新初始化权重，还是应该将我的下一个训练折叠输入到已经训练好的网络中(它的权重已经针对前一个折叠进行了优化)？似乎后一种做法应该会产生较低的
浏览 12提问于2017-02-05得票数 4
回答已采纳
在经过训练的神经网络中，权重分布将接近于零。所以，对我来说，把所有的权重都初始化为零是有意义的。然而，有一些方法，如-1到1的随机赋值和Nguyen-Widrow，它们的性能优于零初始化。为什么这些随机方法比仅仅使用零更好呢？
浏览 0提问于2015-08-05得票数 2
回答已采纳
1回答
通常反向传播神经网络存在着梯度消失的问题。我发现卷积神经网络(CNN)有些如何摆脱这个消失的梯度问题(为什么？)
另外，在一些论文中，还讨论了CNN的一些预培训方法。有人能给我解释一下吗？
浏览 8提问于2014-10-17得票数 0
在GitHub上的一个模型中，我对神经网络的工作相对比较陌生。我注意到，在将权重和偏差初始化为零之后，在偏差变量中添加了一个单位矩阵。tf.float32) transform = tf.nn.bias_add(transform, biases)链接到存储库：论文链接：
浏览 0提问于2018-10-29得票数 1
1回答
神经网络中的反向传递和前向传递
、、、、
我试图设计一个简单的神经网络，但我面临一些问题。当我使用ReLU时，我的输出一直收敛到0.5，当我使用sigmoid函数时，我的输出一直收敛到0.7。请建议我：
我需要在输入层中使用<
浏览 2提问于2018-05-15得票数 2
1回答
Dense(13, input_dim=13, kernel_initializer='normal', activation='relu'))
我很想了解kernel_initializer，但无法理解它的意义
浏览 0提问于2018-08-24得票数 23
回答已采纳
在Pytorch 1.0中，似乎有两种使用均匀分布初始化嵌入层的方法。例如，你有一个嵌入层：你想用一个均匀的分布初始化权重。完成此操作的第一种方法是：另一个是：
nn.init.uniform_(self.in_embed.weight,
浏览 0提问于2019-03-21得票数 9
回答已采纳
2回答
我需要向应用程序的分布式网络发送相同的随机数序列。
由于这样的序列可能相当长，我正在考虑只发送一个(随机生成的)集中种子初始化号和所需序列的长度。假设接收方的每个组件都将使用相同的.NET版本，那么在我的所有节点上生成相同的随机数据是可行的解决方案吗？
浏览 0提问于2013-06-26得票数 7
回答已采纳
1回答
我参加了一些机器学习的在线课程，总的来说，建议是为一个神经网络选择随机权重，以确保你的神经元不会都学习相同的东西，打破对称性。这些情况对零初始化</
浏览 0提问于2018-04-29得票数 7
2回答
神经网络输出变化不大
、、、
我在前馈神经网络上有20个输出神经元，我已经尝试过改变每个隐层的隐层数和神经元数。在测试时，我已经注意到，虽然输出并不总是完全相同的，但它们在不同的测试用例之间变化很小，特别是在彼此之间。它似乎输出了几乎相同的输出(根据初始权重在0.0005以内)，在每个测试用例中输出的输出几乎相同；最高的输出总是最高的。这有什么原因吗？注意:我使用的是前馈神经网络，具有弹性<e
浏览 2提问于2014-06-21得票数 2
回答已采纳
1回答
在我的项目中，我有两个服务器运行一个应用程序。它们运行两个Hazelcast节点，它们被初始化为Spring。我使用Hibernate，它的第二级缓存也受到Hazelcast的支持。有一个分布式地图，它由一个在开始时启动缓存的maploader支持。并行地，Spring初始化JPA实体管理器，它也尝试访问映射(用于设置L2缓存)
这会导致死锁: Spring线程持有与bean映射</em
浏览 3提问于2014-04-17得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
