4回答
我想要建立稀疏的前馈网络，在Pytorch和Tensorflow中，也就是说，每个节点只连接到下一层的k个神经元数，其中k严格地小于下一层的节点总数。但是，到目前为止，我看到的所有教程/示例都是关于完全连接的前馈网络的。有没有办法在这些工具中构建这样稀疏的网络？
浏览 0提问于2018-05-10得票数 1
1回答
我的网络输出端有二进制图像(如下所示)。我需要‘1’彼此距离更远(不相连)，这样他们就会形成一个稀疏的二进制图像(没有白色斑点)。有点像盐和胡椒噪声。我正在寻找一种方法来定义损失(在pytorch中)，根据‘1’的密度进行惩罚。 谢谢。 我 ?
浏览 46提问于2020-01-11得票数 1
回答已采纳
我想计算这个任务的稀疏交叉熵损失，但是我不能，因为PyTorch只计算单个元素的损失。我怎么编码它才能工作呢？谢谢你的帮助。
浏览 2提问于2020-09-03得票数 1
我正在使用PyTorch训练神经网络并将它们输出到ONNX中.我在索引中使用这些模型，该索引通过TensorRT加载ONNX。我需要一些特性的一个热编码，但这真的很难在Vespa框架内实现。是否有可能在我的ONNX网络中(例如，在网络表示之前)嵌入对某些给定功能的单热编码？如果是这样的话，我应该如何基于PyTorch模型来实现这一点？我已经注意到两件事：
PyTorch内置的ONNX导出系统不支持OneHo
浏览 17提问于2021-03-09得票数 3
回答已采纳
1回答
当我们讨论pytorch中的自微分时，我们通常会根据张量的公式得到张量的图形结构，pytorch将通过使用链规则跟踪图形树来计算梯度。但是，我想知道在叶节点上会发生什么？pytorch是用解析导数硬编码整个基本函数列表，还是使用数值方法计算梯度？x ** 2y = f(x)print(x.grad) # 2.0
在这个例子中，pytorch
浏览 19提问于2020-07-22得票数 3
2回答
我需要添加一个L1范数作为正则化器，以便在我的神经网络中创建稀疏条件。我想训练我的网络进行分类。我试着自己构建一个像这样的L1规范，但它不起作用。kernel_regularizer=regularizers.l2(0.01),但我的网络是用PyTorch创建的，如下所示：
浏览 0提问于2017-10-18得票数 1
1回答
我想要应用迁移学习(使用来自UNet或ResNet的预训练编码器的权重初始化我的自定义网络的编码器)。所以问题是:给定Pytorch中的UNet或ResNet实例，如何提取PyTorch中ResNet或UNet的编码器部分？
浏览 24提问于2021-07-29得票数 0
我尝试遵循mathworks提供的训练深度稀疏自动编码器(4层)的示例，因此我分别预先训练了自动编码器，然后将其堆叠到一个深度网络中。然而，当我试图通过train(deepnet，InputDataset)指令来微调这个网络时，训练会立即停止，并且我会收到一条“性能目标已达到”的消息。有没有办法在Matlab中以无监督的方式训练和微调深度自动编码器网络(不提供标签)？
浏览 2提问于2016-10-14得票数 0
我有一组稀疏数据，想实现一个稀疏卷积的计算。我将数据的索引和坐标做成了一个list,不同样本的稀疏情况不完全相同，所以这个list不规则。我想把这个list传入自写的卷积模块，但是不能实现，list中的数据相当于提供计算的索引，但是本身不参与计算过程。但是list不能导入gpu，导入cpu速度太慢。看到PyG模块在处理图神经网络时，是能够处理不同大小图的计算的，想着一定有办法可以实现吧
浏览 67提问于2022-09-27
1回答
我刚开始深造，对完全连接的网络感到困惑。一个具有多个隐藏层的自动编码器是一种深度神经网络(DNN)吗？DNN总是完全连通的吗？假设一个包含三个隐藏层的自动编码器网络是使用H2O R包构建的，您如何知道您构建的自动编码器网络是否完全连接？
浏览 0提问于2018-08-07得票数 2
1回答
查看word2vec，比如嵌入，我在PyTorch的网站上找到了这练习，这促使读者在PyTorch中实现CBOW网络。培训CBOW编码的合适架构是什么？
如果这种多隐藏层方法是正确的，那么当您只使用其中一个
浏览 0提问于2020-12-08得票数 1
我目前正在训练一个3D CNN，用于使用相对稀疏的标签进行二进制分类(标签数据中的体素约有1%对应于目标类)。
为了在培训期间进行基本的健全检查(例如，网络学习吗？)向网络展示一小部分经过精心挑选的具有目标类标签高于平均分数的培训示例将是非常方便的。正如Pytorch文档所建议的，我实现了我自己的dataset类(继承自torch.utils.data.Dataset)，它通过它的__get_item__方法向torch.utils.data.DataLoader
浏览 1提问于2019-02-19得票数 6
回答已采纳
1回答
在pytorch中，我训练RNN/GRU/LSTM网络，方法是启动反向传播(通过时间)：当序列很长时，我希望通过时间进行截断的反向传播，而不是使用整个序列的时间进行正常的反向传播但是，我在Pytorch中找不到任何参数或函数来设置截断的BPTT。我错过了吗？我应该自己在毕道尔编码吗？
浏览 3提问于2018-12-24得票数 6
我正在研究vanilla_vae 及其单元测试test_vae 中的代码。def setUp(self) -> None: self.model = VanillaVAE(3, 10)
x = torch.randn(16, 3, 64,
浏览 9提问于2022-05-30得票数 0
我正在尝试构建一个以稀疏张量列表作为输入的模型。(列表长度等于批量大小)我很熟悉pytorch的使用，它很容易将稀疏张量输入到网络中。我知道，如果我将列表中的所有稀疏张量连接成一个巨大的张量，它就会起作用。然而，这不是我的选择，因为稍后我必须对稀疏张量使用索引。(如果我将2D稀疏张量合并为3D稀疏张量，我不能像下面这样使用索
浏览 36提问于2021-07-08得票数 0
1回答
假设我正在尝试使用神经网络来预测我的跑步需要多长时间。我有很多来自过去运行的数据。我计划跑多少英里，海拔(丘陵)的总变化，温度和天气:晴天，阴天，下雨或下雪。
我不知道如何处理最后一段数据。
浏览 13提问于2016-08-03得票数 1
回答已采纳
1回答
其中400来自one class 1，700来自class 2。我使用了2神经元的一个隐藏层自动编码器来捕捉我的特征。我的初始特征是每个序列的三元组。因此，对于每个序列，我都有6860三元组。因此，我的大多数输入向量都是稀疏向量。现在，如果我计算这个网络的参数，我有2 * 6860 = 13720 parameters (2nd layer)
---现在，经过训练，我在我的500序列测试数据上尝试了编码器，并提取了二维数据的隐
浏览 4提问于2016-11-13得票数 1
我想知道在TensorFlow、PyTorch或其他库中是否有一种方法可以选择性地连接神经元。我想要在每一层中建立一个具有非常多神经元的网络，但层之间的连接很少。我希望梯度矩阵的计算只涉及稀疏矩阵，这样我就不会浪费时间和内存。
有没有一种方法可以有选择地创建和训练权重而不浪费内存？如果我的问题不清楚，或者有更多对我有帮助的信息，请让我知道。
浏览 3提问于2018-10-18得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
