腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
在
Pytorch
中
创建
HDF5
文件
的
数据
集
和
数据
加载
器
时
出现问题
:
解压
的
值
不足
(
预期
为
2
,
实际
为
1
)
、
、
、
、
在
使用了Torchvision
中
的
数据
集
之后,我尝试
在
Pytorch
中
加载
一个
HDF5
文件
,但没有成功。我读到我应该定义我自己
的
dataset
和
Dataloader类,其中包含getitem来启用索引,len来返回
数据
集
的
长度。另外,我应该定义转换,因为
pytorch
的
默认选项需要PIL图像。
浏览 32
提问于2019-12-05
得票数 1
4
回答
为
PyTorch
使用大型
数据
集
的
最有效方法?
、
、
、
、
也许这个问题曾经被问过,但是我很难找到与我
的
情况相关
的
信息。 我正在使用
PyTorch
创建
一个CNN,用于图像
数据
的
回归。我没有正规
的
、学术性
的
编程背景,所以我
的
许多方法都是临时性
的
,而且效率很低。也许我可以回头看一遍我
的
代码,然后再清理,因为低效率并不会对性能造成很大
的
影响。但是,在这种情况下,我使用图像
数据
的
方法花费了很长
的
浏览 0
提问于2018-12-01
得票数 9
回答已采纳
2
回答
可以
在
PyTables单元格
中
存储任意形状
的
多维数组吗?
、
、
、
、
PyTables支持从继承自IsDescription类
的
用户定义类
创建
表。这包括对多维单元格
的
支持,如文档
中
的
以下示例所示: name = StringCol(itemsize=16) # 16-character(double-precision) 然而,
在
单个单元
中
存储任意形状
的
多维数组是可能
的
吗?按照上面的示例,类似于pressure = Float32Co
浏览 3
提问于2012-01-19
得票数 1
2
回答
使用Torch-hdf5将张量保存到
Hdf5
、
、
我想非常仔细地遵循这个文档:require '
hdf5
'myFile:close() 我知道"/path/ to
浏览 25
提问于2016-08-30
得票数 4
2
回答
在
简单校准时更新
hdf5
数据
、
、
、
我正在尝试更新需要校准
的
hdf5
文件
数据
。我添加
的
代码是: keys=hf.keys()只是为了简单
的
校准。然而,
在
hf[key][...]
中
,它
的
结果是全零。当我将右边
的
乘积赋给一个变量
时
,我
浏览 2
提问于2018-07-10
得票数 0
1
回答
Caffe
中
输入人工特征
的
单标签回归(Finetuning)
、
、
、
、
我有,比方说,n图像,对于每个图像,我有另外
2
个人工(合成)特征,图像标签是一维整数。我想微调dataset上
的
Image,但是我不知道如何处理这两个附加
的
特性作为输入,我应该如何将
数据
提供给caffe?请帮帮我!编辑:这两个特性可以是任意
2
个数字(一维),比如两个数字,表示图像属于哪一类,以及有多少图像属于该类。比方说,我有'cat.jpg',那么特性是,5
和
2000,其中5是表示类
的
特性
1
,2000是该类
中
<e
浏览 4
提问于2016-01-02
得票数 0
回答已采纳
2
回答
用于Keras神经网络
的
Pandas列转换为Numpy阵列
、
、
、
、
我正在学习如何
创建
CNN模型,并认为Kaggle主持了一个有趣
的
比赛,以帮助我学习它。 他们提供了一个大
的
类似于JSON
的
(BSON)
文件
,大约50 to,我正在尝试处理这个
文件
。
在
文件
中
,我迭代地读取具有( 180,180,3)数组结构
的
图像
数据
。整个
文件
包含大约7,000,000幅图像,因此最终
的
数组结构将类似于(7000000,180,180,3)。我最初尝
浏览 8
提问于2017-10-15
得票数 4
回答已采纳
1
回答
通过to_hdf将pandas dataframe对象写入
hdf5
会
创建
axis0、axis
1
、block0_items
和
block0_values,但为什么呢?
、
、
、
、
我有一个名为test.csv
的
csv
文件
,其中包含以下内容:2021293,010000,.189545,-9.3868122,46.1526372021293,010001,.788544,-9.322463,46.135742当我运行以下代码
时
:data.to_hdf(hdf_filename, key='foobar/da
浏览 21
提问于2021-10-21
得票数 0
9
回答
HDF5
与有
文件
的
文件
夹有什么不同?
、
、
、
在
“
HDF5
”( )一书中,我读到了它
的
优点,与
在
文件
夹中使用
文件
相比,我
在
寻找使用它
的
好处,但我遇到
的
大多数内容都谈到了分层
文件
格式
在
通过API添加
数据
时
的
简单性方面的好处:它甚至拥有一个强大而又简单
的
基础概念,即组、<em
浏览 18
提问于2014-03-02
得票数 69
1
回答
来自
文件
路径
和
标签
的
csv
的
Pytorch
数据
加载
器
、
我有一个用于训练
和
测试
数据
集
的
csv
文件
,其中包含
文件
位置
和
标签。此
数据
帧
的
头部
为
: df.head() file_path label
1
\\images\\55201.png 0
浏览 2
提问于2020-06-09
得票数 0
回答已采纳
3
回答
为
Caffe生成LMDB
、
、
、
、
我正在尝试使用caffe构建一个用于显着性分析
的
深度学习模型(我正在使用python包装
器
)。但我无法理解如何生成用于此目的
的
lmdb
数据
结构。我已经看过Imagenet
和
mnist示例,我知道我应该生成以下格式
的
标签但在我
的
例子
中
,我将用0或
1
标记每个像素,表示该像素是否显着。这将不是一个单独
的
图像标签。 如何为基于像素
的
标签
浏览 1
提问于2015-11-10
得票数 9
回答已采纳
1
回答
h5py:如何在不将所有内容
加载
到内存
的
情况下对多个大型
HDF5
文件
进行索引
、
这是一个关于同时处理多个
HDF5
数据
集
,同时尽可能将它们视为一个
数据
集
的
问题。file01.h5file03.h5 我现在想
创建
一个列表或数组,其中包含指向所有三个
文件
的
所有图像
的
“指针”,而不
实际
加载
图像。到目前为止一
浏览 2
提问于2018-02-19
得票数 2
回答已采纳
2
回答
无法访问返回
的
h5py对象实例
、
、
、
我有个很奇怪
的
问题。我有两个函数:一个读取使用h5py
创建
的
h5py
文件
,另一个
创建
新
的
HDF5
文件
,连接前一个函数返回
的
内容。def read_file(filename): group
1
= hf.get('group
1</e
浏览 4
提问于2016-04-15
得票数 5
回答已采纳
2
回答
从
HDF5
文件
中
序列化
和
检索大量numpy数组
的
快速高效方法
、
、
、
、
我有大量
的
numpy数组,特别是113287,其中每个数组都是36 x 2048形状
的
。就内存而言,这相当于32G。我怎么才能加快速度?这对我
的
实现是非常重要
的
,因为我必须在这个列表
中
索引几千次,才能输入深度神经网络。下面是我如何索引到<e
浏览 0
提问于2018-10-27
得票数 2
回答已采纳
1
回答
Xarray合并两个维度长度不同
的
hdf5
文件
、
、
、
、
我有一些仪器
数据
,以hdf-5格式保存为多个二维阵列,随着测量时间
的
推移。如下图所示,d
1
和
d
2
是两个独立
的
文件
,仪器记录在不同
的
时间。它们有相同
的
数据
变量,唯一
的
区别是phony_dim_0
的
长度,它表示总
数据
点随测量时间
的
变化。 这些
文件
需要
加载
到仪器公司提供
的
特定软件
浏览 0
提问于2021-10-27
得票数 0
2
回答
用
HDF5
库读取NetCDF
数据
集
、
、
、
在
HDF5
中
,我们得到了一些包含
数据
集
、表格
数据
的
文件
,其中每一列都有名称,并且可能具有不同
的
数据
类型(例如,string类型
的
"author“,无符号整数类型
的
”计数“,等等)。如果我打开
HDF5
2.9
中
的
一个
文件
,导航到"
HDF5
复合
数据
集<
浏览 3
提问于2013-04-18
得票数 1
回答已采纳
1
回答
如何在Python语言中定义
hdf5
堆栈
的
空间参考系统?
、
、
我是h5py新手,我
的
实际
任务是
创建
一个包含MODIS子集
的
HDF5
堆栈。我可以
创建
包含所有良好
数据
的
堆栈,但不能
创建
或附加空间参考系统。目标是将单个
数据
集
从堆栈
加载
到查看
器
中
,就像在ArcGIS中一样,并且应该将其放置
在
正确
的
位置。 如何为堆栈提供正确
的
空间/投影信息?
浏览 2
提问于2013-07-03
得票数 0
1
回答
pythorch-lightning train_dataloader耗尽
数据
、
、
、
我开始使用
pytorch
-lightning,并面临着我
的
自定义
数据
加载
器
的
问题: 我正在使用自己
的
数据
集
和
通用
的
torch.utils.data.DataLoader。基本上,
数据
集
采用一条路径并
加载
与
数据
加载
器
加载
的
给定索引相对应
的
<e
浏览 1
提问于2020-05-26
得票数 1
1
回答
提高h5py
的
阅读速度
、
、
我对python
的
h5py包有个小问题。我正在处理存储
在
hdf5
文件
中
的
非常大
的
数据
集
(大约250 k
的
小图像片段),这些
数据
集
的
大小(num_images x color_channels x宽度x高度)是一个数组。此
数据
集
被随机分离
为
培训
和
验证
数据
。因此,
在</e
浏览 4
提问于2017-01-25
得票数 4
回答已采纳
3
回答
HDF5
:存储NumPy
数据
、
、
、
、
当我使用NumPy
时
,我以本机格式*.npy存储它
的
数据
。它非常快,给了我一些好处,就像这个现在我正在与
HDF5
(目前
的
PyTables)打交道。当我
在
本教程
中
阅读
时
,他们使用NumPy序列化程序来存储NumPy
数据
,这样我就可以像从简单
的</em
浏览 9
提问于2010-11-09
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Python笔记-数据加载、存储与文件格式(2)
Pytorch用BERT对CoLA、新闻组文本数据集自然语言处理NLP:主题分类建模微调可视化分析
保存为.npy与保存为pd数据格式,哪个更高效?
Github代码实践:Pytorch实现的语义分割器
从头开始了解PyTorch的简单实现
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券