腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
用
joblib
并行
填充
数组
、
、
from
joblib
import Parallel, delayedl = np.random.randn(n,50) a = np.zeros为什么
数组
a没有被
填充
?
浏览 17
提问于2020-09-12
得票数 0
1
回答
稀疏CSR阵列的核外处理
、
、
、
、
如何在使用Python保存在磁盘上的稀疏CSR
数组
的块上
并行
应用一些函数?按照顺序,这可以通过使用
joblib
.dump保存CSR
数组
、
用
joblib
.load(.., mmap_mode="r")打开它并逐一处理行块来实现。
用
能更有效地做到这一点吗?特别是,假设不需要对稀疏
数组
进行所有可能的核心操作,而只需要
并行
加载行块(每个块是一个CSR
数组
)并将某些函数应用到它们(在我的例子中,这将是来自s
浏览 3
提问于2017-07-17
得票数 43
2
回答
Python:
并行
修改
数组
的简单方法
、
、
这个问题听起来可能很简单,但对于Python中的
并行
化来说,我肯定是在挣扎。我在OpenMP中处理了C++的
并行
化问题,这要容易得多。我需要做的是
并行
修改矩阵的条目。就这样。问题是,我不能使用简单的
joblib
库来完成它: def fooParallel(n_jobs=2, verbose = 0)(delayed(foo)(array,i) for i in in
浏览 0
提问于2016-08-13
得票数 4
回答已采纳
1
回答
如何使用
joblib
.Parallel()将循环中的“继续”
并行
化?
、
、
、
some_list: res = do_something(item)对于内存约束,我无法
用
None-s
填充
None列表,因此无法编写:我忘了说明检查condition(item)和实际do_something(item)的时间太长了
浏览 2
提问于2020-05-22
得票数 3
1
回答
python与
joblib
.Parallel :在单个CPU的多个核上
并行
?
、
、
、
、
我想
并行
执行在我的计算机CPU的四核处理器上
用
python-2.7编写的for循环。 我是
用
joblib
.Parallel还是使用
并行
-Python实现这一点呢?我已经看到
joblib
.Parallel被更多地使用了,但是文档的第一行让我担心:它设置了分叉的进程来处理“单独的CPU”。这是否意味着它不能在同一个CPU的不同核心上完成这个任务?
浏览 5
提问于2014-05-31
得票数 2
回答已采纳
1
回答
pymongo -执行
并行
查询
、
、
下面是我想要
并行
化的伪代码,但不知道从哪里开始 dbfor el in test_list:我知道如何使用
joblib
创建
并行
循环,但我不确定如何
并行
查询MongoDB,我应
浏览 1
提问于2015-09-01
得票数 3
2
回答
如何使用Python
填充
全局变量?
、
、
、
我想
并行
运行一些代码,并用Python中的结果
填充
一个全局变量。我编写了一个示例代码来检查 know 的行为,但我不知道如何返回结果。示例代码是:import multiprocessing如果我在运行其他任何东西之前检查global_var,它是
浏览 0
提问于2018-04-27
得票数 6
2
回答
如何
并行
处理python中的和计算?
、
、
、
、
我有一个求和,我试图计算,我有困难
并行
的代码。我试图
并行
化的计算有点复杂(它使用numpy
数组
和枕稀疏矩阵)。它产生一个numpy
数组
,我想从大约1000次计算中将输出
数组
相加。到目前为止,我已经尝试在python的多处理包中使用
joblib
的
并行
函数和pool.map函数。对于这两种情况,我使用一个返回numpy
数组
的内部函数。这些函数返回一个列表,我将其转换为numpy
数组
,然后进行求和。 但是,在
joblib
<
浏览 10
提问于2012-01-30
得票数 4
回答已采纳
1
回答
多进程池与asyncio.run_in_executor
、
、
、
概述 我正在尝试
并行
化一个文本分类项目,这个项目肯定要花很长时间才能完全串联运行。我尝试了两种可能的变体,我相信功能类似,并且对我在资源监视器中看到的每一种结果都很好奇。这是我以前用于
并行
化一些简单作业的方法,所以我想尝试一下。
浏览 3
提问于2017-08-10
得票数 3
回答已采纳
1
回答
并行
填充
矩阵
、
、
、
我需要通过评估向量对之间的函数来例行地
填充
矩阵A[i,j],因为每个i,j-pair的计算都是相互独立的,我想将此
并行
化 A[i,j] = function(X[i], X[j]) 如何通过
joblib
或其他广泛使用的库来优雅地
并行
化这种计算
浏览 1
提问于2020-11-07
得票数 1
2
回答
如何将dask
数组
逐片保存为.png文件?
我想将结果(dask
数组
)存储为.png文件,每个文件对应于dask
数组
的一个片段。你对如何实现这一点有什么建议吗?我一直在尝试通过使用
joblib
dask
并行
后端构建一个
并行
for循环来保存结果,然后逐个切片地循环结果。已使用client.persist()将array_to_save持久化到内存中
joblib
.Parallel(verbose=100)(<em
浏览 0
提问于2019-02-10
得票数 1
1
回答
joblib
.parallel中的共享内存熊猫数据帧对象
、
、
、
、
我使用
joblib
中的
并行
函数来
并行
一个任务。所有进程都以熊猫数据为输入。为了减少所使用的运行时内存,可以共享此数据吗?所有进程都是只读的。我找到了类似的解决方案,但对于numpy
数组
,并在这里使用了多处理:from
joblib
import Parallel, delayed def fun(df, cat):
浏览 6
提问于2022-09-20
得票数 0
回答已采纳
1
回答
使用索引列表有效地
填充
NumPy
数组
、
、
、
、
我知道如何在
joblib
中执行一个
并行
循环,返回作为结果的列表。 for column in data[row]:可以
并行
这个循环吗在没有
并行
化的情况下,
填充
70,000 x 10,000矩阵非常慢。
浏览 3
提问于2015-10-13
得票数 3
回答已采纳
1
回答
使用
Joblib
+Dask将许多子进程派生到HPC上的许多不同节点。
、
、
、
、
我正在尝试运行一个python程序,该程序在某一时刻执行许多(数千)令人尴尬的
并行
进程,这些进程是以对其他软件的子进程调用的形式出现的。我使用过mpi4py,但代码中的延迟导致我转向使用
joblib
。
Joblib
似乎是
并行
化这些子进程调用的一种简单方法。为了在多个CPU (每个CPU都有多个内核)上运行这些程序,我也使用了dask。cluster = LocalCluster()client = Client(cluster) from sklearn
浏览 17
提问于2019-04-03
得票数 2
1
回答
joblib
并行
返回重复
数组
、
、
import multiprocessingimport numpy as np l2为什么我得到的是四个相同的
数组
,而不是一个?
浏览 29
提问于2020-09-11
得票数 0
回答已采纳
1
回答
如何
并行
运行生成器代码?
、
、
、
、
只是不清楚如何使用它来
并行
化生成器。稍有不同:生成器返回的每个值都是一个很大的numpy
数组
(大约10兆字节)。如何在不进行酸洗和非酸洗的情况下进行传输?我看过multiprocessing.Array的文档,但如何使用它来传递一个numpy
数组
并不是很明显。
浏览 0
提问于2017-03-26
得票数 4
2
回答
Numpy
数组
索引问题
、
、
对于Numpy
数组
中的索引,我有一个小问题。我认为一个简化的例子是最好的想法,我正在尝试做什么。因此,首先,我创建了一个大小为零的
数组
:y = range(0,10,2)所以这会给我一个零位
数组
,是5X5。现在,我想用一个非常复杂的函数
填充
数组
,这是我无法处理网格的函数。此外,我还使用了
Joblib
来
并行
化操作。我将结果存储在一个列表中,因为
数组
在
并行</
浏览 5
提问于2013-08-08
得票数 1
回答已采纳
1
回答
如何通过将文件分割成较小的片段来选择>2 GiB的文件
、
、
有办法
用
我的分类器吗?也就是说,把它转换成字节,拆分,酸洗,解酸洗,连接字节,并使用分类器?
浏览 1
提问于2018-01-03
得票数 2
回答已采纳
2
回答
用
joblib
实现python简单
并行
计算
、
下面是我的代码的样子:from
joblib
import Parallel, delayedParallel for more information 而且持续时间太长了。我遗漏了什么?
浏览 3
提问于2015-08-31
得票数 0
回答已采纳
2
回答
Python:
joblib
在自定义函数上不起作用
、
、
我正在尝试使用python中的
并行
计算包
joblib
。from
joblib
import Parallel, delayed return 1 result=Parallel(n_jobs=8)(delayed有人能找出这种奇怪行为的原因吗(我
用
的是windows)?谢谢
浏览 0
提问于2016-01-18
得票数 0
点击加载更多
相关
资讯
用 Joblib 加速机器学习:高效存储与加载大数据!
解锁数据处理新技能:NumPy数组填充全指南(含多种填充类型与实用案例)
怎么用Python自动填充数据?
填充胶是做什么用的?
用c语法教大家认识数组
热门
标签
更多标签
云服务器
ICP备案
云直播
即时通信 IM
实时音视频
活动推荐
运营活动
广告
关闭
领券