Loading [MathJax]/jax/input/TeX/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >【Python】独特的进程池概念

【Python】独特的进程池概念

作者头像
苏州程序大白
发布于 2022-04-14 06:36:04
发布于 2022-04-14 06:36:04
73700
代码可运行
举报
运行总次数:0
代码可运行

【Python】独特的进程池概念

前言

创建进程池可以形象地理解为创建一个并行的流水线,只需创建一次流水线的消耗,处理接收到的任务的,不使用进程池。 ,浪费时间。

中方本来没有进程的,除了python的,使用线程池的语言,是进程的其他线程池(而进程是执行业务的其他任务)。python的原因(因为Cython的概念),线程编程不同的并行,把线程池的概念转移到了进程中,命名为进程池。

🌟python进程池

当创建的子进程数量不多时,可以直接利用多处理进程中的进程动态形成需要的进程。

如果是上百量甚至巨大上千,手动的去创建进程的工作目标,此时就可以为多进程模块提供池的方法。

1、初始化 Pool 时,可以指定一个进程数

2、当有新的请求提交到 Pool 中时

  • 如果池还没有满,那么就用创建一个新进程的执行该请求;
  • 如果池中的进程达到指定的任务,那么已经有多少时间,直到有进程结束,会用之前的请求进程来执行新的任务。

🌟进程池如何使用?

⭐️申请()

函数原型:apply (func, args=()[, kwds={}]])

该函数传递不定参数,同 python 中的应用函数一致,主进程会被阻止函数执行结束(不建议使用,并且 3.x 以后不再出现使用)

⭐️apply_async

函数原型:apply_async(func[, args=()[, kwds={}[, callback=None]]])

与应用一致,但它是非进行不支持的使用支持结果返回后反对

⭐️地图()

函数原型:map(func, iterable[, chunksize=None])

池类中的映射表的行为必须基本一致,它会使用第二个进程与先前的结果返回:

但在实际使用中,参数是一个调用,在整个应用程序中都需要注意,程序会运行子进程。

⭐️map_async()

函数原型:map_async(func, iterable[, chunksize[, callback]])

与地图匹配一致,但它是非阻尼的。

⭐️close()

关闭进程池(pool),不再接受新的任务。

⭐️终端()

结束工作进程,不再处理未处理的任务。

⭐️加入()

主进程停止等待子进程的退出,加入方法要在关闭或终止使用之后。

⭐️代码实列:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
# 导入相关multiprocessing包
import multiprocessing

# 创建拥有CPU核心数量的进程的进程池
pool = multiprocessing.Pool(processes=multiprocessing.cpu_count())

for i in  range ( 100 ): ##制动等待当前任务的进程结束# pool.apply(func=pow, args=(i,2))
    
    

    # 不延迟当前任务的进程结束
    pool.apply_async(func= pow , args=(i, 2 ))

# # map函数到一个列表,延迟返回值
# results = pool.map(func=print, iterable=[i for i in range(10000)])

# # 不延迟等待返回值,未运行完就调用results会报错。
# results = poolmap_async(func=print, iterable=[i for i in range(10000)])

#close之后不会有新的进程加入到pool
 pool.close()

#加入函数等待所有子进程#调用加入之前,先结束调用close函数,否则会出错。
 pool.join()

# # 结束工作进程,不再处理未完成的任务。
# pool.terminate()

🌟进程池中的进程和一般的进程有什么区别?

⭐️进程池中的Queue

  • 如果要使用进程池创建进程,就需要使用multiprocessing.Manager()中的Queue(),而不是multiprocessing.Queue()
  • 使用的方法是一样的,都已经成功了,再用q.put()添加、q.get()等待获取。
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022/03/30 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
【Python】独特的进程池概念
当需要创建的子进程数量不多时,可以直接利用multiprocessing中的Process动态成生多个进程。
杨丝儿
2022/02/25
1.6K0
Python:线程、进程与协程(6)——
    上篇博文介绍了multiprocessing模块的内存共享(点击此处可以参看),下面讲进程池。有些情况下,所要完成的工作可以上篇博文介绍了multiprocessing模块的内存共享,下面讲进程池。有些情况下,所要完成的工作可以分解并独立地分布到多个工作进程,对于这种简单的情况,可以用Pool类来管理固定数目的工作进程。作业的返回值会收集并作为一个列表返回。Pool可以提供指定数量的进程,供用户调用,当有新的请求提交到pool中时,如果池还没有满,那么就会创建一个新的进程用来执行该请求;但如果池中的进程数已经达到规定最大值,那么该请求就会等待,直到池中有进程结束,才会创建新的进程来它。
py3study
2020/01/06
1.5K0
一篇文章梳理清楚 Python 多线程与多进程
在学习Python的过程中,有接触到多线程编程相关的知识点,先前一直都没有彻底的搞明白。今天准备花一些时间,把里面的细节尽可能的梳理清楚。
吾非同
2021/12/13
9370
一篇文章梳理清楚 Python 多线程与多进程
44.python 进程池multiprocessing.Pool
python进程池Pool 和前面讲解的 python线程池 类似,虽然使用多进程能提高效率,但是进程的创建会消耗大量的计算机资源(进程Process的创建远远大于线程Thread创建占用的资源),线程是计算机最小的运行单位,连线程都需要使用线程池,进程有什么理由不使用进程池?
猿说编程[Python和C]
2020/03/12
2.7K0
44.python 进程池multiprocessing.Pool
【从零学习python 】85.Python进程池的并行计算技术应用
当需要创建的子进程数量不多时,可以直接利用 multiprocessing 中的 Process 动态生成多个进程,但如果是上百甚至上千个目标,手动创建进程的工作量巨大,此时就可以使用 multiprocessing 模块提供的 Pool 方法。
全栈若城
2024/02/29
1390
python 中的进程池 -- multiprocessing.pool.Pool
上一篇文章中,我们介绍了如何通过 multiprocessing 进行多进程并发编程。 通过 multiprocessing 实现 python 多进程
用户3147702
2022/06/27
2K0
python 中的进程池 -- multiprocessing.pool.Pool
Python进程间通信和进程池
可以使用multiprocessing模块的Queue实现多个进程之间的数据传递。Queue本身是一个消息列队程序。
Python碎片公众号
2021/02/26
8510
Python进程间通信和进程池
python标准库之MultiProcessing库的研究 (1)
MultiProcessing模块是一个优秀的类似多线程MultiThreading模块处理并发的包 之前接触过一点这个库,但是并没有深入研究,这次闲着无聊就研究了一下,算是解惑吧。 今天先研究下apply_async与map方法。传闻就是这两个方法分配进程池中的进程给相关函数,我想验证下。 看下官网对这两个的解释: apply_async(func[, args[, kwds[, callback[, error_callback]]]]) A variant of the apply() method which returns a result object.
Ryan_OVO
2023/10/18
2180
python标准库之MultiProcessing库的研究 (1)
python多进程编程-进程池的使用(一)
在Python多进程编程中,进程池是一种常用的技术,它可以在多个进程之间共享资源,提高程序的执行效率。
玖叁叁
2023/04/20
8860
第十五章 Python多进程与多线程
multiprocessing是多进程模块,多进程提供了任务并发性,能充分利用多核处理器。避免了GIL(全局解释锁)对资源的影响。
py3study
2020/01/09
7720
python进程池:multiprocessing.pool
本文转至http://www.cnblogs.com/kaituorensheng/p/4465768.html,在其基础上进行了一些小小改动。
hankleo
2020/09/17
4450
进程池及回掉函数[通俗易懂]
虽然进程间数据独立,但可以用过Manager实现数据共享,事实上Manager的功能远不止于此。
全栈程序员站长
2022/07/21
3610
python 进程池Pool
当需要创建的子进程数量不多时,可以直接利用multiprocessing中的Process动态成生多个进程,但如果是上百甚至上千个目标,手动的去创建进程的工作量巨大,此时就可以用到multiprocessing模块提供的Pool方法。
Devops海洋的渔夫
2019/06/02
1K0
Python进程间通信
可以使用 multiprocessing 模块的 Queue 实现多进程之间的数据传递,Queue本身是一个消息队列程序,首先用一个小实例来演示一下Queue的工作原理:
忆想不到的晖
2021/04/04
9100
Python进程间通信
python中的多进程处理
  众所周知,python本身是单线程的,python中的线程处理是由python解释器分配时间片的;但在python 3.0中吸收了开源模块,开始支持系统原生的进程处理——multiprocessing. 注意:这个模块的某些函数需要操作系统的支持,例如,multiprocessing.synchronize模块在某些平台上引入时会激发一个ImportError 1)Process   要创建一个Process是很简单的。
py3study
2020/01/13
7200
Python系统编程-进程1.进程1.多任务的引入2.多任务的概念
有很多的场景中的事情是同时进行的,比如开车的时候手和脚共同来驾驶汽车,再比如唱歌跳舞也是同时进行的;
Python攻城狮
2018/08/23
6210
Python系统编程-进程1.进程1.多任务的引入2.多任务的概念
python 进程池pool简单实例
   在利用Python进行系统管理的时候,特别是同时操作多个文件目录,或者远程控制多台主机,并行操作可以节约大量的时间。当被操作对象数目不大时,可以直接利用multiprocessing中的Process动态成生多个进程,十几个还好,但如果是上百个,上千个目标,手动的去限制进程数量却又太过繁琐,此时可以发挥进程池的功效。  
py3study
2020/01/03
2.2K0
【Python基础编程】全面解析进程、进程通信与生产者-消费者模式
上篇文章主要了解python的线程,如何创建线程,如何通过线程实现生产者-消费者模式以及线程池的使用等等,接下来这篇文章讲解python的进程,有问题欢迎一起探讨。
易辰君
2024/11/07
850
【说站】python中进程池Pool的初始化
3、如果池中的流程数达到指定的值,则等待该请求,直到池中的流程结束为止,以之前的流程执行新的任务。
很酷的站长
2022/11/24
3260
【说站】python中进程池Pool的初始化
【python进阶】深入理解系统进程2
前言 在上一篇【python进阶】深入理解系统进程1中,我们讲述了多任务的一些概念,多进程的创建,fork等一些问题,这一节我们继续接着讲述系统进程的一些方法及注意点 multiprocessing 如果你打算编写多进程的服务程序,Unix/Linux⽆疑是正确的选择。由于 Windows没有fork调⽤,难道在Windows上⽆法⽤Python编写多进程的程 序? 由于Python是跨平台的,⾃然也应该提供⼀个跨平台的多进程⽀持。 multiprocessing模块就是跨平台版本的多进程模块。 multi
Angel_Kitty
2018/06/14
6850
相关推荐
【Python】独特的进程池概念
更多 >
LV.0
苏州特瑞特软件开发工程师
作者相关精选
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验