python|简单探讨一下线程间通信之队列

简介: python|简单探讨一下线程间通信之队列

为什么需要线程间通信


一个人的力量是有限的,但是团队合作可以发挥更大的作用。而团队协作需要交流和通信来有效的分配任务和协调工作,来保证保时保量的完成工作。

为什么线程间需要通信呢?这就好比一个团队需要完成一个工作,但是这个工作周期性比较长,复杂度也比较高,此时就需要团队协作了,领导就把工作分为了n份,abc员工每次领取1份工作,做完了再向老板同步,并且领取新的工作,这样的话,工作很快就做完了嘛。


将线程代入上面的例子,在某些任务中,可能需要多个线程来完成同样的任务,所以线程间通信是为了线程之间的协作和同步,更快的完成任务。



线程间通信方式有哪些


python多线程编程中,线程间通信方法主要有以下几种:


  • 共享变量

这是最常用,也是用的最多的方式,这个很好理解,在同一进程中,多个线程有一部分内存是共用进程的,所以多个线程可以使用“共享变量”的方式共享同一份数据,通过对该变量的读写操作来实现线程间通信。


  • 队列

python中,为我们提供了队列的标准库Queue,它是标准库中的一个安全队列的实现。作用是可以在多个线程间共享数据,主要用法为通过get方法将数据放入队列,get方法将数据从队列中取出来,


  • 管道

python管道是通过multiprocessing库中的Pipe实现的,可以在2个线程之间任意传递数据,而且是双向通信的,主要用法为通过send方法发送数据,通过recv方法接收数据。

除此之外,还有其他方法,例如 借助第三方工具,比如redis等。




线程间通信案例之队列


共享变量,我们之前就已经用过了,比如上一节,我们自己实现了python的读写锁,就用到了共享变量的方式。这里就不再过多阐述了。这里将介绍一下管道的案例:


队列多用于生产者消费者,在python中,是使用queue模块下的Queue方法,创建一个新的队列语句为:

queues = queue.Queue()

其中,Queue可以传入一个maxsize,它将作为队列的最大值,默认的话,是无限制。


想要往队列中写入数据的话,使用put方法即可,例如,向队列写入字符串"123",我们仅需要调用put方法即可,例如:

queues.put("123")


而想要从队列中获取数据的话,需要使用get方法,例如:

data = queues.get()
print(data)

除此之外,还有队列其他常用的方法,如: qsize()会返回队列中元素的数量,empty()会判断队列是否为空,full()会判断队列是否已经满了。


这里举一个文件分发下载的例子,我们需要定义一个生产者,用于发布任务,定义多个消费者,用于执行任务,代码如下:image.png


在上述代码中,我们定义了生产者和消费者2个类,其初始方法__init__会传入队列信息,生产者有定义了2个方法,一个是put,是将元素放入队列中,还有一个是qsize,是返回当前队列的个数。而消费者只定义了一个方法get,上面写了一个死循环,向队列获取数据,每获取到一个数据,休息15秒。


在主函数中,我们定义了一个公共的队列queues,而后定义了生产者p和消费者q,二者都传入了同一个队列queues。最后我们写了3个线程,用于执行消费者qget方法。 和 调用一个生产者方法put


执行结果为:


网络异常,图片无法展示
|


上述结果展现的是,生产者生成数据,而消费者接收。file_0file_9都只被消费了一次,可见队列是自己保证了线程竞争问题的。



总结


本篇文章介绍了为什么需要线程间通信,以及通信方式有哪些,最后每种通信方式都举了一个例子,总的来说,最常用的还是共享变量的方式来进行线程间通信,但是此方法需要自己来保证线程竞争问题,除此之外,还有队列和管道,此二者不用担心线程竞争,但是前则更适用于生产者-消费者模型,后者更适用于两线程间相互通信。



相关文章
|
2月前
|
Java 调度
[Java]线程生命周期与线程通信
本文详细探讨了线程生命周期与线程通信。文章首先分析了线程的五个基本状态及其转换过程,结合JDK1.8版本的特点进行了深入讲解。接着,通过多个实例介绍了线程通信的几种实现方式,包括使用`volatile`关键字、`Object`类的`wait()`和`notify()`方法、`CountDownLatch`、`ReentrantLock`结合`Condition`以及`LockSupport`等工具。全文旨在帮助读者理解线程管理的核心概念和技术细节。
41 1
[Java]线程生命周期与线程通信
|
26天前
|
并行计算 数据处理 调度
Python中的并发编程:探索多线程与多进程的奥秘####
本文深入探讨了Python中并发编程的两种主要方式——多线程与多进程,通过对比分析它们的工作原理、适用场景及性能差异,揭示了在不同应用需求下如何合理选择并发模型。文章首先简述了并发编程的基本概念,随后详细阐述了Python中多线程与多进程的实现机制,包括GIL(全局解释器锁)对多线程的影响以及多进程的独立内存空间特性。最后,通过实例演示了如何在Python项目中有效利用多线程和多进程提升程序性能。 ####
|
28天前
|
Java
JAVA多线程通信:为何wait()与notify()如此重要?
在Java多线程编程中,`wait()` 和 `notify()/notifyAll()` 方法是实现线程间通信的核心机制。它们通过基于锁的方式,使线程在条件不满足时进入休眠状态,并在条件满足时被唤醒,从而确保数据一致性和同步。相比其他通信方式,如忙等待,这些方法更高效灵活。 示例代码展示了如何在生产者-消费者模型中使用这些方法实现线程间的协调和同步。
35 3
|
1月前
|
缓存 安全 C++
C++无锁队列:解锁多线程编程新境界
【10月更文挑战第27天】
40 7
|
1月前
|
消息中间件 存储 安全
|
1月前
|
Java Unix 调度
python多线程!
本文介绍了线程的基本概念、多线程技术、线程的创建与管理、线程间的通信与同步机制,以及线程池和队列模块的使用。文章详细讲解了如何使用 `_thread` 和 `threading` 模块创建和管理线程,介绍了线程锁 `Lock` 的作用和使用方法,解决了多线程环境下的数据共享问题。此外,还介绍了 `Timer` 定时器和 `ThreadPoolExecutor` 线程池的使用,最后通过一个具体的案例展示了如何使用多线程爬取电影票房数据。文章还对比了进程和线程的优缺点,并讨论了计算密集型和IO密集型任务的适用场景。
60 4
|
2月前
|
安全 Java
Java多线程通信新解:本文通过生产者-消费者模型案例,深入解析wait()、notify()、notifyAll()方法的实用技巧
【10月更文挑战第20天】Java多线程通信新解:本文通过生产者-消费者模型案例,深入解析wait()、notify()、notifyAll()方法的实用技巧,包括避免在循环外调用wait()、优先使用notifyAll()、确保线程安全及处理InterruptedException等,帮助读者更好地掌握这些方法的应用。
22 1
|
2月前
|
安全 Java 开发者
Java多线程中的`wait()`、`notify()`和`notifyAll()`方法,探讨了它们在实现线程间通信和同步中的关键作用
本文深入解析了Java多线程中的`wait()`、`notify()`和`notifyAll()`方法,探讨了它们在实现线程间通信和同步中的关键作用。通过示例代码展示了如何正确使用这些方法,并分享了最佳实践,帮助开发者避免常见陷阱,提高多线程程序的稳定性和效率。
40 1
|
2月前
|
Java
在Java多线程编程中,`wait()` 和 `notify()/notifyAll()` 方法是线程间通信的核心机制。
在Java多线程编程中,`wait()` 和 `notify()/notifyAll()` 方法是线程间通信的核心机制。它们通过基于锁的方式,使线程在条件不满足时进入休眠状态,并在条件成立时被唤醒,从而有效解决数据一致性和同步问题。本文通过对比其他通信机制,展示了 `wait()` 和 `notify()` 的优势,并通过生产者-消费者模型的示例代码,详细说明了其使用方法和重要性。
28 1
|
20天前
|
数据采集 Java Python
爬取小说资源的Python实践:从单线程到多线程的效率飞跃
本文介绍了一种使用Python从笔趣阁网站爬取小说内容的方法,并通过引入多线程技术大幅提高了下载效率。文章首先概述了环境准备,包括所需安装的库,然后详细描述了爬虫程序的设计与实现过程,包括发送HTTP请求、解析HTML文档、提取章节链接及多线程下载等步骤。最后,强调了性能优化的重要性,并提醒读者遵守相关法律法规。
54 0