python多任务处理之浅谈协程

协程,又称微线程,纤程。英文名Coroutine。

协程的概念很早就提出来了,但直到最近几年才在某些语言(如Lua)中得到广泛应用。

子程序,或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。

所以子程序的调用是通过栈实现的而一个线程就是执行一个子程序

子程序调用总是一个入口,一次返回,调用顺序是明确的。而协程的调用和子程序不同。

注意,在一个子程序中中断,去执行其他子程序,不是函数调用,有点类似CPU的中断。比如子程序A、B:

def A():
    print('1')
    print('2')
    print('3')

def B():
    print('a')
    print('b')
    print('c')

假设由协程执行,在执行A的过程中,可以随时中断,去执行B,B也可能在执行过程中中断再去执行A,结果可能是:

1
2
a
b
3
c

但是在A中是没有调用B的,所以协程的调用比函数调用理解起来要难一些

看起来A、B的执行有点像多线程,但协程的特点在于是一个线程执行,那和多线程比,协程有何优势?

最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显

第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多。

因为协程是一个线程执行,那怎么利用多核CPU呢?最简单的方法是多进程+协程,既充分利用多核,又充分发挥协程的高效率,可获得极高的性能。

Python对协程的支持是通过generator实现的。

在generator中,我们不但可以通过for循环来迭代,还可以不断调用next()函数获取由yield语句返回的下一个值。

但是Python的yield不但可以返回一个值,它还可以接收调用者传入的参数

来看例子:

传统的生产者-消费者模型是一个线程写消息,一个线程取消息,通过锁机制控制队列和等待,但一不小心就可能死锁。

如果改用协程,生产者生产消息后,直接通过yield跳转到消费者开始执行,待消费者执行完毕后,切换回生产者继续生产,效率极高:

def consumer():
    r = ''
    while True:
        n = yield r
        if not n:
            return
        print('[CONSUMER] is Consuming %s ...' % n)
        r = '200 OK'

def producer(c):
    c.send(None)
    n = 0
    while n < 5:
        n = n + 1
        print('[PRODUCER] is Producing %s ...' % n)
        r = c.send(n)
        print('[PRODUCER] Consumer return: %s' % r)
    c.close()

c = consumer()
producer(c)

执行结果:

[PRODUCER] is Producing 1 ...
[CONSUMER] is Consuming 1 ...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] is Producing 2 ...
[CONSUMER] is Consuming 2 ...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] is Producing 3 ...
[CONSUMER] is Consuming 3 ...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] is Producing 4 ...
[CONSUMER] is Consuming 4 ...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] is Producing 5 ...
[CONSUMER] is Consuming 5 ...
[PRODUCER] Consumer return: 200 OK

注意到consumer函数是一个generator,把一个consumer传入producer后:

  1. 首先调用c.send(None)启动了包含yield关键字的生成器函数,并在yield处挂起函数,之后回到producer函数继续执行c.send(None)后面的代码;
  2. 然后,一旦生产了东西,通过c.send(n)切换到consumer函数从上一次挂起处执行;
  3. 此时c.send(n)向生成器函数consumer中传入变量n,由表达式n=yield r 接收,表现为consumer通过yield拿到消息,执行后面的代码,同时得到r的值,又通过yield把r的结果传回给producer;
  4. producer通过c.send(n)的返回值拿到consumer处理的结果并赋值给变量r,继续生产下一条消息;
  5. producer决定不生产了,通过c.close()关闭consumer生成器函数,整个过程结束。

整个流程无锁,由一个线程执行,producer和consumer 协作完成任务,所以称为“协程”,而非线程的抢占式多任务。

注:本文仅供参考学习交流使用,转自:https://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000/001432090171191d05dae6e129940518d1d6cf6eeaaa969000

猜你喜欢

转载自blog.csdn.net/june_young_fan/article/details/81677166