Python多任务（1）线程

1. 多任务概念

什么叫“多任务”呢？简单地说，就是操作系统可以同时运行多个任务。打个比方，你一边在用浏览器上网，一边在听MP3，一边在用Word赶作业，这就是多任务，至少同时有3个任务正在运行。还有很多任务悄悄地在后台同时运行着，只是桌面上没有显示而已。

现在，多核CPU已经非常普及了，但是，即使过去的单核CPU，也可以执行多任务。由于CPU执行代码都是顺序执行的，那么，单核CPU是怎么执行多任务的呢？

答案就是操作系统轮流让各个任务交替执行，任务1执行0.01秒，切换到任务2，任务2执行0.01秒，再切换到任务3，执行0.01秒……这样反复执行下去。表面上看，每个任务都是交替执行的，但是，由于CPU的执行速度实在是太快了，我们感觉就像所有任务都在同时执行一样。

真正的并行执行多任务只能在多核CPU上实现，但是，由于任务数量远远多于CPU的核心数量，所以，操作系统也会自动把很多任务轮流调度到每个核心上执行。

注意：

1. 并发：指的是任务数多余cpu核数，通过操作系统的各种任务调度算法，实现用多个任务“一起”执行（实际上总有一些任务不在执行，因为切换任务的速度相当快，看上去一起执行而已）
2. 并行：指的是任务数小于等于cpu核数，即任务真的是一起执行的

2. 线程

python的thread模块是比较底层的模块，python的threading模块是对thread做了一些包装的，可以更加方便的被使用

2.1 使用threading模块

from threading import Thread

def work():
    print("hello")


for i in range(5):
    t = Thread(target=work)
    t.start()
t.close

• 可以明显看出使用了多线程并发的操作，花费时间要短很多
• 当调用start()时，才会真正的创建线程，并且开始执行

2.2 查看线程数量

#coding=utf-8
import threading
from time import sleep,ctime

def sing():
    for i in range(3):
        print("唱歌...%d"%i)
        sleep(1)

def dance():
    for i in range(3):
        print("跳舞...%d"%i)
        sleep(1)

if __name__ == '__main__':
    print('---开始---:%s'%ctime())

    t1 = threading.Thread(target=sing)
    t2 = threading.Thread(target=dance)

    t1.start()
    t2.start()

    while True:
        length = len(threading.enumerate())
        print('当前运行的线程数为：%d'%length)
        if length<=1:
            break

        sleep(0.5)

可以看出：主线程会等待所有的子线程结束后才会结束

2.3 线程执行代码的封装

python的threading.Thread类有一个run方法，用于定义线程的功能函数，可以在自己的线程类中覆盖该方法。而创建自己的线程实例后，通过Thread类的start方法，可以启动该线程，交给python虚拟机进行调度，当该线程获得执行的机会时，就会调用run方法执行线程

使用threading模块时，往往会定义一个新的子类class，只要继承threading.Thread就可以了，然后重写run方法

（转）Thread使用start和run方法启动线程有什么区别？

https://blog.csdn.net/woshizisezise/article/details/79938915

import threading
import time


# 定义新的子类然后重写run方法
class MyThread(threading.Thread):
    def run(self):
        count = 0
        while True:
            time.sleep(1)
            # 如果没有给线程指定名字，系统会默认指定一个名字给每个线程
            print("这是" + self.name + ":" + str(count))
            count = count + 1


# 定义主函数
def main():
    for i in range(5):
        t = MyThread()
        # start只是进入了线程的就绪阶段，只有真正调用了类中的run方法之后才会真正地执行线程
        t.start()


if __name__ == '__main__':
    main()

2.4 线程的执行顺序

import threading
import time

class MyThread(threading.Thread):
    def run(self):
        for i in range(3):
            time.sleep(1)
            msg = "I'm "+self.name+' @ '+str(i)
            print(msg)
def test():
    for i in range(5):
        t = MyThread()
        t.start()
if __name__ == '__main__':
    test()

输出：
    I'm Thread-1 @ 0
    I'm Thread-2 @ 0
    I'm Thread-5 @ 0
    I'm Thread-3 @ 0
    I'm Thread-4 @ 0
    I'm Thread-3 @ 1
    I'm Thread-4 @ 1
    I'm Thread-5 @ 1
    I'm Thread-1 @ 1
    I'm Thread-2 @ 1
    I'm Thread-4 @ 2
    I'm Thread-5 @ 2
    I'm Thread-2 @ 2
    I'm Thread-1 @ 2
    I'm Thread-3 @ 2

从代码和执行结果可以看出，多线程程序的执行顺序是不确定的。当执行到sleep语句时，线程将被阻塞（Blocked），到sleep结束后，线程进入就绪（Runnable）状态，等待调度。而线程调度将自行选择一个线程执行。上面的代码中只能保证每个线程都运行完整个run函数，但是线程的启动顺序、run函数中每次循环的执行顺序都不能确定

总结：

1. 每个线程默认有一个名字，尽管上面的例子中没有指定线程对象的name，但是python会自动为线程指定一个名字
2. 当线程的run()方法结束时该线程完成
3. 无法控制线程调度程序，但可以通过别的方式来影响线程调度的方式

2.5 多线程共享全局变量

使用global关键字即可

from threading import Thread
import time


# 全局变量number
number = 100


def work1():
    global number
    for i in range(3):
        number += 1
    print("经过work1之后的number为：" + str(number))


def work2():
    global number
    for i in range(5):
        number += 2
    print("经过work2之后的number为：" + str(number))


def main():
    print(number)
    t1 = Thread(target=work1)
    t2 = Thread(target=work2)
    t1.start()
    time.sleep(1)
    t2.start()


if __name__ == '__main__':
    main()

2.6 向线程中传递实参

使用args=( )传递时需要使用 元组类型

from threading import Thread


def work1(number):
    for i in range(5):
        number += 5
    print("当前为：" + str(number))


def work2(ls):
    ls.append(50)
    print(ls)


def main():
    lst = [11, 12, 13]
    # 可以直接在目标函数的括号里面传递参数
    t1 = Thread(target=work1(50))
    t1.start()
    # 使用argv=(,)可以传递参数给目标函数
    t2 = Thread(target=work2, args=(lst,))
    t2.start()


if __name__ == '__main__':
    main()

2.7 线程同步（重要）

假设两个线程t1和t2都要对全局变量g_num(默认是0)进行加1运算，t1和t2都各对g_num加10次，g_num的最终的结果应该为20。

但是由于是多线程同时操作，有可能出现下面情况：

1. 在g_num=0时，t1取得g_num=0。此时系统把t1调度为”sleeping”状态，把t2转换为”running”状态，t2也获得g_num=0
2. 然后t2对得到的值进行加1并赋给g_num，使得g_num=1
3. 然后系统又把t2调度为”sleeping”，把t1转为”running”。线程t1又把它之前得到的0加1后赋值给g_num。
4. 这样导致虽然t1和t2都对g_num加1，但结果仍然是g_num=1

如果多个线程同时对同一个全局变量操作，会出现资源竞争问题，从而数据结果会不正确

同步就是协同步调，按预定的先后次序进行运行。如:你说完，我再说。

"同"字从字面上容易理解为一起动作

其实不是，"同"字应是指协同、协助、互相配合。

如进程、线程同步，可理解为进程或线程A和B一块配合，A执行到一定程度时要依靠B的某个结果，于是停下来，示意B运行;B执行，再将结果给A;A再继续操作。

上面的问题，可以通过线程同步来进行解决

思路：

1. 系统调用t1，然后获取到g_num的值为0，此时上一把锁，即不允许其他线程操作g_num
2. t1对g_num的值进行+1
3. t1解锁，此时g_num的值为1，其他的线程就可以使用g_num了，而且是g_num的值不是0而是1
4. 同理其他线程在对g_num进行修改时，都要先上锁，处理完后再解锁，在上锁的整个过程中不允许其他线程访问，就保证了数据的正确性

2.8 互斥锁（重要）

当多个线程几乎同时修改某一个共享数据的时候，需要进行同步控制

线程同步能够保证多个线程安全访问竞争资源，最简单的同步机制是引入互斥锁。

互斥锁为资源引入一个状态：锁定/非锁定

某个线程要更改共享数据时，先将其锁定，此时资源的状态为“锁定”，其他线程不能更改；直到该线程释放资源，将资源的状态变成“非锁定”，其他的线程才能再次锁定该资源。互斥锁保证了每次只有一个线程进行写入操作，从而保证了多线程情况下数据的正确性

threading模块中定义了Lock类，可以方便的处理锁定：

import threading
import time


# 定义全局变量
number = 0


# 创建一个互斥锁 - 注意Lock()大写
mutex = threading.Lock()


# 函数1
def work1(num):
    global number
    for i in range(num):
        mutex.acquire()
        number += 1
        mutex.release()
    print("经过函数1：" + str(number))


# 函数2
def work2(num):
    global number
    for i in range(num):
        mutex.acquire()
        number += 1
        mutex.release()
    print("经过函数2：" + str(number))


# 定义主函数
def main():
    t1 = threading.Thread(target=work1(1000000))
    t2 = threading.Thread(target=work2(1000000))
    t1.start()
    t2.start()

    while len(threading.enumerate()) != 1:
        time.sleep(1)
    print("最终结果为：" + str(number))


if __name__ == '__main__':
    main()

上锁解锁过程：

当一个线程调用锁的acquire()方法获得锁时，锁就进入“locked”状态。

每次只有一个线程可以获得锁。如果此时另一个线程试图获得这个锁，该线程就会变为“blocked”状态，称为“阻塞”，直到拥有锁的线程调用锁的release()方法释放锁之后，锁进入“unlocked”状态。

线程调度程序从处于同步阻塞状态的线程中选择一个来获得锁，并使得该线程进入运行（running）状态。

总结：

锁的好处：

• 确保了某段关键代码只能由一个线程从头到尾完整地执行

锁的坏处：

• 阻止了多线程并发执行，包含锁的某段代码实际上只能以单线程模式执行，效率就大大地下降了
• 由于可以存在多个锁，不同的线程持有不同的锁，并试图获取对方持有的锁时，可能会造成死锁

2.9 死锁（重要）

在线程间共享多个资源的时候，如果两个线程分别占有一部分资源并且同时等待对方的资源，就会造成死锁。

尽管死锁很少发生，但一旦发生就会造成应用的停止响应

死锁实例：运行之后系统一直等待

import threading
import time


# 创建两个锁，最终要实现他们产生死锁
mutexA = threading.Lock()
mutexB = threading.Lock()


# 创建具有不同上锁顺序的线程类A
class MyThreadA(threading.Thread):

    name = 'MyThreadA'

    # 重写线程的运行方式
    def run(self):
        mutexA.acquire()
        print(MyThreadA.name + "：" + "A已上锁，等待B的资源...")
        time.sleep(1)

        # 想要获取B的资源 - 此时会在acquire处堵塞，因为mutexB已经在另一个class中被上锁了
        mutexB.acquire()
        print(MyThreadA.name + "：" + "获取到了B的资源")
        mutexB.release()
        mutexA.release()


# 创建具有不同上锁顺序的线程类A
class MyThreadB(threading.Thread):

    name = 'MyThreadB'

    # 重写线程的运行方式
    def run(self):
        mutexB.acquire()
        print(MyThreadB.name + "：" + "B已上锁，等待A的资源...")
        time.sleep(1)

        # 想要获取B的资源 - 此时会在acquire处堵塞，因为mutexB已经在另一个class中被上锁了
        mutexA.acquire()
        print(MyThreadB.name + "：" + "获取到了A的资源")
        mutexA.release()
        mutexB.release()


# 定义主函数
def main():
    t1 = MyThreadA()
    t2 = MyThreadB()
    t1.start()
    t2.start()

    while len(threading.enumerate()) != 1:
        print("程序正在执行...尚未停止...")
        time.sleep(5)


if __name__ == '__main__':
    main()

如何避免死锁：

1. 银行家算法
2. 添加响应超时时间

银行家算法请移步：https://blog.csdn.net/wyf2017/article/details/80068608

                                http://v.youku.com/v_show/id_XNjc5Nzk1MzM2.html

2.10 多线程实例：多线程实现socket-udp接收和发送数据

import threading
import time
from socket import *


# 获取本机ip
# 可以封装成函数，方便 Python 的程序调用 - 以字符串的形式返回ip
def get_host_ip():
    try:
        s = socket(AF_INET, SOCK_DGRAM)
        s.connect(('8.8.8.8', 80))
        ip = s.getsockname()[0]
    finally:
        s.close()

    return ip


# 发送功能
def send(udp, dest_addr, port):
    while True:
        msg = input("输入信息:")
        udp.sendto(msg.encode('utf-8'), (dest_addr, port))


# 接收功能
def accept(udp):
    while True:
        recv_msg = udp.recvfrom(1024)
        print(">>" + recv_msg[0].decode('gbk'))


# 主函数
def main():
    # 发送端口是8080
    udp_socket = socket(AF_INET, SOCK_DGRAM)
    udp_socket.bind(("", 8080))
    # 先输出本机地址
    print("本机信息：" + get_host_ip() + ':8080\n')
    dest_ip = input("输入目标ip：")
    dest_port = input("输入目标端口：")
    # 启动多线程
    t1 = threading.Thread(target=send, args=(udp_socket, dest_ip, int(dest_port),))
    t2 = threading.Thread(target=accept, args=(udp_socket,))
    t1.start()
    t2.start()

    # 查看当前的线程的数量
    while True:
        length = len(threading.enumerate())
        print("当前的线程数为：{}".format(length))
        if length <= 0:
            break
        time.sleep(5)



# 调试部分
if __name__ == '__main__':
    main()