libtask是Go语言的作者之一Russ Cox的作品,Go语言的Goroutine和channel都是参考这个库的实现,所以了解libtask对理解Go语言有非常大的作用。
libtask是一个简单的协程库,使用过程非常简单,可以参考源码中的httpload.c这个文件。这里简单说说libtask的使用方式:

1.首先提供函数:void taskmain(int argc, char **argv)。
因为libtask已经提供了main()函数,而在main()函数中首先会创建一个新的协程用来执行用户提供的taskmain()函数,然后main()函数会调用taskscheduler()来进行协程的调度。

2.可以调用taskcreate()函数创建一个协程,原型为:int taskcreate(void (fn)(void), void *arg, uint stack)。
taskcreate()接受3个参数,第一个是协程的回调函数指针,第二个是回调函数的参数,第三个是协程栈大小。

3.可以调用taskyield()函数来使当前协程让出CPU,并进行新的调度。

任务调度概念任务与任务控制块(TCB)

linux中称为进程控制块(PCB),即包含任务相关的数据结构,包含任务执行过程中的所有信息。

任务的名字 task name

任务的ID task id

任务的状态 task status

任务的优先级 task priority

任务的上下文(寄存器、堆栈指针、程序计数器(PC) ) task context

任务状态

运行态:获得cpu

等待态:需要资源才能继续运行

就绪态:获得资源,等待运行

任务队列

就绪队列:从运行态和等待态进入就绪态的任务,进入就绪队列尾; 从就绪态进入运行态,从就绪队列头取任务,进入运行态

等待队列:运行态任务,等待资源时,进入等待队列尾;等待队列的任务,就绪了以后,从等待队列中取出来,放入就绪队列中。

调度算法

按照是否有优先级,调度算法主要可分为

1、基于优先级的可抢占式调度

如果出现具有更高优先级的任务处于就绪状态,将当前任务停止运行,把cpu的控制权交给高优先级任务。

2、时间片轮转调度

各个任务按照先入先出原则排成一个队列,新任务入队尾,调度时选队首。

3、轮询,直到 ①任务执行完毕 ②任务主动放弃cpu ③ 任务IO操作阻塞

协程调度 libtask

对于协程调度,我们主要关心两个问题:

怎么调度?

什么时候调度?

协程特点

一个线程中模拟多个协程并发执行

没有优先级、非抢占式调度:任务不能主动抢占时间片

每个协程都有自己的堆栈和局部变量

采用轮询的调度方式

协程task结构体

可以看到,协程的结构体包含的数据,基本与TCB一致。

调度器与上下文切换

image

以上是一个调度器的实现,画了个图表示调度器一次for循环的运行流程(其中③④⑤⑥⑦具体细节代码可以看调度点那一节)如果要从一个协程切换到另一个协程,执行顺序按上图中的③④⑤⑥⑦①②

上述过程基本表示了协程调度的流程,即每次做协程切换时,都会先切换到调度器,再从调度器切换到下一个协程。

而整个过程对于协程库使用者来说,是透明的,在使用者看来,就是从一个协程切换到了另外一个协程。

任务切换时机(调度点)

在每一个调度点上,任务都会调用contextswitch()函数切换上下文,切换到调度器上,然后调度器再切换到就绪队列下一个任务。

单个任务执行完毕

任务执行完以后,切换回调度器,销毁该任务。

业务代码主动要求切换,即主动出让执行权

这个协程库没有时间片轮转机制,所以大部分任务可能都会主动调用taskyield主动让出执行权。

整个过程,其实就是前一节图中的③④⑤⑥⑦,所以,taskyield会重新激活taskscheduler()函数,从调度器的contextswitch()的下一行继续执行。

IO阻塞

复制代码

如果运行态的任务,遇到IO阻塞,会调用void fdwait(int fd, int rw) 函数,这个函数主要调用taskswitch(),即做上下文切换,但是不将此任务加入就绪队列,而是直接加入

pollfd数组,到后面fdtask任务再判断是否将该任务加入就绪队列。(具体见fdwait函数的注释)

从等待态到就绪态的过程:

taskready(polltask); 加入就绪队列。

等待态并不是一个任务队列,而是一个存多个fd的pollfd数组,然后当有IO操作,会创建一个fdtask任务,加入队尾,用IO复用操作poll或者epoll去轮询这个数组,

当所有的任务都执行完以后,判断出此时就绪队列中只有fdtask一个任务,才将可以进行读写的fd加入到就绪队列队尾,继续以上操作。

再举个例子:

与Reactor模式对比,虽然都是用了IO复用poll/epoll,但是Reactor用的是基于回调的异步方式,而

协程通过就绪队列这一层中间层,不需要注册回调函数,用跟其他普通任务相同的方式处理IO事件。

对使用者来讲,协程这种同步编程方式更加好理解,而且不需要维护各种回调。

goroutine调度器

通过分析libtask的部分源码,我们已经得知两个问题:1.怎么调度 2.什么时候调度

线程模型

N:1模型,N个用户空间线程在1个内核空间线程上运行。优势是上下文切换非常快但是无法利用多核系统的优点。

1:1模型,1个内核空间线程运行一个用户空间线程。这种充分利用了多核系统的优势但是上下文切换非常慢,因为每一次调度都会在用户态和内核态之间切换。(POSIX线程模型(pthread),Java)

M:N模型, 每个用户线程对应多个内核空间线程,同时也可以一个内核空间线程对应多个用户空间线程。Go打算采用这种模型,使用任意个内核模型管理任意个goroutine。这样结合了以上两种模型的优点,但缺点就是调度的复杂性。

下面看看golang的协程调度

M:一个用户空间线程,同时对应一个内核线程,类似posix pthread

P:代表运行的上下文环境, 也就是我们上一节实现的调度器,一个调度器也会对应一个就绪队列

G:goroutine,即协程

M和P和G的关系:

image

一个内核线程M一次只能选择一个调度器P,但是每次选择哪个是不确定的

比如:调度器P1对应的就绪队列中没有就绪任务,M选择P1白白浪费资源,于是会选择就绪任务多的P2、P3等

再比如: 调度器P1对应的就绪队列中的就绪任务已经执行完成了,M会重新选择任务多的P2、P3等

一个调度器P可以调度多个协程G,这跟libtask的原理是一样的。

我们分析的libtask,其实就是P与G的关系,M总是1,即并没有考虑多核的情况。

需要搞清楚的几个问题M和P的数量如何确定?或者说何时会创建M和P?

1、P的数量:

由启动时环境变量GOMAXPROCS个goroutine在同时运行。

2、M的数量:

go语言本身的限制:go程序启动时,会设置M的最大数量,默认10000.但是内核很难支持这么多的线程数,所以这个限制可以忽略。

runtime/debug中的SetMaxThreads函数,设置M的最大数量

一个M阻塞了,会创建新的M。

M与P的数量没有绝对关系,一个M阻塞,P就会去创建或者切换另一个M,所以,即使P的默认数量是1,也有可能会创建很多个M出来。

3、P何时创建:在确定了P的最大数量n后,运行时系统会根据这个数量创建n个P。

4、M何时创建:没有足够的M来关联P并运行其中的可运行的G。比如所有的M此时都阻塞住了,而P中还有很多就绪任务,就会去寻找空闲的M,而没有空闲的,就会去创建新的M。

M选择哪一个P关联?

M会选择导致此M被创建的那个P关联。

什么时候会切换P与M的关联关系?

当M因系统调用而阻塞时(M上运行的G进入了系统调用的时候),M与P会分开,如果此时P的就绪队列中还有任务,

P就会去关联一个空闲的M,或者创建一个M进行关联。(也就是说go不是像libtask一样处理IO阻塞的?不确定。)

就绪的G如何选择进入哪个P的就绪队列?

默认情况下:因为P的默认数量是1(M不一定是1),所以如果我们不改变GOMAXPROCS,无论我们在程序中用go语句创建多少个goroutine,它们都只会被塞入同一个P的就绪队列中。

有多个P的情况下:如果修改了GOMAXPROCS或者调用了runtime.GOMAXPROCS,运行时系统会把所有的G均匀的分布在各个P的就绪队列中。

后来的G进入哪个P,具体的算法还没有看到

如何保证每个P的就绪队列中都会有G

如果一个P的就绪队列所有任务都执行完了,那么P会尝试从其他P的就绪队列中取出一部分到自己的就绪队列中,以保证每个P的就绪队列都有任务可以执行。

协程主要适合于一些IO比较频繁的系统,在这样的系统中,使用协程跟多线程的优缺点比较如下:

  1. 单线程异步IO: 代码难度比较大,需要自己处理异步I/O, epoll等, 优点是性能高,代码执行是顺序的,不需要关心锁,竞争等情况;
    2.协程: 比单线程异步I/O容易编程,代码更好写,协程里面是顺序编程的,但协程之间是独立栈,共享堆内存,单线程执行环境,在一个CPU上运行。协程切换代价比线程少多了,只需要十几条汇编指令切换寄存器。每秒据说能达到上百万次切换。
    3.多线程同步I/O: 代码相对也好写,跟协程一样独立栈,共享堆内存。 需要处理同步禁止问题,但线程切换代价特别大,linux里面没有原生的线程,是用进程实现的。
    4.多进程: 这个得看具体应用了,需要共享数据的应用不适合用多进程,否则得共享数据。但代码相对容易编写;