> 文档中心 > 传统IO,Reactor ,Proactor 线程服务模型

传统IO,Reactor ,Proactor 线程服务模型


传统阻塞I/O服务模型

工作原理图
在这里插入图片描述
模型特点
1) 采用阻塞IO模式获取数据
2) 每个连接都需要独立的线程完成数据输入,业务处理,数据返回

问题分析
1) 当并发数很大,就会创建大量的线程,占用很大的系统资源
2) 连接创建后,如果当前线程暂时没有数据可读,该线程会阻塞在read操作,造成资源的浪费

针对传统阻塞 I/O 服务模型的 2 个缺点,解决方案:
1)基于 I/O 复用模型:多个连接共用一个阻塞对象,应用程序只需要在一个阻塞对象等待,无需阻塞等待所有连接。当某个连接有新的数据可以处理时,操作系统通知应用程序,线程从阻塞状态返回,开始进行业务处理。
2)基于线程池复用线程资源:不必再为每个连接创建线程,将连接完成后的业务处理任务分配给线程进行处理,一个线程可以处理多个连接的业务。

Reactor模式

Reactor模式的基本设计思想: IO复用+线程池

核心组成

1)Reactor:在一个单独的线程中运行,负责监听和分发事件,分发给适当的程序来对IO事件作出反应
2)Handlers:处理程序执行的IO事件要完成的事件。Reactor通过调度适当的处理程序来响应I/O事件,处理程序执行的非阻塞操作。

模式分类

根据Reactor数量和处理资源池的线程数量不同。有三种经典的实现

1)单Reactor单线程

工作原理图
在这里插入图片描述
方案说明
1) Selec是IO复用模型的标准网络编程API,可以实现应用程序通过一个阻塞对象监听多路连接请求
2) Reactor对象通过Selector监控客户端请求事件,收到事件后通过Dispatch进行分发
3) 如果是建立连接请求事件,则由Acceptor通过Accept处理连接请求,然后创建一个Handler对象处理连接完成后的后续业务处理
4)如果不是建立连接事件,则Reactor会分发调用连接对应的Handler来响应
5) Handler会完成Read-业务处理-send 的完整的业务流程
优点:
模型简单,没有多线程,进程通信,竞争问题,全部在一个线程中完成

缺点:
1)性能问题,只有一个进程,无法处理发挥多核CPU的性能。Handler在处理某个连接的业务时,整个进程无法处理其他的连接事件,很容易导致性能瓶颈。
2)可靠性问题 线程意外终止,或者进入死循环,会导致整个系统通信模块不可用,不能接受和处理外部信息,造成节点故障。

使用场景: 客户端数量有限,业务处理非常快速,比如Redis在业务处理的时间复杂度O(1)的情况

2)单Reactor多线程

工作原理图
在这里插入图片描述
方案说明
1)Reactor对象通过select监控客户端请求事件,收到事件后dispatch进行分发
2)如果建立连接请求,则右边Acceptor通过accept处理连接请求,然后创建一个Handler对象处理完成连接后的各种事件
3)如果不是连接请求,则由reactor分发调用连接对应的handler的来处理
4)handler只负责响应事件,不做具体的业务处理,通过read读取数据后,会分发给后面的worker线程池中某个线程进行业务处理
5)worker线程池会分配独立的线程完成真正的业务,并将结果返回给handler
6)handler收到响应后,通过send将结果返回给client

优点: 可以充分利用多个cpu的处理能力

缺点: 多线程数据共享和访问复杂比较复杂,reactor处理所有的事件监听和响应,在单线程运行,在高并发场景容易出现性能瓶颈。

3)主从Reactor多线程

工作原理图
在这里插入图片描述
方案说明
1)Reactor主线程MainReactor对象通过select监听连接事件,收到事件,通过Acceptor处理连接事件
2)当Acceptor处理连接事件后,MainReactor将连接分配给SubReactor
3)Subreactor将连接加入到连接队列进行监听,并创建handler进行各种事件处理
4)当有新事件发生时,Subreactor会调用对应的handler处理
5)handler通过reader读取数据,分发后面的worker线程处理
6)worker线程池分配给独立的worker线程进行业务处理,并返回结果
7)handler收到响应结果后,再通过send将结果返回给client
8)Reactor主线程可以对应多个Reactor子线程

优点:
父线程与子线程数据交互简单,职责明确,父线程只需要接受新连接,子线程完成后续的业务处理

缺点:编程复杂度高

场景应用: 这种模型再许多项目中广泛使用,包括Nginx主从Reactor多进程模型,Memchached主从多线程,Netty主从多线程模型支持。

Reactor模式优点

1)响应速度快,不必为单个同步时间所阻塞,虽然Reactor本身依然是同步到
2)可以最大程度避免复杂的多线程及同步问题,并且避免了多线程/进程的切换开销
3)扩展性好,可以方便的通过增加Reactor实例个数来充分利用CPU资源
4)复用性好,Reactor模型本身与具体事件处理逻辑无关,具有很高的复用性

Proactor模式

特点: 先由操作系统完成后才通知服务端程序启动线程去处理,一般适用连接数较多且连接时间较长的应用
在这里插入图片描述

Proactor 模式的工作流程:

1)Proactor Initiator 负责创建 Proactor 和 Handler 对象,并将 Proactor 和 Handler 都通过Asynchronous Operation Processor 注册到内核;
2)Asynchronous Operation Processor 负责处理注册请求,并处理 I/O 操作;
3)Asynchronous Operation Processor 完成 I/O 操作后通知 Proactor;
4)Proactor 根据不同的事件类型回调不同的 Handler 进行业务处理;
5)Handler 完成业务处理;

注意: Proactor关注的不是就绪事件,而是完成事件

缺点:Proactor实现逻辑复杂;依赖操作系统对异步的支持,目前实现了纯异步操作的操作系统少。Windows 里实现了一套完整的支持 socket 的异步编程接口,这套接口就是 IOCP,是由操作系统级别实现的异步 I/O,真正意义上异步 I/O,因此在 Windows 里实现高性能网络程序可以使用效率更高的 Proactor 方案。Linux系统对异步IO支持不是很好,不是很完善

适用场景 : 异步接收和同时处理多个服务请求的事件驱动程序;