系统学习消息队列分享(十) 如何实现高性能的异步网络传输?

异步与同步模型最大的区别是,同步模型会阻塞线程等待资源,而异步模型不会阻塞线程,它是等资源准备好后,再通知业务代码来完成后续的资源处理逻 辑。这种异步设计的方法,能够很好地解决IO等待的问题。数据库

咱们开发的绝大多数业务系统,它都是IO密集型系统。跟IO密集型系统相对的另外一种系统叫计算密集型系 统。经过这两种系统的名字,估计你也能大概猜出来IO密集型系统是什么意思。缓存

IO密集型系统大部分时间都在执行IO操做,这个IO操做主要包括网络IO和磁盘IO,以及与计算机链接的一 些外围设备的访问。与之相对的计算密集型系统,大部分时间都是在使用CPU执行计算操做。咱们开发的业 务系统,不多有很是耗时的计算,更多的是网络收发数据,读写磁盘和数据库这些IO操做。这样的系统基本 上都是IO密集型系统,特别适合使用异步的设计来提高系统性能。服务器

应用程序最常使用的IO资源,主要包括磁盘IO和网络IO。因为如今的SSD的速度愈来愈快,对于本地磁盘的 读写,异步的意义愈来愈小。因此,使用异步设计的方法来提高IO性能,咱们更加须要关注的问题是,如何 来实现高性能的异步网络传输。网络

理想的异步网络框架应该是什么样的?框架

    在咱们开发的程序中,若是要实现经过网络来传输数据,须要用到开发语言提供的网络通讯类库。大部分语 言提供的网络通讯基础类库都是同步的。一个TCP链接创建后,用戶代码会得到一个用于收发数据的通道。 每一个通道会在内存中开辟两片区域用于收发数据的缓存。异步

发送数据的过程比较简单,咱们直接往这个通道里面来写入数据就能够了。用戶代码在发送时写入的数据会 暂存在缓存中,而后操做系统会经过网卡,把发送缓存中的数据传输到对端的服务器上。性能

只要这个缓存不满,或者说,咱们发送数据的速度没有超过网卡传输速度的上限,那这个发送数据的操做耗 时,只不过是一次内存写入的时间,这个时间是很是快的。因此,发送数据的时候同步发送就能够了,没有 必要异步。spa

     比较麻烦的是接收数据。对于数据的接收方来讲,它并不知道何时会收到数据。那咱们能直接想到的方 法就是,用一个线程阻塞在那儿等着数据,当有数据到来的时候,操做系统会先把数据写入接收缓存,而后 给接收数据的线程发一个通知,线程收到通知后结束等待,开始读取数据。处理完这一批数据后,继续阻塞 等待下一批数据到来,这样周而复始地处理收到的数据。操作系统

 

 

 

这就是同步网络IO的模型。同步网络IO模型在处理少许链接的时候,是没有问题的。可是若是要同时处理非 常多的链接,同步的网络IO模型就有点儿力不从心了。线程

由于,每一个链接都须要阻塞一个线程来等待数据,大量的链接数就会须要相同数量的数据接收线程。当这些 TCP链接都在进行数据收发的时候,会致使什么状况呢?对,会有大量的线程来抢占CPU时间,形成频繁的 CPU上下文切换,致使CPU的负载升高,整个系统的性能就会比较慢。

因此,咱们须要使用异步的模型来解决网络IO问题。怎么解决呢?

你能够先抛开你知道的各类语言的异步类库和各类异步的网络IO框架,想想,对于业务开发者来讲,一个 好的异步网络框架,它的API应该是什么样的呢?

咱们但愿达到的效果,无非就是,只用少许的线程就能处理大量的链接,有数据到来的时候能第一时间处理 就能够了。

 

 

 

对于开发者来讲,最简单的方式就是,事先定义好收到数据后的处理逻辑,把这个处理逻辑做为一个回调方 法,在链接创建前就经过框架提供的API设置好。当收到数据的时候,由框架自动来执行这个回调方法就行了。

相关文章
相关标签/搜索