概览
服务器多路复用是一种异步编程技术，它允许一个服务器同时处理多个客户端连接。这可以通过在单个线程或进程中使用多路复用器实现，或者使用多个工作线程或进程实现。
多路复用是高速网络通信的关键，因为它允许服务器有效地处理大量连接，而无需因等待单个客户端响应而阻塞。
服务器多路复用器
服务器多路复用器是一种用于监视多个文件描述符（例如套接字）的特殊内核组件。它允许服务器注册感兴趣的文件描述符，然后在任何一个文件描述符有活动时通知服务器。
当一个文件描述符有活动时，多路复用器会通知服务器，然后服务器可以执行适当的操作（例如读取数据、发送数据或关闭连接）。
多线程多路复用
多线程多路复用是一种使用多个线程或进程来处理客户端连接的技术。在这种方法中，每个线程或进程都负责监视一组文件描述符。
当一个文件描述符有活动时，多路复用器会通知相应的线程或进程，该线程或进程会执行适当的操作。这种方法可以提高服务器的吞吐量，因为多个线程或进程可以同时处理来自不同客户端的连接。
多路复用在实践中的好处
-
高吞吐量：
多路复用允许服务器处理大量连接，而无需因等待单个客户端响应而阻塞。 -
低延迟：
多路复用可以减少延迟，因为服务器可以立即对来自不同客户端的请求做出响应。 -
资源利用率高：
多路复用可以有效地利用
计算机网络自学笔记:TCP
如果你在学习这门课程，仅仅为了理解网络工作原理，那么只要了解TCP是可靠传输，数据传输丢失时会重传就可以了。
如果你还要参加研究生考试或者公司面试等，那么下面内容很有可能成为考查的知识点，主要的重点是序号/确认号的编码、超时定时器的设置、可靠传输和连接的管理。
1 TCP连接 TCP面向连接，在一个应用进程开始向另一个应用进程发送数据之前，这两个进程必须先相互“握手”，即它们必须相互发送某些预备报文段，以建立连接。
连接的实质是双方都初始化与连接相关的发送/接收缓冲区，以及许多TCP状态变量。
这种“连接”不是一条如电话网络中端到端的电路，因为它们的状态完全保留在两个端系统中。
TCP连接提供的是全双工服务 ，应用层数据就可在从进程B流向进程A的同时，也从进程A流向进程B。
TCP连接也总是点对点的 ，即在单个发送方与单个接收方之间建立连接。
一个客户机进程向服务器进程发送数据时，客户机进程通过套接字传递数据流。
客户机操作系统中运行的 TCP软件模块首先将这些数据放到该连接的发送缓存里 ，然后会不时地从发送缓存里取出一块数据发送。
TCP可从缓存中取出并放入报文段中发送的数据量受限于最大报文段长MSS，通常由最大链路层帧长度来决定(也就是底层的通信链路决定)。
例如一个链路层帧的最大长度1500字节，除去数据报头部长度20字节，TCP报文段的头部长度20字节，MSS为1460字节。
报文段被往下传给网络层，网络层将其封装在网络层IP数据报中。
然后这些数据报被发送到网络中。
当TCP在另一端接收到一个报文段后，该报文段的数据就被放人该连接的接收缓存中。
应用程序从接收缓存中读取数据流(注意是应用程序来读，不是操作系统推送)。
TCP连接的每一端都有各自的发送缓存和接收缓存。
因此TCP连接的组成包括:主机上的缓存、控制变量和与一个进程连接的套接字变量名，以及另一台主机上的一套缓存、控制变量和与一个进程连接的套接字。
在这两台主机之间的路由器、交换机中，没有为该连接分配任何缓存和控制变量。
2报文段结构 TCP报文段由首部字段和一个数据字段组成。
数据字段包含有应用层数据。
由于MSS限制了报文段数据字段的最大长度。
当TCP发送一个大文件时，TCP通常是将文件划分成长度为MSS的若干块。
TCP报文段的结构。
首部包括源端口号和目的端口号，它用于多路复用/多路分解来自或送至上层应用的数据。
另外，TCP首部也包括校验和字段。
报文段首部还包含下列字段:32比特的序号字段和32比特的确认号字段。
这些字段被TCP发送方和接收方用来实现可靠数据传输服务。
16比特的接收窗口字段，该字段用于流量控制。
该字段用于指示接收方能够接受的字节数量。
4比特的首部长度字段,该字段指示以32比特的字为单位的TCP首部长度。
一般TCP首部的长度就是20字节。
可选与变长的选项字段,该字段用于当发送方与接收方协商最大报文段长度，或在高速网络环境下用作窗口调节因子时使用。
标志字段ACK比特用于指示确认字段中的ACK值的有效性，即该报文段包括一个对已被成功接收报文段的确认。
SYN和FIN比特用于连接建立和拆除。
PSH、URG和紧急指针字段通常没有使用。
•序号和确认号 TCP报文段首部两个最重要的字段是序号字段和确认号字段。
TCP把数据看成一个无结构的但是有序的字节流。
TCP序号是建立在传送的字节流之上，而不是建立在传送的报文段的序列之上。
一个报文段的序号是该报文段首字节在字节流中的编号。
例如，假设主机A上的一个进程想通过一条TCP连接向主机B上的一个进程发送一个数据流。
主机A中的TCP将对数据流中的每一个字节进行编号。
假定数据流由一个包含4500字节的文件组成(可以理解为应用程序调用send函数传递过来的数据长度)，MSS为1000字节(链路层一次能够传输的字节数)，如果主机决定数据流的首字节编号是7。
TCP模块将为该数据流构建5个报文段(也就是分5个IP数据报)。
第一个报文段的序号被赋为7;第二个报文段的序号被赋为1007,第三个报文段的序号被赋为2007，以此类推。
前面4个报文段的长度是1000，最后一个是500。
确认号要比序号难理解一些。
前面讲过，TCP是全双工的，因此主机A在向主机B发送数据的同时，也可能接收来自主机B的数据。
从主机B到达的每个报文段中的序号字段包含了从B流向A的数据的起始位置。
因此主机B填充进报文段的确认号是主机B期望从主机A收到的下一报文段首字节的序号。
假设主机B已收到了来自主机A编号为7-1006的所有字节，同时假设它要发送一个报文段给主机A。
主机B等待主机A的数据流中字节1007及后续所有字节。
所以，主机B会在它发往主机A的报文段的确认号字段中填上1007。
再举一个例子，假设主机B已收到一个来自主机A的包含字节7-1006的报文段，以及另一个包含字节2007-3006的报文段。
由于某种原因，主机A还没有收到字节1007-2006的报文段。
在这个例子中，主机A为了重组主机B的数据流，仍在等待字节1007。
因此，A在收到包含字节2007-3006的报文段时，将会又一次在确认号字段中包含1007。
因为TCP只确认数据流中至第一个丢失报文段之前的字节数据，所以TCP被称为是采用累积确认。
TCP的实现有两个基本的选择:1接收方立即丢弃失序报文段; 2接收方保留失序的字节，并等待缺少的字节以填补该间隔。
一条TCP连接的双方均可随机地选择初始序号。
这样做可以减少将那些仍在网络中的来自两台主机之间先前连接的报文段，误认为是新建连接所产生的有效报文段的可能性。
•例子telnet Telnet由是一个用于远程登录的应用层协议。
它运行在TCP之上，被设计成可在任意一对主机之间工作。
假设主机A发起一个与主机B的Telnet会话。
因为是主机A发起该会话，因此主机A被标记为客户机，主机B被标记为服务器。
用户键入的每个字符(在客户机端)都会被发送至远程主机。
远程主机收到后会复制一个相同的字符发回客户机，并显示在Telnet用户的屏幕上。
这种“回显”用于确保由用户发送的字符已经被远程主机收到并处理。
因此，在从用户击键到字符显示在用户屏幕上之间的这段时间内，每个字符在网络中传输了两次。
现在假设用户输入了一个字符“C”，假设客户机和服务器的起始序号分别是42和79。
前面讲过，一个报文段的序号就是该报文段数据字段首字节的序号。
因此，客户机发送的第一个报文段的序号为42，服务器发送的第一个报文段的序号为79。
前面讲过，确认号就是主机期待的数据的下一个字节序号。
在TCP连接建立后但没有发送任何数据之前，客户机等待字节79，而服务器等待字节42。
如图所示，共发了3个报文段。
第一个报文段是由客户机发往服务器，其数据字段里包含一字节的字符“C”的ASCII码，其序号字段里是42。
另外，由于客户机还没有接收到来自服务器的任何数据，因此该报文段中的确认号字段里是79。
第二个报文段是由服务器发往客户机。
它有两个目的:第一个目的是为服务器所收到的数据提供确认。
服务器通过在确认号字段中填入43，告诉客户机它已经成功地收到字节42及以前的所有字节，现在正等待着字节43的出现。
第二个目的是回显字符“C”。
因此，在第二个报文段的数据字段里填入的是字符“C”的ASCII码，第二个报文段的序号为79，它是该TCP连接上从服务器到客户机的数据流的起始序号，也是服务器要发送的第一个字节的数据。
这里客户机到服务器的数据的确认被装载在一个服务器到客户机的数据的报文段中，这种确认被称为是捎带确认. 第三个报文段是从客户机发往服务器的。
它的唯一目的是确认已从服务器收到的数据。
3往返时延的估计与超时 TCP如同前面所讲的rdt协议一样，采用超时/重传机制来处理报文段的丢失问题。
最重要的一个问题就是超时间隔长度的设置。
显然，超时间隔必须大于TCP连接的往返时延RTT，即从一个报文段发出到收到其确认时。
否则会造成不必要的重传。
•估计往返时延 TCP估计发送方与接收方之间的往返时延是通过采集报文段的样本RTT来实现的，就是从某报文段被发出到对该报文段的确认被收到之间的时间长度。
也就是说TCP为一个已发送的但目前尚未被确认的报文段估计sampleRTT，从而产生一个接近每个RTT的采样值。
但是，TCP不会为重传的报文段计算RTT。
为了估计一个典型的RTT，采取了某种对RTT取平均值的办法。
TCP据下列公式来更新 EstimatedRTT=(1-)*EstimatedRTT+*SampleRTT 即估计RTT的新值是由以前估计的RTT值与sampleRTT新值加权组合而成的。
参考值是a=0.125，因此是一个加权平均值。
显然这个加权平均对最新样本赋予的权值 要大于对老样本赋予的权值。
因为越新的样本能更好地反映出网络当前的拥塞情况。
从统计学观点来讲，这种平均被称为指数加权移动平均 除了估算RTT外，还需要测量RTT的变化，RTT偏差的程度，因为直接使用平均值设置计时器会有问题(太灵敏)。
DevRTT=(1-β)*DevRTT+β*|SampleRTT-EstimatedRTT| RTT偏差也使用了指数加权移动平均。
B取值0.25.•设置和管理重传超时间隔 假设已经得到了估计RTT值和RTT偏差值，那么TCP超时间隔应该用什么值呢?TCP将超时间隔设置成大于等于估计RTT值和4倍的RTT偏差值,否则将造成不必要的重传。
但是超时间隔也不应该比估计RTT值大太多，否则当报文段丢失时，TCP不能很快地重传该报文段，从而将给上层应用带来很大的数据传输时延。
因此，要求将超时间隔设为估计RTT值加上一定余量。
当估计RTT值波动较大时，这个余最应该大些;当波动比较小时，这个余量应该小些。
因此使用4倍的偏差值来设置重传时间。
TimeoutInterval=EstimatedRTT+4*DevRTT4可信数据传输 因特网的网络层服务是不可靠的。
IP不保证数据报的交付，不保证数据报的按序交付，也不保证数据报中数据的完整性。
TCP在IP不可靠的尽力而为服务基础上建立了一种可靠数据传输服务。
TCP提供可靠数据传输的方法涉及前面学过的许多原理。
TCP采用流水线协议、累计确认。
TCP推荐的定时器管理过程使用单一的重传定时器，即使有多个已发送但还未被确认的报文段也一样。
重传由超时和多个ACK触发。
在TCP发送方有3种与发送和重传有关的主要事件:从上层应用程序接收数据，定时器超时和收到确认ACK。
从上层应用程序接收数据。
一旦这个事件发生，TCP就从应用程序接收数据，将数据封装在一个报文段中，并将该报文段交给IP。
注意到每一个报文段都包含一个序号，这个序号就是该报文段第一个数据字节的字节流编号。
如果定时器还没有计时，则当报文段被传给IP时，TCP就启动一个该定时器。
第二个事件是超时。
TCP通过重传引起超时的报文段来响应超时事件。
然后TCP重启定时器。
第三个事件是一个来自接收方的确认报文段(ACK)。
当该事件发生时，TCP将ACK的值y与变量SendBase(发送窗口的基地址)进行比较。
TCP状态变量SendBase是最早未被确认的字节的序号。
就是指接收方已正确按序接收到数据的最后一个字节的序号。
TCP采用累积确认，所以y确认了字节编号在y之前的所有字节都已经收到。
如果Y>SendBase,则该ACK是在确认一个或多个先前未被确认的报文段。
因此发送方更新其SendBase变量，相当于发送窗口向前移动。
另外，如果当前有未被确认的报文段，TCP还要重新启动定时器。
快速重传 超时触发重传存在的另一个问题是超时周期可能相对较长。
当一个报文段丢失时，这种长超时周期迫使发送方等待很长时间才重传丢失的分组，因而增加了端到端时延。
所以通常发送方可在超时事件发生之前通过观察冗余ACK来检测丢包情况。
冗余ACK就是接收方再次确认某个报文段的ACK，而发送方先前已经收到对该报文段的确认。
当TCP接收方收到一个序号比所期望的序号大的报文段时，它认为检测到了数据流中的一个间隔，即有报文段丢失。
这个间隔可能是由于在网络中报文段丢失或重新排序造成的。
因为TCP使用累计确认，所以接收方不向发送方发回否定确认，而是对最后一个正确接收报文段进行重复确认(即产生一个冗余ACK)如果TCP发送方接收到对相同报文段的3个冗余ACK.它就认为跟在这个已被确认过3次的报文段之后的报文段已经丢失。
一旦收到3个冗余ACK，TCP就执行快速重传 ， 即在该报文段的定时器过期之前重传丢失的报文段。
5流量控制 前面讲过，一条TCP连接双方的主机都为该连接设置了接收缓存。
当该TCP连接收到正确、按序的字节后，它就将数据放入接收缓存。
相关联的应用进程会从该缓存中读取数据，但没必要数据刚一到达就立即读取。
事实上，接收方应用也许正忙于其他任务，甚至要过很长时间后才去读取该数据。
如果应用程序读取数据时相当缓慢，而发送方发送数据太多、太快，会很容易使这个连接的接收缓存溢出。
TCP为应用程序提供了流量控制服务以消除发送方导致接收方缓存溢出的可能性。
因此，可以说 流量控制是一个速度匹配服务，即发送方的发送速率与接收方应用程序的读速率相匹配。
前面提到过，TCP发送方也可能因为IP网络的拥塞而被限制，这种形式的发送方的控制被称为拥塞控制(congestioncontrol)。
TCP通过让接收方维护一个称为接收窗口的变量来提供流量控制。
接收窗口用于告诉发送方，该接收方还有多少可用的缓存空间。
因为TCP是全双工通信，在连接两端的发送方都各自维护一个接收窗口变量。
主机把当前的空闲接收缓存大小值放入它发给对方主机的报文段接收窗口字段中，通知对方它在该连接的缓存中还有多少可用空间。
6 TCP连接管理 客户机中的TCP会用以下方式与服务器建立一条TCP连接:第一步: 客户机端首先向服务器发送一个SNY比特被置为1报文段。
该报文段中不包含应用层数据，这个特殊报文段被称为SYN报文段。
另外，客户机会选择一个起始序号，并将其放置到报文段的序号字段中。
为了避免某些安全性攻击，这里一般随机选择序号。
第二步: 一旦包含TCP报文段的用户数据报到达服务器主机，服务器会从该数据报中提取出TCPSYN报文段，为该TCP连接分配TCP缓存和控制变量，并向客户机TCP发送允许连接的报文段。
这个允许连接的报文段还是不包含应用层数据。
但是，在报文段的首部却包含3个重要的信息。
首先，SYN比特被置为1。
其次，该 TCP报文段首部的确认号字段被置为客户端序号+1最后，服务器选择自己的初始序号，并将其放置到TCP报文段首部的序号字段中。
这个允许连接的报文段实际上表明了:“我收到了你要求建立连接的、带有初始序号的分组。
我同意建立该连接，我自己的初始序号是XX”。
这个同意连接的报文段通常被称为SYN+ACK报文段。
第三步: 在收到SYN+ACK报文段后，客户机也要给该连接分配缓存和控制变量。
客户机主机还会向服务器发送另外一个报文段，这个报文段对服务器允许连接的报文段进行了确认。
因为连接已经建立了，所以该ACK比特被置为1，称为ACK报文段，可以携带数据。
一旦以上3步完成，客户机和服务器就可以相互发送含有数据的报文段了。
为了建立连接，在两台主机之间发送了3个分组，这种连接建立过程通常被称为 三次握手(SNY、SYN+ACK、ACK，ACK报文段可以携带数据) 。
这个过程发生在客户机connect()服务器，服务器accept()客户连接的阶段。
假设客户机应用程序决定要关闭该连接。
(注意，服务器也能选择关闭该连接)客户机发送一个FIN比特被置为1的TCP报文段，并进人FINWAIT1状态。
当处在FINWAIT1状态时，客户机TCP等待一个来自服务器的带有ACK确认信息的TCP报文段。
当它收到该报文段时，客户机TCP进入FINWAIT2状态。
当处在FINWAIT2状态时，客户机等待来自服务器的FIN比特被置为1的另一个报文段， 收到该报文段后，客户机TCP对服务器的报文段进行ACK确认，并进入TIME_WAIT状态。
TIME_WAIT状态使得TCP客户机重传最终确认报文，以防该ACK丢失。
在TIME_WAIT状态中所消耗的时间是与具体实现有关的，一般是30秒或更多时间。
经过等待后，连接正式关闭，客户机端所有与连接有关的资源将被释放。
因此TCP连接的关闭需要客户端和服务器端互相交换连接关闭的FIN、ACK置位报文段。
一文彻底搞懂I/O多路复用及其技术
高性能架构设计的关键点之一在于服务器的网络编程模型，它涉及如何高效地管理连接与处理请求。
服务器能否达到高性能效果，与操作系统的I/O模型以及进程模型紧密相关。
这里的I/O模型特指网络I/O模型，即服务器如何处理与客户端之间的连接管理与请求。
理解I/O多路复用的概念有助于我们更好地设计高性能系统。
多路复用意味着服务器使用一个或少数线程来同时处理多个连接，从而达到复用资源的效果。
简单来说，就是使用一个或几个线程来管理多个网络I/O操作，以提高资源的利用率。
在讨论不同IO模型时，我们首先要理解同步与异步、阻塞与非阻塞的区别。
同步模型下，用户线程在发起IO请求后必须等待内核完成操作才继续执行；异步模型则允许用户线程在发起请求后继续执行其他任务，内核完成操作后会通知用户线程。
阻塞模型下，IO操作完成前，线程被阻塞；非阻塞模型则允许IO操作被调用后立即返回结果。
同步阻塞IO是最基础的IO模型，用户线程在等待IO操作完成时被阻塞，CPU利用率相对较低。
同步非阻塞IO允许用户线程立即返回，但需不断发起请求，直到数据到达。
尽管这种模型提供了即时响应，但由于同步特性，整体效率并不高。
为了提高服务器性能，引入了IO多路复用技术。
这种技术的核心是复用一个或少数线程来处理多个连接，而不是简单地提升CPU利用率。
通常，通过select/poll/epoll等系统调用，用户可以同时监控多个socket的状态，而无需对每个连接单独维护。
其中，select函数是内核提供的多路分离机制，用户可以将多个socket添加到监视列表中，然后等待内核通知某个socket就绪，再发起IO操作。
尽管这种模式在一定程度上解决了阻塞问题，但它仍然使用了阻塞等待机制，因此被称为异步阻塞IO。
Reactor设计模式进一步优化了IO多路复用，通过事件循环文件句柄状态通知用户线程，允许用户线程在等待期间做其他工作，从而提高了资源利用效率。
当socket状态发生变化时，用户线程会被通知进行相应的读取和处理。
除了Reactor模式，还有异步非阻塞IO，它将读写操作完全委托给内核，用户线程只需在接收到通知后直接使用内核提供的缓冲区。
这种方法需要操作系统提供更强的支持，通常用于提升性能的并发服务程序。
最后，select、poll和epoll是实现IO多路复用的常用机制。
虽然它们被称作异步阻塞IO，实际上仍为同步操作，需要用户线程在等待事件就绪时进行读写。
而真正的异步IO则无需用户线程自行管理读写过程，提高了性能。
netty系列之:性能为王!创建多路复用http2服务器
简介
在之前的文章中，我们提到了在Netty的客户端通过使用Http2FrameCodec和Http2MultiplexHandler可以支持多路复用，也就是说在一个连接的channel基础上创建多个子channel，通过子channel来处理不同的stream，从而达到多路复用的目的。
既然客户端可以做到多路复用，同样的服务器端也可以，今天给大家介绍一下如何在netty的服务器端打造一个支持http2协议的多路复用服务器。
多路复用的基础
netty中对于http2多路复用的基础类是Http2FrameCodec、Http2MultiplexHandler和Http2MultiplexCodec。
Http2FrameCodec是将底层的HTTP/2 frames消息映射成为netty中的Http2Frame对象。
有了Http2Frame对象就可以通过Http2MultiplexHandler对新创建的stream开启不同的channel。
Http2MultiplexCodec是Http2FrameCodec和Http2MultiplexHandler的结合体，但是已经不再被推荐使用了。
因为Http2FrameCodec继承自Http2ConnectionHandler，而Http2MultiplexHandler继承自Http2ChannelDuplexHandler，所以这两个类可以同时在客户端和服务器端使用。
客户端使用()()来获得Http2FrameCodec，而服务器端通过()()来获得Http2FrameCodec。
多路复用在server端的使用配置TLS处理器
对于服务器端，同样需要处理TLS和普通clear text两种情况。对于TLS来说，我们需要自建ProtocolNegotiationHandler继承自ApplicationProtocolNegotiationHandler，然后实现configurePipeline方法，在其中分别处理http2和http1.1的连接：
protectedvoidconfigurePipeline(ChannelHandlerContextctx,Stringprotocol){if(_(protocol)){//添加多路复用支持()(()());()(newHttp2MultiplexHandler(newCustMultiplexHttp2Handler()));return;}if(_1_(protocol)){()(newHttpServerCodec(),newHttpObjectAggregator(MAX_CONTENT_LENGTH),newCustHttp1Handler(ALPNNegotiation));return;}thrownewIllegalStateException(未知协议:+protocol);}
首先添加Http2FrameCodec，然后添加Http2MultiplexHandler。
因为Http2MultiplexHandler已经封装了多路复用的细节，所以自定义的handler只需要实现正常的消息处理逻辑即可。
因为Http2FrameCodec已经对消息进行了转换成为HTTP2Frame对象，所以只需要处理具体的Frame对象：
publicvoidchannelRead(ChannelHandlerContextctx,Objectmsg)throwsException{if(msginstanceofHttp2HeadersFrame){onHeadersRead(ctx,(Http2HeadersFrame)msg);}elseif(msginstanceofHttp2DataFrame){onDataRead(ctx,(Http2DataFrame)msg);}else{(ctx,msg);}}配置clear text upgrade
对于h2c的升级来说，需要向pipline中传入sourceCodec和upgradeHandler两个处理器。
sourceCodec可以直接使用HttpServerCodec。
upgradeHandler可以使用HttpServerUpgradeHandler。
HttpServerUpgradeHandler的构造函数需要传入一个sourceCodec和一个upgradeCodecFactory。
sourceCodec我们已经有了，再构造一个upgradeCodecFactory即可：
privatestaticfinalUpgradeCodecFactoryupgradeCodecFactory=protocol->{if((_UPGRADE_PROTOCOL_NAME,protocol)){returnnewHttp2ServerUpgradeCodec(()(),newHttp2MultiplexHandler(newCustMultiplexHttp2Handler()));}else{returnnull;}};
从代码中可以看出，upgradeCodecFactory内部又调用了Http2FrameCodec和Http2MultiplexHandler。
这和使用TLS的处理器是一致的。
finalChannelPipelinep=();finalHttpServerCodecsourceCodec=newHttpServerCodec();(sourceCodec);(newHttpServerUpgradeHandler(sourceCodec,upgradeCodecFactory));总结
通过上述方式，就可以创建出支持多路复用的http2 netty服务器了。
本文的例子可以参考：learn-netty4
最通俗的解读，最深刻的干货，最简洁的教程，众多你不知道的小技巧等你来发现！
欢迎关注我的公众号:「程序那些事」,懂技术，更懂你！
