Netty源碼解析 — ChannelPipeline機制與讀寫過程

本文繼續閱讀Netty源碼,解析ChannelPipeline事件傳播原理,以及Netty讀寫過程。
源碼分析基於Netty 4.1

ChannelPipeline

Netty中的ChannelPipeline可以理解為攔截器鏈,維護了一個ChannelHandler鏈表,ChannelHandler即具體攔截器,可以在讀寫過程中,對數據進行處理。
ChannelHandler也可以分為兩類。
ChannelInboundHandler,監控Channel狀態變化,如channelActive,channelRegistered,通常通過重寫ChannelOutboundHandler#channelRead方法處理讀取到的數據,如HttpObjectDecoder將讀取到的數據解析為(netty)HttpRequest。
ChannelOutboundHandler,攔截IO事件,如bind,connect,read,write,通常通過重寫ChannelInboundHandler#write方法處理將寫入Channel的數據。如HttpResponseEncoder,將待寫入的數據轉換為Http格式。

ChannelPipeline的默認實現類為DefaultChannelPipeline,它在ChannelHandler鏈表首尾維護了兩個特殊的ChannelHandler — HeadContext,TailContext。
HeadContext負責將IO事件轉發給對應的UnSafe處理,例如前面文章中說到的register,bind,read等操作。
TailContext主要是一些兜底處理,如channelRead方法釋放ByteBuf的引用等。

事件傳播

ChannelOutboundInvoker負責觸發ChannelOutboundHandler的方法,他們方法名相同,只是ChannelOutboundInvoker方法中少了ChannelHandlerContext參數。
同樣,ChannelInboundInvoker負責觸發ChannelInboundHandler的方法,但ChannelInboundInvoker的方法名多了fire,如ChannelInboundInvoker#fireChannelRead方法,觸發ChannelInboundHandler#channelRead。
ChannelPipelineChannelHandlerContext都繼承了這兩個介面。
但他們作用不同,ChannelPipeline是攔截器鏈,實際請求委託給ChannelHandlerContext處理。
ChannelHandlerContext介面(即ChannelHandler上下文)維護了鏈表的上下節點,它作為ChannelHandler方法參數, 負責與ChannelPipeline及其他 ChannelHandler互動。通過它可以動態修改Channel的屬性,給EventLoop提交任務,也可以向下一個(上一個)ChannelHandler傳播事件。
例如,在ChannelInboundHandler#channelRead處理完數據後,可以通過ChannelHandlerContext#write將數據寫到Channel。
ChannelInboundHandler#handler方法返回真正的ChannelHandler,並使用該ChannelHandler執行實際操作。
通過DefaultChannelPipeline#addFirst等方法添加ChannelHandler時,Netty會為ChannelHandler構造一個DefaultChannelHandlerContext,handler方法返回對應的ChannelHandler。
HeadContext,TailContext也實現了AbstractChannelHandlerContext,handler方法返回自身this。

我們也可以通過ChannelHandlerContext給EventLoop提交非同步任務

ctx.channel().eventLoop().execute(new Runnable() {
	public void run() {
		...
	}
});

對於阻塞時間較長的操作,使用非同步任務完成是不錯的選擇。

下面以DefaultChannelPipeline#fireChannelRead為例,看一下他們的事件傳播過程。
DefaultChannelPipeline

public final ChannelPipeline fireChannelRead(Object msg) {
	AbstractChannelHandlerContext.invokeChannelRead(head, msg);
	return this;
}

使用HeadContext作為開始節點,調用AbstractChannelHandlerContext#invokeChannelRead方法開始調用攔截器鏈表。

AbstractChannelHandlerContext

static void invokeChannelRead(final AbstractChannelHandlerContext next, Object msg) {
	final Object m = next.pipeline.touch(ObjectUtil.checkNotNull(msg, "msg"), next);
	EventExecutor executor = next.executor();
	if (executor.inEventLoop()) {
		next.invokeChannelRead(m);
	} else {
		...
	}
}

private void invokeChannelRead(Object msg) {
	if (invokeHandler()) {
		try {
			// #1
			((ChannelInboundHandler) handler()).channelRead(this, msg);
		} catch (Throwable t) {
			notifyHandlerException(t);
		}
	} else {
		fireChannelRead(msg);
	}
}

#1
handler方法獲取AbstractChannelHandlerContext真正的Handler,再觸發其ChannelPipeline#channelRead方法
由於invokeChannelRead方法在HeadContext中執行,handler()這裡返回HeadContext,這時會觸發HeadContext#channelRead

HeadContext#channelRead

public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
	ctx.fireChannelRead(msg);
}

HeadContext方法調用ctx.fireChannelRead(msg),就是向下一個ChannelInboundHandler傳播事件。

AbstractChannelHandlerContext#fireChannelRead

public ChannelHandlerContext fireChannelRead(final Object msg) {
	invokeChannelRead(findContextInbound(MASK_CHANNEL_READ), msg);
	return this;
}

AbstractChannelHandlerContext#fireChannelRead(final Object msg)方法主要負責找到下一個ChannelInboundHandler,並觸發其channelRead方法。

從DefaultChannelPipeline#fireChannelRead方法可以看到一個完整的調用鏈路:
#1 DefaultChannelPipeline通過HeadContext開始調用
#2 ChannelInboundHandler處理完當前邏輯後,調用ctx.fireChannelRead(msg)向後傳播事件
#4 AbstractChannelHandlerContext找到下一個ChannelInboundHandler,並觸發其channelRead,從而保證攔截器鏈繼續執行。

注意:對於ChannelOutboundHandler中的方法,DefaultChannelPipeline從TailContext開始調用,並向前傳播事件,與ChannelInboundHandler方向相反。
大家在閱讀Netty源碼時,對於DefaultChannelPipeline的方法,要注意該方法底層調用是ChannelInboundHandler還是ChannelOutboundHandler的方法,以及他們的傳播方向。

如果我們定義一個Http回聲程式,示意程式碼如下

new ServerBootstrap().group(parentGroup, childGroup)
                .channel(NioServerSocketChannel.class)
                .childHandler(new ChannelInitializer<SocketChannel>() {
                    public void initChannel(SocketChannel ch) throws Exception {
                        ChannelPipeline p = ch.pipeline();
                        p.addLast(new HttpRequestDecoder());
				        p.addLast(new HttpResponseEncoder());
				        p.addLast(new LoggingHandler(LogLevel.INFO));
				        p.addLast(new HttpEchoHandler());
                    }
                });

其中HttpEchoHandler實現了ChannelInboundHandler,並在channelRead方法中調用ChannelHandlerContext#write方法回傳數據。
那麼,數據流轉如下所示

Socket.read() -> head#channelRead  -> HttpRequestDecoder#channelRead -> LoggingHandler#channelRead -> HttpEchoHandler#channelRead
                                                                                                                 |
                                                                                                                \|/
Socket.write() <-   head#write     <- HttpResponseEncoder#write     <-     LoggingHandler#write   <-  ChannelHandlerContext#write

ChannelHandlerContext#write和DefaultChannelPipeline#write不同,前者從當前節點向前找到一個ChannelOutboundHandler開始調用,而後者則是從tail開始調用。

Read

前面文章《事件循環機制實現原理》中說過,NioEventLoop#processSelectedKey中,通過NioUnsafe#read方法處理accept和read事件。下面來看一些read事件的處理。
NioByteUnsafe#read

public final void read() {
	final ChannelConfig config = config();
	if (shouldBreakReadReady(config)) {
		clearReadPending();
		return;
	}
	final ChannelPipeline pipeline = pipeline();
	final ByteBufAllocator allocator = config.getAllocator();
	final RecvByteBufAllocator.Handle allocHandle = recvBufAllocHandle();
	allocHandle.reset(config);

	ByteBuf byteBuf = null;
	boolean close = false;
	try {
		do {
			// #1
			byteBuf = allocHandle.allocate(allocator);
			// #2
			allocHandle.lastBytesRead(doReadBytes(byteBuf));
			// #3
			if (allocHandle.lastBytesRead() <= 0) {
				byteBuf.release();
				byteBuf = null;
				close = allocHandle.lastBytesRead() < 0;
				if (close) {
					readPending = false;
				}
				break;
			}

			allocHandle.incMessagesRead(1);
			readPending = false;
			// #4
			pipeline.fireChannelRead(byteBuf);
			byteBuf = null;
			// #5
		} while (allocHandle.continueReading());
		// #6
		allocHandle.readComplete();
		// #7
		pipeline.fireChannelReadComplete();

		if (close) {
			// #8
			closeOnRead(pipeline);
		}
	} catch (Throwable t) {
		handleReadException(pipeline, byteBuf, t, close, allocHandle);
	} finally {
		...
	}
}

#1 分配記憶體給ByteBuf
#2 讀取Socket數據到ByteBuf,這裡默認會嘗試讀取1024位元組的數據。
#3 如果lastBytesRead方法返回-1,表示Channel已關閉,這時釋放當前ByteBuf引用,準備關閉Channel
#4 使用讀取到的數據,觸發ChannelPipeline#fireChannelRead,通常我們在這裡處理數據。
#5 判斷是否需要繼續讀取數據。
默認條件是,如果讀取到的數據大小等於嘗試讀取數據大小1024位元組,則繼續讀取。
#6 預留方法,提供給RecvByteBufAllocator做一些擴展操作
#7 觸發ChannelPipeline#fireChannelReadComplete,例如將前面多次讀取到的數據轉換為一個對象。
#8 關閉Channel

注意,ChannelPipeline#fireChannelRead如果不再繼續傳播channelRead事件,就不會執行到TailContext#channelRead方法,這是我們需要自行釋放對應的ByteBuf。
可以通過繼承SimpleChannelInboundHandler類實現,SimpleChannelInboundHandler#channelRead保證最終釋放ByteBuf。

Write

我們需要調用ChannelHandlerContext#write方法觸發write操作。
ChannelHandlerContext#write -> HeadContext#write -> AbstractUnsafe#write

public final void write(Object msg, ChannelPromise promise) {
	assertEventLoop();
	// #1
	ChannelOutboundBuffer outboundBuffer = this.outboundBuffer;
	...

	int size;
	try {
		// #2
		msg = filterOutboundMessage(msg);
		// #3
		size = pipeline.estimatorHandle().size(msg);
		if (size < 0) {
			size = 0;
		}
	} catch (Throwable t) {
		safeSetFailure(promise, t);
		ReferenceCountUtil.release(msg);
		return;
	}
	// #4
	outboundBuffer.addMessage(msg, size, promise);
}

#1 獲取AbstractUnsafe中維護的ChannelOutboundBuffer,該類負責快取write的數據,等到flush再實際寫數據。
#2 AbstractChannel提供給子類的擴展方法,可以做一些ByteBuf檢查,轉化等操作。
#3 檢查待寫入數據量
#4 將數據添加到ChannelOutboundBuffer快取中。
可以看到,write並沒有真正的寫數據,而是將數據放到了一個緩衝對象ChannelOutboundBuffer。
ChannelOutboundBuffer中的數據要等到ChannelHandlerContext#flush時再寫出。

ByteBuf是Netty中負責與Channel交互的記憶體緩衝區,而ByteBufAllocator,RecvByteBufAllocator主要負責分配記憶體給ByteBuf,後面有文章解析它們。
ChannelOutboundBuffer主要是快取write數據,等到flush時再一併寫入Channel。後面有文章解析它。

如果您覺得本文不錯,歡迎關注我的微信公眾號,系列文章持續更新中。您的關注是我堅持的動力!