使用Java NIO编写高性能的服务器

释放双眼,带上耳机,听听看~!

使用Java NIO编写高性能的服务器

链接地址

   
从 JDK 1.4 开始,
Java 的标准库中就包含了NIO , 即所谓的“New IO”。其中最重要的功能就是提供了“非阻塞”的IO,当然包括了Socket。NonBlocking的IO就是对select(Unix平台下)以及 WaitForMultipleObjects(Windows平台)的封装,提供了高性能、易伸缩的服务架构。

 

   话说回来,传统的Server/Client实现是基于Thread per request,即服务器为每个客户端请求建立一个线程处理,单独负责处理一个客户的请求。比如像Tomcat (新版本也会提供
NIO 方案)、Resin等Web服务器就是这样实现的。当然为了减少瞬间峰值问题,服务器一般都使用线程池,规定了同时并发的最大数量,避免了线程的无限增长。

但这样有一个问题:如果线程池的大小为100,当有100个用户同时通过HTTP现在一个大文件时,服务器的线程池会用完,因为所有的线程都在传输大文件了,即使第101个请求者仅仅请求一个只有10字节的页面,服务器也无法响应了,只有等到线程池中有空闲的线程出现。

    另外,线程的开销也是很大的,特别是达到了一个临界值后,性能会显著下降,这也限制了传统的Socket方案无法应对并发量大的场合,而“非阻塞”的IO就能轻松解决这个问题。

    下面只是一个简单的例子:服务器提供了下载大型文件的功能,客户端连接上服务器的12345端口后,就可以读取服务器发送的文件内容信息了。注意这里的服务器只有一个主线程,没有其他任何派生线程,让我们看看
NIO 是如何用一个线程处理N个请求的。

NIO 服务器最核心的一点就是 反应器模式:当有感兴趣的事件发生的,就通知对应的事件处理器去处理这个事件,如果没有,则不处理。所以使用一个线程做轮询就可以了。当然这里这是个例 子,如果要获得更高性能,可以使用少量的线程,一个负责接收请求,其他的负责处理请求,特别是对于多CPU时效率会更高。

关于使用
NIO 过程中出现的问 题,最为普遍的就是为什么没有请求时CPU的占用率为100%?出现这种问题的主要原因是注册了不感兴趣的事件,比如如果没有数据要发到客户端,而又注册 了写事件(OP_WRITE),则在 Selector.select()上就会始终有事件出现,CPU就一直处理了,而此时select()应该是阻塞的。

另外一个值得注意的问题是:由于只使用了一个线程(多个线程也如此)处理用户请求,所以要避免线程被阻塞,解决方法是事件的处理者必须要即刻返回,不能陷入循环中,否则会影响其他用户的请求速度。

具体到本例子中,由于文件比较大,如果一次性发送整个文件(这里的一次性不是指send整个 文件内容,而是通过while循环不间断的发送分组包),则主线程就会阻塞,其他用户就不能响应了。这里的解决方法是当有WRITE事件时,仅仅是发送一 个块(比如4K字节)。发完后,继续等待WRITE事件出现,依次处理,直到整个文件发送完毕,这样就不会阻塞其他用户了。

服务器的例子:

 

package  nio .file; import  java .io.FileInputStream; import  java .io.IOException; import  java .net.InetSocketAddress; import  java .nio .ByteBuffer; import  java .nio .CharBuffer; import  java .nio .channels.FileChannel; import  java .nio .channels.SelectionKey; import  java .nio .channels.Selector; import  java .nio .channels.ServerSocketChannel; import  java .nio .channels.SocketChannel; import  java .nio .charset.Charset; import  java .nio .charset.CharsetDecoder; import  java .util.Iterator; /**   * 测试文件下载的NIOServer   *    *  @author  tenyears.cn   */ public class  NIOServer  {    static  int  BLOCK =  4096 ;    // 处理与客户端的交互    public class  HandleClient  {      protected  FileChannel channel;      protected  ByteBuffer buffer;      public  HandleClient ()  throws  IOException  {        this .channel =  new  FileInputStream ( filename ) .getChannel () ;        this .buffer = ByteBuffer.allocate ( BLOCK ) ;      }      public  ByteBuffer readBlock () {        try  {          buffer.clear () ;          int  count = channel.read ( buffer ) ;          buffer.flip () ;          if  ( count <=  0 )            return null ;        }  catch  ( IOException e ) {          e.printStackTrace () ;        }        return  buffer;      }      public  void  close () {        try  {          channel.close () ;        }  catch  ( IOException e ) {          e.printStackTrace () ;        }      }    }    protected  Selector selector;    protected  String filename =  "d://bigfile.dat" ;  // a big file    protected  ByteBuffer clientBuffer = ByteBuffer.allocate ( BLOCK ) ;    protected  CharsetDecoder decoder;    public  NIOServer ( int  port )  throws  IOException  {      selector =  this .getSelector ( port ) ;      Charset charset = Charset.forName ( "GB2312" ) ;      decoder = charset.newDecoder () ;    }    // 获取Selector    protected  Selector getSelector ( int  port )  throws  IOException  {      ServerSocketChannel server = ServerSocketChannel.open () ;      Selector sel = Selector.open () ;      server.socket () .bind ( new  InetSocketAddress ( port )) ;      server.configureBlocking ( false ) ;      server.register ( sel, SelectionKey.OP_ACCEPT ) ;      return  sel;    }    // 监听端口    public  void  listen () {      try  {        for  ( ;; ) {          selector.select () ;          Iterator<selectionkey></selectionkey> iter = selector.selectedKeys ()              .iterator () ;          while  ( iter.hasNext ()) {            SelectionKey key = iter.next () ;            iter.remove () ;            handleKey ( key ) ;          }        }      }  catch  ( IOException e ) {        e.printStackTrace () ;      }    }    // 处理事件    protected  void  handleKey ( SelectionKey key )  throws  IOException  {      if  ( key.isAcceptable ()) {  // 接收请求        ServerSocketChannel server =  ( ServerSocketChannel )  key.channel () ;        SocketChannel channel = server.accept () ;        channel.configureBlocking ( false ) ;        channel.register ( selector, SelectionKey.OP_READ ) ;      }  else if  ( key.isReadable ()) {  // 读信息        SocketChannel channel =  ( SocketChannel )  key.channel () ;        int  count = channel.read ( clientBuffer ) ;        if  ( count >  0 ) {          clientBuffer.flip () ;          CharBuffer charBuffer = decoder.decode ( clientBuffer ) ;          System.out.println ( "Client >>"  + charBuffer.toString ()) ;          SelectionKey wKey = channel.register ( selector,              SelectionKey.OP_WRITE ) ;          wKey.attach ( new  HandleClient ()) ;        }  else          channel.close () ;        clientBuffer.clear () ;      }  else if  ( key.isWritable ()) {  // 写事件        SocketChannel channel =  ( SocketChannel )  key.channel () ;        HandleClient handle =  ( HandleClient )  key.attachment () ;        ByteBuffer block = handle.readBlock () ;        if  ( block !=  null )          channel.write ( block ) ;        else  {          handle.close () ;          channel.close () ;        }      }    }    public static  void  main ( String []  args ) {      int  port =  12345 ;      try  {        NIOServer server =  new  NIOServer ( port ) ;        System.out.println ( "Listernint on "  + port ) ;        while  ( true ) {          server.listen () ;        }      }  catch  ( IOException e ) {        e.printStackTrace () ;      }    } }

该代码中,通过一个HandleClient来获取文件的一块数据,每一个客户都会分配一个HandleClient的实例。

下面是客户端请求的代码,也比较简单,模拟100个用户同时下载文件。

package  nio .file; import  java .io.IOException; import  java .net.InetSocketAddress; import  java .nio .ByteBuffer; import  java .nio .CharBuffer; import  java .nio .channels.SelectionKey; import  java .nio .channels.Selector; import  java .nio .channels.SocketChannel; import  java .nio .charset.Charset; import  java .nio .charset.CharsetEncoder; import  java .util.Iterator; import  java .util.concurrent.ExecutorService; import  java .util.concurrent.Executors; /**   * 文件下载客户端   *  @author  tenyears.cn   */ public class  NIOClient  {    static  int  SIZE =  100 ;    static  InetSocketAddress ip =  new  InetSocketAddress ( "localhost" , 12345 ) ;    static  CharsetEncoder encoder = Charset.forName ( "GB2312" ) .newEncoder () ;    static class  Download  implements  Runnable  {      protected  int  index;      public  Download ( int  index ) {        this .index = index;      }      public  void  run () {        try  {          long  start = System.currentTimeMillis () ;          SocketChannel client = SocketChannel.open () ;          client.configureBlocking ( false ) ;          Selector selector = Selector.open () ;          client.register ( selector, SelectionKey.OP_CONNECT ) ;          client.connect ( ip ) ;          ByteBuffer buffer = ByteBuffer.allocate ( 8  *  1024 ) ;          int  total =  0 ;          FOR:  for  ( ;; ) {            selector.select () ;            Iterator<selectionkey></selectionkey> iter = selector.selectedKeys ()                .iterator () ;            while  ( iter.hasNext ()) {              SelectionKey key = iter.next () ;              iter.remove () ;              if  ( key.isConnectable ()) {                SocketChannel channel =  ( SocketChannel )  key                    .channel () ;                if  ( channel.isConnectionPending ())                  channel.finishConnect () ;                channel.write ( encoder.encode ( CharBuffer                    .wrap ( "Hello from "  + index ))) ;                channel.register ( selector, SelectionKey.OP_READ ) ;              }  else if  ( key.isReadable ()) {                SocketChannel channel =  ( SocketChannel )  key                    .channel () ;                int  count = channel.read ( buffer ) ;                if  ( count >  0 ) {                  total += count;                  buffer.clear () ;                }  else  {                  client.close () ;                  break  FOR;                }              }            }          }          double  last =  ( System.currentTimeMillis ()  – start )  *  1.0  /  1000 ;          System.out.println ( "Thread "  + index +  " downloaded "  + total              +  "bytes in "  + last +  "s." ) ;        }  catch  ( IOException e ) {          e.printStackTrace () ;        }      }    }    public static  void  main ( String []  args )  throws  IOException  {      ExecutorService exec = Executors.newFixedThreadPool ( SIZE ) ;      for  ( int  index =  0 ; index < SIZE; index++ ) {        exec.execute ( new  Download ( index )) ;      }      exec.shutdown () ;    } }

给TA打赏
共{{data.count}}人
人已打赏
安全技术

用node.js做cluster,监听异常的邮件提醒服务

2021-12-21 16:36:11

安全技术

从零搭建自己的SpringBoot后台框架(二十三)

2022-1-12 12:36:11

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索