fastjson的deserializer的主要优化算法

JSON最佳实践 | kimmking's blog http://kimmking.github.io/2017/06/06/json-best-practice/

Fastjson内幕

Java综合 

JSON协议使用方便，愈来愈流行。JSON的处理器有不少，为何须要再写一个呢？由于咱们须要一个性能很好的JSON Parser，但愿JSON Parser的性能有二进制协议同样好，好比和protobuf同样，这可不容易，但确实作到了。有人认为这从原理上就是不可能的，可是计算机乃实践科学，看实际的结果比原理推导更重要。 

这篇文章告诉你们： 
* Fastjson究竟有多快 
* 为何Fastjson这么快 
* 你能用Fastjson来作什么！ 
* 如何得到fastjson？ 

首先，Fastjson究竟有多快？ 
咱们看一下使用https://github.com/eishay/jvm-serializers/提供的程序进行测试获得的结果： 

	序列化时间	反序列化时间	大小	压缩后大小
java序列化	8654	43787	889	541
hessian	6725	10460	501	313
protobuf	2964	1745	239	149
thrift	3177	1949	349	197
avro	3520	1948	221	133
json-lib	45788	149741	485	263
jackson	3052	4161	503	271
fastjson	2595	1472	468	251

这是一个468bytes的JSON Bytes测试，从测试结果来看，不管序列化和反序列化，Fastjson超越了protobuf，能够当之无愧fast! 它比java deserialize快超过30多倍，比json-lib快100倍。因为Fastjson的存在，你能够放心使用json统一协议，达到文本协议的可维护性，二进制协议的性能。 

JSON处理主要包括两个部分，serialize和deserialize。serialize就是把Java对象变成JSON String或者JSON Bytes。Deserialize是把JSON String或者Json Bytes变成java对象。其实这个过程有些JSON库是分三部分的，json string <－-> json tree <－-> java object。Fastjson也支持这种转换方式，可是这种转换方式由于有多余的步骤，性能很差，不推荐使用。 

为何Fastjson可以作到这么快？ 
1、Fastjson中Serialzie的优化实现 
一、自行编写相似StringBuilder的工具类SerializeWriter。 
把java对象序列化成json文本，是不可能使用字符串直接拼接的，由于这样性能不好。比字符串拼接更好的办法是使用java.lang.StringBuilder。StringBuilder虽然速度很好了，但还可以进一步提高性能的，fastjson中提供了一个相似StringBuilder的类com.alibaba.fastjson.serializer.SerializeWriter。 

SerializeWriter提供一些针对性的方法减小数组越界检查。例如public void writeIntAndChar(int i, char c) {}，这样的方法一次性把两个值写到buf中去，可以减小一次越界检查。目前SerializeWriter还有一些关键的方法可以减小越界检查的，我还没实现。也就是说，若是实现了，可以进一步提高serialize的性能。 

二、使用ThreadLocal来缓存buf。 
这个办法可以减小对象分配和gc，从而提高性能。SerializeWriter中包含了一个char[] buf，每序列化一次，都要作一次分配，使用ThreadLocal优化，可以提高性能。 

三、使用asm避免反射 
获取java bean的属性值，须要调用反射，fastjson引入了asm的来避免反射致使的开销。fastjson内置的asm是基于objectweb asm 3.3.1改造的，只保留必要的部分，fastjson asm部分不到1000行代码，引入了asm的同时不致使大小变大太多。 

使用一个特殊的IdentityHashMap优化性能。 
fastjson对每种类型使用一种serializer，因而就存在class -> JavaBeanSerizlier的映射。fastjson使用IdentityHashMap而不是HashMap，避免equals操做。咱们知道HashMap的算法的transfer操做，并发时可能致使死循环，可是ConcurrentHashMap比HashMap系列会慢，由于其使用volatile和lock。fastjson本身实现了一个特别的IdentityHashMap，去掉transfer操做的IdentityHashMap，可以在并发时工做，可是不会致使死循环。 

五、缺省启用sort field输出 
json的object是一种key/value结构，正常的hashmap是无序的，fastjson缺省是排序输出的，这是为deserialize优化作准备。 

六、集成jdk实现的一些优化算法 
在优化fastjson的过程当中，参考了jdk内部实现的算法，好比int to char[]算法等等。 

2、fastjson的deserializer的主要优化算法 
deserializer也称为parser或者decoder，fastjson在这方面投入的优化精力最多。 
一、读取token基于预测。 
全部的parser基本上都须要作词法处理，json也不例外。fastjson词法处理的时候，使用了基于预测的优化算法。好比key以后，最大的多是冒号":"，value以后，多是有两个，逗号","或者右括号"}"。在com.alibaba.fastjson.parser.JSONScanner中提供了这样的方法： 

public void nextToken(int expect) {
    for (;;) {
        switch (expect) {
            case JSONToken.COMMA: //
                if (ch == ',') {
                    token = JSONToken.COMMA;
                    ch = buf[++bp];
                    return;
                }

                if (ch == '}') {
                    token = JSONToken.RBRACE;
                    ch = buf[++bp];
                    return;
                }

                if (ch == ']') {
                    token = JSONToken.RBRACKET;
                    ch = buf[++bp];
                    return;
                }

                if (ch == EOI) {
                    token = JSONToken.EOF;
                    return;
                }
                break;
        // ... ...
    }
}

从上面摘抄下来的代码看，基于预测可以作更少的处理就可以读取到token。 

二、sort field fast match算法 
fastjson的serialize是按照key的顺序进行的，因而fastjson作deserializer时候，采用一种优化算法，就是假设key/value的内容是有序的，读取的时候只须要作key的匹配，而不须要把key从输入中读取出来。经过这个优化，使得fastjson在处理json文本的时候，少读取超过50%的token，这个是一个十分关键的优化算法。基于这个算法，使用asm实现，性能提高十分明显，超过300％的性能提高。 

{ "id" : 123, "name" : "魏加流", "salary" : 56789.79}
  ------      --------          ----------

在上面例子看，虚线标注的三个部分是key，若是key_id、key_name、key_salary这三个key是顺序的，就能够作优化处理，这三个key不须要被读取出来，只须要比较就能够了。 

这种算法分两种模式，一种是快速模式，一种是常规模式。快速模式是假定key是顺序的，能快速处理，若是发现不可以快速处理，则退回常规模式。保证性能的同时，不会影响功能。 

在这个例子中，常规模式须要处理13个token，快速模式只须要处理6个token。 

实现sort field fast match算法的代码在这个类[com.alibaba.fastjson.parser.deserializer.ASMDeserializerFactory|http://code.alibabatech.com/svn/fastjson/trunk/fastjson/src/main/java/com/alibaba/fastjson/parser/deserializer/ASMDeserializerFactory.java]，是使用asm针对每种类型的VO动态建立一个类实现的。 
这里是有一个用于演示sort field fast match算法的代码： 
http://code.alibabatech.com/svn/fastjson/trunk/fastjson/src/test/java/data/media/ImageDeserializer.java 

// 用于快速匹配的每一个字段的前缀
char[] size_   = "\"size\":".toCharArray();
char[] uri_    = "\"uri\":".toCharArray();
char[] titile_ = "\"title\":".toCharArray();
char[] width_  = "\"width\":".toCharArray();
char[] height_ = "\"height\":".toCharArray();

// 保存parse开始时的lexer状态信息
int mark = lexer.getBufferPosition();
char mark_ch = lexer.getCurrent();
int mark_token = lexer.token();

int height = lexer.scanFieldInt(height_);
if (lexer.matchStat == JSONScanner.NOT_MATCH) {
    // 退出快速模式, 进入常规模式
    lexer.reset(mark, mark_ch, mark_token);
    return (T) super.deserialze(parser, clazz);
}

String value = lexer.scanFieldString(size_);
if (lexer.matchStat == JSONScanner.NOT_MATCH) {
    // 退出快速模式, 进入常规模式
    lexer.reset(mark, mark_ch, mark_token);
    return (T) super.deserialze(parser, clazz);
}
Size size = Size.valueOf(value);

// ... ...

// batch set
Image image = new Image();
image.setSize(size);
image.setUri(uri);
image.setTitle(title);
image.setWidth(width);
image.setHeight(height);

return (T) image;

三、使用asm避免反射 
deserialize的时候，会使用asm来构造对象，而且作batch set，也就是说合并连续调用多个setter方法，而不是分散调用，这个可以提高性能。 

四、对utf-8的json bytes，针对性使用优化的版原本转换编码。 
这个类是com.alibaba.fastjson.util.UTF8Decoder，来源于JDK中的UTF8Decoder，可是它使用ThreadLocal Cache Buffer，避免转换时分配char[]的开销。 
ThreadLocal Cache的实现是这个类com.alibaba.fastjson.util.ThreadLocalCache。第一次1k，若是不够，会增加，最多增加到128k。 

//代码摘抄自com.alibaba.fastjson.JSON
public static final <T> T parseObject(byte[] input, int off, int len, CharsetDecoder charsetDecoder, Type clazz,
                                      Feature... features) {
    charsetDecoder.reset();

    int scaleLength = (int) (len * (double) charsetDecoder.maxCharsPerByte());
    char[] chars = ThreadLocalCache.getChars(scaleLength); // 使用ThreadLocalCache，避免频繁分配内存

    ByteBuffer byteBuf = ByteBuffer.wrap(input, off, len);
    CharBuffer charByte = CharBuffer.wrap(chars);
    IOUtils.decode(charsetDecoder, byteBuf, charByte);

    int position = charByte.position();

    return (T) parseObject(chars, position, clazz, features);
}

六、symbolTable算法。 
咱们看xml或者javac的parser实现，常常会看到有一个这样的东西symbol table，它就是把一些常用的关键字缓存起来，在遍历char[]的时候，同时把hash计算好，经过这个hash值在hashtable中来获取缓存好的symbol，避免建立新的字符串对象。这种优化在fastjson里面用在key的读取，以及enum value的读取。这是也是parse性能优化的关键算法之一。 

如下是摘抄自JSONScanner类中的代码，这段代码用于读取类型为enum的value。 

int hash = 0;
for (;;) {
    ch = buf[index++];
    if (ch == '\"') {
        bp = index;
        this.ch = ch = buf[bp];
        strVal = symbolTable.addSymbol(buf, start, index - start - 1, hash); // 经过symbolTable来得到缓存好的symbol，包括fieldName、enumValue
        break;
    }

    hash = 31 * hash + ch; // 在token scan的过程当中计算好hash

    // ... ...
}

咱们能用fastjson来做什么？ 
一、替换其余全部的json库，java世界里没有其余的json库可以和fastjson可相比了。 
二、使用fastjson的序列化和反序列化替换java serialize，java serialize不单性能慢，并且体制大。 
三、使用fastjson替换hessian，json协议和hessian协议大小差很少同样，并且fastjson性能优越，10倍于hessian 
四、把fastjson用于memached缓存对象数据。 


如何得到fastjson 
h3. 官方网站 
Fastjson是开源的，基于Apache 2.0协议。你能够在官方网站了解最新信息。 
http://code.alibabatech.com/wiki/display/FastJSON/Home 

maven用户  * Maven仓库 http://code.alibabatech.com/mvn/releases/  {code}  <dependency>       <groupId>com.alibaba</groupId>       <artifactId>fastjson</artifactId>       <version>1.1.2</version>  </dependency>  {code}