让SpringBoot的jackson支持JavaBean嵌套的protobuf

问题背景

REST 项目使用protobuf 来加速项目开发，定义了不少model，vo，最终返回的仍然是JSON.

项目中通常使用 一个Response类，

public class Response<T> {
  int code;
  String message;
  T data;
}

若是须要分页，则还须要以下的类

public class Pagedata<T> {
  long totalcount;
  List<T> datas;
}

那么在Controller中，直接返回

Response
.set( Pagedata. set ( Protobuf类 ) )
这种形式，会被Spring的HttpMessageConverter 识别为 Response类，而不是protobuf类，所以选择了正常的 jackson MessageConverter。
这个时候，会报错：

Caused by: com.fasterxml.jackson.databind.exc.InvalidDefinitionException: Direct self-reference leading to cycle (through reference chain: com.xxx.crm.proto.xxxx["unknownFields"]-

因而可知 jackson 不支持Protobuf类的JSON序列化。

解决方案

思路一

若是但愿被HttpMessageConverter 正确选择 ProtobufJsonFormatHttpMessageConverter，那么整个类都应该是Protobuf的类。那么要使用
以下的写法：

import "google/protobuf/any.proto";

option java_outer_classname = "ResponseProto";

message ProtoResponse {
    int32 code = 1;
    string message = 2;
    ProtoPagedData data = 3;
}

message ProtoPagedData {
    repeated google.protobuf.Any datas = 1;
    int64 totalcount = 2;
}

无论什么类都须要用此Protobuf类来 pack。

@GetMapping(value = "/someUrl")
public Object handler() {

List<FooBarProtobufVO> data = // 
ResponseProto.ProtoResponse ok = ResponseProto.ProtoResponse.newBuilder()
        .setCode(0)
        .setMsg("ok")
        .setData(ResponseProto.ProtoPagedData.newBuilder()
            .addAllDatas(data.stream().map(Any::pack).collect(Collectors.toList()))
            .setTotalcount(all.getTotalElements())
            .build())
        .build();
return ok;
}

注意：若是使用Any须要使用TypeRegistry显式注册你的实际类型，不然使用JsonFormat.printer().print打印的时候，会报错：Cannot find type for url: type.googleapis.com

这个方式最终是经过ProtobufJsonFormatHttpMessageConverter序列化的。

（个人另外一篇文章也指出了，HttpMessageConverter的顺序十分重要，这里须要让ProtobufJsonFormatHttpMessageConverter 在系统的靠前的位置）

思路二

既然protobuf的类不能被jackson正确序列化，那么直接返回一个String，或许使用 JsonFormat也是一个不错的选择。

JsonFormat.printer()
                .omittingInsignificantWhitespace()
                .preservingProtoFieldNames()
                .includingDefaultValueFields()
                .print(messageOrBuilder);

经过 JsonFormat打印出protobuf JSON形式，可是这个的缺陷是 JsonFormat不支持 list 的 Protobuf类，仅支持单个的protobuf类。
那么只能按照思路一的方式把他套进一个repeated 的 proto中。

获得JSON以后，若是又但愿能灵活的往数据结构中增长字段，例如 code/msg/data/ 这种形式，不知足，还须要增长某些临时的字段例如 successCount, totalCount, errorCount 等等
这个时候，还须要用FASTJSON 再将这个字符串使用JSON.parseObject 获得 一个 JSONObject，再添加一些字段。这样比较麻烦，可是也能解决问题。

这种状况返回给HttpMessageConverter处理的是String，所以最终会被StringHttpMessageConverter序列化。

(为了严谨，这里由于是StringHttpMessageConverter处理，那么ResponseHeader 的Content-Type是 text/plain;charset=UTF-8，严格来说，若是客户端没有正确识别这个JSON字符串，所以还须要在Controller的方法上面，增长额外的produces = MediaType.APPLICATION_JSON_UTF8_VALUE )

思路三

jackson那么强大，直接让jackson支持protobuf行不行？

答案是行。

找到jackson的 github项目页面
而后 发现，readme下方有

jackson-datatype-protobuf for handling datatypes defined by the standard Java protobuf library, developed by HubSpot
NOTE! This is different from jackson-dataformat-protobuf which adds support for encoding/decoding protobuf content but which does NOT depend on standard Java protobuf library

点进入查看 jackson-datatype-protobuf
Jackson module that adds support for serializing and deserializing Google's Protocol Buffers to and from JSON.

Usage
Maven dependency
To use module on Maven-based projects, use following dependency:

<dependency>
  <groupId>com.hubspot.jackson</groupId>
  <artifactId>jackson-datatype-protobuf</artifactId>
  <version><!-- see table below --></version>
</dependency>

那么怎么集成到SpringBoot中呢？

1. 引入上述第三方jackson-datatype-protobuf的依赖
2. 在项目中引入ProtobufModule。

@Configuration
public class JacksonProtobufSupport {

  @Bean
  @SuppressWarnings("unchecked")
  public Jackson2ObjectMapperBuilderCustomizer jackson2ObjectMapperBuilderCustomizer() {
    return jacksonObjectMapperBuilder -> {
      jacksonObjectMapperBuilder.featuresToDisable(
          JsonGenerator.Feature.IGNORE_UNKNOWN,
          MapperFeature.DEFAULT_VIEW_INCLUSION,
          DeserializationFeature.FAIL_ON_UNKNOWN_PROPERTIES,
          SerializationFeature.WRITE_DATES_AS_TIMESTAMPS
      );
      jacksonObjectMapperBuilder.propertyNamingStrategy(PropertyNamingStrategy.LOWER_CAMEL_CASE);//若是字段都是驼峰命名规则，须要这一句
      jacksonObjectMapperBuilder.modulesToInstall(ProtobufModule.class);
    };
  }

}

完美解决