UTF-8 UTF-16 LE BE ByteOrderMark BOM

问题一：Unicode 、 UTF-8 区别

简单来讲： Unicode 是「字符集」 UTF-8 是「编码规则」 其中：

字符集：为每个「字符」分配一个惟一的 ID（学名为码位 / 码点 / Code Point） 编码规则：将「码位」转换为字节序列的规则（编码/解码 能够理解为 加密/解密 的过程）

Unicode 字符集为每个字符分配一个码位，例如「知」的码位是 30693，记做 U+77E5（30693 的十六进制为 0x77E5）。

UTF-8 顾名思义，是一套以 8 位为一个编码单位的可变长编码。会将一个码位编码为 1 到 4 个字节：

U+ 0000 ~ U+  007F: 0XXXXXXX
U+ 0080 ~ U+  07FF: 110XXXXX 10XXXXXX
U+ 0800 ~ U+  FFFF: 1110XXXX 10XXXXXX 10XXXXXX
U+10000 ~ U+10FFFF: 11110XXX 10XXXXXX 10XXXXXX 10XXXXXX

根据上表中的编码规则，以前的「知」字的码位 U+77E5 属于第三行的范围：

7    7    E    5
    0111 0111 1110 0101    二进制的 77E5
--------------------------
    0111   011111   100101 二进制的 77E5
1110XXXX 10XXXXXX 10XXXXXX 模版（上表第三行）
11100111 10011111 10100101 代入模版
   E   7    9   F    A   5

这就是将 U+77E5 按照 UTF-8 编码为字节序列 E79FA5 的过程。反之亦然。

从结果看出，UTF-8表示中文这些字符会比UTF-16须要的空间要大。表示英文字符则比UTF-16要小。这是由于UTF-8须要固定的前缀，这些前缀是为了让编码可变长。

问题二：UTF-16

U+000~U+FFFF: 2 Byte存储，编码后等于Unicode值

U+10000~U+10FFFF: 4 Byte存储，现将Unicode值减去（0x10000），获得20bit长的值。再将Unicode分为高10位和低10位。UTF-16编码的高位是2 Byte，高10位Unicode范围为0-0x3FF，将Unicode值加上0XD800，获得高位代理（或称为前导代理，存储高位）；低位也是2 Byte，低十位Unicode范围同样为0~0x3FF，将Unicode值加上0xDC00,获得低位代理（或称为后尾代理，存储低位）

发现它的码点在 U+D800 到 U+DBFF 之间，就能够判定，紧跟在后面的两个字节的码点，应该在 U+DC00 到 U+DFFF 之间，这四个字节必须放在一块儿解读。

4个字节码点高低位计算公式：

c 表示代码点。 0x400 就是 1024。0xD800是：1101100000000000，0xDC00是1101110000000000。就是给10位上加前缀

H = (c-0x10000) / 0x400+0xD800

L = (c - 0x10000) % 0x400 + 0xDC00

对应位运算公式：

H = (c-0x10000) >> 10 + 0xD800

L = (c - 0x10000) & (1024 - 1) + 0xDC00

问题三：UTF-8 比 UTF-16使用普遍

两种编码存在的问题与优势

参考：

知乎：Unicode 和 UTF-8 有什么区别？

知乎：Unicode 编码及 UTF-32, UTF-16 和 UTF-8

知乎：为何 UTF-8 编码比 UTF-16 编码应用更普遍？

完全弄懂 Unicode 编码