写过两篇关于编码的文章了,觉得本身比较了解编码了呢?!测试
结果今天又结结实实的上了一课。编码
之前转来转去解决的问题终归仍是简单的情形。即iso-8859-1转utf-8,或者iso-8859-1转gbk,gb2312之类。这种无损转换,一行代码就搞定。spa
今天遇到了gbk转utf-8。不管怎么转,都是乱码。code
1、乱码的缘由blog
gbk的中文编码是一个汉字用【2】个字节表示,例如汉字“内部”的gbk编码16进制的显示为c4 da b2 bfutf-8
utf-8的中文编码是一个汉字用【3】个字节表示,例如汉字“内部”的utf-8编码16进制的显示为e5 86 85 e9 83 a8字符串
很显然,gbk是没法直接转换成utf-8,少字节变为多字节,谁知道缺乏的字节是什么啊?!get
2、转换的办法io
有办法实现“有损”转换吗?答案是确定的。class
1.首先将gbk字符串getBytes()获得两个原始字节,转换成二进制字符流,共16位。
2.根据UTF-8的汉字编码规则,首字节以1110开头,次字节以10开头,第3字节以10开头。在原始的2进制字符串中插入标志位。最终的长度从16--->16+4+2+2=24。
3.转换完成,实际状况须要考虑更多因素,例如字符串是汉字和数字的混合体,须要识别处理数字。
3、不要重复发明轮子
这段代码测试可用还很好用,须要的能够参考。
1 public static String getUTF8StringFromGBKString(String gbkStr) { 2 try { 3 return new String(getUTF8BytesFromGBKString(gbkStr), "UTF-8"); 4 } catch (UnsupportedEncodingException e) { 5 throw new InternalError(); 6 } 7 } 8 9 public static byte[] getUTF8BytesFromGBKString(String gbkStr) { 10 int n = gbkStr.length(); 11 byte[] utfBytes = new byte[3 * n]; 12 int k = 0; 13 for (int i = 0; i < n; i++) { 14 int m = gbkStr.charAt(i); 15 if (m < 128 && m >= 0) { 16 utfBytes[k++] = (byte) m; 17 continue; 18 } 19 utfBytes[k++] = (byte) (0xe0 | (m >> 12)); 20 utfBytes[k++] = (byte) (0x80 | ((m >> 6) & 0x3f)); 21 utfBytes[k++] = (byte) (0x80 | (m & 0x3f)); 22 } 23 if (k < utfBytes.length) { 24 byte[] tmp = new byte[k]; 25 System.arraycopy(utfBytes, 0, tmp, 0, k); 26 return tmp; 27 } 28 return utfBytes; 29 }
PS:有点儿对不住原做者,找了不少代码,一一测试,结果网页都关闭了,若是有大神认领,我必定补充连接,并且深表感谢。