关于JAVA字符编码：Unicode,ISO-8859-1,GBK,UTF-8编码及相互转换

时间 2019-11-20

标签关于 java 字符编码 unicode iso gbk utf 相互转换栏目 Java 繁體版

原文原文链接

由于url传送默认编码是容器的编码，tomcat默认是iso-8859-1.因此，request.gerParameter()得到的值必须转码，除非设置tocmat的默认url编码。 java

这个是涉及到字符编码的问题一个字符在网页间传递要通过编/解码的问题
我来具体解释一下这个语句username=new String(username.getBytes("ISO8859_1"),"GBK");
网页自己是gb2312（也就是gbk）对数据进行解码的，那么你要将这个数据转换成ISO8859_1解码
的数据，必定要先将这个数据编码成gbk，而后经过getBytes（）方法将其解码成ISO8859_1编码方式，那么最后获得的数据才是以ISO8859_1进行编码的数据   linux

１、函数介绍

在Java中，字符串用统一的Unicode编码，每一个字符占用两个字节，与编码有关的两个主要函数为：

１）将字符串用指定的编码集合解析成字节数组，完成Unicode－〉charsetName转换

public byte[] getBytes(String charsetName) throws UnsupportedEncodingException　

２）将字节数组以指定的编码集合构形成字符串，完成charsetName－〉Unicode转换

public String(byte[] bytes, String charsetName) throws UnsupportedEncodingException

２、Unicode与各编码之间的直接转换

下面以对中文字符串＂ａ中文＂的编码转换为例，来了解各类编码之间的转换

１）Unicode和GBK

测试结果以下，每一个汉字转换为两个字节，且是可逆的，即经过字节能够转换回字符串

String － GBK 〉ByteArray：/u0061/u4E2D/u6587（a中文）－〉0x61 0xD6 0xD0 0xCE 0xC4

ByteArray － GBK 〉String：0x61 0xD6 0xD0 0xCE 0xC4－〉/u0061/u4E2D/u6587（a中文）

２）Unicode和UTF-8

测试结果以下，每一个汉字转换为三个字节，且是可逆的，即经过字节能够转换回字符串

String － UTF-8 〉ByteArray：/u0061/u4E2D/u6587（a中文）－〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87

ByteArray － UTF-8 〉String：0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87－〉/u0061/u4E2D/u6587（a中文）

３）Unicode和ISO-8859-1

测试结果以下，当存在汉字时转换失败，非可逆，即经过字节不能再转换回字符串

String － ISO-8859-1 〉ByteArray：/u0061/u4E2D/u6587（a中文）－〉0x61 0x3F 0x3F

ByteArray － ISO-8859-1 〉String：0x61 0x3F 0x3F－〉/u0061/u003F/u003F（a??）

３、Unicode与各编码之间的交叉转换

在上面直接转换中，由字符串（Unicode）生成的字节数组，在构造回字符串时，使用的是正确的编码集合，若是使用的不是正确的编码集合会怎样呢？会正确构造吗？若是不能正确构造能有办法恢复吗？会信息丢失吗？

下面咱们就来看看这种状况，这部分能够说明在某些状况下虽然咱们最终正确显示告终果，但其间仍然进行了不正确的转换。

１）可以正确显示的中间不正确转换

咱们知道String － GBK 〉ByteArray － GBK 〉String是正确的，但若是咱们采用String － GBK 〉ByteArray － ISO-8859-1 〉String呢？经过测试结果以下：

String － GBK 〉ByteArray － ISO-8859-1 〉String：/u0061/u4E2D/u6587（a中文）－〉0x61 0xD6 0xD0 0xCE 0xC4－〉/u0061/u00D6/u00D0/u00CE/u00C4（a????）

这时咱们获得的字符串为？乱码“a????”，可是经过继续转换咱们仍然能够复原回正确的字符串“a中文”，过程以下：

String － GBK 〉ByteArray － ISO-8859-1 〉String － ISO-8859-1 〉ByteArray － GBK 〉String

对应：/u0061/u4E2D/u6587（a中文）－〉0x61 0xD6 0xD0 0xCE 0xC4－〉/u0061/u00D6/u00D0/u00CE/u00C4（a????）－〉0x61 0xD6 0xD0 0xCE 0xC4－〉/u0061/u4E2D/u6587（a中文）

也就是咱们在首次构造字符串时，咱们用了错误的编码集合获得了错误的乱码，可是咱们经过错上加错，再用错误的编码集合获取字节数组，而后再用正确的编码集合构造，就又恢复了正确的字符串。这时就属因而“可以正确显示的中间不正确转换”。在Jsp页面提交数据处理时经常发生这种状况。

此外可以正确显示的中间不正确转换还有：

String － UTF-8 〉ByteArray － ISO-8859-1 〉String － ISO-8859-1 〉ByteArray － UTF-8 〉String

和

String － UTF-8 〉ByteArray － GBK 〉String － GBK 〉ByteArray － UTF-8 〉String

对应：/u0061/u4E2D/u6587（a中文）－〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87－〉/u0061/u6D93/uE15F/u6783（a涓枃）－〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87－〉/u0061/u4E2D/u6587（a中文）

４、编码过程当中错误诊断参考

１）一个汉字对应一个问号

在经过ISO-8859-1从字符串获取字节数组时，因为一个Unicode转换成一个byte，当遇到不认识的Unicode时，转换为0x3F，这样不管用哪一种编码构造时都会产生一个？乱码。

２）一个汉字对应两个问号

在经过GBK从字符串获取字节数组时，因为一个Unicode转换成两个byte，若是此时用ISO-8859-1或用UTF-8构造字符串就会出现两个问号。

如果经过ISO-8859-1构造能够再经过上面所说的错上加错恢复（即再经过从ISO-8859-1解析，用GBK构造）；

如果经过UTF-8构造则会产生Unicode字符＂/uFFFD＂，不能恢复，若再经过String－UTF-8〉ByteArray－GBK〉String，则会出现杂码，如a锟斤拷锟斤拷

３）一个汉字对应三个问号

在经过UTF-8从字符串获取字节数组时，因为一个

这是java字符串处理的一个标准函数，其做用是将字符串所表示的字符按照charset编码，并以字节方式表示。注意字符串在java内存中老是按unicode编码存储的。好比"中文"，正常状况下（即没有错误的时候）存储为"4e2d 6587"，若是charset为"gbk"，则被编码为"d6d0 cec4"，而后返回字节"d6 d0 ce c4".若是charset为"utf8"则最后是"e4 b8 ad e6 96 87".若是是"iso8859-1"，则因为没法编码，最后返回 "3f 3f"（两个问号）。web

java .class类的编码为：unicode;apache

windows 默认的编码为：中文：gb2312; 英文：iso8859;windows

String str = "张三" ;数组

byte[] jiema= str.getBytes("gb2312") ; //解码浏览器

String bianma = new String(jiema,"UTF-8");//编码若是上面的解码不对可能出现问题tomcat

2. new String（charset）jsp

这是java字符串处理的另外一个标准函数，和上一个函数的做用相反，将字节数组按照charset编码进行组合识别，最后转换为unicode存储。参考上述getBytes的例子，"gbk" 和"utf8"均可以得出正确的结果"4e2d 6587"，但iso8859-1最后变成了"003f 003f"（两个问号）。函数

由于utf8能够用来表示/编码全部字符，因此new String（ str.getBytes（ "utf8" ）， "utf8" ） === str，即彻底可逆。

3. setCharacterEncoding（）

该函数用来设置http请求或者相应的编码。

对于request，是指提交内容的编码，指定后能够经过getParameter（）则直接得到正确的字符串，若是不指定，则默认使用iso8859-1编码，须要进一步处理。参见下述"表单输入".值得注意的是在执行setCharacterEncoding（）以前，不能执行任何getParameter（）。java doc上说明：This method must be called prior to reading request parameters or reading input using getReader（）。并且，该指定只对POST方法有效，对GET方法无效。分析缘由，应该是在执行第一个getParameter（）的时候，java将会按照编码分析全部的提交内容，然后续的getParameter（）再也不进行分析，因此setCharacterEncoding（）无效。而对于GET方法提交表单是，提交的内容在URL中，一开始就已经按照编码分析全部的提交内容，setCharacterEncoding（）天然就无效。

对于response，则是指定输出内容的编码，同时，该设置会传递给浏览器，告诉浏览器输出内容所采用的编码。

4. 处理过程

下面分析两个有表明性的例子，说明java对编码有关问题的处理方法。

4.1. 表单输入

User input *（gbk：d6d0 cec4） browser *（gbk：d6d0 cec4） web server iso8859-1（00d6 00d 000ce 00c4） class，须要在class中进行处理：getbytes（"iso8859-1"）为d6 d0 ce c4，new String（"gbk"）为d6d0 cec4，内存中以unicode编码则为4e2d 6587.

l 用户输入的编码方式和页面指定的编码有关，也和用户的操做系统有关，因此是不肯定的，上例以gbk为例。

l 从browser到web server，能够在表单中指定提交内容时使用的字符集，不然会使用页面指定的编码。而若是在url中直接用？的方式输入参数，则其编码每每是操做系统自己的编码，由于这时和页面无关。上述仍旧以gbk编码为例。

l Web server接收到的是字节流，默认时（getParameter）会以iso8859-1编码处理之，结果是不正确的，因此须要进行处理。但若是预先设置了编码（经过request. setCharacterEncoding （）），则可以直接获取到正确的结果。

l 在页面中指定编码是个好习惯，不然可能失去控制，没法指定正确的编码。

4.2. 文件编译

假设文件是gbk编码保存的，而编译有两种编码选择：gbk或者iso8859-1，前者是中文windows的默认编码，后者是linux的默认编码，固然也能够在编译时指定编码。

Jsp *（gbk：d6d0 cec4） java file *（gbk：d6d0 cec4） compiler read uincode（gbk： 4e2d 6587； iso8859-1： 00d6 00d 000ce 00c4） compiler write utf（gbk： e4b8ad e69687； iso8859-1： *） compiled file unicode（gbk： 4e2d 6587； iso8859-1： 00d6 00d 000ce 00c4） class.因此用gbk编码保存，而用iso8859-1编译的结果是不正确的。

class unicode（4e2d 6587） system.out / jsp.out gbk（d6d0 cec4） os console / browser.

l 文件能够以多种编码方式保存，中文windows下，默认为ansi/gbk.

l 编译器读取文件时，须要获得文件的编码，若是未指定，则使用系统默认编码。通常class文件，是以系统默认编码保存的，因此编译不会出问题，但对于jsp文件，若是在中文windows下编辑保存，而部署在英文linux下运行/编译，则会出现问题。因此须要在jsp文件中用pageEncoding指定编码。

l Java编译的时候会转换成统一的unicode编码处理，最后保存的时候再转换为utf编码。

l 当系统输出字符的时候，会按指定编码输出，对于中文windows下，System.out将使用gbk编码，而对于response（浏览器），则使用jsp文件头指定的contentType，或者能够直接为response指定编码。同时，会告诉browser网页的编码。若是未指定，则会使用iso8859-1编码。对于中文，应该为browser指定输出字符串的编码。

l browser显示网页的时候，首先使用response中指定的编码（jsp文件头指定的contentType最终也反映在response上），若是未指定，则会使用网页中meta项指定中的contentType.

5. 几处设置

对于web应用程序，和编码有关的设置或者函数以下。

5.1. jsp编译

指定文件的存储编码，很明显，该设置应该置于文件的开头。例如：。另外，对于通常class文件，能够在编译的时候指定编码。

5.2. jsp输出

指定文件输出到browser是使用的编码，该设置也应该置于文件的开头。例如：。该设置和response.setCharacterEncoding（"GBK"）等效。

5.3. meta设置

指定网页使用的编码，该设置对静态网页尤为有做用。由于静态网页没法采用jsp的设置，并且也没法执行response.setCharacterEncoding（）。例如：

若是同时采用了jsp输出和meta设置两种编码指定方式，则jsp指定的优先。由于jsp指定的直接体如今response中。

须要注意的是，apache有一个设置能够给无编码指定的网页指定编码，该指定等同于jsp的编码指定方式，因此会覆盖静态网页中的meta指定。因此有人建议关闭该设置。

5.4. form设置

当浏览器提交表单的时候，能够指定相应的编码。例如：。通常没必要不使用该设置，浏览器会直接使用网页的编码。

按照字节数截取字符串：

package com.example.web.filter;


public class Test {
    public static void main(String[] args) throws Exception {
//        String ss=".abcdefghigklmnopqrstuvwxyABCDEFGHIJKLMNOPQRSTUVWXYZ";
//        for (int i = 0; i < ss.getBytes().length; i++) {
//            System.out.println(ss.getBytes()[i]);
//        }
        
        System.out.println("是".getBytes().length);
        String str = "1是1否是字节231we撒rw";
        System.out.println(str.getBytes().length);
        String strgbk = new String(str.getBytes("GBK"),"GBK");
        System.out.println(strgbk);
        int num=trimGBK(strgbk.getBytes(),11);
        System.out.println(strgbk.substring(0,num));
    
        System.out.println("----------");
        
        num=trimUTF8(str.getBytes(),11);
        System.out.println(str.substring(0,num));
        
    }

    private static int trimGBK(byte[] buf, int n) {
        int num=0;
        boolean firstHalf = false;
        for (int i = 0; i < n ; i++) {
            if (buf[i]<0 && !firstHalf) {
                firstHalf=true;
            }else {
                num++;
                firstHalf=false;
            }
        }
        return num;
    }
    /**
     * 若是是UTF8编码，它占三个字节，每一个字节都小于0
     * @param buf 字节数组
     * @param n 须要截取的字符串字节长度
     * @return
     */
    private static int trimUTF8(byte[] buf, int n) {
        int num=0;
        int count=1;
        for (int i = 0; i < n ; i++) {
            if (buf[i]<0 && count!=3) {
                count++;
            }else {
                num++;
                count=1;
            }
        }
        return num;
    }
    
}