编码那点事

英文字母和中文汉字在不一样字符集编码下的字节数

英文字母:

·字节数 : 1;编码:GB2312编码

字节数 : 1;编码:GBK设计

字节数 : 1;编码:GB18030code

字节数 : 1;编码:ISO-8859-1utf-8

字节数 : 1;编码:UTF-8ci

字节数 : 4;编码:UTF-16unicode

字节数 : 2;编码:UTF-16BE字符编码

字节数 : 2;编码:UTF-16LEemail

中文汉字:

字节数 : 2;编码:GB2312基础

字节数 : 2;编码:GBK乱码

字节数 : 2;编码:GB18030

字节数 : 1;编码:ISO-8859-1

字节数 : 3;编码:UTF-8

字节数 : 4;编码:UTF-16

字节数 : 2;编码:UTF-16BE

字节数 : 2;编码:UTF-16LE

美国人首先对其英文字符进行了编码,也就是最先的ascii码,用一个字节的低7位来表示英文的128个字符,高1位统一为0;

后来欧洲人发现你这128位哪够用,好比法国人字母上面的还有注音符,这个怎么区分,因而把高1位编进来吧,这样欧洲广泛使用一个全字节进行编码,最多可表示256位。

可是即便位数少,不一样国家地区用不一样的字符编码,虽然0–127表示的符号是同样的,可是128–255这一段的解释彻底乱套了,即便2进制彻底同样,表示的字符彻底不同,好比135在法语,希伯来语,俄语编码中彻底是不一样的符号;

更麻烦的是,这编码传到中国后,中国人发现咱们有10万多个汉字,大家欧美这256字塞牙缝都不够。因而就发明了GB2312这些汉字编码,典型的用2个字节来表示绝大部分的经常使用汉字,最多能够表示65536个汉字字符,这样就不难理解有些汉字你在新华字典里查获得,可是电脑上若是不处理一下你是显示不出来的了吧。

这下各用各的字符集编码,这世界咋统一?俄国人发封email给中国人,两边字符集编码不一样,尼玛显示都是乱码啊。为了统一,因而就发明了unicode,将世界上全部的符号都归入其中,每个符号都给予一个独一无二的编码,如今unicode能够容纳100多万个符号,每一个符号的编码都不同,这下可统一了,全部语言均可以互通,一个网页页面里能够同时显示各国文字。

然而,unicode虽然统一了全世界字符的二进制编码,但没有规定如何存储啊。x86和amd体系结构的电脑小端序和大端序都分不清,别提计算机如何识别究竟是unicode仍是acsii了。若是Unicode统一规定,每一个符号用三个或四个字节表示,那么每一个英文字母前都必然有二到三个字节是0,文本文件的大小会所以大出二三倍,这对于存储来讲是极大的浪费。这样致使一个后果:出现了Unicode的多种存储方式。

互联网的兴起,网页上要显示各类字符,必须统一。utf-8就是Unicode最重要的实现方式之一。另外还有utf-1六、utf-32等。UTF-8不是固定字长编码的,而是一种变长的编码方式。它可使用1~4个字节表示一个符号,根据不一样的符号而变化字节长度。这是种比较巧妙的设计,若是一个字节的第一位是0,则这个字节单独就是一个字符;若是第一位是1,则连续有多少个1,就表示当前字符占用多少个字节。

注意unicode的字符编码和utf-8的存储编码表示是不一样的,例如”严”字的Unicode码是4E25,UTF-8编码是E4B8A5,这个7里面解释了的,UTF-8编码不只考虑了编码,还考虑了存储,E4B8A5是在存储识别编码的基础上塞进了4E25。

UTF-8 使用一至四个字节为每一个字符编码。128 个 ASCII 字符(Unicode 范围由 U+0000 至 U+007F)只需一个字节,带有变音符号的拉丁文、希腊文、西里尔字母、亚美尼亚语、希伯来文、阿拉伯文、叙利亚文及马尔代夫语(Unicode 范围由 U+0080 至 U+07FF)须要二个字节,其余基本多文种平面(BMP)中的字符(CJK属于此类-Qieqie注)使用三个字节,其余 Unicode 辅助平面的字符使用四字节编码。

因此知道utf-8的中文是一个字符占几个字节了吧?

相关文章
相关标签/搜索