深刻浅出地，不折不扣地理解python中的编码

python处理文本的功能很是强大，可是若是是初学者，没有搞清楚python中的编码机制，也常常会遇到乱码或者decode error。本文的目的是简明扼要地说明python的编码机制，并给出一些建议。

问题1：问题在哪里？

问题是咱们的靶子，心中没有问题去学习就会抓不住重点。
本文使用的编程环境是centos6.7，python2.7。咱们在shell中键入python以打开python命令行，并键入以下两句话：

 s = "中国zg"
 e  = s.encode("utf-8")

如今的问题是：这段代码能运行吗？
答案是不能，会报以下的错：

UnicodeDecodeError: 'ascii' codec can't decode byte 0xe4 in position 0: ordinal not in range(128)

请留意一下错误中说明的0xe4，它是咱们分析错误的突破口。

相信不少人都遇到过这个错误。那么新的问题来了。

问题2：Why？

要搞清楚缘由，咱们不妨认真分析下这两句话的执行流程：
首先，咱们经过键盘在python命令行解释器中键入了 中国zg 而且给它加上了英文的双引号，而后又赋值给了变量s，看起来很稀松日常是否是？其实里面大有玄机。

当咱们经过键盘在程序中输入字符时，咱们是经过操做系统完成这个功能的。咱们在屏幕上看到的 中国zg 其实是操做系统给咱们人类的一个反馈，告诉你：“嗨，哥们，你在程序中输入了字符 中国zg ”

那操做系统给程序的反馈是什么呢？答案就是01串，这个01串是什么样子，又是怎么生成的呢？
答案就是操做系统使用本身的默认编码方式，将中国zg进行了编码，并把编码后的01串给了程序。

咱们用的centos系统默认的编码是utf-8，因此，只要知道中国zg每一个字符的utf-8的编码就能够知道01串是什么了。

查询后，能够得到它们的编码是(以16进制和2进制表示)：

| 中 |国 | z |g|
|: ------------- |:-------------:| -----😐
|E4B8AD | E59BBD|7A|67|
|11100101 10011011 10111101|11100101 10011011 10111101|01111010|01100111|

如今咱们知道操做系统传给程序的01串长什么样子了。而后，程序会怎么处理它呢？

程序看到这个01串被双引号包围着，天然知道这个01串是一个字符串。而后这个字符串被赋值给了s。

到此，就是第一句的执行逻辑。

如今继续进行第二句的执行。
e = s.encode("utf-8")的意思是将字符串s用utf-8进行编码，并将编码后的字符串赋值给e。问题来了，程序如今知道s中的01串，还知道这个01串表示的是字符串，但这个字符串的编码是什么呢？咱们必须知道01串的现有编码才能解析出里面的字符，也才能用新的编码方式，如utf-8来从新编码它。操做系统只给程序传来了01串，并无告诉程序这个01串用的字符编码是什么。

此时，python程序就会用它本身默认的编码看成s的编码，进而来识别s中的内容。这个默认的编码是ASCII，因此，它会用ASCII来解释这个01串，识别出字符串的内容，再将这个字符串转为utf-8编码。

好了，程序碰到的第一个字节就是E4（11100101 ），傻眼！ ASCII编码中没有这玩意儿，由于ASCII编码中字节第一位都是0。

怎么办？
报错呗，因而咱们就看到了上面的错误。
错误中的0xe4就是字符 “中” 的utf8编码的第一个字节。

问题3：How？

知道问题出在哪里了，怎么解决这个问题呢？

显然，咱们只要告诉程序，这个s中的01串的编码是utf-8，程序就应该能正确工做。

但这样的解决方法有一个问题，就是不够通用。

假如我有个程序，它要读取不少文本文件，每一个文本文件的编码都不同，岂不是针对每一个读进来的文件都维护一个编码信息？很繁琐。

进一步，若是这些文本文件的内容还要作相互的比较链接之类的操做，编码都不一致，岂不是更麻烦？

python是怎么聪明地解决这个问题的呢？

很简单，就是decode！

decode的意思是说，你有一个字符串，而且你知道它的编码，只要你用该编码decode这个字符串，那么，python就会识别出里面的字符内容，同时，建一个int数组，将每一个字符的unicode序号存进去。
全部的字符串都这样作，就能够确保在程序运行过程当中，各类来源得到的字符串都有同样的表示。它们就能够方便地进行各类操做了。

上面说的 int数组会被python封装成一个对象，即unicode对象。

问题4：如何搞定？

下面，咱们在python命令行中输入以下两行代码：

e = s.decode("utf-8")
isinstance(e,unicode)

程序的输出是True，这说明，decode后返回的e确实是一个unicode对象。
unicode在这里是一个类，是python里面的类。

e 被称做unicode字符串，意思是说，它存的是字符的unicode序号，并无使用任何编码。

而后，咱们就能够将e编码成任意一种编码，好比下面的操做都是能够的

e.encode("utf-8")
e.encode("gbk")

只要你选择的编码可以对e中的字符进行编码便可，若是不能编码，就会报错。
好比，若是你尝试这样：

e.encode("ascii")
因为ASCII并不能编码 中国 这两个字符，因此会爆出 encode error。

至此，咱们已经看到了两种错误，decode error 和encode error，并解决了它们。

问题5：如何评价python的这种字符编码处理方法？

首先，这样的处理方法很是的简单。任何文本，只要它进入程序时进行一次decode，就会变成unicode对象，里面用int存着每一个字符的unicode序号。只要在这个文本要输出时再进行一次encode，编码成咱们须要的编码就能够了。

问题是，全部的字符都用一个int来表示会不会太浪费空间？毕竟，用ASCII编码，英文的字符只要一个字节就能够了。

确实会费点空间，可是如今的内存都足够大，并且咱们只在程序内部使用这种方式，当字符串要写入文件或者经过网络传输时，咱们都会进行相应的编码的。

还有一个问题，那些写死在程序中的字符串怎么办？难道每次使用都要进行一次decode?不一样的操做系统默认使用的编码是不同的，当咱们在linux下，一般须要用utf8作decode，在Windows下，一般须要用gbk作 decode。这样，咱们的代码就只能在特定的平台运行。

python给咱们提供了一个很简单的办法，只要在字符串前面加一个u，它就会帮咱们探测系统的编码，并自动完成decode。

问题6：总结下，学到了什么？

本文用一个很常见的错误为起点，详细分析了python中的编码问题。咱们看到了python处理字符问题的简单之处，也可以理解为何python有这么强大的文本处理功能。

测试题:看你是否真正理解了。

假设一台linux上有一个文件a.txt，里面的内容是"中文"两个字符，编码方式是utf-8。

如今，在python程序中写以下语句:

import codec
s=""
with codec.open("a.txt",encoding="utf-8") as f:
s=f.readline().strip()

with open("b.txt","w") as f:
f.write(s)

请问这段代码能执行吗？为何？

答案:不能！
s底下的表示是unicode,写出时python会对其进行编码，默认用的ascii编码没法对"中文"两个字符进行编码，因此会报错！

做者：milter
连接：https://www.jianshu.com/p/eb22cee6c553

---

​

识别图中二维码,领取python全套视频资料