python 处理中文遇到的编码问题总结 以及 字符str的编码如何判断

如何处理中午编码的问题

 

Python的UnicodeDecodeError: 'utf8' codec can't decode byte 0xxx in position

这个错误是由于你代码中的某个字符串使用了费ascii编码的字符，也就是它表明的16进制的编码超过127。

解决这个问题可使用下面的方法解决，其实就是设置默认的编码。python 2.x的默认编码是ascii，若是改成utf-8，就能够了。

 

import sys reload( sys )

sys.setdefaultencoding('utf-8')

 

其实从python 3.0之后默认就用utf-8，就没有这个问题了。

 

 

新手写pyhton程序常常遇到编码问题，实际上是对py的编码不熟悉，常常范小毛病，郁闷很久。。。

今天终于搞懂的py的编码。

1. pyhton的全部内置库、方法接受的是unicode编码的字符串。

2. str.decode 函数就是转成unicode编码，因此能decode的字符串传级python的内置库、函数都能正确运行。

3.问题在于这个decode函数解码时到底要传哪一个参数：utf-8,gbk,gb2312......等N种编码。参数不当，就会抛相似异常：

UnicodeDecodeError: 'gbk' codec can't decode bytes in position 2-3: illegal multibyte sequence

   UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data

下面举个例子：

#coding:utf-8    

1. #指定本文件编码为utf8  
2. import os  
3. # 如下为示例代码，不必定能运行。随意写的，无编译运行过。  
4. # 例子以XP平台为例，由于linux平台编码（UTF-8）与window平台（GBK）不同。  
5. # 假设D盘下面有不少中文名称文件  
6. filelist = os.listdir(r"d:\\") # 此处返回的list中的中文是以GBK编码的，你能够经过查看cmd窗口属性看到。  
7. for path in filelist:  
8.     if os.path.isdir(path): continue  
9.      fp = open(path.decode("GBK") , 'rb')  # 若是此处用 path.decode("UTF-8") 就会抛异常，缘由是wind的dir命令返回的是GBK编码  
10.     print len(fp.read())  
11.      fp.close()  
12. filepath =r"d:\\中文文件.doc"             # 假设此文存在，记得要带中文  
13. fp = open(filepath.decode('utf-8'), "rb") #这里使用utf8参数进行解码，缘由是文件头里有句coding: utf-8  
14. print len(fp.read())  
15. fp.close()  
16. path2 = u"d:\\中文文件.doc"  # 假如这里有个u在前面，这个变量就是unicode编码了，不用解码。  
17. fp = open(path2, 'rb')  
18. print len(fp.read())  
19. fp.close()  

 

 

为何Python使用过程当中会出现各式各样的乱码问题，明明是中文字符却显示成“\xe4\xb8\xad\xe6\x96\x87”的形式？

 

 

为何会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”？本文就来研究一下这个问题。

---

字符串在Python内部的表示是 unicode编码，所以，在作编码转换时，一般须要以unicode做为中间编码，即先将其余编码的字符串解码（decode）成unicode，再从unicode编码（encode）成另外一种编码。

decode的做用是将其余编码的字符串转换成unicode编码，如str1.decode('gb2312')，表示将gb2312编码的字符串str1转换成unicode编码。

encode的做用是将unicode编码转换成其余编码的字符串，如str2.encode('gb2312')，表示将unicode编码的字符串str2转换成gb2312编码。

所以，转码的时候必定要先搞明白，字符串str是什么编码，而后decode成unicode，而后再encode成其余编码

---

代码中字符串的默认编码与代码文件自己的编码一致。

如：s='中文'

若是是在utf8的文件中，该字符串就是utf8编码，若是是在gb2312的文件中，则其编码为gb2312。这种状况下，要进行编码转换，都须要先用decode方法将其转换成unicode编码，再使用encode方法将其转换成其余编码。一般，在没有指定特定的编码方式时，都是使用的系统默认编码建立的代码文件。

若是字符串是这样定义：s=u'中文'

则该字符串的编码就被指定为unicode了，即python的内部编码，而与代码文件自己的编码无关。所以，对于这种状况作编码转换，只须要直接使用encode方法将其转换成指定编码便可。

---

若是一个字符串已是unicode了，再进行解码则将出错，所以一般要对其编码方式是否为unicode进行判断：

isinstance(s, unicode) #用来判断是否为unicode

用非unicode编码形式的str来encode会报错

---

如何得到系统的默认编码？

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()

该段程序在英文WindowsXP上输出为：ascii

---

在某些IDE中，字符串的输出老是出现乱码，甚至错误，实际上是因为IDE的结果输出控制台自身不能显示字符串的编码，而不是程序自己的问题。

如在UliPad中运行以下代码：

s=u"中文"
print s

会提示：UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是由于UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的（英文系统的默认编码是ascii），而上面代码中的字符串是Unicode编码的，因此输出时产生了错误。

将最后一句改成：print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改成：print s.encode('utf8')

则输出：\xe4\xb8\xad\xe6\x96\x87，这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。

---

unicode(str,'gb2312')与str.decode('gb2312')是同样的，都是将gb2312编码的str转为unicode编码

使用str.__class__能够查看str的编码形式

---

原理说了半天，最后来个包治百病的吧：）

 

 

#!/usr/bin/env python 
#coding=utf-8 
s="中文" 

if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')

 

 

如何判断字符str的编码是什么？

 

 

使用 chardet 能够很方便的实现字符串/文件的编码检测。尤为是中文网页，有的页面使用GBK/GB2312，有的使用UTF8，若是你须要去爬一些页面，知道网页编码很重要的，虽然HTML页面有charset标签，可是有些时候是不对的。那么chardet就能帮咱们大忙了。

chardet实例

>>> import urllib >>> rawdata = urllib.urlopen('http://www.google.cn/').read() >>> import chardet >>> chardet.detect(rawdata) {'confidence': 0.98999999999999999, 'encoding': 'GB2312'} >>>

chardet能够直接用detect函数来检测所给字符的编码。函数返回值为字典，有2个元数，一个是检测的可信度，另一个就是检测到的编码。

chardet 安装

下载chardet后，解压chardet压缩包，直接将chardet文件夹放在应用程序目录下，就可使用import chardet开始使用chardet了。

或者使用setup.py安装文件，将chardet拷贝到Python系统目录下，这样你全部的python程序只要用import chardet就能够了。

python setup.py install

 

 

 

 

总结 ：

尽可能把全部的input 都decode成unicode。即 str.decode('utf-8');

输出时，再encode成所需的编码格式

 

 

decode的做用是将其余编码的字符串转换成unicode编码，如str1.decode('gb2312')，表示将gb2312编码的字符串str1转换成unicode编码。

encode的做用是将unicode编码转换成其余编码的字符串，如str2.encode('gb2312')，表示将unicode编码的字符串str2转换成gb2312编码。