解决python编码问题

从网上抓了一些字节流，想打印出来结果发生了一下错误：

UnicodeEncodeError: 'gbk' codec can't encode character '\xbb' in position 8530: illegal multibyte sequence

代码

import urllib.request
res=urllib.request.urlopen('http://www.baidu.com')
htmlBytes=res.read()
print(htmlBytes.decode('utf-8'))

错误信息让人很困惑，为何用的是'utf-8'解码，错误信息却提示'gbk'错误呢？

 

不只如此，从百度首页的html中发现如下代码：

<meta http-equiv="content-type" content="text/html;charset=utf-8">

这说明网页的确用的是utf-8，为何会出现Error呢？

 

在python3里，有几点关于编码的常识

1.字符就是unicode字符，字符串就是unicode字符数组

若是用如下代码测试，

print('a'=='\u0061')

会发现结果为True，足以说明二者的等价关系。

 

2.str转bytes叫encode，bytes转str叫decode，如上面的代码就是将抓到的字节流给decode成unicode数组

我根据上面的错误信息分析了字节流中出现\xbb的地方，发现有个\xc2\xbb的特殊字符»，我怀疑是它没法被解码。

用如下代码测试后

print(b'\xc2\xbb'.decode('utf-8'))

它果真报错了:UnicodeEncodeError: 'gbk' codec can't encode character '\xbb' in position 0: illegal multibyte sequence

 

上网找了下utf-8编码表，发现的确特殊字符»的utf-8形式就是c2bb,unicode是'\u00bb'，为何没法解码呢。。。

仔细看看错误信息，它提示'gbk'没法encode，可是个人代码是utf-8没法decode，压根牛头不对马嘴，终于让我怀疑是print函数出错了。。因而当即有了如下的测试

print('\u00bb')

结果报错了：UnicodeEncodeError: 'gbk' codec can't encode character '\xbb' in position 0: illegal multibyte sequence

 

原来是print()函数自身有限制，不能彻底打印全部的unicode字符。

知道缘由后，google了一下解决方法，其实print()函数的局限就是Python默认编码的局限，由于系统是win7的，python的默认编码不是'utf-8',改一下python的默认编码成'utf-8'就好了

import io
import sys
import urllib.request
sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='utf8') #改变标准输出的默认编码
res=urllib.request.urlopen('http://www.baidu.com')
htmlBytes=res.read()
print(htmlBytes.decode('utf-8'))

运行后不报错了，可是竟然有好多乱码（英文显示正常，中文则显示乱码）！！又一阵折腾后发现是控制台的问题，具体来讲就是我在cmd下运行该脚本会有乱码，而在IDLE下运行却很正常。

由此我推测是cmd不能很好地兼容utf8，而IDLE就能够，甚至在IDLE下运行，连“改变标准输出的默认编码”都不用，由于它默认就是utf8。若是必定要在cmd下运行，那就改一下编码，好比我换成“gb18030”，就能正常显示了：

sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='gb18030')         #改变标准输出的默认编码

最后，附上一些经常使用的和中文有关的编码的名称，分别赋值给encoding，就能够看到不一样的效果了：

 

 

 

 

编码名称	用途
utf8	全部语言
gbk	简体中文
gb2312	简体中文
gb18030	简体中文
big5	繁体中文
big5hkscs	繁体中文