Python模块Requests的中文乱码问题

from：http://blog.csdn.net/chaowanghn/article/details/54889835

解决Requests中文乱码

都在推荐用Requests库，而不是Urllib，可是读取网页的时候中文会出现乱码。

分析： 
r = requests.get(“http://www.baidu.com“) 
**r.text返回的是Unicode型的数据。 
使用r.content返回的是bytes型的数据。 
也就是说，若是你想取文本，能够经过r.text。 
若是想取图片，文件，则能够经过r.content。**

获取一个网页的内容

方法1：使用r.content，获得的是bytes型，再转为str

url='http://music.baidu.com'
r = requests.get(url)
html=r.content
html_doc=str(html,'utf-8') #html_doc=html.decode("utf-8","ignore")
print(html_doc)

方法2：使用r.text 
Requests 会自动解码来自服务器的内容。大多数 unicode 字符集都能被无缝地解码。请求发出后，Requests 会基于 HTTP 头部对响应的编码做出有根据的推测。当你访问 r.text 之时，Requests 会使用其推测的文本编码。你能够找出 Requests 使用了什么编码，而且可以使用 r.encoding 属性来改变它. 
可是Requests库的自身编码为: r.encoding = ‘ISO-8859-1’ 
能够 r.encoding 修改编码

url='http://music.baidu.com'
r=requests.get(url)
r.encoding='utf-8'
print(r.text)

获取一个网页的内容后存储到本地

方法1：r.content为bytes型，则open时须要open(filename,”wb”)

r=requests.get("music.baidu.com")
html=r.content
with open('test5.html','wb') as f:
    f.write(html)

方法2：r.content为bytes型，转为str后存储

r = requests.get("http://www.baidu.com")
html=r.content
html_doc=str(html,'utf-8') #html_doc=html.decode("utf-8","ignore")
# print(html_doc)
with open('test5.html','w',encoding="utf-8") as f:
    f.write(html_doc)

方法3：r.text为str，能够直接存储

r=requests.get("http://www.baidu.com")
r.encoding='utf-8'
html=r.text
with open('test6.html','w',encoding="utf-8") as f:
    f.write(html)

Requests+lxml

# -*-coding:utf8-*-
import requests
from lxml import etree

url="http://music.baidu.com"
r=requests.get(url)
r.encoding="utf-8"
html=r.text
# print(html)
selector = etree.HTML(html)
title=selector.xpath('//title/text()')
print (title[0])
结果为：百度音乐-听到极致

终极解决方法

以上的方法虽然不会出现乱码，可是保存下来的网页，图片不显示，只显示文本。并且打开速度慢，找到了一篇博客，提出了一个终极方法，很是棒。

来自博客 
http://blog.chinaunix.net/uid-13869856-id-5747417.html的解决方案：

# -*-coding:utf8-*-

import requests

req = requests.get("http://news.sina.com.cn/")

if req.encoding == 'ISO-8859-1':
    encodings = requests.utils.get_encodings_from_content(req.text)
    if encodings:
        encoding = encodings[0]
    else:
        encoding = req.apparent_encoding

    # encode_content = req.content.decode(encoding, 'replace').encode('utf-8', 'replace')
    global encode_content
    encode_content = req.content.decode(encoding, 'replace') #若是设置为replace，则会用?取代非法字符；


print(encode_content)

with open('test.html','w',encoding='utf-8') as f:
    f.write(encode_content)