图片懒加载、selenium和PhantomJS

图片懒加载

概念

图片懒加载是一种网页优化技术。图片做为一种网络资源，在被请求时也与普通静态资源同样，将占用网络资源 ，而一次性将整个页面的全部图片加载完，将大大增长页面的首屏加载时间。为了解决这种问题，经过先后端配合， 使图片仅在浏览器当前视窗内出现时才加载该图片，达到减小首屏图片请求数的技术就被称为“图片懒加载”。 

如何实现

　　在网页源码中，在img标签中首先会使用一个“伪属性”（一般使用src2，original......）去存放真正的图片 连接而并不是是直接存放在src属性中。当图片出现到页面的可视化区域中，会动态将伪属性替换成src属性，完成图片的加载。 

爬取方法

• 抓取伪属性

selenium

什么是selenium

是Python的一个第三方库，对外提供的接口能够操做浏览器，而后让浏览器完成自动化的操做。 

环境搭建

1.安装selenum：pip install selenium 2.获取某一款浏览器的驱动程序（以谷歌浏览器为例）　 　　2.1 谷歌浏览器驱动下载地址：http://chromedriver.storage.googleapis.com/index.html 　　2.2 下载的驱动程序必须和浏览器的版本统一，你们能够根据http://blog.csdn.net/huilan_same/article/details/51896672中提供的版本映射表进行对应

from selenium import webdriver
from time import sleep

# 后面是你的浏览器驱动位置，记得前面加r'','r'是防止字符转义的
driver = webdriver.Chrome(r'驱动程序路径')
# 用get打开百度页面
driver.get("http://www.baidu.com")
# 查找页面的“设置”选项，并进行点击
driver.find_elements_by_link_text('设置')[0].click()
sleep(2)
# # 打开设置后找到“搜索设置”选项，设置为每页显示50条
driver.find_elements_by_link_text('搜索设置')[0].click()
sleep(2)

# 选中每页显示50条
m = driver.find_element_by_id('nr')
sleep(2)
m.find_element_by_xpath('//*[@id="nr"]/option[3]').click()
m.find_element_by_xpath('.//option[3]').click()
sleep(2)

# 点击保存设置
driver.find_elements_by_class_name("prefpanelgo")[0].click()
sleep(2)

# 处理弹出的警告页面   肯定accept() 和 取消dismiss()
driver.switch_to_alert().accept()
sleep(2)
# 找到百度的输入框，并输入 美女
driver.find_element_by_id('kw').send_keys('美女')
sleep(2)
# 点击搜索按钮
driver.find_element_by_id('su').click()
sleep(2)
# 在打开的页面中找到“Selenium - 开源中国社区”，并打开这个页面
driver.find_elements_by_link_text('美女_百度图片')[0].click()
sleep(3)

# 关闭浏览器
driver.quit()

实例

 

相关操做

#导包 from selenium import webdriver #建立浏览器对象，经过该对象能够操做浏览器 browser = webdriver.Chrome('驱动路径') #使用浏览器发起指定请求 browser.get(url) #使用下面的方法，查找指定的元素进行操做便可 find_element_by_id 根据id找节点 find_elements_by_name 根据name找 find_elements_by_xpath 根据xpath查找 find_elements_by_tag_name 根据标签名找 find_elements_by_class_name 根据class名字查找 

PhantomJS

什么是PhantomJS

PhantomJS是一款无界面的浏览器，其自动化操做流程和上述操做谷歌浏览器是一致的。因为是无界面的，为 了可以展现自动化操做流程，PhantomJS为用户提供了一个截屏的功能，使用save_screenshot函数实现。

from selenium import webdriver
import time

# phantomjs路径
path = r'PhantomJS驱动路径'
browser = webdriver.PhantomJS(path)

# 打开百度
url = 'http://www.baidu.com/'
browser.get(url)

time.sleep(3)

browser.save_screenshot(r'phantomjs\baidu.png')

# 查找input输入框
my_input = browser.find_element_by_id('kw')
# 往框里面写文字
my_input.send_keys('美女')
time.sleep(3)
#截屏
browser.save_screenshot(r'phantomjs\meinv.png')

# 查找搜索按钮
button = browser.find_elements_by_class_name('s_btn')[0]
button.click()

time.sleep(3)

browser.save_screenshot(r'phantomjs\show.png')

time.sleep(3)

browser.quit()

实例