爬虫动态渲染页面爬取Selenium中级篇

一声明浏览器对象

1 点睛

Selenium支持非常多的浏览器，如Chrome、Firefox、Edge等，还有Android、BlackBerry等手机端的浏览器。另外，也支持无界面浏览器PhantomJS。

2 代码

from selenium import webdriver
browser = webdriver.Chrome()
browser = webdriver.Firefox()
browser = webdriver.Edge()
browser = webdriver.PhantomJS()
browser = webdriver.Safari()

3 说明

这样就完成了浏览器对象的初始化并将其赋值为browser对象。

二访问页面

1 点睛

可以用get()方法来请求网页，参数传入链接URL即可。

2 代码

from selenium import webdriver

browser = webdriver.Chrome()
# 这里用get()方法访问淘宝，然后打印出源代码
browser.get('https://www.taobao.com')
print(browser.page_source)
#browser.close()

3 说明

运行后发现，弹出了Chrome浏览器并且自动访问了淘宝，然后控制台输出了淘宝页面的源代码。

通过这几行简单的代码，我们可以实现浏览器的驱动并获取网页源码，非常便捷。

三查找单个节点

1 点睛

Selenium可以驱动浏览器完成各种操作，比如填充表单、模拟点击等。比如，我们想要完成向某个输入框输入文字的操作，总需要知道这个输入框在哪里吧？而Selenium提供了一系列查找节点的方法，我们可以用这些方法来获取想要的节点，以便下一步执行一些动作或者提取信息。

2 实战

2.1 需求

想要从淘宝页面中提取搜索框这个节点。

2.2 查看源码

2.3 分析

想要从淘宝页面中提取搜索框这个节点，首先要观察它的源代码可以发现，它的id是q，name也是q。此外，还有许多其他属性，此时我们就可以用多种方式获取它了。比如，find_element_by_name()是根据name值获取，find_element_by_id()是根据id获取。另外，还有根据XPath、CSS选择器等获取的方式。

2.4 代码

from selenium import webdriver

browser = webdriver.Chrome()
browser.get('https://www.taobao.com')
input_first = browser.find_element_by_id('q')
input_second = browser.find_element_by_css_selector('#q')
input_third = browser.find_element_by_xpath('//*[@id="q"]')
print(input_first, input_second, input_third)
#browser.close()

2.5 结果

E:\WebSpider\venv\Scripts\python.exe E:/WebSpider/7_1.py
<selenium.webdriver.remote.webelement.WebElement (session="4e9d65b0680e6f58775076315b8fac47", element="0.45363591589470986-1")> <selenium.webdriver.remote.webelement.WebElement (session="4e9d65b0680e6f58775076315b8fac47", element="0.45363591589470986-1")> <selenium.webdriver.remote.webelement.WebElement (session="4e9d65b0680e6f58775076315b8fac47", element="0.45363591589470986-1")>

2.6 说明

这里我们使用3种方式获取输入框，分别是根据ID、CSS选择器和XPath获取，它们返回的结果完全一致。结果都是WebElement类型。

2.7 获取单个节点的方法

find_element_by_id
find_element_by_name
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector

2.8 find_element方法

2.8.1 点睛

它需要传入两个参数：查找方式By和值。实际上，它就是find_element_by_id()这种方法的通用函数版本，比如find_element_by_id(id)就等价于find_element(By.ID, id)，二者得到的结果完全一致。

2.8.2 代码

from selenium import webdriver
from selenium.webdriver.common.by import By
 
browser = webdriver.Chrome()
browser.get('https://www.taobao.com')
input_first = browser.find_element(By.ID, 'q')
print(input_first)
browser.close()

2.8.2 结果

E:\WebSpider\venv\Scripts\python.exe E:/WebSpider/7_1.py
<selenium.webdriver.remote.webelement.WebElement (session="016c9569904694247544c0fccdc7d172", element="0.27250240680204163-1")>

四查找多个节点

1 点睛

如果查找的目标在网页中只有一个，那么完全可以用find_element()方法。但如果有多个节点，再用find_element()方法查找，就只能得到第一个节点了。如果要查找所有满足条件的节点，需要用find_elements()这样的方法。注意，在这个方法的名称中，element多了一个s，注意区分。

2 需求

淘宝左侧导航条的所有条目。

3 代码

from selenium import webdriver

browser = webdriver.Chrome()
browser.get('https://www.taobao.com')
lis = browser.find_elements_by_css_selector('.service-bd li')
print(lis)
browser.close()

4 结果

E:\WebSpider\venv\Scripts\python.exe E:/WebSpider/7_1.py
[<selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-1")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-2")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-3")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-4")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-5")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-6")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-7")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-8")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-9")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-10")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-11")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-12")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-13")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-14")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-15")>, <selenium.webdriver.remote.webelement.WebElement (session="837b01327fa093ae3ccfa9ba645d3093", element="0.9959153653960988-16")>]

5 说明

可以看到，得到的内容变成了列表类型，列表中的每个节点都是WebElement类型。

也就是说，如果我们用find_element()方法，只能获取匹配的第一个节点，结果是WebElement类型。如果用find_elements()方法，则结果是列表类型，列表中的每个节点是WebElement类型。

6 获取多个节点的方法

find_elements_by_id
find_elements_by_name
find_elements_by_xpath
find_elements_by_link_text
find_elements_by_partial_link_text
find_elements_by_tag_name
find_elements_by_class_name
find_elements_by_css_selector

7 find_elements()

lis = browser.find_elements(By.CSS_SELECTOR, '.service-bd li')

五节点交互

1 点睛

Selenium可以驱动浏览器来执行一些操作，也就是说可以让浏览器模拟执行一些动作。比较常见的用法有：输入文字时用send_keys()方法，清空文字时用clear()方法，点击按钮时用click()方法。

2 代码

from selenium import webdriver
import time

browser = webdriver.Chrome()
browser.get('https://www.taobao.com')
input = browser.find_element_by_id('q')
input.send_keys('iPhone')
time.sleep(1)
input.clear()
input.send_keys('iPad')
button = browser.find_element_by_class_name('btn-search')
button.click()

3 说明

这里首先驱动浏览器打开淘宝，然后用find_element_by_id()方法获取输入框，然后用send_keys()方法输入iPhone文字，等待一秒后用clear()方法清空输入框，再次调用send_keys()方法输入iPad文字，之后再用find_element_by_class_name()方法获取搜索按钮，最后调用click()方法完成搜索动作。

通过上面的方法，我们就完成了一些常见节点的动作操作，更多的操作可以参见官方文档的交互动作介绍：http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.remote.webelement。

六动作链

1 点睛

在上面的实例中，一些交互动作都是针对某个节点执行的。比如，对于输入框，我们就调用它的输入文字和清空文字方法；对于按钮，就调用它的点击方法。其实，还有另外一些操作，它们没有特定的执行对象，比如鼠标拖曳、键盘按键等，这些动作用另一种方式来执行，那就是动作链。

比如，现在实现一个节点的拖曳操作，将某个节点从一处拖曳到另外一处，可以这样实现。

2 代码

from selenium import webdriver
from selenium.webdriver import ActionChains

browser = webdriver.Chrome()
url = 'http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable'
browser.get(url)
browser.switch_to.frame('iframeResult')
source = browser.find_element_by_css_selector('#draggable')
target = browser.find_element_by_css_selector('#droppable')
actions = ActionChains(browser)
actions.drag_and_drop(source, target)
actions.perform()

3 说明

首先，打开网页中的一个拖曳实例，然后依次选中要拖曳的节点和拖曳到的目标节点，接着声明ActionChains对象并将其赋值为actions变量，然后通过调用actions变量的drag_and_drop()方法，再调用perform()方法执行动作，此时就完成了拖曳操作

4 操作前

5 操作后

爬虫动态渲染页面爬取Selenium中级篇

猜你喜欢