Python爬虫利器五之Selenium的用法前言在上一节我们学习了 PhantomJS 的基本用法，归根结底它是一个没有界面的浏览器，而且运行的是 JavaScript 脚本，然而这就能写爬虫了吗？这又和Python有什么关系？说好的Python爬虫呢？库都学完了你给我看这个？客官别急，接下来我们介绍的这个工具，统统解决掉你的疑惑。简介Selenium 是什么？一句话，自动化测试工具。它支持各种浏览器，包括 Chrome，Safari，Firefox 等主流界面式浏览器，如果你在这些浏览器里面安装一个 Selenium 的插件，那么便可以方便地实现Web界面的测试。换句话说叫 Selenium 支持这些浏览器驱动。话说回来，PhantomJS不也是一个浏览器吗，那么 Selenium 支持不？答案是肯定的，这样二者便可以实现无缝对接了。然后又有什么好消息呢？Selenium支持多种语言开发，比如 Java，C，Ruby等等，有 Python 吗？那是必须的！哦这可真是天大的好消息啊。嗯，所以呢？安装一下 Python 的 Selenium 库，再安装好 PhantomJS，不就可以实现 PythonSeleniumPhantomJS 的无缝对接了嘛！PhantomJS 用来渲染解析JS，Selenium 用来驱动以及与 Python 的对接，Python 进行后期的处理，完美的三剑客！有人问，为什么不直接用浏览器而用一个没界面的 PhantomJS 呢？答案是：效率高！Selenium 有两个版本，目前最新版本是 2.53.1（2016/3/22）Selenium 2，又名 WebDriver，它的主要新功能是集成了 Selenium 1.0 以及 WebDriver（WebDriver 曾经是 Selenium 的竞争对手）。也就是说 Selenium 2 是 Selenium 和 WebDriver 两个项目的合并，即 Selenium 2 兼容 Selenium，它既支持 Selenium API 也支持 WebDriver API。更多详情可以查看 Webdriver 的简介。Webdriver嗯，通过以上描述，我们应该对 Selenium 有了大概对认识，接下来就让我们开始进入动态爬取的新世界吧。本文参考内容来自Selenium官网SeleniumPython文档安装首先安装 Selenium1pipinstallselenium或者下载源码下载源码然后解压后运行下面的命令进行安装1pythonsetup.pyinstall安装好了之后我们便开始探索抓取方法了。快速开始初步体验我们先来一个小例子感受一下 Selenium，这里我们用 Chrome 浏览器来测试，方便查看效果，到真正爬取的时候换回 PhantomJS 即可。1234fromseleniumimportwebdriverbrowser=webdriver.Chrome()browser.get(http:/www.baidu.com/)运行这段代码，会自动打开浏览器，然后访问百度。如果程序执行错误，浏览器没有打开，那么应该是没有装 Chrome 浏览器或者 Chrome 驱动没有配置在环境变量里。下载驱动，然后将驱动文件路径配置在环境变量即可。浏览器驱动下载比如我的是 Mac OS，就把下载好的文件放在 /usr/bin 目录下就可以了。模拟提交下面的代码实现了模拟提交提交搜索的功能，首先等页面加载完成，然后输入到搜索框文本，点击提交。12345678910fromseleniumimportwebdriverfromselenium.webdriver.common.keysimportKeysdriver=webdriver.Chrome()driver.get(http:/www.python.org)assertPythonindriver.titleelem=driver.find_element_by_name(q)elem.send_keys(pycon)elem.send_keys(Keys.RETURN)printdriver.page_source同样是在 Chrome 里面测试，感受一下。The driver.get method will navigate to a page given by the URL. WebDriver will wait until the page has fully loaded (that is, the “onload” event has fired) before returning control to your test or script. Its worth noting that if your page uses a lot of AJAX on load then WebDriver may not know when it has completely loaded.其中 driver.get 方法会打开请求的URL，WebDriver 会等待页面完全加载完成之后才会返回，即程序会等待页面的所有内容加载完成，JS渲染完毕之后才继续往下执行。注意：如果这里用到了特别多的 Ajax 的话，程序可能不知道是否已经完全加载完毕。WebDriver offers a number of ways to find elements using one of the find_element_by_* methods. For example, the input text element can be located by its name attribute using find_element_by_name methodWebDriver 提供了许多寻找网页元素的方法，譬如 find_element_by_* 的方法。例如一个输入框可以通过 find_element_by_name 方法寻找 name 属性来确定。Next we are sending keys, this is similar to entering keys using your keyboard. Special keys can be send using Keys class imported from selenium.webdriver.common.keys然后我们输入来文本然后模拟点击了回车，就像我们敲击键盘一样。我们可以利用 Keys 这个类来模拟键盘输入。最后最重要的一点获取网页渲染后的源代码。输出page_source属性即可。这样，我们就可以做到网页的动态爬取了。测试用例有了以上特性，我们当然可以用来写测试样例了。1234567891011121314151617181920212223importunittestfromseleniumimportwebdriverfromselenium.webdriver.common.keysimportKeysclassPythonOrgSearch(unittest.TestCase):defsetUp(self):self.driver=webdriver.Chrome()deftest_search_in_python_org(self):driver=self.driverdriver.get(http:/www.python.org)self.assertIn(Python,driver.title)elem=driver.find_element_by_name(q)elem.send_keys(pycon)elem.send_keys(Keys.RETURN)assertNo results found.notindriver.page_sourcedeftearDown(self):self.driver.close()if_name_=_main_:unittest.main()运行程序，同样的功能，我们将其封装为测试标准类的形式。The test case class is inherited from unittest.TestCase. Inheriting from TestCase class is the way to tell unittest module that this is a test case. The setUp is part of initialization, this method will get called before every test function which you are going to write in this test case class. The test case method should always start with characters test.The tearDown method will get called after every test method. This is a place to do all cleanup actions.You can also call quit method instead of close. The quit will exit the entire browser, whereas close will close a tab, but if it is the only tab opened, by default most browser will exit entirely.测试用例是继承了 unittest.TestCase 类，继承这个类表明这是一个测试类。setUp方法是初始化的方法，这个方法会在每个测试类中自动调用。每一个测试方法命名都有规范，必须以 test 开头，会自动执行。最后的 tearDown 方法会在每一个测试方法结束之后调用。这相当于最后的析构方法。在这个方法里写的是 close 方法，你还可以写 quit 方法。不过 close 方法相当于关闭了这个 TAB 选项卡，然而 quit 是退出了整个浏览器。当你只开启了一个 TAB 选项卡的时候，关闭的时候也会将整个浏览器关闭。页面操作页面交互仅仅抓取页面没有多大卵用，我们真正要做的是做到和页面交互，比如点击，输入等等。那么前提就是要找到页面中的元素。WebDriver提供了各种方法来寻找元素。例如下面有一个表单输入框。1我们可以这样获取它1234element=driver.find_element_by_id(passwd-id)element=driv