根据statcounter统计，到2020年6月，Mozilla Firefox浏览器在全球浏览器市场中所占份额为4.25％，因此，对于每个Selenium测试用例，Mozilla Firefox浏览器都是不可避免的。 Mozilla开发人员推出了Geckodriver（也称为Selenium Firefox驱动程序），以帮助测试人员使用Firefox浏览器自动进行浏览器测试。
目标网站：http://www.nhc.gov.cn 比我想象中要难爬的多，反爬机制是真的强。学习爬虫的朋友可以试试。这里介绍一种万能的方法，万金油selenium
根据权威机构发布的全球互联网可访问性审计报告，全球约有四分之三的网站其内容或部分内容是通过JavaScript动态生成的，这就意味着在浏览器窗口中“查看网页源代码”时无法在HTML代码中找到这些内容，也就是说我们之前用的抓取数据的方式无法正常运转了。解决这样的问题基本上有两种方案，一是JavaScript逆向工程；另一种是渲染JavaScript获得渲染后的内容。
Selenium是一个自动化测试工具，用于在Web应用程序中模拟用户操作。它提供了一组API，可以通过编程方式控制浏览器，并模拟用户的交互行为，例如点击、输入文本和导航等。Selenium支持多种编程语言，包括Java、C#、Python、Ruby、JavaScript等，并可以在多个浏览器和操作系统上运行测试。Selenium的目标是帮助测试人员自动化测试过程，提高测试效率和测试质量。
选择对应版本驱动chromedriver.exe，下载到本地，放在工程路径下即可。
selenium是最广泛使用的开源Web UI自动化测试套件之一，它所支持的语言包括C++、Java、Perl、PHP、Python和Ruby，在数据抓取方面也是一把利器，能够解决大部分网页的反爬措施，当然它也并非是万能的，一个比较明显的一点就在于是它速度比较慢，如果每天数据采集的量并不是很高，倒是可以使用这个框架。
这里简单解释一下什么是Selenium，它其实是一个网站前端压力测试框架，更通俗的说，它能直接操作浏览器，试想一下，网页是在浏览器里面加载的，如果我们能用代码操控浏览器，那我们想要爬取什么数据不能通过浏览器获取？无所不爬！
用 Selenium 自动化验收测试 如何使用 Selenium 测试工具对 Ruby on Rails 和 Ajax 应用程序进行功能测试 文档选项 将此页作为电子邮件发送 讨论 样例代码 拓展 Tomcat 应用 下载 IBM 开源 J2EE 应用服务器 WAS CE 新版本 V1.1 级别: 中级 Christian Hellsten (christian.hellsten@fi.ibm.com), IT 专家, IBM 2006 年 1 月 04 日 验收测试（也称功能测试）是用来
Selenium是一款用于测试Web应用程序的经典工具，它直接运行在浏览器中，仿佛真正的用户在操作浏览器一样，主要用于网站自动化测试、网站模拟登陆、自动操作键盘和鼠标、测试浏览器兼容性、测试网站功能等，同时也可以用来制作简易的网络爬虫。
selenium官方加上第三方宣布支持的驱动有很多种；除了PC端的浏览器之外，还支持iphone、android的driver；大概记录一下selenium支持的各种driver的用途与说明。
Selenium是基于Web的最流行的UI自动化测试工具。它提供了一组支持多种平台的公开API（例如Linux，Windows，Mac OS X等）。此外，像Google Chrome，Mozilla Firefox，Internet Explorer和Safari等所有现代浏览器都可以用来运行Selenium测试。它也涵盖了Android平台，其中Appium是实现Selenium Webdriver界面的工具，用于移动自动化。
Selenium是一个用于web自动化测试的框架，在使用Ajax请求数据的页面中，会出现 sign ,token等密钥，如果考虑去激活成功教程可能花费的精力较多，所以考虑借助使用Selenium框架来实现数据爬取。
自动化爬虫虽然方便，但希望大家能顾及网站服务器的承受能力，不要高频率访问网站。并且千万不要采集敏感数据！！否则很容易"从入门到入狱"
AJAX（Asynchronouse JavaScript And XML）异步JavaScript和XML。过在后台与服务器进行少量数据交换，Ajax 可以使网页实现异步更新。
AJAX（Asynchronouse JavaScript And XML）异步JavaScript和XML。过在后台与服务器进行少量数据交换，Ajax 可以使网页实现异步更新。这意味着可以在不重新加载整个网页的情况下，对网页的某部分进行更新。传统的网页（不使用Ajax）如果需要更新内容，必须重载整个网页页面。因为传统的在传输数据格式方面，使用的是XML语法。因此叫做AJAX，其实现在数据交互基本上都是使用JSON。使用AJAX加载的数据，即使使用了JS，将数据渲染到了浏览器中，在右键->查看网页源代码还是不能看到通过ajax加载的数据，只能看到使用这个url加载的html代码。
当获取一个网站的图片数据时，只能爬取到图片的名称，并不能获得链接，而且也不能获得xpath表达式。这是应用了图片懒加载技术。
之前的两篇我们讲解了Python内的urllib库的使用，不知道大家有没有在爬取一些动态网站的时候，发现自己用urllib爬取到的内容是不对的，无法抓取到自己想要的内容，比如淘宝的店铺宝贝等，它会用js动态的加载内容，此时selenium这个家伙就能派上用场了。
https://github.com/SeleniumHQ/selenium https://www.selenium.dev/documentation/en/
前文回顾： 「Python爬虫系列讲解」一、网络数据爬取概述 「Python爬虫系列讲解」二、Python知识初学 「Python爬虫系列讲解」三、正则表达式爬虫之牛刀小试 「Python爬虫系列讲解」四、BeautifulSoup 技术 「Python爬虫系列讲解」五、用 BeautifulSoup 爬取电影信息 「Python爬虫系列讲解」六、Python 数据库知识 「Python爬虫系列讲解」七、基于数据库存储的 BeautifulSoup 招聘爬取
Selenium 是功能强大的自动化测试工具集，是支持 Web 浏览器自动化的一系列工具和库的总括项目，一共包括以下三个项目：
selenium是一个web的自动化测试工具，最初是为网站自动化测试而开发的，selenium可以直接运行在浏览器上，它支持所有主流的浏览器，可以接收指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏
WebDriver可以像用户一样驱动原生浏览器，无论是在本地服务器还是在使用Selenium服务器的远程机器上，都标志着浏览器自动化的一个飞跃。
因为工作需要，同事刚开始学python，学到selenium这个工具半个月都没整明白，因为这个令他头秃了半个月，最后找到我给他解答。
元素定位可以根据id，class等属性定位，也可以根据标签名等信息进行定位。使用定位函数后会返回一个WebElement类或一个WebElement类的列表，用于接下来的操作。
selenium 原本是一款自动化测试工具，因其出色的页面数据解析和用户行为模拟能力而常用于爬虫程序中，致使爬虫程序的爬取过程更简单、快捷。
Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，类型像我们玩游戏用的按键精灵，可以按指定的命令自动操作，不同是Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器，但是现在谷歌的无头比较火，下面展示谷歌的无头）
国内可以访问下面的地址下载chrome点开一个驱动版本有个notes.txt文件 里面有浏览器和驱动的版本对应
Selenium是一个基于Web的开源自动化工具。Python使用Selenium用于自动化测试。 特点是易于使用。Selenium可以将标准Python命令发送到不同的浏览器，尽管它们的浏览器设计有所不同。
用于操作Chrome驱动程序的各种属性。Chrome Option类通常与Desired Capabilities(期望功能)一起使用。
经常会在一些爬虫群里面看到这样的提问，为什么用Python爬虫请求某个网页时，有时打印的数据不全或者什么数据都没有或者只有html骨架代码。这是因为涉及到了”动态网页数据“这个词了，简单而言，就是后台的数据不是请求网页链接时就已经将数据写入到相应的标签上了，而是利用ajax请求将后台的数据写入到相应的标签上。通常要得到这些数据，可以有两种方式，其一为找到这个ajax请求链接，然后访问这个链接，解析相应的json数据即可；另外一种是使用selenium访问这个网址，等待网页加载完之后，然后解析相应的html标签得到这些数据。
您可能需要在多种情况下针对不同的浏览器（例如Firefox，Chrome，Internet Explorer，Edge）测试代码。跨不同浏览器测试网站的做法称为自动浏览器测试。要使用Selenium自动化测试执行自动浏览器测试，您应该在单元测试代码或pytest代码中合并对这些浏览器的选择性处理。下面显示了一个代码片段（利用pytest）来处理多个浏览器：
大多数测试人员更喜欢Java，因为它具有平台独立性和易于构建任何东西的易用性——从简单的应用程序到复杂的移动应用程序、网站等等。
上一篇文章，宏哥已经在搭建的java项目环境中实践了，今天就在基于maven项目的环境中给小伙伴们 或者童鞋们演示一下。
上篇 《web自动化测试(1):再谈UI发展史与UI、功能自动化测试》，自动化测试工具众多，
当本机上没有浏览器，需要远程调用浏览器进行自动化测试时，需要用到RemoteWebDirver。宏哥申请服务器还没有下来，也懒得自己在本地安装虚拟机，等的时间太长了于是就网上找了一个可以免费试用2天的服务器（网址：https://www.varidata.com/），注册一下基本上几个小时后，就可以用了有兴趣的你也可以自己申请一个。文章中可能前后的服务器不一样，所以截图有点瑕疵，抱歉啊。
Headless Chrome 是 Chrome 浏览器的无界面形态，可以在不打开浏览器的前提下，使用所有 Chrome 支持的特性运行你的程序,简而言之，除了没有图形界面，headless chrome具有所有现代浏览器的特性，可以像在其他现代浏览器里一样渲染目标网页，并能进行网页截图，获取cookie，获取html等操作。 而对于写爬虫的同学，很多都会面临都一个问题，那就是数据都是通过动态渲染，甚至是加密得到的，普通的分析接口模式早已无法满足需求，因此我们引入Chrome Headless 来解决数据渲染问题。
selenium最初是一个自动化测试工具,而爬虫中使用它主要是为了解决requests无法直接执行JavaScript代码的问题 selenium本质是通过驱动浏览器，完全模拟浏览器的操作，比如跳转、输入、点击、下拉等，来拿到网页渲染之后的结果，可支持多种浏览器 有了selenium能够实现可见即可爬 -使用（本质，并不是python在操作浏览器，而是python在操作浏览器驱动（xx.exe），浏览器驱动来驱动浏览器） -0 以驱动谷歌浏览器为例子（建议你用谷歌，最合适）找谷歌浏览器驱动 -0 如果是windows，解压之后是个exe，不同平台就是不同平台的可执行文件 -1 安装模块：pip3 install selenium -2 需要浏览器驱动（ie，火狐，谷歌浏览器。。。。驱动得匹配（浏览器匹配，浏览器版本跟驱动匹配）） -3 写代码
前边宏哥已经将环境搭建好了，今天就在Java项目搭建环境中简单地实践一下： 启动三大浏览器。按市场份额来说，全球前三大浏览器是：IE.Firefox.Chrome。因此宏哥这里主要介绍一下如何启动这三大浏览器即可，其他浏览器类似的方法，照猫画虎就可以了。
大家应该都有过从百度文库下载东西的经历，对于下载需要下载券的文章，我们可以办理文库VIP；又或者使用“冰点文库”这样的下载软件，但是对于会爬虫的人来说，当然就是把他爬下来。
Selenium 是一个用于测试网页和网络应用的框架。它兼容多种编程语言，并且除了 Chrome 浏览器之外，还能得到其他多种浏览器的支持。Selenium 提供了应用程序编程接口（API），以便与你的浏览器驱动程序进行交互。
于是Selenium就应运而生了，它可以算的上是自动化测试框架中的佼佼者，因为它解决了大多数用来爬取页面的模块的一个永远的痛，那就是Ajax异步加载 。今天将给大家详解如何用Selenium爬取数据，并最后附上一个真实的案例。
在本篇博客中，我们将使用 Python 的 Selenium 和 BeautifulSoup 库来实现一个简单的网页爬虫，目的是爬取豆瓣电影TOP250的数据，并将结果保存到Excel文件中。
若想使用selenium进行爬虫/自动化，我们得先安装浏览器驱动，安装对应驱动之前第一步需要查看浏览器版本。
在网络抓取的过程中，我们经常会遇见很多网站采取了防爬取技术，或者说因为自己采集网站信息的强度和采集速度太大，给对方服务器带去了太多的压力，所以你一直用同一个代理IP爬取这个网页，很有可能IP会被禁止访问网页，所以基本上做爬虫的都躲不过去IP的问题,需要很多的IP来实现自己IP地址的不停切换，达到正常抓取信息的目的。
抓取网页入门其实挺简单的。在之前的文章中我们介绍了怎么用C#和JAVA两种方法来抓取网页，这一期给大家介绍一种更容易，也是使用最广泛的一种抓取方法，那就是Python。
自动化测试指软件测试的自动化，在预设状态下运行应用程序或者系统，预设条件包括正常和异常，最后评估运行结果。将人为驱动的测试行为转化为机器执行的过程。
在网络爬虫开发中，利用Selenium进行无界面浏览器自动化是一种常见且强大的技术。无界面浏览器可以模拟真实用户的行为，解决动态加载页面和JavaScript渲染的问题，给爬虫带来了更大的便利。本文将为您介绍如何利用Selenium进行无界面浏览器自动化爬虫开发的步骤，并分享实用的代码示例，帮助您快速掌握这一技巧，提高爬虫开发的效率。
这几年，Selenium 确实挺火。作为一个 Web 应用程序自动化测试工具，Selenium 可以直接驱动浏览器，模拟真正的用户操作，解决回归测试和多浏览器兼容性测试问题；而且跟 Python 搭配，还能实现不少功能的自动化，切实提升了测试和业务效率。
client其实并不知道浏览器是怎么工作的，但是driver知道，在selenium启动以后，driver其实充当了服务器的角色，跟client和浏览器通信，client根据webdriver协议发送请求给driver，driver解析请求，并在浏览器上执行相应的操作，并把执行结果返回给client。这就是selenium工作的大致原理。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
