Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Python抓取炉石传说卡牌,做一个女神的拼图游戏

Python抓取炉石传说卡牌,做一个女神的拼图游戏

原创
作者头像
猫咪编程
发布于 2018-08-18 08:13:02
发布于 2018-08-18 08:13:02
1.2K0
举报

炉石传说原画1

炉石传说原画2

本打算使用Selenium模拟点击获取图片信息 

尝试发现源码中 该按钮并无相应的跳转链接

这不应该啊 没有相应的跳转链接 点击后是如何加载新的图片?

后来浏览整体网站源码后 发现把问题想复杂 根本不需要模拟点击查看更多

网站其实已经加载了所有的卡牌原画 只是之后的原画做了隐藏处理默认不展示  style=display

点击查看更多后 显示原画

那么只需使用requests获取网页源码

用BeautiSoup/正则表达式/pyQuery解析元素 遍历相应img的url 即可下载

Github

教训:爬虫前 不要根据网页所对的操作实施相应的代码爬取 不要有这样的思维定式 首先要做的是先大体浏览分析整个网页的源代码  有的可能直接写在源码或json或js中 无需再加工

炉石传说卡牌链接

炉石传说卡牌

该网站通过下拉右边的滚动条不断加载新的卡牌

与上一个网站不同  上一个网站一次性写入了所有卡牌 只不过做了隐藏处理

该网站是通过js动态加载渲染出的卡牌 直接获取源码 无法得到所有卡牌信息

那么就用selenium模拟下拉滚动条(selenium简直居家必备之神器)

使用selenium执行js脚本 每次执行下拉1000个单位滚动条 执行90次

为什么是90次 测试出来的 大概90次拉到底

注意:这里要增加1~3秒的暂停时间 用于网页渲染

第一次没有设置停留时间 无法获取新的数据  怀疑自己 怀疑人生

经前端/后端好友L君的提示 需增加暂停时间 这样才能获得加载渲染后的数据

browser.page_source便可获得动态加载的所有数据

有了数据 之后就很简单 正则匹配获取相应url下载即可

Github

最后获得了800张原画 1324张卡牌

既然获得了这么多卡牌和原画 不能浪费 利用起来 拼图!

致敬下玩了好几年的炉石

谢谢你!

顺手拼一下女神!我有一个微信公众号,经常会分享一些python技术相关的干货;如果你喜欢我的分享,可以用微信搜索“python语言学习” 关注,欢迎大家加入千人交流答疑裙:699+749+852

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
Python爬取炉石传说原画及卡牌抓取
炉石传说原画链接:http://news.4399.com/gonglue/lscs/kptj/
sergiojune
2018/10/09
8790
Python爬取炉石传说原画及卡牌抓取
Python爬虫学习:python抓取4399上的炉石传说原画
网站其实已经加载了所有的卡牌原画 只是之后的原画做了隐藏处理默认不展示 style=display
python学习教程
2019/12/25
8070
Python爬虫学习:python抓取4399上的炉石传说原画
Python爬虫:动态爬取QQ说说并生成词云,分析朋友状况
今天我们要做的事情是使用动态爬虫来爬取QQ空间的说说,并把这些内容存在txt中,然后读取出来生成云图,这样可以清晰的看出朋友的状况。
龙哥
2018/10/22
1.5K0
Python爬虫:动态爬取QQ说说并生成词云,分析朋友状况
Python爬虫中time.sleep()与动态加载的配合使用
动态加载网页是指网页的内容并非一次性加载完成,而是通过JavaScript等技术在用户交互或页面加载过程中逐步加载。这种设计虽然提升了用户体验,但对于爬虫来说,却增加了抓取的难度。传统的爬虫方法,如简单的HTTP请求,往往只能获取到网页的初始HTML结构,而无法获取到动态加载的内容。
小白学大数据
2025/05/08
760
不会玩阴阳师的我带你一键下载《阴阳师:百闻牌》所有卡牌并调用百度OCR识别文字信息
一天,一个朋友给我发来一条链接https://ssr.163.com/cardmaker/#/,让我帮他看看怎么能获取到网页中所有的图片链接。我打开链接一看,页面的标题是阴阳师:百闻牌,下面有选择栏,再下边就是各种奇奇怪怪的看不懂的图片,我就问他这是什么呀?他说是一个游戏阴阳师里边的卡牌。怪不得我没听过,因为我不玩游戏,一个准程序猿不玩游戏一定有很多人不相信 ,但是确实如此,我从未玩过游戏 。 但是这并不影响我来分析网页得到图片,网页如下:
cutercorley
2020/07/23
1.5K0
不会玩阴阳师的我带你一键下载《阴阳师:百闻牌》所有卡牌并调用百度OCR识别文字信息
python+selenium+pyquery实现数据爬虫
首先我们本次爬虫的任务是完成某采购网站的信息爬取,省去人工耗费的时间。快速筛选出我们的需要的指定信息。然后将招标信息的标题、链接、和时间找出来,并保存到Excel。
用户6367961
2020/12/01
9240
python+selenium+pyquery实现数据爬虫
手动爬取炉石传说所有卡牌
笔者还记得是从大学开始的时候玩的炉石传说,还记得当时的版本只有黑石山,纳克萨玛斯,地精大战侏儒这些卡包,转眼间到了现在,炉石传说早已和之前的那个炉石传说不再一样了,还记得以前的卡牌套路冰法,奴隶战,机械法等等,到现在一系列稀奇八怪的打法,什么偶数萨,天启骑,战吼萨,群星德,青玉德等等.......
我被狗咬了
2019/09/23
5810
手动爬取炉石传说所有卡牌
Python自动刷网课
人在学校,身不由己。总有一些奇奇怪怪的学习任务,需要我们刷够一定的时长去完成,但这很多都是不太令人感兴趣的文字或是视频,而这些课都有共同的特点就是会间隔一定时间发出弹窗,确认屏幕前的我们是否还在浏览页面。每次靠人工去点击,会严重影响我们做其他正事的效率。
老肥码码码
2020/01/17
3.7K0
Python自动刷网课
用Java抓取海量网页数据代码指南
我现在要解决的一个常见问题是用Java抓取各大平台的网页数据。并且能从不同的网站获取数据,比如电商平台、社交媒体或者新闻网站等。这些平台的结构可能各不相同,所以抓取的方法也会有所不同。接下来,我得慎重考虑Java中有哪些库可以用来做网页抓取,常见的可能有Jsoup和HttpClient,或者Selenium这样的自动化工具。
华科云商小徐
2025/05/09
790
深度解析:使用ChromeDriver和webdriver_manager实现无头浏览器爬虫
在现代网络爬虫的实践中,动态网页的内容加载和复杂的反爬虫机制使得数据采集变得愈发困难。传统的静态网页爬取方法已无法满足需求,尤其是在需要模拟用户行为、处理JavaScript渲染的场景下。为此,采用无头浏览器(Headless Browser)技术成为一种有效的解决方案。
jackcode
2025/02/10
2660
深度解析:使用ChromeDriver和webdriver_manager实现无头浏览器爬虫
利用 Python 爬取 QQ 空间说说和相册
QQ 空间在 2005 年被腾讯开发,已经经历了 15 个年头,在还没有微信的年代,看网友发表的心情、心事、照片大多都在 QQ 空间的里。它承载了80、90 后的大量青春,下面我们一起用 selenium 模块导出说说和相册回忆青春吧。
张俊红
2021/06/25
3.2K0
利用 Python 爬取 QQ 空间说说和相册
使用Selenium爬取目标网站被识别的解决之法
在进行网络数据抓取和爬取时,Selenium是一个常用的工具,它可以模拟人类用户的行为,自动化地操作浏览器进行页面的访问和数据的提取。然而,随着网站对爬虫的检测能力不断提升,很多爬虫程序在运行过程中经常会遭遇被目标网站识别的问题,导致爬取失败或者被封禁。本文将介绍Selenium爬虫技术的概述、优势,以及一些应对被识别的解决方案。
小白学大数据
2024/04/24
6470
Ajax网页爬取案例详解
首先列举出一些python中爬虫常用的库,用之前需要先下载好,本文假设你已经安装好相应的库。
sergiojune
2018/10/09
2.8K0
Ajax网页爬取案例详解
Selenium 的使用1.网站模拟登录2.动态页面模拟点击3.执行 JavaScript 语句
1.网站模拟登录 # douban.py from selenium import webdriver from selenium.webdriver.common.keys import Keys import time driver = webdriver.PhantomJS() driver.get("http://www.douban.com") # 输入账号密码 driver.find_element_by_name("form_email").send_keys("xxxxx@xxxx.c
Python攻城狮
2018/08/23
1.1K0
利用Selenium和PhantomJS提升网页内容抓取与分析的效率
在互联网数据驱动的时代,网页内容抓取(Web Scraping)是获取和分析公开数据的重要手段。然而,现代网页普遍采用动态渲染、反爬机制和复杂JavaScript逻辑,传统工具(如requests+BeautifulSoup)难以应对。本文介绍如何结合‌Selenium‌和‌PhantomJS‌(注:PhantomJS已停止维护,但技术原理仍具参考性,推荐替代方案为无头Chrome/Firefox)实现高效动态网页抓取,并提供完整的代码实现和优化策略。
小白学大数据
2025/03/15
1800
(数据科学学习手札50)基于Python的网络数据采集-selenium篇(上)
  接着几个月之前的(数据科学学习手札31)基于Python的网络数据采集(初级篇),在那篇文章中,我们介绍了关于网络爬虫的基础知识(基本的请求库,基本的解析库,CSS,正则表达式等),在那篇文章中我们只介绍了如何利用urllib、requests这样的请求库来将我们的程序模拟成一个请求网络服务的一端,来直接取得设置好的url地址中朴素的网页内容,再利用BeautifulSoup或pyspider这样的解析库来对获取的网页内容进行解析,在初级篇中我们也只了解到如何爬取静态网页,那是网络爬虫中最简单的部分,事实上,现在但凡有价值的网站都或多或少存在着自己的一套反爬机制,例如利用JS脚本来控制网页中部分内容的请求和显示,使得最原始的直接修改静态目标页面url地址来更改页面的方式失效,这一部分,我在(数据科学学习手札47)基于Python的网络数据采集实战(2)中爬取马蜂窝景点页面下蜂蜂点评区域用户评论内容的时候,也详细介绍过,但之前我在所有爬虫相关的文章中介绍的内容,都离不开这样的一个过程:
Feffery
2018/09/07
1.9K0
16、web爬虫讲解2—PhantomJS虚拟浏览器+selenium模块操作PhantomJS
phantomjs 是一个基于js的webkit内核无头浏览器 也就是没有显示界面的浏览器,利用这个软件,可以获取到网址js加载的任何信息,也就是可以获取浏览器异步加载的信息
天降攻城狮
2019/07/13
1.2K0
16、web爬虫讲解2—PhantomJS虚拟浏览器+selenium模块操作PhantomJS
《手把手带你学爬虫──初级篇》第5课 Selenium WebDriver的用法
Selenium 是一个自动化测试工具,WebDriver是它提供的一套操作浏览器的API,由于WebDriver针对多种编程语言都实现了这些API,因此它可以支持多种编程语言。
GitOPEN
2019/01/29
2.7K0
《手把手带你学爬虫──初级篇》第5课  Selenium WebDriver的用法
python爬虫入门(五)Selenium模拟用户操作
爬虫(Spider),反爬虫(Anti-Spider),反反爬虫(Anti-Anti-Spider) 之间恢宏壮阔的斗争... 小莫想要某站上所有的电影,写了标准的爬虫(基于HttpClient库),不断地遍历某站的电影列表页面,根据 Html 分析电影名字存进自己的数据库。 这个站点的运维小黎发现某个时间段请求量陡增,分析日志发现都是 IP(xxx.xxx.xxx.xxx)这个用户,并且 user-agent 还是 Python-urllib/2.7 ,基于这两点判断非人类后直接在服务器上封杀。
zhang_derek
2018/04/11
2.6K0
python爬虫入门(五)Selenium模拟用户操作
selenium在爬虫和自动化测试中的妙用
初识selenium,还是当时热衷于爬虫开发的时候。当时老是遇到一些js加密、动态加载的反爬措施,因为在浏览器上看到的页面,是经过浏览器内核对js执行过后数据渲染的结果。而爬虫程序获取的是原始网页,是没有经过js渲染的。
叫我阿柒啊
2024/11/01
2490
推荐阅读
相关推荐
Python爬取炉石传说原画及卡牌抓取
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档