腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
2
回答
Python
-
沃尔玛
的
Web
抓取
、
、
、
、
我正在尝试使用
Python
和BeautifulSoup bs4从Walmart获取一些数据。简单地说,我编写了一个获取所有类别名称
的
代码,这是可行
的
: import requests print(sub_list) 问题是,当我尝试使用
浏览 54
提问于2021-04-18
得票数 1
回答已采纳
1
回答
从
沃尔玛
那里得到租金
、
、
、
我正试图在Selector分店
的
帮助下,从一些
沃尔玛
( Walmart )专卖店获得价格和库存状况。我能得到商店
的
地址,但无法得到价格和库存情况。任何建议都将不胜感激!以下是我迄今所做
的
工作 library(rvest) > price > stock
浏览 1
提问于2017-02-10
得票数 1
回答已采纳
2
回答
使用beautifulSoup和urllib进行网页
抓取
、
、
我使用
的
是
python
3.6,我可以使用BeautifulSou.来
抓取
文本。我正在用
沃尔玛
网站练习。我试图从
沃尔玛
抓取
文本。这是我
的
代码。我得到
的
不是描述,而是其他东西。 请帮我解决这个问题。
浏览 0
提问于2017-08-30
得票数 0
2
回答
下一页
的
Xpath - Scrapy
、
、
我正在使用Scrapy
抓取
沃尔玛
网站,我正在尝试一个类别,但我无法确定下一页
的
xpath。这是我
的
资料,有人能帮帮忙吗?response.xpath('//*[@class="paginator outline"]/ul/li/a/@href') 要检查
的
沃尔玛
网址:https://www.walmart.com/browse
浏览 15
提问于2019-12-18
得票数 0
1
回答
处理javascript生成
的
动态HTML
的
Ruby on Rails库
的
最佳
web
抓取
、
、
、
、
我正在使用Ruby on Rails和机械化库来
抓取
商店网站。问题是很多时候我不能
抓取
某些元素。然而,当我在网站上“查看源代码”时,我可以看到这一点。例如,
沃尔玛
的
类别(在这种情况下是“健康”)是不可推卸
的
。我相信这是因为它是动态生成
的
HTML (例如,从javascript)。为了解决这个问题,我需要一个浏览器来处理
web
请求。安装用于UI
抓取
的
浏览器将会很困难。有没有什么Rails gem/plugin可以帮助我? 谢谢
浏览 0
提问于2011-12-13
得票数 2
回答已采纳
1
回答
将几个github repos迁移到一个回购,并仍然保存提交历史
、
我已经写了一些项目,从一些电子商务网站
抓取
商品数据。我组织了 它们被分成几个github回购项目,这意味着在一个名为walmart
的
github回购中爬行
沃尔玛
的
项目。所以我有几个回购,像
沃尔玛
,百思买现在。我想将这些repos迁移到另一个repo中,并且仍然保存提交历史。在google之后,我找不到一个有用
的
方法去尝试。有什么方法可以做到吗?
浏览 2
提问于2015-01-03
得票数 0
回答已采纳
2
回答
如何刮除所有的评论,如果他们在不同
的
网页上?
、
、
、
、
如果所有的评论都在不同
的
页面上,如何从
沃尔玛
的
评论页面(例如:)中
抓取
所有的评论?我用机械(Nokogiri)
抓取
,但它不能点击按钮(它不是表单
的
一部分,那么我就不能提交)。
浏览 0
提问于2018-10-02
得票数 0
回答已采纳
1
回答
使用Scrapy下载图像有时会遇到麻烦
、
到目前为止,我
的
蜘蛛代码一直运行得很好,但是现在当我试图运行一批这样
的
蜘蛛时,除了一些蜘蛛,刮除下载图像,其余
的
什么都没有。除了start_urls,所有的蜘蛛都是一样
的
。任何帮助都是非常感谢
的
!这是我
的
pipelines.pyfrom scrapy.exceptions import= '%s/%s' % (BOT_NAME, BOT_VE
浏览 2
提问于2015-06-12
得票数 1
1
回答
用
Python
抓取
加载AJAX
的
网站,我应该使用哪个url?
、
、
、
、
我刮过以下网站:使用Selenium
的
。我正在搜集所有的表格数据。它运行得很好,但是运行脚本需要相当长
的
时间。因此,我开始搜索替代方案,并在StackOverflow上使用API向服务器发送请求,但经过几个小时
的
尝试和搜索(例如,我放弃了),因为我没有得到一些东西: import json url = "https://www.eex-transparency.com/aja
浏览 4
提问于2017-11-25
得票数 1
2
回答
使用Bash脚本在
python
库上进行
web
抓取
?
、
、
、
、
我正在尝试从有经验的人那里获取更多
的
信息,一般来说,我正在使用
Python
库进行
web
抓取
。与此同时,我注意到一些人正在使用simple Bash,并使用wget, curl, sed, grep, awk等命令进行
web
抓取
。与使用
Python
库进行
web
抓取
相比,这些命令在脚本编写方面似乎要干净得多。 你对此有什么看法?您认为使用
python
库比使用Bash有什么优势吗?或者甚至使用
Python
浏览 1
提问于2017-03-03
得票数 0
3
回答
大型科技公司如何跨多个团队共享数据库?
、
、
、
、
一家大型科技公司
的
多个团队(拥有不同
的
系统组件/微服务)如何共享他们
的
数据库。 有多个相关
的
疑问,我有在这两
浏览 13
提问于2022-01-15
得票数 0
回答已采纳
2
回答
在使用
Python
进行
web
抓取
时,如何使用相同
的
连接?
、
、
很可能会让我
的
IP被禁止。有人建议我使用WebKit (如Ghost.py )来
抓取
数据,但在浏览器中模拟打开
的
选项卡使连接保持打开状态。我对WebKit知之甚少,是否有人能为我确认Ghost.py能够重用相同
的
连接,或者是否有其他更好
的
建议。
浏览 1
提问于2015-08-12
得票数 1
回答已采纳
1
回答
数据挖掘-在终端中挖掘Facebook配置文件和返回数据
、
、
、
我对
python
编码有点陌生,我有一个项目,我决定编写一些代码,当输入一个Facebook用户URL时,它将返回他们
的
配置文件必须提供
的
所有数据。任何帮助都将是非常感谢
的
,或者如果您有类似的代码,我很想观察。 我正在寻找在
python
中执行此操作。
浏览 4
提问于2022-03-29
得票数 -1
1
回答
Python
中
的
Web
抓取
、
、
我需要学习高级
python
编程技能才能使用
python
进行
web
抓取
吗?或者,我应该看一些关于网络
抓取
的
教程,同时学习使用
python
。我对
python
没有任何经验,因为我是Laravel开发人员,这是我第一次在
web
抓取
中做这样
的
工作。
浏览 0
提问于2019-11-04
得票数 -1
5
回答
如何从其他网站获取数据?
、
、
、
我想创建一个网站,从其他网站提取信息,并将它们打印到我
的
网站上,我正在进行研究,所以我想听取一些意见,这个项目的最佳解决方案是什么?我听说
Python
使用解析器可以做到这一点,我只是想知道我应该走哪条路,应该使用哪种语言?
浏览 1
提问于2013-06-14
得票数 4
1
回答
Python
到PHP异步数据传输
、
、
我有一个建立一个网络刮擦工具
的
要求。
抓取
部分将在
python
中编码,结果将在PHP中显示。结果应该在PHP中异步显示,而
python
正在
抓取
页面。在这两种语言之间异步交换数据
的
浏览 3
提问于2017-05-04
得票数 1
回答已采纳
1
回答
Python
刮板没有在某些子域上返回完整
的
html代码
、
我正在拼凑一个
沃尔玛
的
评论刮刀,它目前从大多数
沃尔玛
的
网页上刮起了html,没有问题。当我尝试
抓取
一页评论时,它只返回页面代码
的
一小部分,主要是来自评论
的
文本和一些错误标记。有人知道问题出在哪里吗?
浏览 11
提问于2022-05-28
得票数 2
1
回答
在
python
中浏览/解析html页面
、
、
、
、
为了与html页面进行交互,我试图把一些我需要
的
插件集合在一起。我需要
的
范围从简单
的
浏览和与按钮或网页链接(如“在这个文本框中写一些文本并按这个按钮”)进行交互,到解析html页面和向服务器发送自定义get/post消息。我正在使用
Python
3,到目前为止,我有Request用于简单
的
网页加载、自定义get和post消息,BeautifulSoup用于解析HTML树,我正在考虑尝试机械化来进行简单
的
网页交互。还有其他类似于我目前使用
的
3库
的
浏览 3
提问于2014-04-17
得票数 1
回答已采纳
3
回答
Web
抓取
:用
Python
抓取
多个
Web
、
、
BeautifulSoup(page.content, 'lxml') print(paragraph.text) 我想从中
抓取
排名、审查和审查日期,但是,我不知道如何从多个页面中
抓取
,并为
抓取
结果制作一个熊猫DataFrame。
浏览 1
提问于2019-01-13
得票数 3
回答已采纳
1
回答
如何统计产品在电子商务网站上
的
排名/位置?
、
、
我想自动计算不是我自己
的
电子商务网站(
沃尔玛
、家得宝等)上
的
产品位置。到目前为止,我对如何做到这一点不知所措,任何关于如何进行
的
方向都将非常感谢。我计划只
抓取
和导出数据(我不会有任何问题),而不是让excel处理计数,但我更喜欢另一种方法,如果可能的话,我可以只计算某些项目。
浏览 0
提问于2015-12-11
得票数 0
点击加载更多
相关
资讯
手把手教你用Python进行Web抓取
推荐:手把手教你用Python进行Web抓取
不用编程,几步做简单的数据抓取,web
Python数据抓取(3)—抓取标题、时间及链接
Python 抓取环境搭建
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券