我使用具有无限循环的python制作了一个简单的爬虫，所以它不能停止。随机延迟17 ~ 30，这个爬虫爬行相同的一个页面，并找到'href‘链接，定期更新，并存储到Mysql。我使用了Ubuntu服务器。因为我使用了Linux命令
$ nohup python crawer.py &
这个爬虫是在Ubuntu服务器背景下运行的。我想它已经运行了大约4个小时。但爬虫突然停止了。第二天我再试一次。而且效果很好！有什么问题吗？这是关于网页的块吗？或者nohup命令有限制时间？非常感谢。
浏览 1提问于2014-05-20得票数 0
回答已采纳
我正在为Python Scrapy构建一个扩展，以获取爬虫相关的详细信息，如开始时间、结束时间、爬虫状态(打开、关闭或活动)。现在我需要在我的MySql数据库表中存储当前的时间戳。有人能帮我吗？我需要一个代码来连接MySql数据库从剪贴画代码，并做数据库相关的查询，如插入，选择等。谢谢..
浏览 3提问于2013-10-14得票数 0
1回答
我已经建立了一个爬虫使用Scrapy爬行到一个网站并提取链接。我想让爬虫在每天的某个时间运行。我找到了python的来执行调度，但是我找不到从哪里开始。任何帮助都是非常有用的。
浏览 0提问于2014-04-08得票数 0
我用python编写了一个爬虫，它可以访问60多个网站，解析HTML，并将数据保存到数据库。
现在，我正在使用cron作业，每15分钟运行一次爬虫。问题是，我无法知道爬虫要花多少时间才能完成(有时可能需要超过15分钟)，如果已经在运行，我不想再运行另一个爬虫。
我一直在想，我是否最好使用一个无限循环，并使爬虫成为一个永久运行的进程(但是如何确保爬虫不会失败并退出呢？以及如何在每次退出时重新启动？)。
哪一个更有效率？无限循环还是cron作业？
浏览 7提问于2021-05-14得票数 0
在Python方面经历了几年之后，我才知道它在web开发中的应用。我在Python中制作了一个电子邮件爬虫程序(基本上是一个使用其他几个功能的函数)，它帮助我在generate实习的公司。我的老板问我是否可以让我的python电子邮件爬虫进入一个网络应用程序，这样其他员工就可以通过我来抓取电子邮件，这样我就可以在更重要的事情上工作。
是否有一些web应用程序框架可以用来将我的python电子邮件爬虫程序转换成一个简单的公司专用web应用程序？制作网络应用程序所需的时间范围是什么？
我非常开放和渴望学习web应用程序开发，因此，任何帮助或建议将不胜感激。谢谢。
浏览 5提问于2015-07-08得票数 0
回答已采纳
1回答
我使用的是scrapy 0.20和python 2.7
我想问，在同一时间内运行同一个爬虫两次有什么利弊？
请注意，我使用的是管道，以便将结果写入json文件。
谢谢
浏览 1提问于2014-02-25得票数 1
我正在使用Python工具从网站中提取数据。我正在使用proc_open()从我的php代码中触发Scrapy。现在我需要维护仪表盘之类的东西。在Scrapy中有什么方法可以获得Crawler的详细信息，比如：
克劳勒跑步所花的时间。
爬虫的启动和停止时间。
爬行器状态(活动或停止)。
同时运行的爬行者列表。
浏览 1提问于2013-10-08得票数 3
回答已采纳
1回答
使用python请求模块(get函数)，我正在抓取链接，即一个爬虫。我使用脚本发出多个请求。因为我给太多的请求，谷歌干预了CAPTCHA，这是重新设置了一段时间。为了避免每次请求，我使用时间模块将代码置于睡眠状态一段时间。我想知道什么时候可以让脚本进入睡眠状态，这样Google就不会认为它是无效的流量了？(我使用的是大学代理服务器)
浏览 4提问于2017-03-22得票数 2
回答已采纳
嗨，我想做一个网页爬虫，检查URL的数据，如果我做一个简单的Gui，使脚本更容易查找变量的数据，添加代码的gui会使我的网络爬虫效率降低吗？
我需要爬虫尽可能高效，能够尽可能快地处理数据。为这个Python脚本制作一个gui，会不会妨碍web爬虫的性能？
浏览 3提问于2015-01-27得票数 0
回答已采纳
我有一个python爬虫，每隔几分钟就抓取几个网页。我现在正在尝试实现一个可以通过web访问的用户界面，并显示爬虫获得的数据。我将使用php/html作为接口。无论如何，用户界面需要某种类型的按钮来触发爬虫程序立即抓取特定的网站(而不是等待下一次抓取迭代)。
现在，有没有一种方法可以将数据从php脚本发送到正在运行的python脚本？我在考虑标准输入/输出，但找不到一种方法可以做到这一点(从一个进程写入另一个进程stdin)。然后我在考虑使用一个共享文件，php在其中写入数据，python从中读取数据。但是，我需要一些方法来让python脚本知道，新数据已经写入文件，以及让php脚本知道爬虫何
浏览 1提问于2011-03-31得票数 1
会发生什么事？
我用Python2.7编写了大量的Scrapy爬行器。我需要将它们全部转换为支持Python 3，这种转换必须在1 go内完成。我只能在Python 3爬虫做好部署准备之后才能开始使用。我不能一次部署一个爬虫。
我做了什么/我有什么？
我目前有一个远程分支，它是主分支。让我们称之为遥控器-A。这就是容纳所有爬行器的分支，它们每天都会被执行。这个分支必须继续运作。
对于远程分支，我有本地文件夹/分支，修复错误并创建新的。让我们把它叫做Local.，从主人那里，我推拉。
现在，由于“所有操作都必须保持活动状态”，我需要一个单独的Python 3爬虫的远程分支。这个分支可以称为Rem
浏览 3提问于2019-09-10得票数 0
回答已采纳
1回答
我正在制作一个爬虫来找出最近添加的youtube视频，当我的爬虫到达旧视频(在前一个转弯中爬行)时，我想停止爬虫。我使用的不是scrapy和漂亮的汤，我使用的是python库。请给我推荐任何选项
浏览 9提问于2017-06-27得票数 0
1回答
我正在使用python中的scrapy框架制作一个web爬虫。其主要思想是，爬虫从页面中提取一些数据，如果数据符合某些条件，爬虫应该提取其当前所处的URL。是否有一些方法/函数可以获得当前的URL？
谢谢。
浏览 5提问于2016-11-27得票数 0
回答已采纳
1回答
我在不同的地理位置有几台台式机。我需要创建一个爬虫与客户端在每个台式机和一个中央服务器，其中的数据是索引。有没有可能在Nutch中创建这样的爬虫？还有没有别的选择。基于Python的爬虫会更好。
浏览 2提问于2011-07-04得票数 0
回答已采纳
需要将现有应用程序连接到社交媒体监控。爬虫的常见输出格式是什么？它会是XML，JSON吗？或者它会根据爬虫的不同而不同，例如: Python，Java？
浏览 0提问于2012-08-20得票数 0
回答已采纳
2回答
一些服务器具有robots.txt文件，以阻止web爬虫在其网站中爬行。有没有办法让网络爬虫忽略robots.txt文件？我正在为python使用Mechanize。
浏览 1提问于2011-12-05得票数 14
回答已采纳
2回答
我想让一个抓取爬虫在芹菜任务工人内部不断运行，可能使用。或者，正如所建议的，这个想法是使用爬虫程序来查询返回XML响应的外部API。我希望将我想要查询的URL (或查询参数并让crawler构建URL)传递给crawler，crawler将进行URL调用，并将提取的项返回给我。一旦爬虫程序开始运行，我如何将我想要获取的这个新URL传递给爬虫程序。我不想在每次想要给爬虫一个新的URL时都重新启动爬虫，而是希望爬虫无所事事地等待URL爬行。
我发现的在另一个python进程中运行scrapy的两个方法使用一个新进程来运行爬虫程序。我不希望每次我想要抓取一个URL时，都必须派生和拆卸一个新的进程，因
浏览 0提问于2013-05-23得票数 2
1回答
我正在为这个网页做一个基本的网页爬虫工作(只是为了学习，我已经得到了他们的许可)：
我想要做的是得到所有事件的“时间”，“描述”和“地点”的形式。我尝试过python正则表达式，但是这些信息似乎没有显示在这个页面的HTML代码中。相反，我使用Selenium，但我仍然不知道在哪里可以找到这些信息。
浏览 1提问于2016-12-19得票数 2
回答已采纳
我想用python写一个小的网络爬虫。我开始研究将其编写为多线程脚本，一个线程下载池和一个池处理结果。由于有了GIL，它真的可以同时下载吗？GIL对网络爬虫有什么影响？会不会每个线程从套接字中提取一些数据，然后转到下一个线程，让它从套接字中提取一些数据，等等？
基本上我想问的是，用python做一个多线程爬虫真的比单线程能给我带来更多的性能吗？
谢谢!
浏览 4提问于2010-05-14得票数 10
回答已采纳
1回答
我有一个python爬虫，它获取信息并将其放入SQL中。现在我也有了php页面，它从SQL读取这个信息，并表示它。问题是:为了让爬虫程序工作，我的电脑必须全天候工作。我有一台简单的家用电脑--所以这是个问题。是否有一种不同的方式运行网络爬虫？还是我必须在我的电脑上运行？
浏览 1提问于2015-12-08得票数 0
回答已采纳
我构建了一个爬虫，它获取用户输入的产品列表的产品信息。有时，爬虫会结冰，特别是如果产品列表很长，如果爬虫在无头模式下运行的话。
这个bug似乎是随机的，也是不可复制的，这让我认为它是由被爬行的网站的资源利用引起的。
因为这是一个不可复制的错误，我不认为我能修复它，但有没有办法检测爬虫已经冻结，然后再试一次？
下面是关于爬虫和bug的一些信息：
爬虫是使用Selenium和Python构建的。
这个错误发生在不同的网站和产品上。
该错误发生在“正常”模式，但更多发生在无头模式。
谢谢!
费利佩
浏览 2提问于2019-05-21得票数 1
1回答
如何将与Luigi数据管道集成？
、、、、
(长时间的使用者&第一个问题和紧张地问)是真的吗？
我目前正在构建一个Python后端，该后端将部署到一个AWS EC2实例中，该实例具有以下体系结构：
--数据源
网络爬虫数据-保存到S3* =\
API数据管道
如上所示，我们有不同的获取数据的方法(例如API请求、等)但是，棘手的/困难的部分是想出一种简单的、容错的方法将接收到的数据与Luigi数据管道连接起来。
有没有办法将网络爬虫的输出集成到Luigi数据管道中？如果不是，如何才能最好地弥合HTTP数据获取器和Luigi任务之间的差距？
任何建议，文件，或文章将是超级感谢！另外，如果你需要更多的细节，我会尽快把它们弄进来。
浏览 1提问于2017-06-13得票数 3
回答已采纳
1回答
我正在用python编写的爬虫爬行SNS
它工作了很长一段时间，但几天前，从我的服务器上获得的网页被错误403禁止。
我尝试更改cookie，更改浏览器，更改帐户，但都失败了。
而且看起来被禁止的服务器在同一个网段中。
我能做什么?盗取别人的ip？= =...
非常感谢
浏览 1提问于2010-09-06得票数 0
回答已采纳
我试图将表属性分配给用爬虫创建的表。
这样做的目的是让所有使用爬虫创建的表具有相同的默认属性(加上它们通常拥有的属性)。
我检查了爬虫创建界面中的选项，但没有看到这样的选项。在创建表之后创建一个python boto3脚本来修改表属性值，这是我唯一想到的事情。
如果这在默认的爬虫功能中是不可能的，那么将表属性附加到使用某个爬虫创建的每个表上的可行方法是什么？
编辑:一个可能的解决方案是创建一个lambda函数，检查胶水表中是否存在自定义参数，如果没有创建它们。
浏览 2提问于2021-01-20得票数 0
回答已采纳
我是Python & Scrapy的初学者。我刚刚创建了一个带有多个爬虫的Scrapy项目，在运行"scrapy crawl ..“它只运行第一个爬虫。
如何在同一进程中运行所有爬行器？
提前谢谢。
浏览 0提问于2014-04-11得票数 2
3回答
我试着做三件事。
第一:抓取和存档，至少每天，一组预定义的站点。
第二:对此数据运行通宵批处理python脚本(文本分类)。
第三:向用户公开一个基于Django的前端，让他们搜索抓取的数据。
我一直在使用Apache Nutch/Lucene，但当我可以使用另一个爬虫引擎时，让它与Django很好地配合似乎太难了。
about 建议我可以只用Django本身编写爬虫，但我不确定该怎么做。
基本上--对于用Django或现有的python爬虫编写我可以适应的爬虫有什么建议吗？或者我是否应该在第二步中加入“变成Django友好的东西”，并编写一些胶水代码？或者，最后，我应该完全放弃Django吗
浏览 0提问于2009-06-09得票数 2
有没有可能在上传到S3存储桶中的新文件上触发AWS Glue爬虫，假设爬虫“指向”该存储桶？换句话说:文件上传会生成一个事件，导致AWS胶水爬虫对其进行分析。我知道有基于时间表的爬行，但从来没有发现过基于事件的爬行。
浏览 2提问于2018-02-16得票数 9
回答已采纳
我必须用Python写一个网络爬虫。我不知道如何解析页面并从HTML中提取URL。我应该去哪里学习来编写这样的程序呢？
换句话说，有没有一个简单的python程序可以作为通用网络爬虫的模板？理想情况下，它应该使用相对简单的模块，并且应该包括大量的注释来描述每一行代码所做的事情。
浏览 2提问于2013-03-20得票数 17
我想创建一个简单的网络爬虫为乐趣。我需要网络爬虫来获得一个网页上的所有链接的列表。python库中有没有内置的函数可以让这一切变得更容易？感谢您提供的任何知识。
浏览 5提问于2010-11-10得票数 1
我是一个实时分布式搜索引擎elasticsearch的新手，但我想问一个技术问题。
我已经编写了一个python模块爬虫，它可以解析网页并使用本机信息创建JSON对象。我的模块爬虫的下一步是使用elasticsearch存储本机信息。
真正的问题如下所示。哪种技术更适合我的场合？elasticsearch python API还是用于弹性搜索的RESTful API (elasticsearch-py)？
浏览 4提问于2015-12-01得票数 1
我有一个春天启动网络项目，需要与网络爬虫系统的工作。我的爬虫服务在没有任何停机时间的情况下工作，每个爬虫请求可能有很长的处理时间。我想通过一个REST接口获取抓取的URL。我的web应用程序中的用户将URL列表提交给web应用程序，我想向他/她显示:您的请求已提交。完成此请求的爬网后，我希望更新web表单中的请求状态。实现此场景的最佳方法是什么？
浏览 32提问于2020-10-22得票数 1
1回答
我用Python写了一个爬虫脚本，运行得很好。然而，它需要很长的时间来完成(超过9个小时，取决于网站有多少链接)。
我想在其中实现线程，以减少时间，但我很难确定哪个部分是最好的线程。乍一看，我会创建线程来获取每个页面的页面内容，然后锁定visited_urls和to_visit_urls数组，以确保所有内容都使用相同的列表。
但是它似乎花费了最多的时间来检查visited_urls和to_visit_urls数组中的重复项，那么以这种方式进行线程处理是否真的可以节省那么多时间呢？有没有更好的办法给我的蜘蛛穿线？
浏览 0提问于2014-10-02得票数 0
在我工作的爬虫里。它使用pycurl进行多个请求。
如果我转到aiohttp，我可以期待什么样的效率提高？
怀疑主义使我怀疑潜在的改进，因为python有GIL。大部分时间都是在等待请求(网络IO)，所以如果我能够以真正的并行方式处理它们，然后在它们进来时处理它们，我就可以得到一个很好的加速。
有没有人经历过这些，并能提供一些见解？
谢谢
浏览 3提问于2019-06-01得票数 1
回答已采纳
1回答
我是搜索引擎新手，我发现googlenews非常有趣。
我想写一个简单的爬虫
只解析三个不同新闻网站的文章链接。
将链接保存在数据库(mysql)中，并使用链接在网站上公布的时间戳(而不是爬虫检测到链接的时间)。
如您所知，新闻网站每天都会生成链接(我想基本上解析它们的所有链接(不仅仅是今天打印的链接，还包括生成before...and的所有链接--所有这些链接都保存在新闻网站数据库中)。
我不知道我想爬的新闻网站使用的是哪个数据库，我也没有访问它的权限。
那么googlenews如何能够解析所有新闻网站的所有文章链接，包括很久以前生成的链接呢？googlenews可以访问
浏览 4提问于2014-06-06得票数 3
回答已采纳
1回答
我正在开发一个网络爬虫。程序的每个线程尝试读取3主机/秒(330 of连接和读取超时)。每个线程的优先级为10 (Ubuntu12.04)。
当我设置10个线程时，爬虫将返回150个活动主机(主机没有超时)。
当我设置400个线程时，爬虫只返回20个活着的主机。我不知道到底有多少个主机还活着或存在。
我的问题是，线程是否有可能在短时间内没有执行，并且当它确实需要时间继续(从CPU调度)套接字到已经超时？(因为线程处理请求花费的时间太长)。
如果是这样的话，我需要设置多少线程，所以所有线程都有相同的时间？
我使用的是一个ubuntu12.04 x64 -桌面，4GB内存，CPU i5
浏览 4提问于2015-02-12得票数 0
回答已采纳
1回答
我用python编写了一个爬行过程，它运行在亚马逊上的一个ec2实例上。我已经编写了这个爬虫，这样它就可以用它的结果向一个单独的"hub“实例报告。集线器处理爬虫的结果，爬虫可以自由地继续爬行。我在这个爬行实例中想到的是，克隆爬虫的几个实例很容易，每个实例都要向中心报告以便处理。
因此，在这一点上，我有一个集线器和8个单独的爬行器(都在它们自己的实例上)不断地爬行和报告等等。
我在想用小的，分开的爬行器：
有冗余，所以如果一个爬虫被挂断，其余的爬虫可以继续工作。
(这是一个假设)如果每个爬虫都有自己独立的ip，我就有更好的网络利用率。
我可以旋转几个爬虫或缩小规模取决于我目
浏览 2提问于2015-01-08得票数 0
回答已采纳
只要开始使用firebase + react就可以建立一个网站。我的网站的一个设计特点是爬行和显示从另一个网站分析的数据(例如，股票价格的变化)。我已经有了负责解析数据的python爬虫，但是我不知道如何(在后台)在firebase中执行服务器的这个python爬虫(或者根本不可能)？
下面是我的系统的示例用法
用户登录和订阅网站/数据他们很感兴趣
我的爬虫将每1小时解析该网站并将数据更新到数据库。
用户可以从数据库中看到网站变更的摘要。
我想到的一个选择是在本地机器上运行爬虫，并使用REST将解析的数据更新到firebase数据库。然而，这似乎是一种非常低效/天真的方法，
浏览 0提问于2018-01-25得票数 3
1回答
我正在用Python构建一个web爬虫，使用MongoDB来存储一个队列，其中包含所有要爬行的URL。我将有几个独立的工人，将抓取URL。每当工作人员完成URL抓取时，它将在MongoDB集合"queue“中发出请求，以获得要爬行的新URL。
我的问题是，既然会有多个爬虫，我如何确保两个爬虫器不会同时查询数据库并获得相同的URL来抓取？
非常感谢你的帮助
浏览 0提问于2014-03-29得票数 0
回答已采纳
我想刮几个网站，很多人建议使用Scrapy。它是基于Python的，因为我非常熟悉PHP，所以我寻找了替代方案。
我得到了一个爬虫PHPCrawl。我不确定它是否只是一个爬虫，或者它也会提供抓取功能。如果它可以用于抓取-它将支持XPath或正则表达式。
它怎么能和Python上的Scrapy相比呢？
请建议我哪一个是最好的用来抓取网站。
谢谢
浏览 0提问于2012-11-22得票数 0
回答已采纳
我正在编写python来使用Twitter-py抓取Twitter空间。我将爬虫设置为在每个对api.twitter.com的请求之间休眠一段时间(2秒)。然而，在运行了一些时间(大约1)之后，当Twitter的速率限制还没有超过时，我得到了这个错误。
[Errno 10054] An existing connection was forcibly closed by the remote host.
导致此问题的可能原因是什么?如何解决此问题？
我搜索了一遍，发现Twitter服务器本身可能会因为许多请求而强制关闭连接。
非常提前感谢您。
浏览 1提问于2012-01-11得票数 51
我有一个用例，在这个用例中，我需要创建一个AWS Glue crawler来抓取存储在S3中的一些数据，启动爬虫，然后在完成抓取数据后删除爬虫。
我遇到的难题是，爬虫可能需要很长时间才能完成，有时需要20-30分钟来完成对实际数据的爬行，然后才能将其删除。
最初我打算用AWSGlueAsyncClient来解决这个问题，这样就不会阻塞调用线程20-30分钟，我只需要写一个回调，这样当爬虫完成时，它就会立即被删除。
这样做的问题是，如果服务器在爬虫完成所需的20-30分钟时间内关闭或中断，它将不再被删除。
什么是保持crawler删除步骤的好方法，以便即使服务器关闭，它仍会在重新启动后尝试删除c
浏览 27提问于2021-05-26得票数 0
回答已采纳
好日子，朋友们
最近，我制作了一个基于python的网络爬虫机，它可以scrapes_一些新闻网站和django网页，收集用户的搜索标题和url。
但是我不知道如何将基于python的爬虫机和django网页连接在一起，所以我正在寻找任何我可以参考的好资源。
如果有人知道我可以参考的资源，你们能分享一下吗？
谢谢
浏览 2提问于2019-10-11得票数 0
回答已采纳
1回答
我在试着了解网络爬行是如何工作的。有三个问题：
我们是否必须有一个初始的URL目录来构建一个更大的URL目录？这是怎么回事？
有没有用python编写的开源web爬虫？
哪里是学习更多关于网络爬虫的最好的地方？
浏览 2提问于2018-10-11得票数 1
1回答
对于一个教育NLP项目，我需要一个所有意大利语单词的列表。我想我会写一个爬虫，从www.wordreference.com获取单词。我在机械化爬虫框架中使用Python。但当我使用代码时：
br = mechanize.Browser()
br.open("http://www.wordreference.com/iten/abaco")
html = br.response().get_data()
print html
我从"yahoo.com“那里得到了一些页面。这个网站有没有可能有防爬虫机制？
浏览 5提问于2011-04-07得票数 1
回答已采纳
我的网站刚刚推出了一个新的简单组件，其中包含一系列的链接。每24小时，链接更新/更改基于一种算法。我想知道一个特定的链接在组件中的时间(因为，根据算法，有时某个特定的链接可能在组件中停留几天，或者有时它只存在一天)。
我正在构建Python爬行器，以爬行这个新组件所在的网站的前端，我希望在CSV文件中有一个包含两列的简单输出：
列1: URL (在组件中找到的)
列2：#/days显示(Python爬虫查看该URL的次数)。如果它每天都在爬行，这可以简单地看作是爬虫看到这个特定URL的#/days。因此，这个数字将在每次爬行器运行时更新。或者，如果这是第一次看到某个特定的URL，则只需
浏览 0提问于2019-08-22得票数 0
回答已采纳
1回答
长时间多处理断管
、、
我使用多处理模型开发了一个爬虫。
其中使用multiprocessing.Queue存储需要爬行的url、需要解析的页面内容等；使用multiprocessing.Event控制子进程；使用multiprocessing.Manager.dict存储爬行url的散列；每个multiprocessing.Manager.dict实例使用一个multiprocessing.Lock来控制访问。
这三种类型的params都是在所有子进程和父进程之间共享的，所有的params都组织在一个类中，我使用类的实例将共享的params从父进程转移到子进程。就像：MGR = SyncManager()
浏览 1提问于2014-12-09得票数 0
2回答
有效地搜索大量URL列表
、、、
我正在建立一个网络爬虫，它必须爬行数百个网站。我的爬虫保存了一个已经爬行的urls列表。每当爬虫要爬行一个新页面时，它首先搜索已经爬行的url列表，如果已经列出了，则爬虫跳到下一个url，以此类推。一旦url被爬行，它就会被添加到列表中。
目前，我正在使用二进制搜索来搜索url列表，但是问题是，一旦列表变大，搜索就会变得非常慢。因此，我的问题是，我可以使用什么样的算法来搜索一个urls列表(列表的大小每天增长到20到100 k)。
爬虫目前是用Python编写的。但我将把它移植到C++或其他更好的语言中。
浏览 5提问于2016-06-23得票数 0
回答已采纳
我正在学习爬虫，在一些基本的爬虫之后，我尝试从github下载谷歌学者爬虫大师，看看它是如何运行的，在几个我可以修复的错误之后，我遇到了一个ModuleNotFoundError: No module named 'proxy'错误(middleware.py文件，from proxy import PROXIES行是问题)。
这段代码有一些问题，其中包含python 3.x版本中不再支持/建议的解决方案，包括后来被重命名/移动的模块，但我无法确定这是否也是这种情况，希望能得到帮助。
浏览 3提问于2018-03-07得票数 0
1回答
我有一个亚马逊胶水爬虫，它查看一个特定的s3位置，包含avro文件。我有一个进程，它在那个位置的一个新的子文件夹中输出文件。
一旦我手动运行爬虫，新的子文件夹将被视为数据库中的一个新表，它也将是可从雅典娜查询的。
有什么方法可以使进程自动化，并以编程方式调用爬虫，但只指定新的子文件夹，这样它就不必扫描整个父文件夹结构了吗？我希望将表添加到数据库中，而不是将分区添加到现有表中。
我正在寻找Python选项，我确实看到了这样一个选项：
import boto3
glue_client = boto3.client('glue', region_name='us-east-1
浏览 0提问于2018-08-21得票数 1
回答已采纳
我想知道是否有任何开源项目(最好是Python)可以用来下载(crawl?)Lucene/Hadoop等开源项目的邮件列表归档(如)。我特别寻找一个(Apache)邮件列表档案定制的爬虫/下载器(不是一个通用的爬虫，如Scrappy)。任何指点都是非常感谢的。谢谢。
浏览 2提问于2012-10-27得票数 4
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
