首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Scrapy SgmlLinkExtractor忽略允许的链接

您好,我很高兴为您提供关于Scrapy SgmlLinkExtractor忽略允许链接的问题的答案。

Scrapy SgmlLinkExtractor是Scrapy框架中的一个组件,用于从HTML页面中提取链接。它可以根据一些规则来过滤和允许某些链接。如果您希望Scrapy SgmlLinkExtractor忽略某些链接,您可以通过设置allow和deny属性来实现。

allow和deny属性可以是一个正则表达式或者是一个可以匹配URL的函数。如果您希望Scrapy SgmlLinkExtractor忽略某些链接,您可以将这些链接添加到deny属性中。例如,如果您希望忽略所有以“javascript:”开头的链接,您可以将以下代码添加到您的Scrapy项目中:

代码语言:txt
复制
SgmlLinkExtractor(deny=('javascript:',))

如果您希望Scrapy SgmlLinkExtractor只提取某些特定的链接,您可以将这些链接添加到allow属性中。例如,如果您只希望提取以“http://”或“https://”开头的链接,您可以将以下代码添加到您的Scrapy项目中:

代码语言:txt
复制
SgmlLinkExtractor(allow=('http://', 'https://'))

希望这个答案能够帮助您解决问题。如果您有其他问题,请随时提问。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

  • Python爬虫——Scrapy简介

    Scrapy Engine(引擎):Scrapy框架的核心部分。负责在Spider和ItemPipeline、Downloader、Scheduler中间通信、传递数据等。 Spider(爬虫):发送需要爬取的链接给引擎,最后引擎把其他模块请求回来的数据再发送给爬虫,爬虫就去解析想要的数据。这个部分是我们开发者自己写的,因为要爬取哪些链接,页面中的哪些数据是我们需要的,都是由程序员自己决定。 Scheduler(调度器):负责接收引擎发送过来的请求,并按照一定的方式进行排列和整理,负责调度请求的顺序等。 Downloader(下载器):负责接收引擎传过来的下载请求,然后去网络上下载对应的数据再交还给引擎。 Item Pipeline(管道):负责将Spider(爬虫)传递过来的数据进行保存。具体保存在哪里,应该看开发者自己的需求。 Downloader Middlewares(下载中间件):可以扩展下载器和引擎之间通信功能的中间件。 Spider Middlewares(Spider中间件):可以扩展引擎和爬虫之间通信功能的中间件。

    02

    python crawlspider详解

    scrapy genspider -t crawl spider名称 www.xxxx.com LinkExtractors: allow:必须要匹配这个正则表达式的URL才会被提取,如果没有给出,或为空,匹配所有。(str or list) deny:allow的反面,如果没有给出或空,不排除所有。优先级高于allow。(str or list) allow_domains :(str or list) deny_domains :(str or list) deny_extensions:(list):提取链接时,忽略的扩展名列表。 restrict_xpaths :从哪些XPATH提取 tags:(str or list):默认为('a','area') attrs :(list):默认为('href') unique :boolean 重复过滤 Rule: callback:从link_extractor中每获取到链接时,参数所指定的值作为回调函数,该回调函数接受一个response作为其第一个参数。 注意:当编写爬虫规则时,避免使用parse作为回调函数。由于CrawlSpider使用parse方法来实现其逻辑,如果覆盖了 parse方法,crawl spider将会运行失败。 follow:是否跟进。如果callback为None,follow 默认设置为True ,否则默认为False。 process_links:指定该spider中哪个的函数将会被调用,从link_extractor中获取到链接列表时将会调用该函数。该方法主要用来过滤。 process_request:指定该spider中哪个的函数将会被调用, 该规则提取到每个request时都会调用该函数。 (用来过滤request)

    02

    scrapy ip池(scrapy多线程)

    备注: process_request(request, spider) 当每个request通过下载中间件时,该方法被调用。 process_request() 必须返回其中之一: 返回 None 、返回一个 Response 对象、返回一个 Request 对象或raise IgnoreRequest 。 如果其返回 None ,Scrapy将继续处理该request,执行其他的中间件的相应方法,直到合适的下载器处理函数(download handler)被调用, 该request被执行(其response被下载)。 如果其返回 Response 对象,Scrapy将不会调用 任何 其他的 process_request() 或 process_exception() 方法,或相应地下载函数; 其将返回该response。 已安装的中间件的 process_response() 方法则会在每个response返回时被调用。 如果其返回 Request 对象,Scrapy则停止调用 process_request方法并重新调度返回的request。当新返回的request被执行后, 相应地中间件链将会根据下载的response被调用。 如果其raise一个 IgnoreRequest 异常,则安装的下载中间件的 process_exception() 方法会被调用。如果没有任何一个方法处理该异常, 则request的errback(Request.errback)方法会被调用。如果没有代码处理抛出的异常, 则该异常被忽略且不记录(不同于其他异常那样)。 参数: request (Request 对象) – 处理的request spider (Spider 对象) – 该request对应的spider

    03
    领券