当前位置 博文首页 > scrapy头部修改的方法详解

    scrapy头部修改的方法详解

    作者:周少钦 时间:2021-02-02 09:13

    被Scrapy自动添加的头部

    在没有任何配置的情况下,scrapy会对请求默认加上一些头部信息

    Scrapy会通过配置文件中的USER_AGENT配置,自动为头部添加User-Agent,这条配置会被任何包含User-Agent的配置覆盖

    当请求经过下载器后,会被自动添加头部Accept-Encoding: gzip,deflate, 会被任意包含Accept-Encoding的头部配置覆盖

    配置settings.py文件中默认的头部

    #DEFAULT_REQUEST_HEADERS = {
    # 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
    # 'Accept-Language': 'en'
    #}
    

    当这个配置属于注释状态时,头部被设置为Accept:text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8与
    Accept-Language: en,可以通过取消注释修改或增删其中的内容

    优先级

    • 会被Request和中间件中的头部配置覆盖
    • 可以覆盖scrapy自动添加的User-Agent和Accept-Encoding

    可以在爬虫中通过custom_settings设置配置仅在当前爬虫生效

    class XXXSpider(scrapy.Spider):
     ...
     custom_settings = {
      DEFAULT_REQUEST_HEADERS = {...}
    	}
     ....
    

    在Request中设置头部

    当给引擎返回Request时,可以为他配置头部

    ...
    def parse(self):
      headers = {
        ...
      }
      
      yield scrapy.Request(url, headers=headers)
    

    优先级

    • Request中设置的header会和settings.py文件中的默认头部合并到一起,如果有重复的配置,那么会覆盖那条配置
    • 会被中间件中的配置覆盖

    在中间件中配置

    当Request请求通过下载中间件发往下载器时,可以通过下载中间件配置头部

    class XXXDownloaderMiddleware
      def process_request(self, request, spider):
    	  request.headers["key"] = value
        return None
    

    还需要在配置文件中启用下载中间价

    DOWNLOADER_MIDDLEWARES = {
      'project.middlewares.XXXDownloaderMiddleware': 543,
    }
    

    优先级

    • 会覆盖除了Referer以外的所有头部配置

    referer中间件

    当存在多次请求时,referer中间件会自动帮Request的头部中的referer加上上一次请求的url

    优先级

    • 最高,会在所有头部配置完之后,添加referer
    • 除了只请求一次没有referer的情况,就算在其他头部配置中设置了referer也会被referer中间件覆盖

    关闭referer中间件

    在配置文件中添加REFERER_ENABLED=False即可关闭

    优先级分析

    Scrapy自动添加的User-Agent与Accept-Encoding < 配置文件中的默认配置DEFAULT_REQUEST_HEADERS < Request中修改的header < 中间件中添加的header < referer中间件添加的referer

    此篇文章仅表示自己对scrapy的理解,如有错误欢迎指正

    js
    下一篇:没有了