当前位置:首页 » 《随便一记》 » 正文

爬虫中scrapy.Request的更多参数_黑马蓝汐的博客

17 人参与  2022年03月26日 14:33  分类 : 《随便一记》  评论

点击全文阅读


每日分享:

人的一生是短的,但如果无趣的过这一生,就太长了。

没有体会过别人的痛苦,就不要劝别人大度。

一、scrapy.Request的参数

scrapy.Request(url[,callback,method="GET",headers,body,cookies,meta,dont_filter=Fallse])

参数解释:

  1. 中括号中的参数为可选参数,可写可不写
  2. callback:表示当前的url响应交给哪个函数去处理(默认为parse函数)
  3. meta:实现数据在不同解析函数中传递,meta默认带有部分数据,比如下载延迟、请求深度等(用于解析方法之间的数据传递,常用在一条数据分散在多个不同结构的页面中的情况)
  4. dont_filter:默认为False,会过滤请求的url地址,即请求过的url地址不会继续被请求,对需要重复请求的url地址可以把它设置为True,start_urls中的地址会被反复请求,否则程序不会启动
  5. headers:接收一个字典,其中不包括cookies
  6. cookies:接收一个字典,专门放置cookies
  7. method:指定POST或GET请求
  8. body:接收json字符串,为post的数据发送payload_post请求

二、meta参数

meta的作用:meta可以实现数据在不同的解析函数中的传递

在爬虫文件的parse方法中,增加一个函数parse_detail函数(用来解析另一个页面):

def parse(self,response):
    ...
    yield scrapy.Request(detail_url, callback=self.parse_detail,meta={"item":item})
...

def parse_detail(self,response):
    #获取之前传入的item
    item = resposne.meta["item"]

就相当于,把parse中解析的数据存到了meta字典中,对应的key为item;而在另一个函数(parse_detail)中,通过meta字典中的key:item来提取parse中的数据,从而实现不同页面数据的拼接

注意:

  1. meta参数是一个字典
  2. meta字典中有一个固定的键proxy,表示代理ip

点击全文阅读


本文链接:http://m.zhangshiyu.com/post/36770.html

请求  数据  字典  
<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

最新文章

  • [被退婚后我获赔六个美男]完结_[陆淮川小姐孙子]完结版全文
  • 「以爱为囚,负我残生」后续已完结_[陆沉渊叶清茹]小说章节试读
  • 金丝雀离开后,霸总穷追不舍番外合集提前订‌_姜青黎顾青黎许庭深情感冲突名场面试读章
  • 江梨挽程颂(梨花愿落尘烟起结局+番外)全书在线江梨挽程颂读_(梨花愿落尘烟起结局+番外江梨挽程颂)梨花愿落尘烟起结局+番外列表_笔趣阁(江梨挽程颂)
  • 血色闺蜜情感冲突名场面试读章_「萌萌陈宇老李」隐藏结局
  • 江照璃顾裴延(长叹雁归难留)_江照璃顾裴延列表_笔趣阁(长叹雁归难留)
  • 全文声声思念付与州+后续+结局(程芝裴声方梨)列表_全文声声思念付与州+后续+结局
  • 填我十万八千梦傅沉砚沈昭宜+后续+番外(傅沉砚沈昭宜)_(填我十万八千梦傅沉砚沈昭宜+后续+番外)列表_笔趣阁(傅沉砚沈昭宜)
  • 全书浏览也曾偷藏欢喜全书+后续(乔喜商凛乔雪眠)_也曾偷藏欢喜全书+后续(乔喜商凛乔雪眠)全书结局
  • 全书浏览途径一场风月现已上架(宋泠音商予淮)_途径一场风月现已上架(宋泠音商予淮)全书结局
  • [重回八零,不要大学生要竹马]番外合集提前订‌_鞠正青小倩弟弟后续完结版
  • (番外)+(全书)池念谢宴清(画地为牢+后续+结局)_池念谢宴清免费列表_笔趣阁(画地为牢+后续+结局)

    关于我们 | 我要投稿 | 免责申明

    Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1