功能11、使用POST请求采集数据

介绍

POST 请求是使用HTTP协议的POST方法进行请求的方式,区别于GET请求,POST请求一般是将参数数据放在POST Body(POST 数据体)中。而GET请求的参数都是放在URL中。

前提

要使用POST方式进行采集,首先需要学习抓包技术,通过Chrome F12(开发者工具->Network) 或者Fiddler 工具来进行抓包。

第一步 设置POST请求

新建任务,在第一步,选中POST 请求,出现POST请求数据的设置。 

通过之前的抓包工作,定位到我们需要的POST请求,把POST请求的URL和POST数据复制过来。 一般来说,我们直接复制整个请求(包含URL、Header、POST Body),然后点击按钮从剪切板粘贴Header,一键复制请求数据。

复制完成之后,需要对POST数据进行分析,找到其中参数,比如分页查询关键词 之类,用批量网址参数进行处理。 

第二步 配置抓取数据

大部分情况下,POST请求的返回数据都是JSON格式,在第二步中,我们直接把引擎切换为JSON引擎就可以了。 剩余部分可以参考JSON数据采集

Header设置

在使用POST方式采集时,很多时候需要跟Header打交道,因为有些网站或APP会将一些验证放在Header中,比如常见的Auth。

第三步->指定Header设置 ,可以对这些进行修改。 包括UA、Cookie等等Header。 

 收藏 (0) 打赏

您可以选择一种方式赞助本站

支付宝扫一扫赞助

微信钱包扫描赞助

未经允许不得转载:众鑫企业名录搜索软件_谷歌图数据采集大师_高德地图采集_百度地图采集_360地图采集_美团点评商家采集 » 功能11、使用POST请求采集数据

热门文章

  • 评论 抢沙发

    • QQ号
    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址

    众鑫企业名录搜索软件

    众鑫网页数据采集器众鑫采集器