如何使用Scrapy框架爬取301跳转后的数据

suger

在我们python强大的库里面，Scrapy是一个功能强大的网络爬虫框架，允许开发者轻松地抓取和解析网站内容。在爬取有些网站数据的时候会遇到网页跳转的情况，一般HTTP返回状态码是200，非200状态码，需要单独处理。Scrapy默认只处理200状态码响应，非200状态码响应需要单独设置，如301永久跳转。

可以只处理301跳转

1. class MySpider(scrapy.Spider):
   
2.     handle_httpstatus_list = [301]

复制代码

也可以单独设置某个请求

1. scrapy.request('http://url.com', meta={'handle_httpstatus_list': [301]})

复制代码

那么301和302 Http状态有啥区别？

301，302 都是HTTP状态的编码，都代表着某个URL发生了转移，不同之处在于： 301 redirect: 301 代表永久性转移(Permanently Moved)， 302redirect: 302 代表暂时性转移(Temporarily Moved )。在项目实际中大家选择301跳转的可能性都要大些，因为SEO（搜索引擎优化）中提到一点：如果我们把一个地址采用301跳转方式跳转的话，搜索引擎会把老地址的PageRank等信息带到新地址，同时在搜索引擎索引库中彻底废弃掉原先的老地址 ，当然Http 状态 200 标示没有任何问题发生。  这里我们通过Scrapy框架访问百度跳转后的数据给大家参考下：

1.         #! -*- encoding:utf-8 -*-
   
2.         import base64            
   
3.         import sys
   
4.         import random
   
5. 
   
6.         PY3 = sys.version_info[0] >= 3
   
7. 
   
8.         def base64ify(bytes_or_str):
   
9.             if PY3 and isinstance(bytes_or_str, str):
   
10.                 input_bytes = bytes_or_str.encode('utf8')
    
11.             else:
    
12.                 input_bytes = bytes_or_str
    
13. 
    
14.             output_bytes = base64.urlsafe_b64encode(input_bytes)
    
15.             if PY3:
    
16.                 return output_bytes.decode('ascii')
    
17.             else:
    
18.                 return output_bytes
    
19. 
    
20.         class ProxyMiddleware(object):               
    
21.             def process_request(self, request, spider):
    
22.                 # 代理服务器(产品官网 it帮论坛真好)
    
23.                 proxyHost = "t.16yun.cn"
    
24.                 proxyPort = "31111"
    
25. 
    
26.                 # 代理验证信息
    
27.                 proxyUser = "username"
    
28.                 proxyPass = "password"
    
29. 
    
30.                 # [版本>=2.6.2](https://docs.scrapy.org/en/latest/news.html?highlight=2.6.2#scrapy-2-6-2-2022-07-25)无需添加验证头,会自动在请求头中设置Proxy-Authorization     
    
31.                 request.meta['proxy'] = "http://{0}:{1}@{2}:{3}".format(proxyUser,proxyPass，proxyHost，proxyPort)
    
32. 
    
33.                 # 版本<2.6.2 需要手动添加代理验证头
    
34.                 # request.meta['proxy'] = "http://{0}:{1}".format(proxyHost,proxyPort)
    
35.                 # request.headers['Proxy-Authorization'] = 'Basic ' +  base64ify(proxyUser + ":" + proxyPass)                    
    
36. 
    
37.                 # 设置IP切换头(根据需求)
    
38.                 # tunnel = random.randint(1,10000)
    
39.                 # request.headers['Proxy-Tunnel'] = str(tunnel)
    
40. 
    
41.                 # 每次访问后关闭TCP链接，强制每次访问切换IP
    
42.                 request.header['Connection'] = "Close"
    

复制代码