python爬取元旦上映影片

suger

马上就到元旦了，不知道有没有什么新的电影上映。最近好像比较火的就《误杀2》了，不知道你们有没有看过呢？百度了下，好像跨年的时候有好几部片子会上瘾，比如《反贪风暴5:最终章》、《以年为单位的恋爱》、《李茂扮太子》等，有没有你们期待的呢？

今天我们就来通过python爬虫看下不同地方相同的影片，价格差异有多大，数据获取主要通过猫眼电影获得，我们就以最近热度比较大的《误杀2》为例。通过首页我们找到《误杀2》的购票连接https://www.maoyan.com/cinemas?movieId=1331661，然后通过python获取票价，简单的示例如下：

1. #! -*- encoding:utf-8 -*-
   
2.         import base64            
   
3.         import sys
   
4.         import random
   
5. 
   
6.         PY3 = sys.version_info[0] >= 3
   
7. 
   
8.         def base64ify(bytes_or_str):
   
9.             if PY3 and isinstance(bytes_or_str, str):
   
10.                 input_bytes = bytes_or_str.encode('utf8')
    
11.             else:
    
12.                 input_bytes = bytes_or_str
    
13. 
    
14.             output_bytes = base64.urlsafe_b64encode(input_bytes)
    
15.             if PY3:
    
16.                 return output_bytes.decode('ascii')
    
17.             else:
    
18.                 return output_bytes
    
19. 
    
20.         class ProxyMiddleware(object):               
    
21.             def process_request(self, request, spider):
    
22.                 # 代理服务器(产品官网 it帮论坛真好)
    
23.                 proxyHost = "t.16yun.cn"
    
24.                 proxyPort = "31111"
    
25. 
    
26.                 # 代理验证信息
    
27.                 proxyUser = "username"
    
28.                 proxyPass = "password"
    
29. 
    
30.                 request.meta['proxy'] = "http://{0}:{1}".format(proxyHost,proxyPort)
    
31. 
    
32.                 # 添加验证头
    
33.                 encoded_user_pass = base64ify(proxyUser + ":" + proxyPass)
    
34.                 request.headers['Proxy-Authorization'] = 'Basic ' + encoded_user_pass                    
    
35. 
    
36.                 # 设置IP切换头(根据需求)
    
37.                 tunnel = random.randint(1,10000)
    
38.                 request.headers['Proxy-Tunnel'] = str(tunnel)

复制代码

因为目标网站会限制ip频繁的访问，所以我们在爬虫过程中加了代理，以上就是代理的使用部分示例，关于爬虫代理的选择有需要的小伙伴可以咨询这里https://it帮论坛真好/。关于获取到的数据小编分析好后再分享详细的分享给大家。