近期《你是我的荣耀》这部剧正在热播中,在首播当天收视率就上亿了,足以见得观众们对这部剧的一个期待程度。在连放了八集之后,这部剧目前也是好评满满,不少人都被杨洋和迪丽热巴的颜值所吸引了。小编也入坑了,看的简直不要太开心。最主要的是我一边看电视剧一边看弹幕,弹幕也是增加快乐的一种方式啊。 这里说到弹幕,那么小编作为爬虫工作者,对这个就比较感兴趣了,今天我们就学习下python 爬取腾讯视频评论的实现步骤,帮助大家更好的理解和学习使用python爬虫,感兴趣的朋友可以了解下呀。这里和大家分享下爬虫的重点知识,因为之前爬过很多网站,同一个 user-agent 很容易被 ban ,爬取的数据太多了会导致封ip,所以今天就尝试下通过构建代理ip池加上随机ua进行爬取。 完成代码: <?php // 要访问的目标页面 $url = "https://v.qq.com/x/cover/mzc00200xh9313v.html"; $urls = "https://v.qq.com/x/cover/mzc00200xh9313v.html"; // 代理服务器(产品官网 www.16yun.cn) define("PROXY_SERVER", "tcp://t.16yun.cn:31111"); // 代理身份信息 define("PROXY_USER", "16MIITAU"); define("PROXY_PASS", "086571"); $proxyAuth = base64_encode(PROXY_USER . ":" . PROXY_PASS); // 设置 Proxy tunnel $tunnel = rand(1,10000); $headers = implode("\r\n", [ "Proxy-Authorization: Basic {$proxyAuth}", "Proxy-Tunnel: ${tunnel}", ]); $sniServer = parse_url($urls, PHP_URL_HOST); $options = [ "http" => [ "proxy" => PROXY_SERVER, "header" => $headers, "method" => "GET", 'request_fulluri' => true, ], 'ssl' => array( 'SNI_enabled' => true, // Disable SNI for https over http proxies 'SNI_server_name' => $sniServer ) ]; print($url); $context = stream_context_create($options); $result = file_get_contents($url, false, $context); var_dump($result); // 访问 HTTPS 页面 print($urls); $context = stream_context_create($options); $result = file_get_contents($urls, false, $context); var_dump($result);?>以上就是python 爬取腾讯视频评论之加上代理池的使用方式,更多关于python 爬取腾讯视频评论的资料请关注下次分享的相关文章!
|