GitHub 星标 3500 的 Python 爬虫实战入门教程,限时开源!
爬虫的全称为网络爬虫,简称爬虫,别名有网络机器人,网络蜘蛛等等。
网络爬虫是一种自动获取网页内容的程序,为搜索引擎提供了重要的数据支撑。搜索引擎通过网络爬虫技术,将互联网中丰富的网页信息保存到本地,形成镜像备份。我们熟悉的谷歌、百度本质上也可理解为一种爬虫。
如果形象地理解,爬虫就如同一只机器蜘蛛,它的基本操作就是模拟人的行为去各个网站抓取数据或返回数据。
博主断断续续学习练习了两三年 python 爬虫,从网上看了无数教程,跟大神们学习了各种神奇的操作,现在虽然没成为大神,但是想通过这篇教程来分享自己学习的爬虫实战案例。
浅显易懂、注重实操
从 HTTP 请求到 HTML 解析,从静态抓取到动态采集
腾讯新闻、今日头条、智联招聘、QQ 空间等多个案例
![](https://static001.geekbang.org/infoq/66/66f9a10116bcdb4915b205bdcc93058b.png)
不多废话,下面将这份教程展示给大家。
第一章:工具准备
![](https://static001.geekbang.org/infoq/20/205325ad03588ffd2037a7051354c98e.png)
第二章:从一个简单的 HTTP 请求开始
![](https://static001.geekbang.org/infoq/72/72bc741dbabf0b0330a844296ffb67d1.png)
第三章:简单的 HTML 解析--爬取腾讯新闻
![](https://static001.geekbang.org/infoq/4b/4be984421b018af0c82a6dc23e2ca88f.png)
第四章:使用 Cookie 模拟登录--获取电子书下载链接
![](https://static001.geekbang.org/infoq/8c/8cc849c978fadc0f0550d3d438efc353.png)
第五章:获取 JS 动态内容一爬取今日头条
![](https://static001.geekbang.org/infoq/6d/6d4778e6b289897df95517b76c159b94.png)
第六章:提高爬电效率一并发爬取智联招聘
![](https://static001.geekbang.org/infoq/db/db60ce20529a01fe5a73221e107280ed.png)
第七章:使用 Selenium--以抓取 QQ 空间好友说说为例
![](https://static001.geekbang.org/infoq/90/906fb03417cf3eada9d6fb8544dcb6a6.png)
第八章:数据储存--MongoDB 与 MySQL
![](https://static001.geekbang.org/infoq/87/879c3a8c7c0ef97690d3195107761b97.png)
第九章:下一步
在实际的网络数据采集中,可能面对的网站部署了非常多非常复杂的反爬虫手段来限制爬虫的爬取行为,所以大家可以更加深入地了解如何使用代理 IP 池来避免频繁采集下的 IP 被封。
了解如何使用 PyQt 来绕过一些网站的高等级登录限制(Selenium 操纵的 webdriver 会被识别出来)
了解如何破解复杂的验证码形式
了解如何有效地对 URL 进行队列处理
了解如何部署分布式的爬虫
…
这些都是深入学习爬虫所必须经过的路、踩下的坑。
限于文章篇幅原因,就展示到这里了,有需要的小伙伴 点击这里凭本文截图即可获取!
评论