实战Python网络爬虫

实战Python网络爬虫

作者:黄永祥

出版社:清华大学

出版年:2019年6月

ISBN:9787302524892

所属分类:科普读物

书刊介绍

《实战Python网络爬虫》内容简介

本书从原理到实践,循序渐进地讲述了使用Python开发网络爬虫的核心技术。全书从逻辑上可分为基础篇、实战篇和爬虫框架篇三部分。基础篇主要介绍了编写网络爬虫所需的基础知识,包括网站分析、数据抓取、数据清洗和数据入库。网站分析讲述如何使用Chrome和Fiddler抓包工具对网站做全面分析;数据抓取介绍了Python爬虫模块Urllib和Requests的基础知识;数据清洗主要介绍字符串操作、正则和BeautifulSoup的使用;数据入库讲述了MySQL和MongoDB的操作,通过ORM框架SQLAlchemy实现数据持久化,进行企业级开发。实战篇深入讲解了分布式爬虫、爬虫软件的开发、12306抢票程序和微博爬取等。框架篇主要讲述流行的爬虫框架Scrapy,并以Scrapy与Selenium、Splash、Redis结合的项目案例,让读者深层次了解Scrapy的使用。此外,本书还介绍了爬虫的上线部署、如何自己动手开发一款爬虫框架、反爬虫技术的解决方案等内容。
本书使用Python 3.X编写,技术先进,项目丰富,适合欲从事爬虫工程师和数据分析师岗位的初学者、大学生和研究生使用,也很适合有一些网络爬虫编写经验,但希望更加全面、深入理解Python爬虫的开发人员使用。
黄永祥,多年软件研发经验,主要从事机器人流程系统研发、大数据系统研发、网络爬虫研发以及自动化运维系统研发。擅长使用Python编写高质量代码,对Python有深入研究,热爱分享和新技术的探索。

作品目录

内容简介
作/者/简/介
前言
第1章:理解网络爬虫
第2章:爬虫开发基础
第3章:Chrome分析网站
第4章:Fiddler抓包
第5章:爬虫库Urllib
第6章:爬虫库Requests
第7章:Requests-Cache爬虫缓存
第8章:爬虫库Requests-HTML
第9章:网页操控与数据爬取
第10章:手机App数据爬取
第11章:Splash、Mitmproxy与Aiohttp
第12章:验证码识别
第13章:数据清洗
第14章:文档数据存储
第15章:ORM框架
第16章:MongoDB数据库操作
第17章:实战:爬取51Job招聘信息
第18章:实战:分布式爬虫——QQ音乐
第19章:实战:12306抢票爬虫
第20章:实战:玩转微博
第21章:实战:微博爬虫软件开发
第22章:Scrapy爬虫开发
第23章:Scrapy扩展开发
第24章:实战:爬取链家楼盘信息
第25章:实战:QQ音乐全站爬取
第26章:爬虫的上线部署
第27章:反爬虫的解决方案
第28章:自己动手开发爬虫框架

相关推荐

微信二维码