新書推薦:
《
汉匈战争全史
》
售價:HK$
99.7
《
恶的哲学研究(社会思想丛书)
》
售價:HK$
109.8
《
不止江湖
》
售價:HK$
98.6
《
天才留步!——从文艺复兴到新艺术运动(一本关于艺术天才的鲜活故事集,聚焦艺术史的高光时刻!)
》
售價:HK$
154.6
《
双城史
》
售價:HK$
110.9
《
冯友兰和青年谈心系列:不是问题的问题(哲学大师冯友兰和年轻人谈心,命运解读)
》
售價:HK$
55.8
《
月与蟹(青鲤文库)荣获第144届直木奖,天才推理作家经典作品全新译本。一部青春狂想曲,带你登上心理悬疑之巅。
》
售價:HK$
50.4
《
索恩丛书·盛清统治下的太监与皇帝
》
售價:HK$
88.5
|
編輯推薦: |
网络上的数据量越来越大,单靠浏览网页获取信息越来越困难,如何有效地提取并利用信息已成为一个巨大的挑战。本书采用简洁强大的Python语言,全面介绍网络数据采集技术,教你从不同形式的网络资源中自由地获取数据。你将学会如何使用Python脚本和网络API一次性采集并处理成千上万个网页上的数据。本书适合熟悉Python的程序员、安全专业人士、网络管理员阅读。书中不仅介绍了网络数据采集的基本原理,还深入探讨了更高级的主题,比如分析原始数据、用网络爬虫测试网站等。此外,书中还提供了详细的代码示例,以帮助你更好地理解书中的内容。
|
內容簡介: |
本书采用简洁强大的Python语言,介绍了网络数据采集,并为采集新式网络中的各种数据类型提供了全面的指导。第1部分重点介绍网络数据采集的基本原理:如何用Python从网络服务器请求信息,如何对服务器的响应进行基本处理,以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站,自动化处理,以及如何通过更多的方式接入网络。
|
關於作者: |
Ryan Mitchell,数据科学家、软件工程师,目前在波士顿LinkeDrive公司负责开发公司的API和数据分析工具。此前,曾在Abine公司构建网络爬虫和网络机器人。她经常做网络数据采集项目的咨询工作,主要面向金融和零售业。另著有Instant Web Scraping with Java。
|
目錄:
|
第一部分 创建爬虫
第1章 初见网络爬虫2
1.1 网络连接2
1.2 BeautifulSoup简介4
1.2.1 安装BeautifulSoup5
1.2.2 运行BeautifulSoup7
1.2.3 可靠的网络连接8
第2章 复杂HTML解析11
2.1 不是一直都要用锤子11
2.2 再端一碗BeautifulSoup12
2.2.1 BeautifulSoup的find和findAll13
2.2.2 其他BeautifulSoup对象15
2.2.3 导航树16
2.3 正则表达式19
2.4 正则表达式和BeautifulSoup23
2.5 获取属性24
2.6 Lambda表达式24
2.7 超越BeautifulSoup25
第3章 开始采集26
3.1 遍历单个域名26
3.2 采集整个网站30
3.3 通过互联网采集34
3.4 用Scrapy采集38
第4章 使用API42
4.1 API概述43
4.2 API通用规则43
4.2.1 方法44
4.2.2 验证44
4.3 服务器响应45
4.4 Echo Nest46
4.5 Twitter API48
4.5.1 开始48
4.5.2 几个示例50
4.6 Google API52
4.6.1 开始52
4.6.2 几个示例53
4.7 解析JSON数据55
4.8 回到主题56
4.9 再说一点API60
第5章 存储数据61
5.1 媒体文件61
5.2 把数据存储到CSV64
5.3 MySQL65
5.3.1 安装MySQL66
5.3.2 基本命令68
5.3.3 与Python整合71
5.3.4 数据库技术与最佳实践74
5.3.5 MySQL里的六度空间游戏75
5.4 Email77
第6章 读取文档80
6.1 文档编码80
6.2 纯文本81
6.3 CSV85
6.4 PDF87
6.5 微软Word和.docx88
第二部分 高级数据采集
第7章 数据清洗94
7.1 编写代码清洗数据94
7.2 数据存储后再清洗98
第8章 自然语言处理103
8.1 概括数据104
8.2 马尔可夫模型106
8.3 自然语言工具包112
8.3.1 安装与设置112
8.3.2 用NLTK做统计分析113
8.3.3 用NLTK做词性分析115
8.4 其他资源119
第9章 穿越网页表单与登录窗口进行采集120
9.1 Python Requests库120
9.2 提交一个基本表单121
9.3 单选按钮、复选框和其他输入123
9.4 提交文件和图像124
9.5 处理登录和cookie125
9.6 其他表单问题127
第10章 采集JavaScript128
10.1 JavaScript简介128
10.2 Ajax和动态HTML131
10.3 处理重定向137
第11章 图像识别与文字处理139
11.1 OCR库概述140
11.1.1 Pillow140
11.1.2 Tesseract140
11.1.3 NumPy141
11.2 处理格式规范的文字142
11.3 读取验证码与训练Tesseract146
11.4 获取验证码提交答案151
第12章 避开采集陷阱154
12.1 道德规范154
12.2 让网络机器人看起来像人类用户155
12.2.1 修改请求头155
12.2.2 处理cookie157
12.2.3 时间就是一切159
12.3 常见表单安全措施159
12.3.1 隐含输入字段值159
12.3.2 避免蜜罐160
12.4 问题检查表162
第13章 用爬虫测试网站164
13.1 测试简介164
13.2 Python单元测试165
13.3 Selenium单元测试168
13.4 Python单元测试与Selenium单元测试的选择172
第14章 远程采集174
14.1 为什么要用远程服务器174
14.1.1 避免IP地址被封杀174
14.1.2 移植性与扩展性175
14.2 Tor代理服务器176
14.3 远程主机177
14.3.1 从网站主机运行178
14.3.2 从云主机运行178
14.4 其他资源179
14.5 勇往直前180
附录A Python简介181
附录B 互联网简介184
附录C 网络数据采集的法律与道德约束188
作者简介200
封面介绍200
|
|