万妖之祖txt下载,快乐麻花网,2017世乒赛女单决赛
文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。
作者： 静觅 崔庆才
ps：如有需要python学习资料的小伙伴可以加点击下方链接自行获取
“得到” app 是罗辑思维出品的一款碎片时间学习的 app，app 内有很多学习资源。不过 “得到” app 没有对应的网页版，所以信息必须要通过 app 才可以获取。这次我们通过抓取其 app 来练习 mitmdump 的用法。
我们的爬取目标是 app 内电子书版块的电子书信息，并将信息保存到 mongodb，如图所示。
我们要把图书的名称、简介、封面、价格爬取下来，不过这次爬取的侧重点还是了解 mitmdump 工具的用法，所以暂不涉及自动化爬取，app 的操作还是手动进行。mitmdump 负责捕捉响应并将数据提取保存。
2. 准备工作
请确保已经正确安装好了 mitmproxy 和 mitmdump，手机和 pc 处于同一个局域网下，同时配置好了 mitmproxy 的 ca 证书，安装好 mongodb 并运行其服务，安装 pymongo 库，具体的配置可以参考第 1 章的说明。
3. 抓取分析
首先探寻一下当前页面的 url 和返回内容，我们编写一个脚本如下所示：
1 def response(flow): 2 print(flow.request.url) 3 print(flow.response.text)
这里只输出了请求的 url 和响应的 body 内容，也就是请求链接和响应内容这两个最关键的部分。脚本保存名称为 script.py。
接下来运行 mitmdump，命令如下所示：
mitmdump -s script.py
打开 “得到” app 的电子书页面，便可以看到 pc 端控制台有相应输出。接着滑动页面加载更多电子书，控制台新出现的输出内容就是 app 发出的新的加载请求，包含了下一页的电子书内容。控制台输出结果示例如图 所示。 
可以看到 url 为 https://dedao.igetget.com/v3/discover/booklist 的接口，其后面还加了一个 sign 参数。通过 url 的名称，可以确定这就是获取电子书列表的接口。在 url 的下方输出的是响应内容，是一个 json 格式的字符串，我们将它格式化，如图 所示。
格式化后的内容包含一个 c 字段、一个 list 字段，list 的每个元素都包含价格、标题、描述等内容。第一个返回结果是电子书《情人》，而此时 app 的内容也是这本电子书，描述的内容和价格也是完全匹配的，app 页面如图所示。
这就说明当前接口就是获取电子书信息的接口，我们只需要从这个接口来获取内容就好了。然后解析返回结果，将结果保存到数据库。
4. 数据抓取
接下来我们需要对接口做过滤限制，抓取如上分析的接口，再提取结果中的对应字段。
这里，我们修改脚本如下所示：
我要评论 1 import json
2 from mitmproxy import ctx
3
4 def response(flow):
5 url = 'https://dedao.igetget.com/v3/discover/booklist'
6 if flow.request.url.startswith(url):
7 text = flow.response.text
8 data = json.loads(text)
9 books = data.get('c').get('list')
10 for book in books:
11 ctx.log.info(str(book))
重新滑动电子书页面，在 pc 端控制台观察输出，如图所示。
控制台输出
现在输出了图书的全部信息，一本图书信息对应一条 json 格式的数据。
5. 提取保存
接下来我们需要提取信息，再把信息保存到数据库中。方便起见，我们选择 mongodb 数据库。
脚本还可以增加提取信息和保存信息的部分，修改代码如下所示：
1 import json
2 import pymongo
3 from mitmproxy import ctx
4
5 client = pymongo.mongoclient('localhost')
6 db = client['igetget']
7 collection = db['books']
8
9 def response(flow):
10 global collection
11 url = 'https://dedao.igetget.com/v3/discover/booklist'
12 if flow.request.url.startswith(url):
13 text = flow.response.text
14 data = json.loads(text)
15 books = data.get('c').get('list')
16 for book in books:
17 data = {'title': book.get('operating_title'),
18 'cover': book.get('cover'),
19 'summary': book.get('other_share_summary'),
20 'price': book.get('price')
21 }
22 ctx.log.info(str(data))
23 collection.insert(data)
重新滑动页面，控制台便会输出信息，如图所示。
现在输出的每一条内容都是经过提取之后的内容，包含了电子书的标题、封面、描述、价格信息。
最开始我们声明了 mongodb 的数据库连接，提取出信息之后调用该对象的 insert() 方法将数据插入到数据库即可。
滑动几页，发现所有图书信息都被保存到 mongodb 中，如图所示。
目前为止，我们利用一个非常简单的脚本把 “得到” app 的电子书信息保存下来。
1 import json
2 import pymongo
3 from mitmproxy import ctx
4
5 client = pymongo.mongoclient('localhost')
6 db = client['igetget']
7 collection = db['books']
8
9
10 def response(flow):
11 global collection
12 url = 'https://dedao.igetget.com/v3/discover/booklist'
13 if flow.request.url.startswith(url):
14 text = flow.response.text
15 data = json.loads(text)
16 books = data.get('c').get('list')
17 for book in books:
18 data = {
19 'title': book.get('operating_title'),
20 'cover': book.get('cover'),
21 'summary': book.get('other_share_summary'),
22 'price': book.get('price')
23 }
24 ctx.log.info(str(data))
25 collection.insert(data)
如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复
新手学习Python2和Python3中print不同的用法
Python基于os.environ从windows获取环境变量
网友评论