分享

Python3.x Fiddler抓取APP数据

 雨润心田品风雨 2019-03-17

Fiddler官网下载地址:http://www./fiddl...,我是直接在百度搜索的下载版本

安装过程就是下一步下一步最后完成即可,安装好了以后需要配置一些内容

设置允许抓取HTTPS信息包

打开下载好的fiddler,找到 Tools -> Options,然后在HTTPS的工具栏下勾选Decrpt HTTPS traffic,在新弹出的选项栏下勾选Ignore server certificate errors。这样,fiddler就会抓取到HTTPS的信息包

想要学习Python?Python学习交流群:984632579满足你的需求,资料都已经上传群文件,可以自行下载!

Python3.x+Fiddler抓取APP数据

设置允许外部设备发送HTTP/HTTPS到fiddler

在Connections选项栏下勾选Allow remote computers to connect

Python3.x+Fiddler抓取APP数据

连通手机与电脑

想要抓取手机APP上的数据一大难点就在于,你并不知道他们数据请求的接口地址是多少,在PC端想要抓取一个网站的数据只要访问网址,用抓包工具就可以知道了,所以我们第一步先把环境配置好,就是在手机上访问地址(发送任何网络请求)都可以在电脑上通过Fiddler抓取到。

第一步:先保障手机和电脑上面连接网络,我这里是电脑连的网线,我单独安装了一个Wi-Fi共享精灵,手机(iphone6s)连接上共享出去的wifi

Python3.x+Fiddler抓取APP数据

第二步:查看电脑IP地址

先在电脑上打开cmd,输入ipconfig查看IP地址

Python3.x+Fiddler抓取APP数据

这里要注意IP地址用的是无线网络连接这个IP地址,不是本地连接的IP地址(坑点)

第三步:手机设置HTTP代理

打开手机无线网络连接,选择已经连接的网络连接,点击一个小圆圈叹号进入可以看到下图,选择配置代理,进入后把刚刚的IP地址输入进去,端口就是Fiddler中设置的8888即可。

Python3.x+Fiddler抓取APP数据

第四步:手机和电脑端安装证书

电脑端访问:http://localhost:8888/进行安装

Python3.x+Fiddler抓取APP数据

手机访问电脑的IP地址加端口8888即可,我这里的地址是:http://192.168.23.1:8888

Python3.x+Fiddler抓取APP数据

第五步:测试通过

最后就是来测试下,打开手机随便一个APP,去访问里面的内容,这时打开fiddler可以看到所发出的网络请求,我这里打开的是豆果美食APP

Python3.x+Fiddler抓取APP数据

分析手机APP请求地址

通过观察fiddler中的请求可以发现http://api./persona...,这个就是请求首页中的部分数据,直接把地址复制到网页中可以看到返回的JSON数据

Python3.x+Fiddler抓取APP数据

其实这部分内容是最重要也是最困难的一个环节,考验你工作年限的时候到了,要从中剥离出正确的API请求,并分析API中的数据结构,为后续数据分析做准备。

Python3.x爬虫获取数据

这里直接通过urllib.request进行请求即可,这里并没有使用框架,代码如下:

Python3.x+Fiddler抓取APP数据

运行代码结果打印数据如下

Python3.x+Fiddler抓取APP数据

后续对这个数据是存储,还是分析就是后续的操作了,到此我们就已经完成了从手机APP中提取数据的步骤

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多