前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
基本环境配置
- python 3.6
- pycharm
- requests
- parsel
打开开发者工具分析网页
1、选择一个应用的下载地址
2、打开开发者工具，清空数据，选择Network
3、点击立即下载
4、就会发现下载地址
把链接地址复制，在网页源代码中搜索，查看是否网页是否有返回该数据
- 有数据： 就可以直接请求网页获取地址；
- 没有数据： 那就要在开发这工具里面找是否有接口数据，然后一步一步在进行分析；
实现效果
完整代码
<span>import</span><span> requests
</span><span>import</span><span> parsel
</span><span>def</span><span> download(url, title):
path </span>= <span>"</span><span>D:pythondemo应用宝手机APP软件APP软件</span><span>"</span> + title + <span>"</span><span>.apk</span><span>"</span><span>
response </span>= requests.get(url=url, headers=<span>headers)
with open(path, mode</span>=<span>"</span><span>wb</span><span>"</span><span>) as f:
f.write(response.content)
</span><span>for</span> page <span>in</span> range(100, 123<span>):
url </span>= <span>"</span><span>https://sj.qq.com/myapp/category.htm?orgame=1&categoryId={}</span><span>"</span><span>.format(page)
headers </span>=<span> {
</span><span>"</span><span>User-Agent</span><span>"</span>: <span>"</span><span>Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36</span><span>"</span><span>
}
response </span>= requests.get(url=url, headers=<span>headers)
selector </span>=<span> parsel.Selector(response.text)
lis </span>= selector.css(<span>"</span><span>.main ul li</span><span>"</span><span>)
</span><span>for</span> li <span>in</span><span> lis:
title </span>= li.css(<span>"</span><span>.app-info-desc a:nth-child(1)::text</span><span>"</span><span>).get()
apk_url </span>= li.css(<span>"</span><span>.app-info-desc a:nth-child(4)::attr(ex_url)</span><span>"</span><span>).get()
</span><span>print</span><span>(title, apk_url)
download(apk_url, title)</span>
www#gaodaima.com来源[email protected]搞@^&代*@码)网搞代码
搞代码网（gaodaima.com）提供的所有资源部分来自互联网，如果有侵犯您的版权或其他权益，请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected]，我们会在看到邮件的第一时间内为您处理，或直接联系QQ：872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接：Python代码爬取下载应用宝所有APP软件
转载请注明原文链接：Python代码爬取下载应用宝所有APP软件
