文章目录
-
- 一、前言
- 二、需要导入的库
- 三、实现过程
-
-
- 1、下载链接分析
- 2、代码分析
- 3、完整代码
-
- 四、Blogger's speech
(免费学习推荐:python视频教程)
一、前言
之前爬取了很多静态网页的内容,包括:小说、图片等等,今天我来尝试一下动态网页的爬取。众所周知,百度图片就是一个动态网页。那么,冲!冲!!冲!!!
二、需要导入的库
import requestsimport jsonimport os
三、实现过程
1、下载链接分析
首先,打开百度,搜索一个内容,这里搜索的是男神(本人 )——彭于晏
然后,打开抓包工具,选择XHR选项,按Ctrl+R,然后你会发现,随着你鼠标的滑动,右侧会出现一个又一个的数据包。
(这里没滑动太多,一开始因为滑动太多,录的GIF超5M了)
然后,选一个包,查看它的headers,如图:
截取之后,粘贴在记事本上,作为一个URL,后文会用到。
这里有很多很多的参数,我也不知道具体哪些是可以忽略的,后文就索性全复制下来了,具体看后文。
到这里,能够直接观察到的内容就结束了,接下来,借助代码,帮我们打开另一个世界的大门
冲就完事了!
2、代码分析
首先:把上述中的“其它参数”组在一起。
自己做的话,最好复制自己的“其它参数”。
之后,我们可以先提取一下试试,并且把编码格式改成'utf-8'
url = 'https://image.baidu.com/search/acjson?' param = { 'tn': 'resultjson_com', 'logid': ' 7517080705015306512', 'ipn': 'rj', 'ct': '201326592', 'is': '', 'fp': 'result', 'queryWord': '彭于晏', 'cl': '2', 'lm': '-1', 'ie': 'utf-8', 'oe': 'utf-8', 'adpicid': '', 'st': '', 'z': '', 'ic': '', 'hd': '', 'latest': '', 'copyright': '', 'word': '彭于晏', 's': '', 'se': '', 'tab': '', 'width': '', 'height': '', 'face': '', 'istype': '', 'qc': '', 'nc': '1', 'fr': '', 'expermode': '', 'force': '', 'cg': 'star', 'pn': &<span style="color:transparent">来1源gaodai#ma#com搞*代#码1网</span>#39;30', 'rn': '30', 'gsm': '1e', } # 将编码形式转换为utf-8 response = requests.get(url=url, headers=header, params=param) response.encoding = 'utf-8' response = response.text print(response)