• 欢迎访问搞代码网站,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站!
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏搞代码吧

python 怎么获取网页内容

python 搞代码 4年前 (2022-01-09) 19次浏览 已收录 0个评论

Python用做数据处理还是相当不错的,如果你想要做爬虫,Python是很好的选择,它有很多已经写好的类包,只要调用,即可完成很多复杂的功能。

1 Pyhton获取网页的内容(也就是源代码)(推荐学习:Python视频教程)

page = urllib2.urlopen(url)   contents = page.read()   #获得了整个网页的内容也就是源代码  print(contents)

url代表网址,contents代表网址所对应的源代码,urllib2是需要用到的包,以上三句代码就能获得网页的整个源代码

2 获取网页中想要的内容(先要获得网页源代码,再分析网页源代码,找所对应的标签,然后提取出标签中的内容)

以豆瓣电影排名为例子

现在我需要获得当前页面的所有电影的名字,评分,评价人数,链接

#coding:utf-8  ''''' @author: jsjxy '''  import urllib2   import re   from bs4 import BeautifulSoup  from distutils.filelist import findall  page = urllib2.urlopen('http://movie.douban.com/top250?format=text')   contents = page.read()    #print(contents)  soup = BeautifulSoup(contents,"html.parser")  print("豆瓣电影TOP250" + "\n" +" 影片名              评分       评价人数     链接 ")    for tag in soup.find_all('div', class_='info'):       # print tag      m_name = tag.find('span', class_='title').get_text()            m_rating_score = float(tag.find('span',class_='rating_num').get_text())              m_people<em>本文来源[email protected]搞@^&代*@码2网</em> = tag.find('div',class_="star")      m_span = m_people.findAll('span')      m_peoplecount = m_span[3].contents[0]      m_url=tag.find('a').get('href')      print( m_name+"        "  +  str(m_rating_score)   + "           " + m_peoplecount + "    " + m_url )

控制台输出,你也可以写入文件中

更多Python相关技术文章,请访问Python教程栏目进行学习!

以上就是python 怎么获取网页内容的详细内容,更多请关注搞代码gaodaima其它相关文章!


搞代码网(gaodaima.com)提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected],我们会在看到邮件的第一时间内为您处理,或直接联系QQ:872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:python 怎么获取网页内容

喜欢 (0)
[搞代码]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址