在开发自用爬虫过程中，有的网页是utf-8，有的是gb2312,有的是gbk，如果不加处理，采集到的都是乱码，解决的方法是将html处理成统一的utf-8编码
版本python2.7
#coding:utf-8import chardet#抓取网页htmlline = "http://www.pythontab.com"html_1 = urllib2.urlopen(line,timeout=120).read()encoding_dict = chardet.detect(html_1)prin<strong style="color:transparent">本文来源gaodai#ma#com搞@@代~&码网^</strong>t encodingweb_encoding = encoding_dict['encoding']#处理，整个html就不会是乱码。if web_encoding == 'utf-8' or web_encoding == 'UTF-8':html = html_1else :html = html_1.decode('gbk','ignore').encode('utf-8')
搞代码网（gaodaima.com）提供的所有资源部分来自互联网，如果有侵犯您的版权或其他权益，请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected]，我们会在看到邮件的第一时间内为您处理，或直接联系QQ：872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接：python处理抓取中文编码和判断编码
转载请注明原文链接：python处理抓取中文编码和判断编码
