抓取单个网站网页内容时通常采用正则匹配的方式，但不同网站之间结构千奇百怪，很难用统一的正则表达式进行匹配。《基于行块分布函数的通用网页正文抽取算法》的作者总结了一般从网页中提取文章正文的方法，提出基于行块分布的正文抽取算法，并给出了 PHP 、本文来源gaodai#ma#com搞*!代#%^码网%Java 等实现。这一算法的主要原理基于两点：1、正文区密度：在去除HTML中所有tag之后，正文区字符密度更高，较少出现多行空白；2、行块长度：非正文区域的内容一般单独标签（行块）中较短。算法步骤如下：
1、去除所有tag，包括样式、Js脚本内容等，但保留原有的换行符\n
2、将网页内容按行分割，定义行块 $block_i$ 为第 $[i, i + blockSize]$ 行文本之和并给出行块长度基于行号的分布函数：
3、正文出现在最长的行块，截取两边至行块长度为 0 的范围：
4、如果需要提取正文区域出现的图片，只需要在第一步去除tag时保留<img>标签的内容：
以上就是【python教程】网页正文及内容图片提取算法的内容，更多相关内容请关注搞代码（www.gaodaima.com）！
搞代码网（gaodaima.com）提供的所有资源部分来自互联网，如果有侵犯您的版权或其他权益，请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected]，我们会在看到邮件的第一时间内为您处理，或直接联系QQ：872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接：【python教程】网页正文及内容图片提取算法
转载请注明原文链接：【python教程】网页正文及内容图片提取算法
