这篇文章主要介绍了Python文本统计功能之西游记用字统计操作,结合实例形式分析了Python文本读取、遍历、统计等相关操作技巧,需要的朋友可以参考下
本文实例讲述了Python文本统计功能之西游记用字统计操作。分享给大家供大家参考，具体如下：
一、数据
xyj.txt，《西游记》的文本，2.2MB
致敬吴承恩大师，4020行（段）
二、目标
统计《西游记》中：
1. 共出现了多少个不同的汉字；
2. 每个汉字出现了多少次；
3. 出现得最频繁的汉字有哪些。
三、涉及内容：
1. 读文件；
2. 字典的使用；
3. 字典的排序；
4. 写文件
四、效果
五、源代码
# coding:utf8import sysreload(sys)sys.setdefaultencoding("utf8")fr = open('xyj.txt', 'r')characters = []stat = {}for line in fr: # 去掉每一行两边的空白 line = line.strip() # 如果为空行则跳过该轮循环 if len(line) == 0: continue # 将文本转为unicode，便于处理汉字 line = unicode(line) # 遍历该行的每一个字 for x in xrange(0, len(line)): # 去掉标点符号和空白符 if line[x] in [' ','', '\t', '\n', '。', '，', '(', ')', '（', '）', '：', '□', '？', '！', '《', '》', '、', '；', '“', '”', '……']: co<div style="color:transparent">本文来源gaodai.ma#com搞#代!码(网</div>ntinue # 尚未记录在characters中 if not line[x] in characters: characters.append(line[x]) # 尚未记录在stat中 if not stat.has_key(line[x]): stat[line[x]] = 0 # 汉字出现次数加1 stat[line[x]] += 1print len(characters)print len(stat)# lambda生成一个临时函数# d表示字典的每一对键值对，d[0]为key，d[1]为value# reverse为True表示降序排序stat = sorted(stat.items(), key=lambda d:d[1], reverse=True)fw = open('result.csv', 'w')for item in stat: # 进行字符串拼接之前，需要将int转为str fw.write(item[0] + ',' + str(item[1]) + '\n')fr.close()fw.close()
相关推荐：
Python文本特征抽取与向量化算法学习实例详解
Python文本相似性计算之编辑距离详解
以上就是Python文本统计功能之西游记用字统计操作的详细内容，更多请关注搞代码gaodaima其它相关文章！
搞代码网（gaodaima.com）提供的所有资源部分来自互联网，如果有侵犯您的版权或其他权益，请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected]，我们会在看到邮件的第一时间内为您处理，或直接联系QQ：872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接：Python文本统计功能之西游记用字统计操作
转载请注明原文链接：Python文本统计功能之西游记用字统计操作
