如何利用python实现词频统计功能

词频统计用途很广泛,比如我们统计某篇文章中的用词频率,网络热点词汇,再比如起名排行榜呀、热门旅游景点排行榜呀什么的,其实也都可以套用,这篇文章主要给大家介绍了关于如何利用python实现词频统计功能的相关资料,需要的朋友可以参考下

功能要求

这是我们老师的作业代码中都有注释要求词频统计软件：

1）从文本中读入数据：（文件的输入输出）

2）不区分大小写,去除特殊字符。

3）统计单词例如：about ：10 并统计总共多少单词

4）对单词排序。出现次数

5）输出词频最高的10个单词和次数

6）把统计结果存入文本

方法如下

1.文件的读取，区分大小写，去除特殊字符

 import re def getword(): # 读取文件 f=open('read.txt','r',encoding='utf-8') # 将大写转化成小写 word=f.read().lower() # 关闭文件 f.close() #利用正则除去特殊字符   |\符+ list=re.split('\s+|\,+|\.+|\!+|\:+|\?+|\;+|\(+|\)+|\-+|\_+|\=+|\++|\“+|\、+|\/+|\{+|\}+|\”+|\：+|\。+|\“+|\[+|\]+|\【+|\】+|\―+|\%+|\"+',word) # 遍历列表 去除列表中的空格 i = 0 while i

2. 统计，排序

 from getfilewords import getword def statistics(): dict={}  #定义一个空的字典，在后面的运算中逐步添加数据 words=getword() for word in words: #遍历整个列表 if word in dict.keys():  #判断当前单词是否已经存在 dict.keys()是已存进字典中的单词 # 补充：keys() 方法用于返回字典中的所有键； # values() 方法用于返回字典中所有键对应的值； #详情见Test1 dict[word]=dict[word]+1  #在当前单词的个数上加 1 else: dict[word]=1  #当前单词第一次出现时 会把单词写入dict字典里 格式为 ‘单词'=1 #排序 w_order=sorted(dict.items(),key=lambda x:x[1],reverse=True) # print(dict.items()) # dict.items()返回的是列表 # 按字典集合中，每一个元组的第二个元素排列。 # sorted会对dict.items()这个list进行遍历，把list中的每一个元素，也就是每一个tuple()当做x传入匿名函数lambda x：x[1],函数返回值为x[1] # reverse属性True为降序 False为升序 return w_order #返回排序后的列表

3.结果写入文本

 from WordStatistics import statistics def writefile(): w_order=statistics() f = open('result.txt', 'w',encoding='utf-8') print("文章单词总个数:",+len(getword()),file=f) print("文章单词总个数:", +len(getword())) # 写入文件 print("词频最高的10个单词和次数",file=f) print("词频最高的10个单词和次数") w_order10=w_order[:10]#将列表的前十位提取并且遍历 输出key(单词)和values(次数) for key,values in w_order10: print(key,':',values,file=f) print(key, ':', values) #遍历列表中的所有数据 print("统计结果",file=f) for key,values in w_order: print(key,':',values,file=f) f.close()#关闭文件

4.程序入口

 import os from writefile import writefile print("词频统计软件") print("正在统计中。。。") print("统计成功，结果保存到result.txt") writefile() print("程序运行结束") os.system("pause")

5.运行截图这是需要统计的文本