第7章-1 词频统计 (30分)

请编写程序,对一段英文文本,统计其中所有不同单词的个数,以及词频最大的前10%的单词。

所谓“单词”,是指由不超过80个单词字符组成的连续字符串,但长度超过15的单词将只截取保留前15个单词字符。而合法的“单词字符”为大小写字母、数字和下划线,其它字符均认为是单词分隔符。

输入格式:

输入给出一段非空文本,最后以符号#结尾。输入保证存在至少10个不同的单词。

输出格式:

在第一行中输出文本中所有不同单词的个数。注意“单词”不区分英文大小写,例如“PAT”和“pat”被认为是同一个单词。

随后按照词频递减的顺序,按照词频:单词的格式输出词频最大的前10%的单词。若有并列,则按递增字典序输出。

输入样例:

This is a test.

The word "this" is the word with the highest frequency.

Longlonglonglongword should be cut off, so is considered as the same as longlonglonglonee.  But this_8 is different than this, and this, and this...#
this line should be ignored.

输出样例:(注意:虽然单词the也出现了4次,但因为我们只要输出前10%(即23个单词中的前2个)单词,而按照字母序,the排第3位,所以不输出。)

23
5:this
4:is

思路:

1.输入:
由于输入有多行,为方便处理,直接用系统标准输入模块,sys.stdin将所有文字一次读入。find()函数找到“#"所在下标并切片。
2:处理:
遍历字符串,将所有非法字符(非数字、字母、下划线)记录到一个集合中。随后将字符串中所有这些非法字符用replace替换空格,作为分隔符。
由于不区分大小写,因此字符串先转为小写,用split以空格作为分割建立一个单词列表(注意,因为存在多个连续空格,所以会有空串""存在
建立字典,将所有单词(前15个切片)和其词频存放到字典中,最后需要del删除空串项。之后用sorted,以词频为主要关键字,单词字典序为次要关键字,将字典中的每一项排序。

源码:

import sys
s=sys.stdin.read()
s=s[:s.find("#")]
#构建一个字符串中所有非数字、字母、下划线的字符的集合
t=set([i if i.isalnum()==False and i!='_' else " " for i in s ])
for i in t:
    #将字符串中所有非法字符替换为空格
    s=s.replace(i," ")
#所有字符转小写,并将字符串以空格为分割建立一个列表,每一项为一个小写单词
word=s.lower().split(" ")
dic={}
for i in word:
    #取长度为15的单词
    i=i[:15]
    dic[i]=dic.get(i,0)+1
#由于初始字符串中有多个连续空格,因此split()时会有空字符串存在,需要删除
del dic[""]
#排序,以词频为主要关键字,字典序为次要关键序,'-'表示降序
result=sorted(dic.items(),key=lambda x:(-x[1],x[0]))
print(len(result))
all=int(0.1*len(result))
for i in range(0,all):
    print(str(result[i][1])+":"+result[i][0])
发布了97 篇原创文章 · 获赞 12 · 访问量 2406

猜你喜欢

转载自blog.csdn.net/weixin_43301333/article/details/104040072