字符串String中tag提取

为了便于进行内容cat归属,需要对string中的tag进行提取,这个tag的含义就广了,指导思想:尽量多

research了一些tag提取的方法:
1. 说的最基础的当然是 TF-IDF算法,可惜不怎么适用;
2. 第一个想到支持一下本校的成果:pkusumsum,当然里面也是基于一些常用的算法,实际测试只能提取document级别的文本,csdn自动识别tag可能与这个有关,当然我觉得更可能的是直接匹配tag库;
3. textrank算法: 大概看了一下思路,和pagerank一样,相连的词就有一次打分,不适用;
4. rake算法,应该是几个发明者的首字母简写,看一下源码,我擦,这尼玛也太简单了吧,就是stopword停用词切分,然后排序,好吧,那就这个吧

最后选用rake算法,然后对phrase二次切分,结合tag库的匹配,实现了一套粗暴的tag提取算法

这套算法限制:1.需要输入有意义的句子,否则tag提取很乱,比如twitter文本就不是很合适;
优点:简单粗暴,而且还可以基于tag库扩展

猜你喜欢

转载自blog.csdn.net/chijiaodaxie/article/details/77072811