高性能的java 开源分词器

jcseg是使用Java开发的一个中文分词器,使用流行的mmseg算法实现。

1。目前最高版本:jcseg 1.7.2。 兼容最高版本的lucene。

2。mmseg四种过滤算法,分词准确率达到了98.4%。

3。支持自定义词库。在lexicon文件夹下,可以随便添加/删除/更改词库和词库内容,并且对词库进行了分类。如何给jcseg添加词库/新词

4。词库整合了《现代汉语词典》和cc-cedict辞典中的词条,并且依据cc-cedict词典为词条标上了拼音,依据《中华同义词词典》为词条标上了同义词(尚未完成)。更改jcseg.properties配置文档可以在分词的时候加入拼音和同义词到分词结果中。(1.7.0版后),jcseg新版词库

5。中文数字和中文分数识别,例如:"一百五十个人都来了,四十分之一的人。"中的"一百五十"和"四十分之一"。并且jcseg会自动将其转换为阿拉伯数字加入到分词结果中。如:150, 1/40。(1.7.0版后)。

6。支持中英混合词的识别。例如:B超, x射线。

7。更好的英文支持,电子邮件,网址,小数,分数,百分数,字母和标点组合词(例如C++, c#)的识别。(这个对购物网站来说很重要, 1.7.0版后)。

8。支持阿拉伯/中文数字基本单字单位的识别,例如2012年,五折,并且jcseg会将其转换为“5折”加入分词结果中。

9。智能圆角半角转换。

10。特殊字母识别:例如:Ⅰ,Ⅱ

扫描二维码关注公众号,回复: 15108442 查看本文章

11。特殊数字识别:例如:①,⑩

12。配对标点内容提取:例如:最好的Java书《java编程思想》,‘畅想杯黑客技术大赛’,被《,‘,“,『标点标记的内容。(1.6.8版开始支持)。

13。智能中文人名识别。中文人名识别正确率达94%以上。(可以维护lex-lname.lex,lex-dname-1.lex,lex-dname-2.lex来提高准确率)。

jcseg佩带了一个jcseg.properties文件,只要有使用文本编辑器你就可以自主的编辑里面的选项,配置适合不同场合的分词应用。例如:最大匹配词数,是否开启中文人名识别,是否记载词条拼音,是否载入词条同义词等等。

详细了解:http://code.google.com/p/jcseg

下载jcseg:http://code.google.com/p/jcseg/downloads/list

猜你喜欢

转载自blog.csdn.net/yangjian8801/article/details/8465833
今日推荐