中文分词 Ansj

Apache
Java
跨平台
2012-09-06
ansj

Ansj中文分词

这是一个ictclas的java实现.基本上重写了所有的数据结构和算法.词典是用的开源版的ictclas所提供的.并且进行了部分的人工优化

内存中中文分词每秒钟大约100万字(速度上已经超越ictclas)

文件读取分词每秒钟大约30万字

准确率能达到96%以上

目前实现了.中文分词. 中文姓名识别 . 用户自定义词典

可以应用到自然语言处理等方面,适用于对分词效果要求高的各种项目.

如果你第一次下载只想测试测试效果可以调用这个简易接口

  String str = "欢迎使用ansj_seg,(ansj中文分词)在这里如果你遇到什么问题都可以联系我.我一定尽我所能.帮助大家.ansj_seg更快,更准,更自由!" ;
 System.out.println(ToAnalysis.paser(str));
 
 [欢迎/, 使用/, ansj/, _/, seg/, ,/, (/, ansj/, 中文/, 分词/, )/, 在/, 这里/, 如果/, 你/, 遇到/, 什么/, 问题/, 都/, 可以/, 联系/, 我/, 房/, 我/, 一定/, 尽/, 我/, 所/, 能/, ./, 帮助/, 大家/, ./, ansj/, _/, seg/, 更/, 快/, ,/, 更/, 准/, ,/, 更/, 自由/, !/]

这是一个简单的分词效果,你可以在test目录中找到他.当然.个别奇异性的处理无法代表整体分词.仅做参考

[脚下/f, 的/uj, 一大/j, 块/q, 方砖/n, 地面/n]
[长春/ns, 市长/n, 春节/t, 讲话/n]
[结婚/v, 的/uj, 和/c, 尚未/d, 结婚/v, 的/uj]
[结合/v, 成/v, 分子/n, 时/ng]
[旅游/vn, 和/c, 服务/vn, 是/v, 最/d, 好/a, 的/uj]
[邓颖/nr, 超生/v, 前/f, 最/d, 喜欢/v, 的/uj, 一个/m, 东西/n]
[中国/ns, 航天/n, 官员/n, 应邀/v, 到/v, 美国/ns, 与/p, 太空/s, 总署/n, 官员/n, 开会/v]
[上海/ns, 大学城/n, 书店/n]
[北京/ns, 大/a, 学生/n, 前来/v, 应聘/v]
[中外/j, 科学/n, 名著/n]
[为/p, 人民/n, 服务/vn]
[独立自主/i, 和/c, 平等互利/l, 的/uj, 原则/n]
[为/p, 人民/n, 办/v, 公益/n]
[这/r, 事/n, 的/uj, 确定/v, 不/d, 下来/v]
[费孝/nr, 通向/v, 人大常委会/nt, 提交/v, 书面/b, 报告/n]
[aaa/en, 分/q, 事实上/l, 发货/v, 丨/null, 和/c, 无/v, 哦/e, 喝/vg, 完/v, 酒/n]
[不好意思/a, 清清爽爽/z]
[长春市/ns, 春节/t, 讲话/n]
[中华人民共和国/ns, 万岁/n, 万岁/n, 万万岁/n]
[检察院/n, 鲍绍/nr, 检察长/n, 就是/d, 在/p, 世/ng, 诸葛/nr, ./m, 像/v, 诸葛亮/nr, 一样/u, 聪明/a]
[长春市/ns, 长春/ns, 药店/n]
[乒乓球拍/n, 卖/v, 完/v, 了/ul]
[计算机/n, 网络管理员/n, 用/p, 虚拟机/userDefine, 实现/v, 了/ul, 手机/n, 游戏/n, 下载/v, 和/c, 开源/v, 项目/n, 的/uj, 管理/vn, 金山/nz, 毒霸/nz]
[长春市/ns, 长春/ns, 药店/n]
[胡锦涛/nr, 与/p, 神/n, 九/m, 航天员/n, 首次/m, 实现/v, 天地/n, 双向/d, 视频/n, 通话/v]
[mysql/en, 不/d, 支持/v,  /null, 同台/v, 机器/n, 两个/m, mysql/en, 数据库/n, 之间/f, 做/v, 触发器/n]
[孙建/nr, 是/v, 一个/m, 好/a, 人/n, ./m, 他/r, 和/c, 蔡晴/nr, 是/v, 夫妻/n, 两/m,  /null, ,/null, 对于/p, 每/r, 一本/m, 好书/n, 他/r, 都/d, 原意/n, 一一/d, 读取/v, ../m, 他们/r, 都/d, 很/d, 喜欢/v, 元宵/n, ./m, 康燕/nr, 和/c, 他们/r, 住/v, 在/p, 一起/s, ./m, 我/r, 和/c, 马春亮/nr, ,/null, 韩鹏飞/nr, 都/d, 是/v, 好/a, 朋友/n, ,/null, 不/d, 知道/v, 什么/r, 原因/n]
[一年/m, 有/v, 三百六十五个/m, 日出/v,  /null, 我/r, 送/v, 你/r, 三百六十五个/m, 祝福/vn,  /null, 时钟/n, 每天/r, 转/v, 了/ul, 一千四百四十圈/m, 我/r, 的/uj, 心/n, 每天/r, 都/d, 藏/v, 着/uz,  /null, 一千四百四十多个/m, 思念/v,  /null, 每/r, 一天/m, 都/d, 要/v, 祝/v, 你/r, 快快乐乐/z,  /null,  /null, 每/r, 一分钟/m, 都/d, 盼望/v, 你/r, 平平安安/z,  /null, 吉祥/n, 的/uj, 光/n, 永远/d, 环绕/v, 着/uz, 你/r,  /null, 像/v, 那/r, 旭日东升/l, 灿烂/a, 无比/z,  /null]
[学校/n, 学费/n, 要/v, 一次性/d, 交/v, 一千元/m]
[发展/vn, 中国/ns, 家庭/n, 养猪/v, 事业/n]
[安徽省/ns, 是/v, 一个/m, 发展/vn, 中/f, 的/uj, 省/n]
[北京理工大学/nt, 办事处/n]


加载中

评论(2)

timtom
timtom
请问怎样才能用于android开发呢
andy_lee
andy_lee
证明2014年02月05日12时23分在周浦镇里仁村6组横桥路上,被分成了 证明 2014年 02月 05日 12 时 23分 在 周浦镇里仁村 6组 横桥 路上 ,先不说地址识别,时间应该是:2014年02月05日12时23分,感觉实体识别还是不靠谱 #Ansj#

ansj 中文分词 5.0.1 发布

ansj中文分词是一个完全开源的,基于google语义模型+条件随机场模型的中文分词的java实现.具有使用简单开箱即用等特点。分词速度达到每秒钟大约100万字左右(mac air下测试),准确率能达到9...

2016/07/30 11:06

基于 Ansj 的 elasticsearch 2.3.1 中文分词插件

前言 这是一个elasticsearch的中文分词插件,基于Ansj中文分词。发起者Onni大神。 2.3.1插件安装 进入Elasticsearch目录运行如下命令 进入es目录执行如下命令 ./bin/plugin install http:...

2016/04/25 14:16

Ansj 中文分词 1.41 发布

ansj中文分词是一个完全开源的,基于google语义模型+条件随机场模型的中文分词的java实现.具有使用简单开箱即用等特点。分词速度达到每秒钟大约100万字左右(mac air下测试),准确率能达到9...

2014/05/13 20:10

没有更多内容

加载失败,请刷新页面

没有更多内容

1
回答
关于ansj的API文档

@ansj 你好,想跟你请教个问题:从哪可以获得ansj的API文档

2017/01/17 11:49
1
回答
关于RegexUtils

@Acce1erator 你好,想跟你请教个问题:能否把RegexUtil.java 的源码贴出来?

2016/12/16 17:23
4
回答
请问中英文混合分词相关问题

@lite0505 @ansj 请问ansj支持中英文混合分词吗?它的自定义词典是否可以达到中英文分词? 请问中英文混合分词有什么技术吗!

2014/09/06 14:18
1
回答
ansj 分词 找不到class

@ansj 你好,想跟你请教个问题: 我下载的是 都是最新的: Exception in thread "main" java.lang.NoClassD...

2014/08/14 13:58
3
回答
关于创建ansj词库(包含词性)

@ansj 你好,想跟你请教个问题: "1.目前用户自定义词性是不支持的..因为用用户自定义的词性..无法做其他词性关联标注..解决办法..你外部弄一个 ...

2014/05/13 19:43
5
回答
如何批量删除自定义词典?

@ansj 你好,想跟你请教个问题: 我的自定义词典是放在数据库中,查找出来后通过UserDefineLibrary.insertWord一个一个添加。 ...

2014/04/16 16:46
3
回答
使用 Ansj 报错 java.lang.OutOfMemeryError
ansj 的回答 2014/04/15 14:41
最佳答案
不用nlp的分词方式。用toanalysis 这个内存需要的少点。其他别无办法。。。。我看这个错误。貌似你用户自定义辞典很大阿
1
回答
ansj如何安装?新手求支招啊

我是一名新手,希望大神能图文并茂地演示一下ansj的安装过程

2014/03/27 20:55
2
回答
Ansj分词中stopwords.dic如何使用

@ansj 你好,想跟你请教个问题:请Ansj分词中stopwords.dic如何使用呢?我想自己扩充的话,可以吗?

2012/11/15 11:48
1
回答
Ansj分词是否完全免费使用

@ansj 你好,想跟你请教个问题:请问Ansj这款分词工具目前是免费的吗?我们打算把ictclas4j撤下来换成这款,感谢分享!

2013/11/11 15:08

没有更多内容

加载失败,请刷新页面

中文分词效果对比

简单比较word分词、搜狗分词和ansj分词的分词效果

2014/04/29 19:04
1K
0
我的架构演化笔记 11:ES之ansj分词器之定制:动态支持StopWord及同义词功能

上一篇文章提到过方法,本文单独拿出来作为一个主题。 架构如下: 这里ansj分词器为了支持动态添加词汇,使用了Redis组件。 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ 首先要明白动态支持意味着...

2014/06/16 09:59
1K
0
我的架构演化笔记 10:ElasticSearch的分词器之ansj研究

架构不变,为了学习方便,直接研究ElasticSearch-rtf版本。 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ 关于redis---配置文件中指定 redis: pool: maxactive: 20 ...

2014/06/11 19:44
1K
0
Google开源的Deep-Learning项目word2vec处理中文

推荐word2Vec,说的非常强大、有意思。故找了篇文章看,分享下。 全文转自http://www.cnblogs.com/wowarsenal/p/3293586.html google最近新开放出word2vec项目,该项目使用deep-learning技术...

2016/06/15 11:03
19
0
Solr4.10和ANSJ 中文分词集成

根据Solr4.10中自带的ChineseTokenizer修改而成

2014/11/07 17:15
247
0
用户自定义词典

https://github.com/NLPchina/ansj_seg/wiki/用户自定义词典 Honghe edited this page 4 days ago · 16 revisions Ansj的一个喜人的功能就是支持用户自定义词典. 词典是基于tree_split项目来...

08/17 19:53
42
0
ANSJ 分词 用户自定义分词加载顺序

ToAnalysis 精准分词 精准分词是Ansj分词的店长推荐款 它在易用性,稳定性.准确性.以及分词效率上.都取得了一个不错的平衡.如果你初次尝试Ansj如果你想开箱即用.那么就用这个分词方式是不会错...

06/07 10:42
69
0
Java开源项目cws_evaluation:中文分词器分词效果评估

想知道最常用的9大Java中文分词是哪些吗? 想凑凑热闹看看分词效果大PK吗?

2014/08/30 23:02
1K
1
word分词器、ansj分词器、mmseg4j分词器、ik-analyzer分词器分词效果评估

word分词在千万字级(2837 4490字)超大规模人工标注语料库中分词完美率为:55.352688%。测试结果表明,bigram消歧效果良好,完美率提升10%。

2014/04/29 19:09
10K
4

没有更多内容

加载失败,请刷新页面

返回顶部
顶部