HanLP 1.7.0 发布,新增文本聚类、流水线分词

h4cd
 h4cd
发布于 2018年11月13日
收藏 23

HanLP 1.7.0 发布了,HanLP 是由一系列模型与算法组成的 Java 工具包,目标是普及自然语言处理在生产环境中的应用。HanLP 具备功能完善、性能高效、架构清晰、语料时新、可自定义的特点。 在提供丰富功能的同时,HanLP 内部模块坚持低耦合、模型坚持惰性加载、服务坚持静态提供、词典坚持明文发布,使用非常方便,同时自带一些语料处理工具,帮助用户训练自己的模型。

更新如下:

  • 新增文本聚类模块(k-means和repeated bisection)

  • 词法分析器新增流水线模式

  • 词法分析器加入规则 enableRuleBasedSegment #991

  • 支持通过 JVM 的启动参数指定 data 路径:java -DHANLP_ROOT=/opt/hanlp 则加载/opt/hanlp/data #983

  • 分词断句支持指定断句颗粒 #1018

  • CustomDictionary.insert("新词语", "词性标签") 支持省略频次

  • NeuralNetworkDependencyParser 构造函数接受 Segment

  • TextRankKeyword 支持构造自任意分词器

  • 优化双数组 trie 树,构建后自动 shrink 到最低内存 #984

  • 修订简繁词典

  • 微调 ngram 和 nr 模型

  • 新数据包 data-for-1.7.0.zip MD5 = 4c396f3039230ddfcef20865264512b1

  • Portable 版同步升级到 v1.7.0

        <dependency>
            <groupId>com.hankcs</groupId>
            <artifactId>hanlp</artifactId>
            <version>portable-1.7.0</version>
        </dependency>

发布公告

下载地址:

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:HanLP 1.7.0 发布,新增文本聚类、流水线分词
加载中

最新评论(1

Moodys
Moodys
很好用
返回顶部
顶部