神经机器翻译工具包 THUMT

BSD
Python
跨平台
2017-06-22
王练

THUMT 是由清华大学自然语言处理组开发的数据驱动机器翻译系统。

机器翻译是一种自然语言处理任务,其目的是使用计算机自动翻译自然语言。近几年来,端到端的神经机器翻译发展迅速,已经成为机器翻译系统的新主流。

THUMT 是用于神经机器翻译的开源工具包,构建于 Theano 之上,具有以下特点:

  • 基于 Attention 的翻译模型。 THUMT 应用了标准的 attention 编码器-解码器框架。

  • 最低风险训练。除了标准最大似然估计(MLE)之外,THUMT 还支持最小风险训练(MRT),其目的是找到一组模型参数,以最小化使用训练数据评估指标(如 BLEU)计算的预期损失。

  • 使用单一语言语料库:THUMT 为 NMT 提供了半监督训练(SST)能力,能够利用丰富的单语语料库资源来改善源-目标和目标-源 NMT 模型的学习。

  • 可视化。为了更好地了解 NMT 的内部工作,THUMT 提供了一个可视化工具来演示每个中间状态与其相关语境之间的相关性。

加载中
此软件有 3 条评论,请先登录后再查看。

暂无资讯

暂无问答

Transformers Assemble(PART III)

写在前面 这一期魔改Transformers主要关注对原始模型中位置信息的讨论与优化, 「Self-Attention with RPR from Google,NAACL2018」 「Self-Attention with SPR from Tencent,EMNLP 2019」...

02/20 10:59
0
0

没有更多内容

加载失败,请刷新页面

没有更多内容

返回顶部
顶部