用于 TF 2.0 和 PyTorch 的自然语言处理框架 Transformers TF-PT

Apache-2.0
Python
跨平台
2019-10-09
h4cd

Transformers(以往称为 pytorch-transformers 和 pytorch-pretrained-bert)是用于 TensorFlow 2.0 和 PyTorch 的自然语言处理框架。它提供了用于自然语言理解(NLU,Natural Language Understanding)和自然语言生成(NLG,Natural Language Generation)的最先进的通用架构,包括 BERT、GPT-2、RoBERTa、XLM、DistilBert 与 XLNet 等,具有超过 100 种语言的 32 种以上经过预训练的模型,以及 TensorFlow 2.0 和 PyTorch 之间的深度互操作性。

特性:

  • 与 pytorch-transformers 一样易用
  • 像 Keras 一样强大与简洁
  • 处理 NLU 和 NLG 任务时性能高
  • 教育者和从业者的进入门槛低
  • 低计算成本,研究人员可以共享训练模型,不必再训练,内置 8 种架构,包含 30 多种预训练的模型,其中一些采用 100 多种语言
  • 3 行代码即可训练最先进的模型
  • TensorFlow 2.0 和 PyTorch 模型之间的深层互操作性,可以随意在两个框架之间移动单个模型
的码云指数为
超过 的项目
加载中

评论(0)

暂无评论

暂无资讯

暂无问答

🌊 Beating the state-of-the-art in NLP with HMTL

HMTL: 一个层级的多任务学习模型,利用同一个模型架构同时在不同的训练集上训练多种不同的任务。不同任务的难度不同,低难度的放在网络下层,直观的理解就是少量的参数及网络结构就可以搞定,...

05/21 17:40
9
0
RxJava系列10:理解rxjava中的compose

理解rxjava中的compose 一.compose基本概念及使用 引入: 1 2 如果我们相对多个流重复利用一系列操作符该怎么办? 一种方式是,提取一个工具方法,把复用的地方抽取成一个方法applySchedule...

2018/08/30 15:13
156
0
Maven shade的使用

有时你的工程里会和你的Spark环境出现包冲突,这时候可以用Maven shade将你的包名重命名,在maven里加上: <plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-shade...

2018/12/14 11:35
655
0
maven-shade-plugin打包可执行jar包及解决schema报错问题

org.xml.sax.SAXParseException: schema_reference.4: Failed to read schema document 'http://www.springframework.org/schema/beans/spring-beans-3.0.xsd', because 1) could not find t...

2014/11/06 10:17
106
0
maven-shade-plugin

最近,用规则引擎(drools)的封装了一个jar包,给别人使用。用的是maven-assembly-plugin打的包,可以把多个jar包里的class 给打成一个jar,感觉还是满好用的,但是打包成功后,发现报空指针错...

09/23 14:50
8
0
java.lang.StringIndexOutOfBoundsException: String index out of range: 0错误的原因

java.lang.StringIndexOutOfBoundsException: String index out of range: 0 在hibernate做查询的时候 List<?> listObject = sqlQuery .setFirstResult((currentPageIndex - 2) * showCount...

2015/10/10 14:05
1K
0
使用spark操作ensemble

// Ensemble源代码地址,https://github.com/XXXShao/EnsembleModelingInSpark // 需要打成jar包再导入方可使用 import Ensemble.{Ensembler,EnsembleModel} import org.apache.spark.ml.lin...

02/21 15:59
13
0
ceilometer的数据处理和管道

处理数据的机制称为管道。 在配置级别上,管道描述数据来源和相应的汇合点之间的耦合,用于转换和公布数据。 此功能由通知代理处理。 source是数据的生产者: samples 或 events 。 实际上, ...

2018/04/09 11:51
102
0
【转载】使用Hibernate Annotations 维护多对多关系的心得

说明 在HibernateAnnotations中通过@ManyToMany注解可定义多对多关联。同时,也需要通过注解@JoinTable描述关联表和关联条件。对于双向关联,其中一端必须定义为owner,另一端必须定义为inv...

2012/06/12 15:41
57
0

没有更多内容

加载失败,请刷新页面

返回顶部
顶部