GPT-2 正在参加 2020 年度 OSC 中国开源项目评选,请投票支持!
GPT-2 在 2020 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
投票让它出道
已投票
授权协议: MIT
开发语言: Python 查看源码 »
操作系统: 跨平台
收录时间: 2019-06-11
提 交 者: h4cd

GPT-2 是一种基于 transformer 的大型语言模型,具有 15 亿个参数,在 800 万网页数据集上进行训练。

它是论文《语言模型是无人监督的多任务学习者》(Language Models are Unsupervised Multitask Learners)的代码实现。

目前发布了 GPT-2 的小型(117M 参数)和中型(345M 参数)版本,还没有发布更大的模型,但已经发布了一个数据集供研究人员研究行为。该存储库旨在成为研究人员和工程师尝试使用 GPT-2 的起点。

 

 

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

GPT-2 的相关资讯

还没有任何资讯

GPT-2 的相关博客

广告行业中那些趣事系列20:GPT、GPT-2到GPT-3,你想要的这里都有

导读:本文是“数据拾光者”专栏的第二十篇文章,这个系列将介绍在广告行业中自然语言处理和推荐系统实践。本文主要分享本篇主...

GPT

用Diskpart建立GPT磁盘、分区教程   UEFI BIOS,比传统BIOS先进得多。它的标准已经制定了很多年,在某些领域已经运用了很多...

GPT-2,吓坏创造者的「深度造假写手」

简评: 今年二月份刷屏的 GPT-2 着实厉害,那个生成续写故事的例子更是效果好到吓人一跳,它到底有多厉害,本文略微讲讲。更详...

GPT-2,吓坏创造者的「深度造假写手」

简评: 今年二月份刷屏的 GPT-2 着实厉害,那个生成续写故事的例子更是效果好到吓人一跳,它到底有多厉害,本文略微讲讲。更详...

MBR && GPT

MBR 是英文Master Boot Record的缩写, 又叫做主引导扇区 。是计算机开机后访问硬盘时所必须要读取的首个扇区,所以硬盘的0柱...

GPT-1 & 2: 预训练+微调带来的奇迹

最近要开始使用Transformer去做一些事情了,特地把与此相关的知识点记录下来,构建相关的、完整的知识结构体系。 以下是要写的...

详解MBR与GPT

介绍以下MBR和GPT的引导原理以及二者的区别

浅谈 MBR & GPT

## 分区表 一个磁盘抛开物理组成部分的话,就是一个地址序列,这个序列从0~n-1,每个地址包含512B(字节)的控件。一般我们将这...

GPT-2的大规模部署:AI Dungeon 2 如何支撑百万级用户

https://www.leiphone.com/news/202002/TkUTWKnjWSB9dtHL.html 早在 2019 年 3 月,我就建立了一个名为 AI Dungeon 的 hackat...

GPT分区格式

1. GPT定义 全局唯一标识分区表(GUID partition table, 缩写:GPT)是一个实体硬盘的分区表的结构布局的标准。它是可扩展固...

GPT-2 的相关问答

还没有任何问答,马上提问

评论 (0)

加载中
更多评论
0 评论
1 收藏
分享
返回顶部
顶部