GPT2 正在参加 2020 年度 OSC 中国开源项目评选,请投票支持!
GPT2 在 2020 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
投票让它出道
已投票
授权协议: MIT
开发语言: Python 查看源码 »
操作系统: 跨平台
收录时间: 2019-06-11
提 交 者: h4cd

非官方 GPT-2 训练实现,支持 GPU 和 TPU。

GPT-2 是一种基于  transformer 的大型语言模型,具有 15 亿个参数,在 800 万网页数据集上进行训练。

依赖:

GPU

pip3 install tensorflow-gpu regex

TPU

pip3 install tensorflow regex google-api-python-client oauth2client

下载模型

pip3 install requests tqdm

生成数据集

pip3 install ftfy tqdm newspaper3k

展开阅读全文

代码

的 Gitee 指数为
超过 的项目

GPT2 的相关资讯

还没有任何资讯

GPT2 的相关博客

基于GPT2的中文闲聊机器人/GPT2 for Chinese chitchat

向AI转型的程序员都关注了这个号👇👇👇 机器学习AI算法工程 公众号:datayx 项目描述 本项目使用GPT2模型对中文闲聊语料...

Anaconda环境下GPT2-Chinese的基本使用记录

偶然在看到了这个项目,感觉很厉害,于是就折腾了下,跑了一跑 项目地址:https://github.com/Morizeyao/GPT2-Chinese 如果G...

如何用 GPT2 和 BERT 建立一个可信的 reddit 自动回复机器人?

https://www.leiphone.com/news/202002/YW1qrXmqEkBafCAq.html 上个月,我尝试构建一个 reddit 评论机器人,通过结合两个预先...

GPT2模型训练,50w个多轮中文对话语料

向AI转型的程序员都关注了这个号👇👇👇 机器学习AI算法工程 公众号:datayx GPT2 for Chinese chitchat 项目描述 本项目...

如何用 GPT2 和 BERT 建立一个可信的 reddit 自动回复机器人?

https://www.leiphone.com/news/202002/YW1qrXmqEkBafCAq.html 上个月,我尝试构建一个 reddit 评论机器人,通过结合两个预先...

使用深度学习模型创作动漫故事,比较LSTM和GPT2的文本生成方法

这个项目的动机是想看看在短短的几年时间里NLP领域的技术已经走了多远,特别是当它涉及到生成创造性内容的时候。通过生成动画...

基于 debian9 安装 Windows10 双系统 丢失引导文件的修复办法

基于debian9安装Windows10双系统 丢失引导文件的修复办法 一条命令修复启动项: 1 sudo grub-mkconfig -o /boot/efi/EFI/GRUB/...

Fedora 开机进grub,无法进os

=====原因是:grub.cfg文件出问题了,gpt1就是第一个分区,gpt2就是第二个分区…===== grub>set 发现root=(hd0,gpt1) ls (hd0...

Window10和Ubuntu 18.04双系统安装的引导问题解决

  作为码农   首先,建议了解下grub2的启动顺序和逻辑。可以参考这篇文章,grub.cfg详解。   从执行顺序倒推,如下如果...

UBUNTU切换内核

查询可更换内核的序号 gedit /boot/grub/grub.cfg 查询已安装的内核和内核的序号。找到文件中的menuentry (图中在一大堆fi-el...

GPT2 的相关问答

还没有任何问答,马上提问

评论 (0)

加载中
更多评论
0 评论
1 收藏
分享
返回顶部
顶部