PyTorch 1.0 首个 RC 版本发布,包含大量重要特性

王练
 王练
发布于 2018年10月03日
收藏 3

PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。

亮点

JIT

这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。 

使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

# Write in Python, run anywhere!
@torch.jit.script
def RNN(x, h, W_h, U_h, b_h):
  y = []
  for t in range(x.size(0)):
    h = torch.tanh(x[t] @ W_h + h @ U_h + b_h)
    y += [h]
  return torch.stack(y), h

torch.distributed new "C10D" library

新增全新异步后端库 C10D,支持 torch.distributed 包和 torch.nn.parallel.DistributedDataParallel 模块。该库的亮点包括:

  • C10D 是由性能驱动,完全异步所有的后端工作:GlooNCCL,和 MPI

  • 显著的分布式数据并行性能改进,尤其适用于基于以太网的主机等较慢的网络。

  • 为 torch.distributed 包中的所有分布式集合操作添加异步支持。

  • 在 Gloo 后端添加 send 和 recv 支持。

C++ Frontend [API Unstable]

C++前端是连接 PyTorch 后段的纯 C++接口,它遵循已建立的 Python 前端的 API 和体系结构,旨在实现高性能、低延迟的 C ++ 应用。它提供了等价于 Python 前端所采用的 torch.nntorch.optimtorch.data 等组件。

完整更新内容请查阅发行说明:

https://github.com/pytorch/pytorch/releases/tag/v1.0rc0

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:PyTorch 1.0 首个 RC 版本发布,包含大量重要特性
加载中

最新评论(1

足下存身
不是说要和caffe2合并吗,pytorch专注于研究和训练,caffe2来做部署,咋没消息了
返回顶部
顶部