昨日,PyTorch 团队发布 PyTorch 1.7 版本。该版本增添了不少新特性,如支持 CUDA 十一、Windows 分布式训练、增长了支持快速傅里叶变换(FFT)的新型 API 等。

PyTorch 1.7 版本包含不少新的 API,如支持 NumPy 兼容的 FFT 操做、性能分析工具,以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式训练的重要更新。
此外,一些特性也更新为稳定版,包括自定义 C++ 类、内存分析器、经过自定义类张量对象进行扩展、RPC 中的用户异步函数,以及 torch.distributed 中的许多其余特性(如 Per-RPC 超时、DDP dynamic bucketing、RRef helper)。
CUDA 11 获得 PyTorch 官方支持;github
对 autograd 分析器,更新和添加了 RPC、TorchScript 和堆栈跟踪(Stack trace)的分析和性能;api
(测试版)经过 torch.fft 支持 NumPy 兼容的 FFT 操做;微信
(原型版)支持英伟达 A100 GPU 和原生 TF32 格式;app
(原型版)支持 Windows 系统上的分布式训练。异步
torchvision分布式
(注:从 PyTorch 1.6 版本开始,PyTorch 特性分为 Stable(稳定版)、Beta(测试版)和 Prototype(原型版)。
PyTorch 1.7 相比以前版本,增长了不少新特性,包括 Python API、C++ API、Autograd、CUDA、量化等多个方面。
例如 Python API 增添了多个新的 namespace、operator 以及 API 扩展,CUDA 增长了 TF32 支持等,量化方面增长了新的量化操做、支持 FP16 量化等。

PyTorch 1.7 部分新特性,详情参见 https://github.com/pytorch/pytorch/releases/tag/v1.7.0。
有开发者对 PyTorch 1.7「支持 Windows 上的分布式训练」这一新功能表示赞扬:

以及乐见于「PyTorch 对 CUDA 11 的支持」:

依然有人趁机表白 PyTorch,并列出偏好 PyTorch 的缘由,如报错易读、代码直观、易于实验。

固然,版本更迭的路彷佛永无止境。有开发者提出了本身的需求,例如 fp32 卷积、TensorFlow 有而 PyTorch 没有的 Semantic Versioning:


此时距离 PyTorch 1.6 版本发布仅三个月,不知道 PyTorch 的下一个版本又将带给咱们哪些惊喜。
https://pytorch.org/blog/pytorch-1.7-released/
https://github.com/pytorch/pytorch/releases/tag/v1.7.0
https://www.reddit.com/r/MachineLearning/comments/jj4sr7/d_pytorch_17_released_w_cuda_11_new_apis_for_ffts/

推荐阅读
跨越重重“障碍”,我从 PyTorch 转换为了 TensorFlow Lite
点击“阅读原文”图书配套资源
本文分享自微信公众号 - 相约机器人(xiangyuejiqiren)。
若有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一块儿分享。