似懂非懂Google TPU 2.0

前面刚学习了Google的第一代TPU，写了篇《似懂非懂Google TPU》，不少朋友一块儿讨论，纷纷议论说好像也不是很牛逼？怎么可能，Google在技术上仍是颇有追求的。

这还没过几个月，Google CEO Sundar Pichai 在 5月18日I/O 大会上正式公布了第二代 TPU，又称 Cloud TPU 或 TPU 2.0，继续来看下TPU 2.0有什么神奇之处。

第一代 TPU 它被作为一种特定目的芯片而专为机器学习设计，并用在 AlphaGo 的人工智能系统上，是其预测和决策等技术的基础。随后，Google 还将这一芯片用在了其服务的各方面，好比每一次搜索都有用到 TPU 的计算能力，最近还用在了 Google 翻译、相册等软件背后的机器学习模型中。

Google 宣布第二代的 TPU 系统已经全面投入使用，而且已经部署在 Google Compute Engine 平台上。它可用于图像和语音辨识、机器翻译和机器人等领域。

新的 TPU 包括了 4 个芯片，每秒可处理 180 万亿次浮点运算。Google 还找到一种方法，使用新的电脑网络将 64 个 TPU 组合到一块儿，升级为所谓的TPU Pods，可提供大约 11,500 万亿次浮点运算能力。

 

强大的运算能力为 Google 提供了优于竞争对手的速度，和作实验的自由度。Google 表示，公司新的大型翻译模型若是在 32 块性能最好的 GPU 上训练，须要一成天的时间，而八分之一个 TPU Pod 就能在 6 个小时内完成一样的任务。之因此开发新芯片，部分也是由于 Google 的机器翻译模型太大，没法如想要的那么快进行训练。

除了速度，第二代 TPU 最大的特点，是相比初代 TPU 它既能够用于训练神经网络，又能够用于推理。初代的 TPU 只能作推理，要依靠 Google 云来即时收集资料并产生结果，而训练过程还须要额外的资源。

机器学习的能力已经逐渐在消费级产品中体现出来，好比 Google 翻译几乎能够即时将英语句子变成中文，AlphaGo 能以超人的熟练度玩围棋。全部这一切都要靠训练神经网络来完成，而这又须要计算能力。因此硬件越强大，获得的结果就越快。若是将每一个实验的时间从几周缩短到几天或几个小时，就能够提升每一个机器学习者快速反覆运算，并进行更多实验的能力。因为新一代 TPU 能够同时进行推理和训练，研究人员能比之前更快地部署 AI 实验。

 

 

总结起来，Google TPU 2.0已经不局限于推理，还进入到了训练场景，挑战这个领域的垄断者 Nvidia 的 GPU 。

具体细节，Google尚未公布，同窗们还能够再等等Google公布论文细节，总的来讲，Google是决心在AI分一杯羹的，以Google的技术实力，仍是很是值得期待的。