*浅谈深度学习GPU算力飞跃的背后,英伟达CUDA的关键性押注**

浅谈深度学习GPU算力飞跃的背后,英伟达CUDA的关键性押注

在如今人工智能火热的大背景下,Nvidia无疑是其中最大的赢家。国内外每一家涉及到AI产品业务的公司,都有在使用Nvidia的芯片。你或许会好奇,Nvidia是如何从称霸游戏显卡市场到成为人工智能巨头的?Nvidia的答案很明确,一个有“强迫症”的老板和十多年前的一次关键押注。
在这里插入图片描述

众所周知,Nvidia的GPU在目前是云端人工智能加速的主流解决方案。究其根本,并非其他AI芯片公司的峰值算力不够,而是在生态上难以与Nvidia的CUDA生态做竞争,在软件方案上缺乏Nvidia CUDA这样的完整编程和工具链,而这些完整的工具链需要长时间积累,这也正是Nvidia最高的壁垒。

CUDA是什么?

CUDA技术,是一种基于Nvidia图形处理器(GPU)上全新的并行计算体系架构。作为一个专用高性能GPU计算解决方案,Nvidia把超级计算能够带给任何工作站或服务器,以及标准、基于CPU的服务器集群。

对于Nvidia如今在人工智能训练芯片市场确立的垄断性地位,某种程度上也要归功于十年前英伟达首席科学家戴维·柯克一系列在当时看来风险极高的疯狂决策。

一方面,他竭尽全力劝服CEO黄仁勋把GPU通用化——让一块只能渲染图形的独立显卡,变成一个通用计算图形处理器(GPGPU);另一方面强烈要求英伟达现有与即将推出的所有GPU都必须支持Cuda程序。
在这里插入图片描述

顺带一提,十几年前给GPU编程需要用机器码深入到显卡内核才能完成任务,非常困难。Nvidia推出了Cuda以后,相当于把复杂的显卡编程包装成了一个简单的接口,造福了广大开发人员。正因此,现在主流的深度学习框架基本都是基于Cuda进行GPU并行加速。

▲Cuda构建强大生态,支持所有主流深度学习框架

在这里插入图片描述

从提出GPU以及Cuda平台开始,Nvidia便不断向全新的计算领域发起攻势。时至今日,Nvidia GPU计算从机器人、自动驾驶,一路扩展到云计算、医疗甚至包括NASA火星登陆计划。

缘起一个实习生的项目—CUDA的诞生

CUDA取得今天所有成绩,除了黄仁勋的坚持,还有一个人功不可没,他就是伊恩·布克(Ian Buck),现任Nvidia GPU计算软件总经理。

▲Ian Buck于2004年加盟英伟达并创造了CUDA

Ian Buck对于GPU计算的研究最早起始于2000年。当时,Buck及其在斯坦福大学的一个小团队敏锐观察到了图形处理器在性能方面的优势和发展趋势。他表示,将GPU用于通用计算的想法是从GPU支持可编程开始的。

在最初几年,他们遇到了非常大的困难。尽管初步试验可以证实GPU用于通用计算的巨大潜力,推广这个想法却十分不易。

▲Nvidia GPU计算软件总经理 Ian Buck(最右)

2004年,斯坦福大学博士生Ian Buck进入Nvidia实习,开始集合相关的硬件和软件工程师创造通用计算图形处理器模型,这是CUDA研发的开端。

为了让Nvidia拓展新的市场领域,同时在戴维·柯克(时任Nvidia首席科学家)周而复始的游说下,黄仁勋下了一次关键性的赌注:押注一系列的改动和软件开发,使得GPU能处理在电脑屏幕上绘画以外的、更为复杂的任务。

然而,“此举给公司带来了极大的成本压力,”黄仁勋说。他估计,该名为CUDA(统一计算设备架构)的项目每年需要花费5亿美元,而当时公司的总营收规模仅在30亿美元左右。

在这里插入图片描述

不过庆幸的是,在戴维·柯克与Ian Buck率领下,Nvidia于2006年正式推出——CUDA,这是全球首款GPU上的通用计算解决方案。2009年,由于CUDA的高性能运算研究成果陆续在众多知名期刊发表并获得认可,Nvidia终于迎来了业务转机,并奠定了之后10年的AI芯片市场绝对霸主地位,为业界提供了强大的并行运算能力。

宽泛科技—NVIDIA潜力AI公司加速计划成员

宽泛科技作为英特尔、英伟达等芯片及品牌厂商的核心合作伙伴,NVIDIA潜力AI公司加速计划成员,携手专注为人工智能提供硬件解决方案及相关服务,已成为国内过万家企业、院校及研究机构的信息化解决方案供应商。

旗下Cloudhin®云轩支持Deep learning和高性能计算服务器定制,针对主要深度学习框架(如TensorFlow、Caffe 2、Theano或Torch)进行了优化和设置,在桌面上即可提供强大的深度学习功能。

在这里插入图片描述
WS4128深度学习工作站搭载9代8核Intel Core i9-9900K不锁频处理器,按需可选择双路Nvidia TITAN RTX/TITAN V/RTX 20系列显卡适配。强强联合,让您尽享GPU加速人工智能和深度学习的强大功能,帮助AI开发者和数据科学家更快捷地取得成果。

专业勤修,锐意进取。云轩技术工程师毕业于NVIDIA深度学习研究所,丰富经验,值得信赖。

了解更多深度学习服务器定制方案,请点击
http://www.kuanfans.com/

如果您有合作需求或宝贵建议,欢迎来信。
邮箱:[email protected] 合作热线:400-610-1360转375899