第一篇:GPU 编程技术的发展历程及现状

前言

       本文经过介绍 GPU 编程技术的发展历程,让你们初步地了解 GPU 编程,走进 GPU 编程的世界。编程

冯诺依曼计算机架构的瓶颈

       曾经,几乎全部的处理器都是以冯诺依曼计算机架构为基础的。该系统架构简单来讲就是处理器从存储器中不断取指,解码,执行缓存

       但现在这种系统架构遇到了瓶颈:内存的读写速度跟不上 CPU 时钟频率。具备此特征的系统被称为内存受限型系统,目前的绝大多数计算机系统都属于此类型。服务器

       为了解决此问题,传统解决方案是使用缓存技术。经过给 CPU 设立多级缓存,能大大地下降存储系统的压力:网络

       然而随着缓存容量的增大,使用更大缓存所带来的收益增速会迅速降低,这也就意味着咱们要寻找新的办法了。架构

对 GPU 编程技术发展具备启发意义的几件事

1. 70年代末期,克雷系列超级计算机研制成功 (克雷1当年耗资800万美圆)。工具

       此类计算机采用若干内存条的共享内存结构,即这些内存条能够与多个处理器相链接,从而发展成今天的对称多处理器系统 (SMD)。oop

       克雷2是向量机 - 一个操做处理多个操做数。性能

       现在的 GPU 设备的核心也正是向量处理器。学习

2. 80年代初期,一家公司设计并研制了一种被称为链接机的计算机系统。测试

       该系统具备16个 CPU 核,采用的是标准的单指令多数据 (SIMD) 并行处理。链接机经过这种设计可以消除多余的访存操做,并将内存读写周期变为原来的 1/16 。

3. CELL 处理器的发明

       这类处理器颇有意思,其架构大体以下图所示:

       在此结构中,一个 PPC 处理器做为监管处理器,与大量的 SPE流处理器相连通,组成了一个工做流水线。

       对于一个图形处理过程来讲,某个 SPE 可负责提取数据,另外一个 SPE 负责变换,再另外一个负责存回。这样可构成一道完完整整的流水线,大大提升了处理速度。

       顺便提一句,2010年超级计算机排名第三的计算机就是基于这种设计理念实现的,占地面积达560平方米,耗资 1.25 亿美圆。

多点计算模型

       集群计算是指经过将多个性能通常的计算机组成一个运算网络,达到高性能计算的目的。这是一种典型的多点计算模型

       而 GPU 的本质,也一样是多点计算模型。其相对于当今比较火的Hadoop/Spark集群来讲:“点”由单个计算机变成了 单个SM (流处理器簇),经过网络互连变成了经过显存互连 (多点计算模型中点之间的通讯永远是要考虑的重要问题)。

GPU 解决方案

       随着 CPU "功耗墙" 问题的产生,GPU 解决方案开始正式走上舞台。

       GPU 特别适合用于并行计算浮点类型的状况,下图展现了这种状况下 GPU 和 CPU 计算能力的差异:

       但这可不能说明 GPU 比 CPU 更好,CPU应当被淘汰。 上图的测试是在计算可彻底并行的状况下进行的。

       对于逻辑更灵活复杂的串行程序,GPU 执行起来则远不如 CPU 高效 (没有分支预测等高级机制)。

       另外,GPU 的应用早已不局限于图像处理。事实上 CUDA 目前的高端板卡 Tesla 系列就是专门用来进行科学计算的,它们连 VGA 接口都没。

几款新的显卡及其配置 (仅列 N 卡)

       注:

       1. 各参数的具体含义将在之后的文章中作细致分析

       2. 当前显卡的具体参数信息可经过调试工具获取到 (方法略)

主流 GPU 编程接口

       1. CUDA

       是英伟达公司推出的,专门针对 N 卡进行 GPU 编程的接口。文档资料很齐全,几乎适用于全部 N 卡。

       本专栏讲述的 GPU 编程技术均基于此接口。

       2. Open CL

       开源的 GPU 编程接口,使用范围最广,几乎适用于全部的显卡。

       但相对 CUDA,其掌握较难一些,建议先学 CUDA,在此基础上进行 Open CL 的学习则会很是简单轻松。

       3. DirectCompute

       微软开发出来的 GPU 编程接口。功能很强大,学习起来也最为简单,但只能用于 Windows 系统,在许多高端服务器都是 UNIX 系统没法使用。

       总结,这几种接口各有优劣,须要根据实际状况选用。但它们使用起来方法很是相近,掌握了其中一种再学习其余两种会很容易。

学习 GPU 编程的意义

       1. 不单能学会如何使用 GPU 解决问题,更让咱们更加深刻地了解并行编程思想,为之后全面地掌握各类并行技术打下铺垫。

       2. 并行计算相关知识的研究与发展势必会成为将来IT业界与学界的一大热点。

相关文章
相关标签/搜索