阿里云异构计算发布：轻量级GPU云服务器实例VGN5i

阿里云发布了国内首个公共云上的轻量级GPU异构计算产品——VGN5i实例，该实例打破了传统直通模式的局限，能够提供比单颗物理GPU更细粒度的服务，从而让客户以更低成本、更高弹性开展业务。适用于云游戏、VR/AR、AI推理和DL教学等轻量级GPU计算场景，更细粒度的GPU计算服务。

轻量级GPU云服务器是什么？

轻量级GPU云服务器是一种新的GPU云服务器规格族，是经过公共云的GPU虚拟化技术将分片虚拟化后的GPU资源以虚拟GPU的形式安装在GPU云服务器实例中。与常规GPU云服务器的区别在轻量级GPU云服务器提供更细力度的GPU计算资源，好比拥有更少的CUDA计算核心，更小的显存。这样作的优点是在业务应用中，业务能够根据资源所需更加灵活的配置GPU计算资源。

用户在使用常规GPU云服务器的时候遇到了哪些痛点？

GPU的计算颗粒过大：
单颗物理GPU的计算能力越作越强大，可是许多应用须要更小颗粒的GPU计算资源；
常规GPU资源不利于业务自动伸缩：
拥有单颗物理GPU资源的实例在业务部署中会由于要充分利用GPU资源而形成“胖节点”，不利于设计成弹性伸缩架构，缺少灵活性，没法应对业务快速变化；
常规GPU计算实例没法在线迁移：
常规直通虚拟化的GPU实例，因为架构特性没法支持GPU实例的在线迁移；

轻量级GPU云服务器与常规GPU云服务器有哪些不一样？

咱们从GPU加速器呈现方式，业务连续性，计算业务场景以及使用与管理看不一样：
GPU加速器呈现
常规GPU云服务器实例是经过设备直通方式提供物理GPU加速器；
轻量级GPU云服务器实例是经过GPU虚拟化方式提供虚拟GPU加速器；
业务连续性
常规GPU云服务器仅支持做业离线迁移
轻量级GPU云服务器支持做业在线迁移
计算业务场景
常规GPU云服务器适用于重负载的GPU加速计算，例如：深度学习训练与推理计算、HPC计算、重载图形计算
轻量级GPU云服务器适用于轻负载的GPU加速计算，例如：轻负载的深度学习推理计算、深度学习教学场景、云游戏与VR/AR场景
使用与管理
常规GPU云服务器提供弹性计算服务实例、业务扩展以单颗物理GPU资源方式增长
轻量级GPU云服务器依然提供弹性计算服务实例，但业务扩展以更小粒度GPU资源方式增长（例如：1/8或1/4颗Tesla P4的资源）；

VGN5i有哪些技术亮点和技术领先性，解决哪些问题？

技术亮点：支持用户在公共云上建立更小颗粒的虚拟GPU的云服务器实例。
技术领先性有三点：
任何一项领先的计算技术要将其移植到公共云上输出，仍是要遵循可靠性、经济性和易用性的技术要求。
首先是可靠性，公共云服务器首先是公共服务，要给全部用户提供“简单可依赖”的基础服务；虽然虚拟化GPU技术在私有部署条件下使用比较成熟，可是在公共云上使用仍是要面临几个可靠性的挑战的：第一是数据安全性；第二是资源隔离；这两个问题在私有部署条件下一般是没有要求的，缘由是私有部署都是给同一用户部署使用，安全和资源争抢问题都比较容易解决。可是，要在公共云上使用，这些问题在公共云上就必须解决。
其次是经济性，用户能选择使用轻量级GPU云服务器出发点是但愿更加精细的使用GPU资源，本质是追求经济性。虚拟化GPU技术在私有环境部署，由于需求肯定，能够根据预想好的使用场景来配置虚拟化比例，但在公共云场景就要解决既要知足全部用户的使用场景，又要保持调度系统的高效，不断下降成本，追求经济性。
最后是易用性，易用性表如今几个方面，一个是管理接口和使用习惯与其余ECS实例保持一致，另外一个是APP在GPU实例中的使用场景和方式与其余常规GPU实例保持一致。这样用户就没有学习成本了。

轻量级GPU云服务器如何使用？

GPU实例的用法与普通弹性计算实例同样便捷，用户可使用Web控制台或者OpenAPI方式配置和购买服务。用户在使用过程当中能够彻底掌控该实例，该实例在阿里云计算环境中运行，还能够配合其余云服务一块儿使用。当用户业务遇到业务高峰时能够在数分钟内扩展新的实例来适应业务增加。用户在虚拟化GPU服务的使用全过程当中都可以享受到在线服务咨询和快速故障处理服务。

轻量级GPU云服务器的实例有哪些？

目前开放售卖基于NVIDIA Tesla P4的VGN5i实例，该实例提供八分之一到一比一的虚拟GPU加速器；
后面会上线基于NVIDIA Tesla T4的VGN6i实例，该实例提供十六分之一到一比一的虚拟GPU加速器；

轻量级GPU云服务器的适用场景有哪些？

轻量级GPU云服务器能够根据业务需求配置建立贴合业务所需计算资源的GPU云服务器实例，所以能够在每一个轻量级GPU云服务器实例上仅运行一个计算业务负载，在业务峰值来临时，横向扩展某一个计算业务负载便可。这样的特性十分适合互联网业务中AI计算的批量部署以及云游戏，AR/VR在云端应用和深度学习的教学实验场景。

VGN5i的用户价值有哪些？

VGN5i的用户价值包括：下降批量部署GPU实例的成本，能够轻松实现快速弹性伸缩以及提升运维效率。
下降批量部署成本
在诸多图形计算和AI推理计算的场景中，用户一般并不要求单GPU实例的计算性能十分强大，而是更加关注业务在批量部署中的成本。小粒度的虚拟化GPU实例则更加合适这些场景，很好的平衡用户业务在批量部署中的成本需求。
实现快速弹性伸缩
拥有了小粒度的虚拟化GPU实例，用户没必要再为了匹配较强的物理GPU资源而将服务部署成为复杂的胖服务节点，而是能够基于容器方式将有GPU计算需求的服务都解耦部署在不一样的虚拟化GPU实例节点上。这样部署的瘦服务节点更加有利于快速弹性伸缩，在业务的任什么时候刻均可以应对自如，提升业务运维效率。
提升运维效率
使用小颗粒的虚拟化GPU实例进行瘦服务节点部署，使得服务环境配置和服务接口变得简单，使用不一样的镜像便可部署大规模的AI应用而无需部署复杂的胖节点，提供运维效率，下降时间风险和成本。

直播观看地址：https://yq.aliyun.com/live/938
查看产品VGN5i：https://www.aliyun.com/product/ecs/gpu
VGN5i·释放GPU计算新动力：https://promotion.aliyun.com/ntms/act/vgpu.html
阿里云新品发布会频道：https://promotion.aliyun.com/ntms/act/cloud/product.html
阿里云新品发布·周刊：https://yq.aliyun.com/publication/36

 

---

本文做者：云攻略小攻

原文连接

本文为云栖社区原创内容，未经容许不得转载。