深度学习模型：GPU 服务器的主要应用场景

什么是显卡？

相信很多人都认为这就是一个游戏工具，认为现在高性能的显卡难道只是为游戏而生。

其实目前不少公司已经意识到 GPU 大规模并行计算带来的优势，开始用强大的 GPU 服务器进行各种方向的研究，而这些研究除了能给公司带来巨大收益外，其研究成果也开始应用在我们的日常生活中。

首先，GPU 服务器有什么作用？

GPU 加速计算可以提供非凡的应用程序性能，能将应用程序计算密集部分的工作负载转移到 GPU，同时仍由 CPU 运行其余程序代码，从用户的角度来看，应用程序的运行速度明显加快。

理解 GPU 和 CPU 之间区别的一种简单方式是比较它们如何处理任务。

CPU 由专为顺序串行处理而优化的几个核心组成，而 GPU 则拥有一个由数以千计得更小、更高效的核心（专为同时处理多重任务而设计）组成的大规模并行计算架构。

其次，GPU 服务器的主要应用场景是什么？

深度学习模型：

GPU 服务器可作为深度学习训练的平台：

1.GPU 服务器可直接加速计算服务，亦可直接与外界连接通信。

2.GPU 服务器和云服务器搭配使用，云服务器为主 GPU 云服务器提供计算平台。

3.对象存储 COS 可以为 GPU 服务器提供大数据量的云存储服务。

海量计算处理：

GPU 服务器超强的计算功能可应用于海量数据处理方面的运算，如搜索、大数据推荐、智能输入法等：

1、原本需要数天完成的数据量，采用 GPU 服务器在数小时内即可完成运算。

2、原本需要数十台 CPU 服务器共同运算集群，采用单台 GPU 服务器可完成。

最后，如何正确选择 GPU 服务器？

选择 GPU 服务器时首先要考虑业务需求来选择适合的 GPU 型号。在 HPC 高性能计算中还需要根据精度来选择，比如有的高性能计算需要双精度，这时如果使用 P40 或者 P4 就不合适，只能使用 V100 或者 P100；同时也会对显存容量有要求，比如石油或石化勘探类的计算应用对显存要求比较高；还有些对总线标准有要求，因此选择 GPU 型号要先看业务需求。

当 GPU 型号选定后，再考虑用什么样 GPU 的服务器。这时我们需要考虑以下几种情况：

第一、 在边缘服务器租用上需要根据量来选择 T4 或者 P4 等相应的服务器，同时也要考虑服务器的使用场景，比如火车站卡口、机场卡口或者公安卡口等；在中心端做 Inference 时可能需要 V100 的服务器，需要考虑吞吐量以及使用场景、数量等。

第二、 需要考虑客户本身使用人群和 IT 运维能力，对于 BAT 这类大公司来说，他们自己的运营能力比较强，这时会选择通用的 PCI-e 服务器；而对于一些 IT 运维能力不那么强的客户，他们更关注数字以及数据标注等，我们称这类人为数据科学家，选择 GPU 服务器的标准也会有所不同。

第三、 需要考虑配套软件和服务的价值。

第四、 要考虑整体 GPU 集群系统的成熟程度以及工程效率，比如像 DGX 这种 GPU 一体化的超级计算机，它有非常成熟的从底端的操作系统驱动 Docker 到其他部分都是固定且优化过的，这时效率就比较高。

作为国内品牌服务器提供商，服务器在线 GPU 机架式服务器拥有大规模并行处理能力和无与伦比的灵活性。它主要应用于为计算密集型应用提供足够的处理能力。

GPU 加速运算的优势就在于它可以一边由 CPU 运行应用程序代码，一边由图形处理单元（GPU）处理大规模并行架构的计算密集型任务。服务器在线 GPU 服务器是医疗成像、广播、视频转码市场的理想选择。