如何部署GPU满足服务器工作负载需求

选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择，比如有的高性能计算需要双精度，这时如果使用P40或者P4就不合适，只能使用V100或者P100；同时也会对显存容量有要求，比如石油或石化勘探类的计算应用对显存要求比较高；还有些对总线标准有要求，因此选择GPU型号要先看业务需求。

GPU服务器人工智能领域的应用也比较多。在教学场景中，对GPU虚拟化的要求比较高。根据课堂人数，一个老师可能需要将GPU服务器虚拟出30甚至60个虚拟GPU，因此批量Training对GPU要求比较高，通常用V100做GPU的训练。模型训练完之后需要进行推理，因此推理一般会使用P4或者T4，少部分情况也会用V100。

综上所述，选择服务器时不仅需要考虑业务需求，还要考虑性能指标，比如精度、显存类型、显存容量以及功耗等，同时也会有一些服务器是需要水冷、降噪或者对温度、移动性等等方面有特殊的要求，就需要特殊定制的服务器。

欢迎了解更多：网页链接

GPU 英文全称"Graphic Processing Unit"，中文翻译为“图形处理器”。

GPU是相对于CPU的一个概念，由于在现代的计算机中（特别是家用系统，游戏的发烧友）图形的处理变得越来越重要，需要一个专门的图形的核心处理器。

GPU是显卡的核心，主板上带GPU意思就是该主板集成了显卡。

在日常使用计算机的过程中，了解自己电脑的配置和性能是非常重要的，因为这有助于我们更好地了解和掌握自己的设备，在日常维护和升级中作出更明智的选择。下面，我为大家介绍一些检测自己电脑配置与性能的方法。

一、 利用“系统信息”工具查看Windows和MacOS操作系统都提供了内置的“系统信息”工具，可以帮助我们快速地了解到自己电脑的基本信息和配置，步骤如下：

对于Windows系统：

按下键盘的Win+R键，打开运行窗口； 在搜索框中输入msinfo32并回车，便可打开“系统信息”界面；在此界面左侧选择“系统概要”，即可查看到当前电脑的硬件信息，包括处理器型号、内存容量、硬盘型号等； 在此界面左侧选择“组件”，再进入“显示器”、“声音设备”、“网络设备”等下属子菜单页签，也可获得相关配置信息。

对于MacOS系统：

点击屏幕左上角的苹果图标；在弹出的菜单中选择“关于本机”；在“关于本机”界面中，可以看到设备的系列号、系统版本、处理器信息、内存容量和显卡型号等盐基础配置。

以上这些方法都非常简单易行，但是很有效地能够帮助我们了解自己的电脑配置和基本参数。

二、使用第三方检测工具除了操作系统自带的“系统信息”功能外，市面上还有很多免费的第三方软件可供下载和安装，可以更全面地了解自己电脑各种性能细节，以及进行更加详尽的测试。其中比较常用的一些软件如下：

1 CPU-Z：

一个适用于Windows和Linux操作系统的免费CPU检测软件，它可以提供精确的CPU型号、主板芯片组型号、内存大小和型号、显卡型号和主频等相关信息。该软件分为单个CPU和双核CPU两个版本，我们可以根据需要选择相应的版本进行安装和使用。

2 HWInfo：

这是一款开源、适用于Windows和Linux操作系统的硬件检测工具，它能够提供电脑各种硬件信息，包括CPU、GPU、主板、内存、硬盘、显示器等重要元件的详细参数与性能情况。该软件功能十分强大，并且提供的数据十分准确，是了解电脑硬件配置和性能表现的绝佳选择之一。

3 AIDA64：

这是一款专业的系统检测工具，可以检测电脑的硬件状态、监测温度、电压等参数，并同时提供CPU、GPU、内存速率测试以及利用负载测试评估电脑稳定性能力等功能。该软件界面也相对简洁美观，使用起来非常方便。

三、利用电脑游戏测试软件如果我们希望统计自己电脑在游戏运行时的性能表现，那么选择电脑游戏测试工具也是一个不错的选择，这些工具既可以测试有标识位于游戏各种情境下设备的表现，还可以通过图形卡实时引擎进行排除问题质素测试。市面上比较出色的游戏测试软件有3DMark，Unigine Heaven等常用软件。

大家可以根据自己电脑的型号进行选择，这几种方法都可以帮你查看自己的电脑硬件配置与性能。

可以在一主板上插两个显卡

不过需要显卡和主板支持双显卡桥接

要不就没有什么用了

[编辑本段]双显卡简介

双显卡就是所谓的SLI和CorssFire技术 。

随着PCI-E平台的在市场中的逐步推广，NVIDIA将原来3DFX公司的Voodoo2 SLI技术再次引入，并在此基础上加以改进正式发布了以融合NVIDIA自身特点的SLI技术。SLI 全称Scalable Link Interface，是nVIDIA公司于2007年6月28日推出的一种革命性技术。能让多块NVIDIA GeForce系列或者NVIDIA Quadro显卡工作在一台个人计算机或工作站上，从而极大地提升图形性能。

[编辑本段]CrossFire

CrossFire又名ATi Multi VPU，中文名：交叉火力；是指在Super Tiling模式下两块或以上数目的显卡协同工作的能力。Evans & Sutherland计算机公司在过去的三年来一直将Multi VPU应用于商用飞机模拟器的研制。Multi VPU可将屏幕显示划分成多个方形区域，就如同国际象棋棋盘一般，一块显卡负责渲染所有的黑格而另一块则负责所以的白格。实际上这就是Multi VPU架构的工作原理。 其中，一块显卡会设为主卡而另一块则会为从卡并两卡都将通过接口最终与显示器相连。接口或是互连设备则需同时与两块显卡的DVI接口相接。这一方式十分有利于负载均衡，至少从理论上看一帧画面的渲染速度会达到以往的两倍之多。不过这只是理论值，实现表现或许会有些差别。

注意的是，只有双PCI－E的主板才有实现SLI的可能。

[编辑本段]实战组建SLI系统

时间回到2004年，nVIDIA推出了核心代号为NV40的Geforce 6800Ultra，NV40的性能比上代产品几乎提升了一倍，使得nVIDIA再次重回久违的性能之王宝座，而ATi方面则显然没有预料到NV40的性能会是如此的强大，核心代号为R420的Radeon X800 XT仓促应战，结果性能之争仍是Geforce 6800Ultra略胜一筹。旗舰产品，是一家公司技术方面的象征，而性能之王，则是技术领先的印证。于是ATi再将Radeon X800XT的频率作进一步的提升，推出了拥有怪兽级散热器和超高时钟频率武装的ATI Radeon X850 XT PE，将最强游戏单卡的王座夺下。而奇怪的是，nVIDIA方面似乎对此熟视无睹，还宣布取消NV48的开发计划。而到了6月29日，也就是nVIDIA收购3DFX三周年的日子，nVIDIA正式发布了SLI技术将使用在NV4X显卡上，凭借可以将两张显卡同时工作而获得基本成倍性能提升的SLI系统对抗ATi。

nVIDIA官方声称SLI系统能够提供相对单卡19倍的性能，联想到单张Geforce 6800Ultra令人惊讶的强劲性能，而只要购买两张Geforce 6800Ultra则可以获得单张Geforce 6800Ultra19倍的性能，难怪全世界的发烧友都对SLI系统趋之若鹜。

[编辑本段]SLI系统的介绍

SLI（Scalable Link Interface即交换扫描模式）允许多个图形芯片同时工作而获得更高的性能。资深的玩家应该记得当年的3DFX首次推出VOODOO2 SLI，通过一条专用的数据线将两块相同品牌的VOODOO2连接在一起，提供当时顶级的3DF性能。虽然同样是使两张显卡同时工作，但是nVIDIA推出的SLI技术实际上和3DFX的SLI技术不尽相同，VOODOO2的SLI是通过两张显卡分别负责奇偶帧的渲染，而达到减轻显卡负担，提高性能的目的；而nVIDIA的SLI技术，则又所不同。

当两个图形显卡通过一个外置的桥式连接器连通后，驱动程序能自动识别该配置并进入“SLI Multi-GPU”模式。在“SLI Multi-GPU”模式下，驱动程序将两个显卡配置为一个独立的设备：也就是说，所有的图形处理程序将这两个图形芯片视为一个独立的逻辑设备。

NVIDIA的驱动程序在维持着色中的对称上扮演了一个重要的角色，它考虑工作量并作出两个关键决定：

1）决定着色方法；

2）根据着色方法，决定两个GPU之间的工作量分担。

NVIDIA支持两个主要的着色方法：Alternate Frame Rendering（帧渲染器模式，AFR）和Split Frame Rendering（分割帧渲染器模式，SFR）。就像名字揭示的那样，AFR让每个GPU对隔开的帧着色（举例来说，GPU 1着色所有的奇数帧，而GPU 2着色所有的偶数帧），只要是每个都是独立帧，AFR效率最高，这是因为包括逐顶点、光栅化和逐象素在内所有的渲染都要在图形之间平均分割．我们经常看到的3Dmark03就是运行在AFR模式，最高有87％的性能提升。而SFR是把一个单帧的着色分配到两个GPU当中。NVIDIA的驱动程序平时并不确定使用AFR还是SFR，NVIDIA的软件工程师配置了100个流行游戏中的大多数并为每一个创建了配置文件，决定在每个游戏中它们默认应该使用AFR还是SFR模式。只要帧之间没有依赖关系，NVIDIA的驱动程序就默认为AFR。

要运行SLI就要组建支持SLI的平台，组建SLI系统，需要：1、支持SLI的主板；2、需要两张通过nVIDIA SLI认证的显卡；3、windows XP操作系统。

虽然nForce4 SLI不是第一个支持SLI的芯片组，但是Intel的 Tumwater(E7525)主板是属于工作站/服务器级别的主板，所以目前家用级用户要组建SLI系统，一般都采用nForce4 SLI芯片组的主板。就目前的状况来看，SLI的前景相当光明，nVIDIA已经准备推出支持SLI的nForce 5 Intel芯片组，而VIA、SIS也会推出所谓的Dual PCI GFX技术，只是等待nVIDIA点头而已。所以以现在的情况，要组建SLI平台，采用nForce4 SLI芯片组是绝大多数玩家的选择。主板的High-Speed Digital Interface就是用于连接两张显卡的，没有它的帮助，SLI系统是不可能组成的。

而显卡方面，则一定要通过nVIDIA SLI认证的显卡，PCB上的SLI接口就是最好的说明。选购显卡的时候就要注意一下，根据nVIDIA的说明，两张显卡需要是同牌子同型号才可以启动SLI功能。就现在市场情况，nVIDIA为我们分开了高端的Geforce 6800Ultra、中端的Geforce 6800GT和Geforce 6800、低端的Geforce 6600GT3个等级。Geforce 6600GT SLI系统的显卡得分已经相当惊人，而且可以实现4屏输出，这样的设备对于要配置低端图形工作站的消费者是有相当杀伤力的。最后就是要确定你手上的电源是否可以提供足够的电流，根据nVIDIA的官方说明，高端的Geforce 6800Ultra所组建的SLI系统所需的电源瓦数高达500W~550W。Geforce 6800Ultra的耗电相信大家都非常清楚，而现在则是两张的Geforce 6800Ultra，耗电自然是十分大的。

Hybird SLI

在最新的MCP78中提供了hybrid SLI功能，即为独立显卡和集成显卡的SLI。有两种SLI方式。电源模式和性能模式

电源模式：当整合主板和高档NVIDIA显卡组成SLI时，在2D模式下使用集成显卡，在3D模式下使用独立显卡。这样可以起到省电的效果。

性能模式：当整合主板和低档NVIDIA显卡如Geforce8400或者Geforce8450组成SLI时，可以使两张显卡同时参与渲染而大幅提升图形性能。

[编辑本段]多GPU显卡的鼻祖——3dfx

谈到双核显卡，我们不得不提一下3dfx，它是怪兽——多GPU显卡的鼻祖，早在1998年，3dfx因为想让自己的显卡在现有的技术基础上进一步提升，就在Voodoo2上应用了SLI技术，它是现在NVIDIA SLI的前身——将两块Voodoo2分别插入PCI槽，并用一根数据电缆连接起来，通过驱动程序的控制，使两块Voodoo2协调工作。在当时，对于硬件的需求可以说是非常奢侈。在2000年，3dfx又推出了集成多芯片的Voodoo 5，这是早期较出名的多核显卡。同样在2000年，ATI推出了一种Dual ASIC双芯片技术，其原理是在Rage Fury MAXX显卡内建2颗Rage 128 Pro绘图芯片，两个绘图芯片轮流工作，每个绘图芯片负责一帧（frame）画面，交替进行以提高像素填充率和三角形生成率。

GPU就是指显卡核心，现在intel的和部分I5系列的CPU里就集成了GPU

正常的显卡上必须有GPU，因为GPU就是显卡的核心，而主板上如果有GPU就是集成显卡的主板，CPU里有GPU的就是I3或者I5的系列才有

有的，是服务器主板，有些服务器主板有11个PCI-E×16插槽，而高端的服务器主板会有PCI-X插槽。

还有，台式机主板是不能做GPU运算平台的，第一个是硬件配置跟不上，第二个就是稳定性不行，服务器主板是设定是可以365天连续工作的，而台式机就没有这种技术要求。