如何正确选择GPU服务器?
选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择,比如有的高性能计算需要双精度,这时如果使用P40或者P4就不合适,只能使用V100或者P100;同时也会对显存容量有要求,比如石油或石化勘探类的计算应用对显存要求比较高;还有些对总线标准有要求,因此,十次方平台建议您选择GPU型号要先看业务需求。
当GPU型号选定后,再考虑用什么样GPU的服务器。这时我们需要考虑以下几种情况:
第一、 在边缘服务器上需要根据量来选择T4或者P4等相应的服务器,同时也要考虑服务器的使用场景,比如火车站卡口、机场卡口或者公安卡口等;在中心端做Inference时可能需要V100的服务器,需要考虑吞吐量以及使用场景、数量等。
第二、 需要考虑客户本身使用人群和IT运维能力,对于BAT这类大公司来说,他们自己的运营能力比较强,这时会选择通用的PCI-e服务器;而对于一些IT运维能力不那么强的客户,他们更关注数字以及数据标注等,我们称这类人为数据科学家,选择GPU服务器的标准也会有所不同。
第三、 需要考虑配套软件和服务的价值。
第四、要考虑整体GPU集群系统的成熟程度以及工程效率,比如像DGX这种GPU一体化的超级计算机,它有非常成熟的操作系统驱动Docker到其他部分都是固定且优化过的,这时效率就比较高。
近两年,国内各大企业已经深深认识到了高 科技 “卡脖子”带来的危害,因此纷纷开始研究属于自己的核心技术。
在CPU行业,华为已经做了先行者,即使目前遭遇了空前的困难也仍没有放弃。而在GPU行业,国内的发展速度则要慢了不少,不过近期也陆续传出了好消息。
11月25日,国内GPU芯片初创企业摩尔线程宣布研发出了首款国产全功能GPU,“内置自主研发的3D图形计算核芯、AI训练与推理计算核芯、高性能并行计算核芯、超高清视频编解码计算等核芯”。据官方透露,这款GPU的研发用时仅300天。
此前,摩尔线程刚刚完成了20亿的A轮融资,所得资金将用于GPU芯片的批量生产与制造、GPU SoC相关联的IP研发、以及国产GPU生态系统的拓展等。这也是摩尔线程在一年内完成的第三轮融资,足见资本市场对其看好程度。
除了摩尔线程外,其他国产GPU公司也取得了一些突破。
11月16日,景嘉微官方宣布,其设计的JM9系列已经完成流片、封装、初步测试工作。根据测试结果,这款芯片可以满足地理信息系统、媒体处理、CAD 辅助设计、 游戏 、虚拟化等高性能显示需求和人工智能计算需求。
11月17日,芯动 科技 宣布首款国产高性能服务器级GPU“风华1号”测试成功。这款GPU搭载全球顶尖的GDDR6X和chiplet技术,在5G数据中心、云 游戏 、元宇宙等领域将发挥很大的作用。
随着AI、5G等技术的不断发展,GPU的重要性也将进一步提升,因此发展国产GPU也已经到了刻不容缓的地步。虽然国产GPU的性能距离英伟达、AMD这些国际霸主还有一定的距离,但能够实现从无到有的突破,也已经足够振奋人心。
您可以咨询:联众集群(LINKZOL®)
推荐配置:
品牌:LINKZOL®
型号:LZ-748GT-4G
系统:Ubuntu 1404 x64
CPU:Intel Xeon十核E5-2630v4(22GHz,96 GT/s)
内存:原厂64GB内存 (16GB×4) DDR4 2133MHZ ECC-REG(带内存校错技术,最大支持2T)
系统硬盘:1块INTEL 25寸480G 企业级SSD固态硬盘(最大支持8块硬盘,类型:SATA,SSD)
系统硬盘:3块希捷35寸4T 7200RPM 企业级硬盘(最大支持8块硬盘,类型:SATA,SSD;)
GPU卡:4块TESLA M40 GPU计算卡或者4块NVIDIA TATAN-X GPU卡 (CUDA核心数3584个核心,12G DDR5 显存,最大4个GPU卡)
电源:1600W High efficiency (94%)冗余电源
可以咨询1381O114665
GPU是图形处理单元的英文缩写。GPU也可简称为显示芯片,是显卡的核心芯片和元件。独立显卡上除了最关键的GPU以外,还有显存、散热器及各种电阻电容、连接显示器的端口等。而集成于主板或CPU的显卡一般只有GPU,采用共享物理内存作为显存。由于显卡的主要功能与性能取决于GPU,现在多数显卡往往以所用GPU的型号来命名或作为名称的一部分。目前个人电脑消费级显卡GPU主要分成英伟达(NVIDIA)和AMD两大系列,芯片巨头英特尔则主推集成于CPU核心的显卡,俗称核显,性能多处于同期低档水平。
0条评论