浪潮AI服务器的推理测试性能怎么样？

据我所知，浪潮AI服务器的推理测试性能是非常强劲的。就拿浪潮AI服务器NF5488A5来举例，在MLPerf全球AI基准性能测试中一举创下18项世界纪录，其中在ResNet50推理任务测试中，实现了549万/每秒的全球服务器最好成绩，相比2019年单服务器纪录提升3倍。另外，在GTC科技论坛上，中科极限元、趋动科技、睿沿科技等元脑生态伙伴分享了多个场景下浪潮AI服务器NF5488A5的实测数据，结果表明浪潮NF5488A5服务器大幅提升了智能语音、图像识别等AI模型的训练和推理性能，促进了产业AI解决方案的开发与应用。

此服务器来自于与北京青云科技股份有限公司的购销合同。

根据业务发展规划，2023年10月13日，高新兴讯美于北京市与北京青云科技股份有限公司签署《购销合同》，约定本购销合同项下，高新兴讯美向青云科技交付gpu服务器（含配套产品），合同总价为人民币68，400万元。

高新兴发布公告称，控股子公司高新兴讯美科技股份有限公司是人民银行、农业银行、中国银行、光大银行、民生银行、邮政储蓄银行等总行设备入围安防设备供应商

致力为金融机构客户提供安防整体解决方案设计和系统集成、运维服务，开发智能化金融安防联网管理平台，销售金融安防定制化设备。

打赢AI争夺战,要靠一张算力网

1、电力时代，我们构建了一张“电网”，如今随着国内各地人工智能计算中心的相继落地，我们正在编织一张AI算力网络。

2、需要。人工智能视觉识别技术建设需要算力网，人工智能必须有算力和算力网络，其人脸识别、自动驾驶等智能功能才能正常使用。人工智能，英文缩写为AI。

3、这个意义是非常大的，说明中国的算力网的。设备是非常先进的，所以才能在各个地方进行安装。

浪潮AI服务器的性能表现如何

1、在实际的应用场景中，浪潮AI可以结合领先的AI算力资源调度平台AIStation，充分释放更强大的AI计算性能。以NF5688M6服务器为例，它就可以轻松连接元脑生态伙伴，为行业客户提供丰富行业AI解决方案。

2、从性能上来说，浪潮的AI服务器具有更高的性能，采用了先进的处理器，支持更多的计算资源，更多的存储空间，更高的带宽，更快的计算速度，更安全的系统，更完善的管理系统，更可靠的硬件系统，可以满足不同类型的应用场景。

3、可以的，浪潮的AI计算加速服务器做得非常不错，它可以协处理器与通用CPU协同提速完成用户特定任务，是专业用户提高效率、增强性能的必选方案。目前浪潮已经上线多款不用类型的AI计算加速服务器，可按需选择。

4、整体来说，浪潮服务器的性能还是不错的，浪潮服务器包括包括机架服务器、多节点服务器、整机柜服务器、塔式服务器与工作站以及浪潮服务器管理套件。虽然浪潮服务器的类型不同、但是都有着同样卓越的性能。

5、国际品牌总体上还是要比国内品牌强一个档次的。

人工智能计算中心有什么用途

人工智能计算中心是智慧城市建设、企业智能化升级、人工智能企业集约集聚的核心，我们这边就是处于智慧城市的建设中，用的是华为这边提供的解决方案，他们的人工智能计算中心要更加稳定靠谱，提供的服务也要好很多。

这个平台的用途特别广泛，因为它可以运用于很多个领域。该平台不仅可以运用在汽车上，同时还可以跟其他的产业进行联系。该平台还可以给科研工作带来一定的帮助，在这个过程当中也可以让科研的效率得到提升。

提升了云数据的处理效率可以帮助很多的企业更好的完成生产任务首先就是提升了云数据的处理效率可以帮助很多的企业更好的完成生产任务，对于云数据服务而言对于社会的发展是至关重要的产生了很多的利好作用。

超算中心可以助力的产业类别实际上这个超算中心建成使用之后，可以让很多重点的科创型企业及研究机构来进行帮助，而且也会给他们提供计算服务。

思腾合力可以为AI医疗行业提供什么解决方案

思腾合力是AI与HPC基础架构解决方案商，拥有自主品牌GPU服务器及通用X86服务器，适用于深度学习训练及推理等场景，覆盖服务器、静音工作站等多种产品形态，能够满足客户全场景需求。

医疗辅助决策：医生需要在巨大的医学数据库中筛选出最佳的治疗方案。AI可以利用大数据分析和机器学习算法，快速筛选出治疗方案，并为医生提供辅助决策。

通过NVIDIANPN合作伙伴思腾合力，这些解决方案可打包为完全集成的、随时可以部署的产品级交付，使数据中心AI部署更简单和快速。

不过我觉得还是应该找综合实力强的，售后服务还是要跟上的。我们公司现在用的思腾合力的服务器，性价比还是比较高，不仅拥有自主品牌GPU服务器及通用X86服务器，而且还是NVIDIADGX系列产品官方授权经销商，型号还是比较多的。

商汤科技金俊:AI技术应用到具体场景才能发挥真正价值

1、以智能制造为例，金俊透露，商汤科技在过去几年的摸索中，从销售到技术，再到运营等各个环节的工作人员都需要去深入一线场景，与场景需求方联合创新，将AI技术与实用场景结合起来。

2、近日，被誉为AI四小龙的商汤科技显示三年半累计亏损2472亿元。若剔除优先股等非经营表现项目，商汤科技经调整后亏损262亿元。作为AI四小龙中最后一家递交招股书的公司，商汤科技正在加速冲刺IPO。

3、今年，商汤科技上线了“新洲之窗”，它让位于上海徐汇区的商汤科技大厦化身为一个“微缩版”的智慧城市生态。

Wave Computing

Wave Computing在2018取得了不少进展，推出其第一个DataFlow处理单元，收购MIPS，创建MIPS Open，并将首批系统交付给少数客户。虽然Wave架构有一些非常有趣的功能，但我们更期待用户的大规模真实体验反馈。

Wave不是插入到服务器的加速器，它是用于图形计算的独立处理器。这种方法有利有弊。从积极的方面看，Wave不会受到GPU等加速器面临的内存瓶颈影响。从消极方面来说，安装Wave设备将是新的升级，需要完全替换传统的X86服务器，也让其成为所有服务器制造商的竞争对手。

我不认为Wave能从某个点击败NVIDIA，但该架构的设计的非常好，该公司已经表示它很快就会有客户的反馈。

图1：Wave是从上面显示的4节点“DPU”构建的系统。Wave Computing

Graphcore

Graphcore是一家资金雄厚（融资31亿美元，目前估值为17亿美元）的英国独角兽创业公司，拥有全球化的团队。它正在构建一种新型的图形处理器架构，其内存与其逻辑单元位于同一芯片上，这应该能够实现更高的性能。该团队产品的发布时间暂不明确，不过他们去年四月表示“几乎准备好发布”了，12月的最新信息表明它将很快开始生产。

Graphcore的投资者名单令人印象深刻，包括红杉资本、宝马、微软、博世和戴尔 科技 。

我了解了该公司的架构，它非常令人印象深刻。从边缘设备扩展到用于数据中心的训练和推理的“Colossus”双芯片封装。在最近的NeurIPS活动中，Graphcore展示了其RackScale IPU Pod，它在一个32台服务器的机架中提供超过16 petaflops的算力。虽然该公司经常声称它将提供比同类最好GPU强100倍的性能。

Graphcore表示，4“Colossus”GC2（8芯片）服务器可提供500 TFlops（每秒数万亿次操作）的混合精度性能。单个NVIDIA V100可提供125 TFlops，因此理论上4 个V100就可提供与其相同的性能。

与往常一样，细节更能发现差别，V100峰值性能仅在重构代码执行TensorCore的4x4矩阵乘法时才可用，这是Graphcore架构巧妙避免的限制。更不用说V100消耗了300瓦的电能和大量现金这一事实。

此外，Graphcore支持片上互连和“处理器内存”（片上存储器）方法，可以得到超出TFlops基准所认可的优秀性能。在一些神经网络中，如Generative Adversarial Networks，内存是瓶颈。

再次强调，我们将不得不等待真实的用户用实际应用程序来评估此体系结构。尽管如此，Graphcore的投资者名单、专家名单和台天价估值告诉我，这可能是一件好事。

图2：GraphCore展示了ImageNet数据集处理的照片。 可视化可帮助开发人员了解其训练处理占用处理周期的位置。

Habana Labs

Habana Labs是一家以色列创业公司，去年9月在第一次AI硬件峰会上宣布它已经准备好推出其首款用于推理的芯片，其创纪录的性能用于卷积神经网络图像处理。结果显示在Resnet50图像分类数据库中该处理器每秒分类15,000张图像，比NVIDIA的T4高出约50％，功耗仅为100瓦。

在2018年12月，Habana Labs的最新一轮融资由英特尔风险投资（Intel Venture Capital）领投，WRV Capital，Bessemer Venture Partners和Battery Ventures跟投，该公司的融资也由此前的4500万美元增加了7500万美元。

据悉，Habana Labs新的融资将部分用于流片其名为“Gaudi“的第二款芯片，该芯片将专注于训练市场，据称可扩展到1000多个处理器。

其它创业公司

我知道世界上有超过40家公司在为人工智能设计训练和推理芯片。我发现大多数公司都在进行简单的FMA（浮点乘法累加）和混合精度数学（整型8位和浮点16位和32位）。对此我不会感到惊讶，因为这种方法相对容易实现并且会获得一些成果，但它不会为像NVIDIA，英特尔以及少数初创公司做出不一样的架构提供持久的架构优势。

以下是一些引起我注意的公司：

中国AI芯片初创公司

中国一直试图找到一条摆脱美国半导体的方式，人工智能加速器可能会提供它一直在寻求的机会。中国设定了2030年要建立一个价值数万亿美元的人工智能产业的目标，自2012年以来，投资者已经向创业公司投入了超过40亿美元的资金。

寒武纪 科技 估值为25亿美元，是已经发布了第三代AI芯片的中国独角兽公司。寒武纪称它可以用更低的功耗提供比NVIDIA V100更好的AI性能，他们还销售其AI IP，搭载在华为麒麟970和麒麟980的处理器当中，作为AI加速硬件。

商汤 科技 也许是估值最高的AI创业公司，以在中国推广智能监控摄像头而闻名。这些安防摄像头数量超过175亿，包括其他公司生产的摄像头。商汤 科技 在香港成立，最近一轮融资数额达6亿美元，由阿里巴巴领投。据报道，这家初创公司的价值目前为45亿美元。

商汤 科技 与阿里巴巴、高通、本田甚至NVIDIA等主要公司建立了战略合作伙伴关系。该公司今天拥有一台超级计算机，运行大约8000块（可能是NVIDIA提供？）GPU，并计划再建造5台超级计算机来处理数百万个摄像头采集的面部识别数据。

雷锋网编译，via forbes