AI安防浪潮下,究竟需要怎样强大的一款服务器?
眼下,中国共计装有近2亿个视频监控摄像头,而具备AI能力的摄像头仅占其中的1%。
在高清监控摄像头数量与AI渗透率不断递增的情况下,由摄像头采集的图像、视频流数据,需要更强大的分析引擎对其进行分析、处理和训练。
以北京地铁站为例,北京1000多个地铁站中平均每站都有上百个摄像头,平均每个地铁站每天流通8到10万人较为常见。保守预估每个相机每天看见1万个人,再假设对比库中有1万个目标(对于公安数据库来说并不大),这个相机每天要回答的问题就是一亿零一万个!
显然,在当前各类安防项目中,依靠纯嵌入式智能DVR和NVR均无法满足严苛的计算要求。
面对万亿级AI安防市场,在技术落地成花的十字路口,所有的安防企业高管们都会面对一个终极命题:AI安防究竟需要一款怎样强大的服务器?
谈到安防服务器,X86无处不在,一直以来,它都是包括安防在内等多个行业的“宠儿”。
“眼下安防市场很多的管理平台,譬如流媒体服务器、转发服务器、主控服务器基本基于X86架构建设,它的最大优势是比较容易开发、上手比较快,大多工程师更擅长在X86架构上做研发。”
华泰科捷CEO傅剑辉告诉雷锋网,考虑到它表现不俗的性价比,X86服务器一直都是我们采购的首选。
由此,过去多年来,X86服务器也获得了全球顶尖服务器供货商的青睐。
遗憾的是,各科成绩均“达标”的 X86服务器,在如今大热的AI浪潮面前,却遇到了一些“偏科”难题。
傅剑辉透露,从安防用户实际使用角度考量,目前X86服务器应用在安防行业主要存在三大问题:
一、CPU负责逻辑运算的单元并不多,在多任务处理时效率低下。面对海量视频信息,传统X86服务器单纯以CPU为核心的数据中心部署已经不能很好地满足并行灵活计算、多变环境的计算需求,很难在安防企业级服务器市场有惊艳的表现。
“以前的视频数据只需存在后台,做少量分析即可,也就是说存储足够大就行;今天,很多客户都希望我们能够实时处理这些海量视频信息并反馈结果,而这就意味着系统需要同时做解码、做视频结构化、做识别、搜索等等,X86明显就不够用了。”
换句话说,X86可以类比手机里的功能机,它能够满足单一的通信处理需求,而AI融入的安防市场,更需要一台强大的智能手机,配备更强大的性能以适配 游戏 、处理等个性需求。
二、在行业出现算力不够的大背景下,很多厂商打出X86服务器加上若干GPU卡的组合拳,而这种为了单纯解决算力而“拼凑”出的方案大大增加了服务器的功耗和用户成本。
从行业采用情况看,如果涉及人脸识别等AI项目时,大部分厂商会采用GPU作为人像数据结构化的处理单元,特别是在X86服务器集群中,GPU更是成为唯一选择。
在某种程度上,GPU的确解决了部分算力不足的问题,却也存在两个致命硬伤。
一是功耗大,需依托X86架构服务器运行,不适用于更为广泛的AI方案开发; 二是成本高昂,比如采用GPU方案,折算单路人脸识别成本在万元以上,相较其他千元级,甚至是百元级的方案,毫无成本优势可言,这两个致命短板,也让很多企业不得不寻求新的方案。
三、由于X86更多采用的是较为开放的LinuX系统,而非封闭的AIX系统,在稳定性和可维护性上略显不足。
“未来的市场必定是数据规模和计算能力的角逐。”
浪潮商用机器有限公司产品部张琪告诉雷锋网,随着越来越多新应用的出现,传统的X86计算架构会遇到很多瓶颈,包括数据瓶颈(处理器的计算单元以多快的速度获取和交换数据)、计算瓶颈(单位空间内能集成多少计算能力)、延迟瓶颈、通信瓶颈。
就像设计时速30码的道路难以承载均速100码的车辆通行一样,很短时间内就可造成道路拥堵甚至瘫痪。
今天来看,面对大计算、智能化场景,谁能够最先解决算力问题,又能够更好降低功耗与成本,谁就能在AI浪潮下引领鳌头。
在张琪看来,基于POWER9的高性能服务器能够很好满足AI安防时代下的高智能需求。
从AI安防实际场景所需出发,浪潮商用机器有限公司近期推出了基于POWER9服务器,搭载UltraVision视频智能分析系统的AI视觉分析智能分析解决方案(UltraVision on Power)。
AI视觉分析解决方案可以看作一个超级高效的AI大脑,它软硬结合,能够实时、准确、智能、节能地完成包括安防在内各个行业所需的复杂性数据处理工作。
“硬”,体现在POWER9架构上,它能够提供强大的图像视频的计算处理能力。相比其他处理器,POWER9支持了PCIe40、NVlink20等新一代I/O协议,能够在AI等应用中展示出更好的应用表现。
具体来看,相比X86,其单节点视频处理路数提升近3倍,达38倍提升深度学习框架AI模型训练效率,18倍更好的加速数据库性能,IO能力提升了近5倍。
另外,执行视频和图像编解码,查询搜索任务时,整机可提供单精度56TFlops和双精度28TFlops超强算力,和比X86服务器相比,单块GPU即可提供比纯CPU服务器高30倍的推理能力。
值得一提的是,该方案独有的CAPI技术,可以将延迟降低至1/36,全面加速图像处理,同时功耗降低高达30%。
18倍、38倍、3倍、5倍、30倍,看起来不大的几个数字对于安防行业来说,都是庞大数量级的提升。
这几个数字的变化,能够将各类犯罪和严重的暴力事件的防控手段从事后介入提前到事前或事中,大大减少安全事件的发生,实现公共安全从被动防御到主动防御的业务转变。
除了POWER9提供的超强算力硬核外,在软件层面,该方案还有高重UltraVision视频智能分析技术加持,如目标检测(PD)、行人重识别(RE-ID)等多项计算机视觉技术,提升目标识别准确率高达94%。
毋庸置疑,软硬结合的AI视觉分析解决方案在实际落地过程中,能够实实在在地为用户解决AI时代下的高算力与低功耗问题。
除此之外,相比其他热门方案,该方案还有两大优势不得不提。
其一、独有的利旧能力降低客户成本。
通常来说,一般的AI视频系统想要实现某些功能必须接入具备AI技术的感知摄像头,该方案在部署过程中不需要更换原有摄像头,只需要旁路接入视频采集端,即可实现AI系统;
另外,该方案还可以兼容不同品牌、不同制式的任何摄像头;可以不改变客户原服务器等硬件架构的情况下直接部署,有效降低客户部署成本。
其二、就浪潮商用机器公司本身来说,依托其在服务器领域的引领地位,拥有强大的定制化落地能力,缩短交付周期从月到天。
该方案无论是面对大数据处理、机器学习这样的AI应用,还是软件定义存储、内存数据库这一类的开源应用都会有比较好的性能表现。
毫无疑问,专为AI、云计算、大数据等新兴应用而生的AI视觉分析解决方案在客户面对严苛业务挑战时,提供了更多元化的选择。
依托这款高性能产品,用户可以更快地部署各类智能应用,缩短安防AI应用的技术迭代周期。
与此同时,性能卓越的浪潮商用机器服务器的应用不仅限于安防行业,在互联网、金融等对安全性要求高的领域,其也可以施展拳脚。
安防之外,整个 社会 正在向规模化、自动化、智能化转型升级。其中,智能化的应用方向涵盖四大方向:前端化、云端化、平台化和行业化。
在这个升级过程中,新的平台需要有新的能力做新的认知,新的认知催生新的需求和应用。
对于包括浪潮在内的 科技 公司来说,这是一次巨大的机会,同时也是一个不小的挑战,路漫漫其修远兮,必须上下而求索。雷锋网雷锋网雷锋网
1、华为:华为是一家全球领先的信息通信技术(ICT)解决方案提供商,其AI服务器产品包括Atlas900、Atlas800、Atlas500等多个系列,可广泛应用于机器学习、深度学习、自然语言处理等领域。
2、中兴通讯:中兴通讯是中国领先的通信设备供应商之一,其AI服务器产品包括Maven900、Maven500等系列,可应用于人工智能、大数据分析等领域。
3、浪潮集团:浪潮集团是中国领先的计算机设备供应商之一,其AI服务器产品包括DeepBrain系列、AIStation系列等多个系列,可应用于人工智能、深度学习、自然语言处理等领域。
浪潮AI服务器在中国的市场份额已逐渐加大,
浪潮AI服务器专注于高性能计算领域服务与产品解决方案,为有高算力需求的科研用户搭建高效的计算环境。
浪潮在AI服务器领域拥有丰富的经验与优厚的发展成果,早在2010年就提前布局互联网行业,同样是在看似十分恶劣的市场环境中,浪潮依然锁定了互联网市场作为战略方向,如今互联网巨头们与浪潮已形成了紧密的合作伙伴关系,推动了一个又一个AI应用在市场的落地。如今浪潮拥有国内领先的GPU硬件软件移植优化团队的公司。在产品层面,浪潮的Cafe成功实现了全球第一个并行版本集成版本的UPI,并且实现了全球最好的扩展性能,浪潮AI资源平台AIStation也已经成为中国AI客户里应用广泛的AI资源调度平台。2020年对各行各业而言都是一个特殊的年份,但在普通民众生活遭受重创的同时,AI技术和应用仍在加速脚步,成为帮助我们快速走出疫情的助力,这其中起着重要支撑作用的就是计算力。浪潮AI浪潮信息副总裁、浪潮AI&HPC总经理刘军也简明扼要地指出,在全新的智慧时代最重要的生产力就是计算力。瞄准计算力后,这一年,浪潮基于AI芯片、AI服务器、高速互联、深度学习的框架,来构建整个智算中心,从而实现了生产算力、聚合算力,调度算力、释放算力,从而形成一个算力生产供应的平台,数据开发共享的平台,智能生态的建设平台和产业创新的平台,为自身的2020年发展交上了一份满意的答卷。
浪潮AI服务器还是很不错的。首先,浪潮AI服务器坚持自主研发,并以提升AI计算性能为主要方向,为用户提供领先的AI算力和成熟的生态支持。然后,浪潮AI服务器具有丰富的产品线,适用于智能客服、金融分析、智慧城市等各种AI应用场景。另外,浪潮AI服务器的推理和测试性能也十分强劲。比如,浪潮AI服务器NF5488A5在MLPerf全球AI基准性能测试中一举创下18项世界纪录,其中在ResNet50推理任务测试中,实现了549万/每秒的全球服务器最好成绩,相比2019年单服务器纪录提升3倍。
0条评论