技术分享

金山云 > 推荐阅读 > 金山云发布面向AI高端GPU服务器实现最高30倍加速

金山云发布面向AI高端GPU服务器实现最高30倍加速

发布时间: 2020-01-16 08:01:03

5月18日,金山云正式推出基于NVIDIA Tesla P40平台的GPU云服务器,目前已在金山云官网上线。据悉,金山云还即将推出基于P40平台的系列产品——GPU物理服务器,两款服务器将分别针对深度学习的两个步骤——线下训练和线上推理,提供细分支持。


GPU云服务器和物理服务器定位高端,拥有强大的运算能力,在实际应用中,相比于目前市面上友商普遍采用的前一代M40平台,Tesla P40可实现1.4倍到1.7倍的加速比,在推理应用中,相比于CPU,可降低30倍以上的延迟,相比于M40推理吞吐提升4倍以上。同时,P40系列GPU服务器也伴随金山云IAAS服务,在计算、网络、存储、专属云四个方面实现全面提升,具有强劲的竞争力,可帮助客户打造顶级深度学习平台,笑傲新兴的人工智能(AI)江湖。


定位高端,专治客户痛点


如今,人工智能被看作是继蒸汽机、电力、计算机之后的第四次工业革命。有预测认为,到2018年,广义的中国人工智能市场规模将达上千亿元人民币。目前包括谷歌、微软、亚马逊、Facebook、BAT、小米在内的国内外知名科技企业,均已将人工智能作为核心战略。人工智能创业公司如雨后春笋一般出现。对于人工智能领域的公司来说,其对于GPU资源的需求是巨大的,但面临着种种应用上的困境。


具体来说,不光是人工智能领域的创业公司,很多互联网公司和传统软件公司也遇到了这样的难题:互联网公司的人工智能业务需要轻资产和大规模计算能力;传统软件公司希望借助人工智能提升软件竞争能力,但对GPU服务器这种IAAS资源了解不多,更不会维护;创业公司抢占人工智能风口,需要最新的技术和硬件支持,但不想使用过多的资金购买GPU硬件,又缺乏系统运维资源。


针对这些需求和痛点,金山云提供了解决之道:即GPU服务器加上顶级人工智能 IAAS平台。此次推出的P40系列GPU服务器,分为物理服务器和云服务器两种,分别对应的是人工智能的核心驱动力,即深度学习的两个步骤——线下训练和线上推理,为其提供细分支持。


金山云GPU物理服务器专门针对线下训练而生,其配备8颗NVIDIA Tesla P40,192GB显存和256GB内存,总计提供30720个并行计算核心和最高96TFlops的单精度浮点计算能力。Tesla P40在训练AlexnetOWT、GoogLenet、VGG-D、Incep v3、RetNet-50等流行网络时,相比于目前市面上友商普遍采用的前一代的M40,可实现1.4倍到1.7倍的加速比。


GPU云服务器则针对线上推理而生,其可提供1/2/4颗NVIDIA Tesla P40,满足客户在深度学习上的推理、基于GPU的大数据分析、图形渲染等服务器端GPU计算工作负载。尤其是在推理应用中,相比于CPU,可降低30倍以上的延迟,相比于M40推理吞吐提升4倍以上。


四重特性为客户打造顶级AI IAAS平台


P40系列GPU服务器在计算、网络、存储、专属云四个方面,具有强劲的竞争力,为客户打造顶级的AI IAAS平台。


在计算方面,P40系列有着P3E PRO GPU加速实例,单机8颗NVIDIA Tesla P40 GPU能够达到96Tera FLOPS的单精度浮点计算能力,再加上两颗2690V4至强处理器,总计可以达到97.16TeralFLOPS的单精度浮点计算能力;P3E PRO GPU加速实例,单机提供192GB的显存和346GB/s的显存带宽,可充分发挥P40在训练场景下的计算能力。


在网络配置方面,首先,P40系列GPU服务器有着灵活的VPC网络,P3E PRO GPU加速实例,可以和其他金山云云主机实例一样灵活使用金山云VPC网络,客户可以通过VPC提供的VPN、DC或者Peering通道,与自己的其他IAAS资源对接,无论这些资源是在金山云的其它地区,还是客户自己的金山云机房或办公室。


第二,面对多机多卡的需求,P40系列GPU服务器支持100Gb RDMA网络,网络基于RoCE协议,支持P3E/P3E PRO GPU服务器点到点的100Gb连接。


第三,对于大规模计算加速任务,最大支持256个GPU服务器组成的100Gb无损无收敛集群,总计可以支持2048片GPU卡协同工作,为客户打造顶级超算平台。


在存储方面,首先,P40系列GPU服务器配备本地SSD固态硬盘,单机8片SSD总计提供1400MB/s写入带宽,同时提供1-3ms的低延迟IO,适合大量文件的随机读写。


第二,P40系列GPU服务器可以使用金山云集群文件系统,可以和其它金山云云服务器实例一样,通过业务网络接入KS3存储资源,同时还提供KS3的文件系统接口和容器仓库接口,可以提供2000MB/s的读写带宽。


在专属云方面,金山云提供专属云服务,在专属云中自定义创建任意配置的GPU云服务器和普通云服务器来应对业务挑战。专属云为客户提供如下特性:


第一,专属的IAAS资源。这些资源在使用期间,归客户专属,不会调度其他客户的云服务器上来。


第二,自定义虚拟化比例。不再受到线上套餐及虚拟比例限制,客户可以根据业务情况,自定义虚拟比例以高效利用资源。


第三,动态增减集群节点。客户可以根据业务情况增加或者减少专属集群的节点数量。


第四,时间维度的灵活性。可以在任意时间创建/销毁VM实例。


人工智能大潮已经来临,在国内,各行各业都在争相布局,以占得先机。在云计算和深度学习方面有庞大需求的客户,努力抓住人工智能时代的新机遇,获得更加快速、高效建设人工智能业务的能力,以实现业务和产品上的创新,基于此,Tesla P40系列GPU服务器将成为客户的理想选择。

以上就是金山云为您带来的金山云发布面向AI高端GPU服务器实现最高30倍加速的相关内容,如果您还想了解更多金山云,GPU服务器,GPU,金山云发布面向AI高端GPU服务器实现最高30倍加速的相关问题您可以点击页面中的链接进行具体了解。金山云提供云服务器,云主机,云存储,私有云,数据库,物理主机,RDS,KS3,SLB,KEC的全套产品服务,部分产品可以免费体验,而且会有定期的优惠、代金券等相关的活动。成立7年来,金山云始终坚持以客户为中心的服务理念,提供安全、可靠、稳定、高品质的云计算服务。以上是对金山云发布面向AI高端GPU服务器实现最高30倍加速相关介绍,如果觉得对您有帮助可以收藏。欢迎随时查看。
以上就是金山云为您带来的推荐阅读的全部内容,如果还想了解更多内容可访问金山云官网www.ksyun.com了解其它资讯。
*免责声明:部分文章信息来源于网络以及网友投稿,本网站只负责对文章进行整理、排版、编辑,是出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如本站文章和转稿涉及版权等问题,请作者在及时联系本站,我们会尽快处理。