随着AI应用领域快速扩展,如何在公有云上搭建更加高效的架构,加速AI运算过程,成为诸多AI企业亟需解决的难题。近日,金山云宣布新一代云物理机CMLU1正式商用,作为倾力打造的全新一代核心计算产品,CMLU1搭载了国内首款云端人工智能芯片——寒武纪MLU100,专注于为云端AI推理提供强悍的运算能力支撑,在性能和能效方面实现了大幅度提升,能广泛适用于语音、图像、视频等AI应用场景。
此次金山云新一代云物理机搭载的MLU100云端智能芯片,作为面向人工智能大规模数据中心的核心芯片,具备能效高、运算能力强等诸多优势,同时MLU100支持浮点运算和整数运算,FP16达到16 TFLOPS,INT8达到32 TOPS,适用于不同精度需求的推理场景。
在存储方面,MLU100支持最大16GB的存储(类似GPU的显存),提供ECC保护,极大提升整体存储的性能。同时MLU100支持稀疏化,将稀疏化技术应用于智能芯片中,通过稀疏化处理,可进一步提高性能。在能效方面,MLU100采用了针对深度学习和人工智能应用特点定制的指令集和处理器架构,具有更高的能效比。
基于金山云对服务器软硬件的深度优化,新一代云物理机可广泛支持各类深度学习技术和多模态智能处理,能够完美满足视觉、语音、自然语言处理、经典数据挖掘等领域在复杂场景下的云端智能处理需求,如海量数据、多任务、多模态、低延时、高通量等。
随着云计算的快速发展,基于云端的大数据和人工智能技术,正在被越来越多的企业所采用,如针对图片识别、人脸识别等AI应用很多已经选择部署在公有云上,但因为缺乏云端架构的深度优化协同,导致TensorFlow、Caffe、MxNet[X[1] 等主流深度学习框在运行时效率并不高,金山云与寒武纪基于创新的优化技术,通过完善软件开发环境和开发工具,全面提升AI开发效率。
在软件开发环境方面,寒武纪针对MLU100提供了完善的开发环境Cambricon NeuWare,使得MLU100能够完美支持如TensorFlow、Caffe、Caffe2、MXNet、ONNX等主流编程框架,用户可面向上述编程框架,便捷地开发和部署深度学习应用。
在开发工具方面,寒武纪提供了三类:应用开发类、功能调试类、性能调优类。如应用开发类工具中,包括机器学习库、运行时库、编译器、模型重训练工具和特定领域(如视频分析领域)SDK等,能够有效帮助用户提升深度学习开发效率。
作为中国领先的云计算服务提供商,金山云始终致力于通过最前沿的技术、最高效的产品为客户提供更加安全、稳定、便捷的云服务。目前搭载寒武纪MLU100的新一代云物理机已开放商用,基于该实例高可靠和高性能的产品特性,让用户能够更加快速、高效地构建AI业务,为业务发展加速。
如果您想进一步了解该产品:https://www.ksyun.com/