快捷搜索:  as

GPU和FPGA以及ASIC芯片将三分天下

近十年来,谋略行业经历了从32bit、“x86-64”、多核心、通用GPGPU以及2010年“CPU—GPU”异构谋略的变迁。而近来几年,跟着人工智能、高机能数据阐发和金融阐发等谋略密集型领域的兴起,异构谋略才忽然火了起来。

异构谋略是指不合类型的指令集和体系架构的谋略单元组成的系统的谋略要领,今朝 “CPU+GPU”以及“CPU+FPGA” 都是最受业界关注的异构谋略平台。它最大年夜的优点是具有比传统CPU并行谋略更高效率和低延迟的谋略机能,尤其是业界对谋略机能需求水涨船高的环境下,异构谋略变得愈发紧张。全部谋略行业生态无一不在此发力,芯片企业投入了大年夜量的资金,异构编程的开拓标准也在徐徐成熟,而主流的云办事商更是在积极结构,一光阴,异构谋略大年夜有取代传统同构谋略之势。

做FPGA产品的最大年夜寻衅是全部FPGA的生态情况很差,具备FPGA开拓能力分外是开拓FPGA做谋略加速的客户异常少。为此,我们会在云上建立IP开拓市场并且引入一系列的FPGA IP相助伙伴,并推动建立云上FPGA的开拓标准,富厚全部FPGA的开拓生态情况,吸引更多的IP开拓厂商和相助伙伴把他们的IP放在IP开拓市场上,去办事他们的终极用户,从而进一步富厚全部FPGA的生态情况。”

阿里云在短光阴里先后推出弹性GPU和FPGA异构谋略的办理规划,目的便是低落异构谋略资本应用的门槛,对高机能谋略有需求的企业可以随买随用。

阿里云弹性GPU产品主要面向人工智能、数据阐发、科学谋略、片子衬着、视频图像处置惩罚、视频转码等场景,今朝的利用案例包括行径数据阐发、千人千面、人脸识别、视频识别、图像识别、工具分类等;阿里云弹性FPGA产品主要面向人工智能、半导体设计、基因谋略、视频图像处置惩罚、数据阐发决策等场景,今朝的利用案例包括深度进修推理、深度进修模型裁剪、非规整数据谋略、视频图像处置惩罚、硬件半导体设计等。

众所周知,比拟CPU,GPU和FPGA拥有太多的上风,GPU有更高的并行度、更高的单权术略峰值、更高的谋略效率;而FPGA的上风则主要体现在它拥有更高的每瓦机能、非规整数据谋略更高的机能、更高的硬件加速机能、更低的设备互联延迟。

但在云真个办理规划上,便意味着上风的进一步放大年夜,阿里云GPU和FPGA异构谋略办理规划主要有以下特征:

1.GPU/FPGA资本即买即用,弹性伸缩。

2.超大年夜规模资本池,满意营业峰值的GPU/FPGA数量的需求。

3.享受异构谋略超摩尔定律的硬件红利,以相同的价格应用机能更强的GPU/FPGA实例。

4.最周全的异构产品线,满意人工智能练习、推理,图像视频处置惩罚等各类不合的需求。

5.产品整合:和全部阿里云产品体系深度整合,数据打通。

这些特点完美的办理了用户应用异构谋略规划的痛点。现在大年夜部分客户都在单机上练习模型,平日必要几殷勤一个月的光阴,是以阿里云正在计划推出一款超高机能异构集群的产品。该产品的GPU/FPGA之间可以经由过程25/100Gb ROCE走RDMA协议直连,可以多机多卡,用异常多的GPU/FPGA设备集群来合营练习一个模型,大年夜大年夜减少用户练习的光阴,从几殷勤一个月缩短到一天或者几个小时的级别。

值得一提的是,阿里云异构谋略办理规划也针对开拓者做出了更友好的体验:在GPU编程方面,阿里云会推出散播式多机多卡练习框架和其他GPU上的机能优化办事,能够大年夜大年夜低落客户应用多机多卡的门槛,从而削减客户在云上做深度进修练习的光阴。

FPGA方面,阿里云会建立IP开拓市场并且引入一系列的FPGA IP相助伙伴,并且会推出自研的IP系列,经由过程IP市场的繁荣让更多的终极用户能够享受到FPGA的机能加速。

别的,阿里云还推出了IaaS+的办事,包括宣布E-HPC产品做异构集群的资本调整、账号治理和弹性伸缩,经由过程容器办事来做一键支配、散播式练习和弹性伸缩,经由过程XDL来做行径数据阐发,使用阿里云自研的GPU汇编器来优化提升利用的机能,前进异构谋略设备的使用率,削减资本的采购资源。

人工智能以及其它新兴利用领域对付谋略量的需求跨越了通用CPU的摩尔定律的成长速率,而异构谋略的机能增长速率能够满意这些新兴的偏向和趋势,可以预见的是,异构谋略会在往后的数据中间中盘踞越来越多的份额。

您可能还会对下面的文章感兴趣: