您正在访问: 网站首页 >> 技术中心 >> 电气百科 >> 正文

电气百科:带你了解一下什么是异构计算

文章来源:百方网 作者:【*】 点击:次 时间:2020/2/10 9:43:47
     “ 除了算法、数据外,异构计算将会为AI应用带来更强大的支持。异构计算,特别是加速器的发展和创新,将会为业界、最终用户和创业公司带来更无限的商机。”

 

去厨神主持的餐厅吃饭,上菜慢,一定要等。因为厨神只有一个。但是在竞争激烈的市场里,应用人工智能AI技术则不能等,否则可能被颠覆被市场淘汰。

 


 

该怎样做?

 

人工智能(AI)的研究已经持续了60多年。最近AI所呈现出的爆发趋势,不单单是因为算法的改进、大数据的积累,更重要的是计算能力的大幅提升和变革。企业和互联网巨头都有自己的算法和数据,但在计算力的获取上一直有比较高的门槛。今天我们重点谈AI时代的计算能力。

 

随着近年来硅芯片逼近物理的极限和经济成本高升,摩尔定律已趋近失效。使用通用处理器这个传统的方法已无法满足人工智能的各种应用对爆发的和高计算能力的需求。因此,具有GPU、ASIC、FPGA或其它加速器(Accelerator)等高并行、高密集的计算能力的异构计算持续火热,而异构计算也将成为支撑先进和以后更复杂AI 应用的必然的选择。

 

异构计算(Heterogeneous Computing)是指使用不同类型指令集和体系架构的计算单元组成的计算系统。异构计算是性能、成本和功耗均衡的技术,同时也是让最适合的专用硬件去做最适合的事如密集计算或外设管理等,从而达到性能和成本的最优化。

 

异构计算大厨房里的CPU

 

我们熟知的CPU(中央处理器,Central Processing Unit)作为通用处理器,是更偏重支持控制流数据。CPU每个物理核中大部分的硬件资源被做成了控制电路和缓存,用来提高指令兼容性和效率,只有小部分是真正用来做计算的逻辑运算单元(ALU)。在没有AI或其它高计算力要求时,CPU可以应付得绰绰有余,在AI或高计算力要求时,从计算任务执行效率来看,尽管CPU能兼容大量指令,但是实际的计算效率并不高。相反,CPU在异构系统当中,可以扮演和发挥非常重要的指挥统筹,控制核心的功能。

 

做个比喻吧,CPU可以看成一个“大厨”,各大菜系烹饪了如指掌,可以做出各式各样不同口味的菜品满足各类人群的需求。但“大厨”由于要负责厨房里的方方面面,对一些大量而特定的复杂处理就显得力不从心,比如一千位客人要吃各种土豆丝,比如酸辣土豆丝、青椒土豆丝、土豆丝炒肉,需要助手在短时间内切出大量长短薄厚相同的土豆丝,于是“大厨”需要找个帮手(GPU,FPGA或ASIC)来协助,这个帮手可以同时处理很多土豆(并行处理),而且速度很快(低延时),最后在与“大厨”的合理分工协作下,能满足客户对菜品的需求。

 

也许有人会说,可以再雇个“大厨”,这样组成一个同构厨房(Homogenous Computing,同构计算系统)不好吗?当然可以,之前的多CPU就是这么做的,但是在当前基于人工智能应用的计算密集型负载上,这种同构厨房有明显的缺点。首先,“大厨”身价很高,而且在某些具体的应用上也不擅长,比如快速切土豆丝;其次,“大厨”很健忘,需要总是翻看菜谱(访问内存)。由此可见,一个高效的厨房需要“大厨”和一群擅长各种任务的“帮厨”高效沟通和协同合作。

 

“大厨”CPU的重要帮手们

 

我们知道在异构计算大厨房里常见的计算单元类别除了“大厨”CPU之外,还有众多帮手如GPU、ASIC、FPGA、DSP等。那么,这么多的计算单元各自有什么特长呢?

 

GPU:适于大范围、多任务的简单运算

GPU是图形处理器(Graphics Processing Unit)的缩写。顾名思义就是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上进行图像运算工作的微处理器。近年来,GPU在深度学习方面应用广泛,主要是因为针对于神经网络这种大范围多任务的简单运算来说,正好符合GPU这种多核架构,就好像几万个客人同时点了酸辣土豆丝,需要大量的“帮厨”快速切好几万盘土豆丝。

 

不过,GPU虽然土豆丝切的又快又好,但如果你要跟他说,几个土豆切丝,几个土豆切块,再配上几个青椒,然后去冰箱拿些猪肉,做一盘复杂的大菜,那就力所不及了。这是因为复杂的控制流程会产生大量的分支,而GPU中一个控制单元要负责好几个计算单元。所以,如果要最大程度地使用GPU,势必要求指令简单特别是控制分支越少越好。

 

另外,GPU也有CPU“大厨”的毛病:健忘(需要从内存读取指令)。这带来了一系列问题,如存储墙,功耗大,基于指令系统,要译码。

 

 

ASIC:全自动、定制化

ASIC的全称是特殊应用专用集成电路(Application Specific Integrated Circuit)。它是定制的,也意味着不需要去纠结CPU和GPU怎样分配控制资源和计算资源的问题了,想怎么分配就怎么分配。

< 1 2>

关注有惊喜!
中国工业电器网:此内容转载于合作媒体或互联网其它网站,中国工业电器网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述!
新闻、技术文章投稿QQ:928246603 邮箱:news@cnelc.com

网友评论已有人参与评论

用户登录  注册新用户  忘记密码?

本站声明:严禁任何单位和个人模仿、转载、抄袭及冒名中国工业电器网(cnelc.com)

中国工业电器网 | 诚聘英才 | 关于我们 | 会员服务 | 广告服务| 意见/业务 | 帮助中心 | 在线投稿 | 友情链接 | 联系我们 |网站地图

 会员服务:点击这里给我发消息 广告软文合作:点击这里给我发消息 关键词推广:点击这里给我发消息 战略合作:点击这里给我发消息 新闻投稿:点击这里给我发消息

中国工业电器网服务热线:400-688-6377 合作电话:021-39550999 传真:021-59142222 邮编:201812 信箱:cn@cnelc.com新闻投稿邮箱:news@cnelc.com

上海总公司地址:上海 金园一路999号(中国工业电器大厦) 法律顾问:浙江海昌律师事务所 江律师

增值电信业务经营许可证:沪B2-20180642

上海易电网络科技有限公司 版权所有 2012-2020

沪ICP备10003932号-15