地平线张永谦:边缘计算时代 软硬结合是AI“芯”成败关键

来源:华强电子网 作者:Andy 时间:2019-11-07 17:18

地平线 张永谦 边缘计算

  边缘侧智能设备的大规模爆发,让数据成为如今的AI芯片领域最大的挑战。事实上,截止目前,99%的数据都是没有被经过智能化处理或者是结构化处理的,可以说都是垃圾数据。如果把这一部分数据送到云端进行智能处理,未免会付出太大的代价,其中不光是传输带宽,还有云端为处理这么多海量数据所付出的代价。

11.jpg

  另一方面,5G大潮已经在中国开始落地,5G对于单位面积之内的设备的接入数量,包括接入带宽又比4G高了一个量级,这也会进一步加剧边缘侧数据和比较有限也比较难以实现的骨干网处理能力之间的矛盾。

  边缘侧的AI“芯” 软硬结合至关重要

  在边缘侧做快速智能处理大量数据,是当下主攻AI芯片和计算芯片领域的玩家们集中攻坚的难题。地平线张永谦表示:“边缘侧的AI芯片现在已经成为市场非常抢手的产品。不说全球,即便是在国内,做AI芯片的公司也有50-100家,对外宣称他们在做AI芯片。而地平线从成立之初到现在,对于AI芯片,我们的看法和传统芯片公司的看法是非常不一样的,我们的理念首先是软硬结合。传统的半导体讲的几个参数无疑就是PPA:功耗、性能和成本。智能时代,光靠这几个参数是不够的,还需要更多的参数综合的能量什么是好的AI芯片。”

12.jpg

  首先,目前市场上能够看到的,基本都是在大力宣传单位面积下的功耗,以及芯片能所提供的峰值的计算能力。比如,一款芯片宣称是1T或者是4T,这个还不够,就如同一个处理器,它在做大部分处理工作的时候,处理单元是空闲的,这个只是空耗和性能的浪费,张永谦表示:“我们要看第二个重要指标,就是在峰值算力典型场景的计算情况下的有效利用。有效利用率之后还不够,因为现在要面对的是AI场景,这个场景其实是非常复杂的,还要再看在有效的计算能力输出的情况下,你能达到对复杂场景处理的效果。把这几个参数相乘,才能衡量边缘侧AI芯片最客观的指标。要达到一个好的鞭策侧AI芯片的指标,能让边缘侧的计算性价比、能耗比更好,地平线的思路是必须软硬结合。地平线的芯片在设计之初,是先有软件,再有硬件。本质上是基于未来主流智能场景做的预判,在这个预判基础上会设计算法架构,以及针对于芯片的编译器和指令级,包括我们要考虑片上存储等和软件结合非常紧密的方面。把这几个点联系在一起,在这个基础上设计硬件(芯片),图灵奖获得者说过一句话,苹果是这个理论最好的践行者,地平线也是这个理论最好的践行者,在边缘AI芯片上。”

13.jpg

  地平线在芯片设计之初,一开始就是软硬结合的思考。张永谦告诉记者:“比如地平线的一款处理器,在没有做任何优化的情况下,对720P图象做AI处理,它的计算资源利用率可以达到33.9%,每秒处理9.36帧,比通用GPU处理器比没有做优化的利用率高不少,即便如此,在边缘计算上仍然是不能满意的。用编译器处理过之后,大家就可以看到,中间的彩色条是处理单元,上下是存储单元。在没有经过软硬结合优化前,计算单元是被不停的打断,需要频繁的读取外部的存储,频繁往里输数据。经过软硬结合的优化之后,计算的有效利用率被大大提高了,计算单元利用率可以达到85%。因为我们大大降低了跟外部存储的交换频率,它的帧率处理速度是24帧/秒,效率得到大大提升,这是我们在AI边缘侧怎么做好的理念,就是软硬结合。也正是因为这一点,过去40年人类的快速发展重要退守就是摩尔定律,但是摩尔定律更多是强调着硬件创新,是工艺。我们的理念是在传统摩尔定律即将走到尽头的时候,通过软硬结合的方式可以继续推动摩尔定律,在下一个20年仍然快速的发展。”

  以AI之力从底层赋能 破除AIoT时代的五大挑战

  AIoT是很大的名词,其中包含了百行百业。因此,它的场景是大量碎片化的,碎片化的挑战难度非常高,即便是行业里巨无霸,不管是中国的五十强还是世界五百强,行业里大量的巨头面临这个挑战时仍然很难面对,每个市场的量都不是特别大,但是场景又很碎片化,中间的价值如何得到体现?

14.jpg

  其实很多时候仍然还只是暖场。面对这么碎片化的情况下该怎么做?张永谦认为:“我们如今看到非常多的挑战:1.AI产品形态种类非常多。有摄像头、带屏设备、机器人、智能家电、边缘侧计算设备。这么多AI产品形态如何的产品化,并实现很好的AI能力?非常不容易。2.图像和场景的效果。线下AI面临的挑战是每个场景不可复制的,今天解决方案也好、场景也好,在这里可以很好的输出结果,但是换了一个天气、换了一个场景,很可能就不灵了。怎么样把方案做到更加普世化?这是非常大的挑战。3.怎么样快速的开发上层智能应用,真正把AI能力服务落地。4.硬件挑战。我们在落地的过程当中,行业里面非常多的客户原来并不是做硬件的,他们是服务行业的,可能是软件服务,但是AI是直通下游买单的用户。现在行业里面远远不止是边缘侧,原来做硬件的厂商朝着这个方向发展,很多硬件厂商在进化成行业解决方案提供商,也就是说,既做产品,同时又去做背后的服务行业软件。还有更多的是原来在行业里做软件的,甚至是做系统集成的公司,因为他们有很好的客户基础,离下游的场景也非常近,也迫切希望把智能化的产品做出来,再跟原有的能力结合。大家从四面八方冲到市场来吃通场景,怎么样快速把硬件做出来?这是很多创业公司甚至是老牌公司巨大的挑战。5.如何做到完整的系统集成。地平线退出旭日1.0的时候也没有意识到这么多挑战,就是在外面推广AI芯片,包括基础算法。后来发展不行,怎么解决呢?我们把解决方案做得更加重。首先是怎么应对多样化的产品形态。我们经过思考,挑选了其中3种可能是在未来2-3年最先落地、量最大的产品,最先是智能RPC、带屏近距离交互产品和可以克服前端不确定性的边缘计算核,我们选择了这三种智能产品的形态作为开发解决方案的入手点。选取了之后再就是软件架构,并编成统一的框架,方便我们做解决方案的开发,也能让开户在不同的产品形态上快速的迁移,同时支持端和边缘。”

15.jpg

  对于AIoT的市场,地平线的态度是以提供非常强大的AI能力集,在AIoT落地过程当中,我们经过思考最先落地还是以人为本的场景。

  地平线秉承的理念是底层赋能,在底层赋能的上面是下了非常多的功夫,我们并不仅仅是对外宣称的AI芯片公司,更本质是算法+芯片,软硬结合的底层,包括解决方案服务客户。在面对非常多的行业落地的应用、项目等机会的诱惑下,我们公司也是坚持一个理念,就是我们不做行业应用,并不和所赋能的合作伙伴、客户竞争,就是把底层的东西做得更好,然后更好的赋能他们,让AI特别是边缘侧的AI实现落地,最后实现普惠AI的效果。



关注电子行业精彩资讯,关注华强资讯官方微信,精华内容抢鲜读,还有机会获赠全年杂志

关注方法:添加好友→搜索“华强微电子”→关注

或微信“扫一扫”二维码

资讯排行榜

  • 每日排行
  • 每周排行
  • 每月排行

华强资讯微信号

关注方法:
· 使用微信扫一扫二维码
· 搜索微信号:华强微电子