决胜AI“芯”战场：软件比硬件更具份量！
在全球IC设计领域，AI已成为驱动市场增长的一大关键动力。据J。P。Morgan预测，从2018年到2022年，全球半导体市场的复合年均增长率(CAGR)为5%-6%。其中，AI半导体市场的复合年均增长率将高达59%，2022年市场体量有望达到330亿美元。
今年以来，各类智能化应用的突现，使得各终端场景对低延迟、低功耗、低成本、高可靠性、高安全性AI芯片需求持续增长，其中尤以智能手机领域为甚。10月31日的CEVA技术研讨会上，拓扑产业研究院Yao Chia Yang就表示：“AI会是未来几年促进智能手机市场增长很大的一个动力，芯片端在苹果、华为以及高通的带动下将有越来越多的厂商开始投入AI处理器的设计研发以及市场拓展等工作。尽管今年10nm的AI芯片仍主要聚焦在各大手机厂商的旗舰机型上，但我们相信明年随着运算架构与先进制程的逐步演进，AI芯片的效能会持续提升，入局门槛将也将不断降低，芯片或将逐步下沉到中低端手机市场，有望带动智能手机市场重回高速增长轨道。”
不过，就目前来看，无论是云侧还是端侧AI，技术的发展仍处于十分早期的阶段。而很多芯片开发商在将产品打入市场时，也时常喜欢拿处理器硬件的功耗、面积以及算力等硬件常规参数来说事儿，这也直接导致了如今越来越多的AI芯片在硬件设计上毫无亮色。CEVA营销副总裁Moshe Sheier也表示：“目前的情况是，各家的AI处理器IP在SoC中所占的面积都不小，虽然厂商们在处理器设计上都各具特色，但又十分相似。因为各大厂商目前都在不断堆叠MAC单元，以期用更多的MAC单元来达到更高的硬件性能指标，但在同样的工艺下，芯片的面积和功耗也都会非常接近。因此，如何去延长产品的周期以求更好的适应广大OEM不断变化的需求非常关键。”
CEVA营销副总裁Moshe Sheier
在CEVA看来，软件会是未来各大AI芯片设计商们实现产品性能提升的破局之道，Moshe Sheier举例道：“比如目前应用比较多的语音处理，无论是唤醒还是关键字识别都已经从传统的算法全面转变到神经网络处理，这种算法的更新和软件的更新反过来会对硬件提出更高更新的要求，也就是说算法和平台会不断的更新。因此，在AI处理器演进过程当中，我们应该适当的多用软件平台，而不能完全依赖于固定的硬件，从而延长产品生命周期。”
CEVA的NeuPro处理器IP则可以很好的满足OEM的这种需求，据Moshe Sheier介绍，NeuPro支持8位和16位神经网络，MAC单元在运行时的利用率达90%以上，整体处理器的设计大幅降低了DDR带宽，功耗得以改善。在结构上，该处理器主要是由Neupro引擎以及Neupro VPU两大部分组成，NeuPro引擎包括神经网络层的硬件实现，其中包括卷积、全连通、池化和激活;NeuPro VPU是可编程矢量DSP，用于处理CDNN软件，同时为AI负载的新进展提供基于软件的支持，可以灵活的根据客户的不同应用及产品开发需求来进行调整，可以极大的提升芯片设计的自由度。
与NeuPro VPU进行配合的是CDNN神经网络软件框架，它的主要作用是把用户使用不同框架训练好的神经网络进行量化、压缩等处理，然后自动地部署到底层的硬件。Moshe Sheier告诉记者，“CDNN所能实现的自动化是基于CEVA对应用和协议的深入了解和分析，加上长期的积累判断哪些工作适合什么样的硬件，另外CEVA不同的硬件平台软件使用的都是同一套框架。”
同时，CEVA也在不断优化CDNN框架，最新的CDNN版本具有开放式的神经网络交换ONNX支持，开发人员可以将在各种深度学习框架中训练的神经网络无缝部署在CEVA-XM视觉DSP和Neu Pro AI处理器上。据编者了解，ONNX是由Facebook、微软和AWS创建的开放格式，用于实现AI社群内的互操作性和可移植性，可让开发人员针对项目使用合适的工具组合，而不会被任何一个框架或生态系统“锁定”。通过CDNN神经网络编译器对ONNX的支持，开发人员可以导入以任何ONNX兼容框架生成的模型，并将之部署在CEVA-XM视觉DSP和NeuPro AI处理器上。
CEVA副总裁兼视觉业务部门总经理Ilan Yona也表示：“CEVA将全力确保实现开放且可互操作的AI生态系统，AI应用程序开发人员能够充分利用生态系统中各种不同的深度学习框架，考虑其功能和易用性，为所需特定应用选择最合适的深度学习框架。通过为CDNN编译器技术添加ONNX的支持，我们为CEVA-XM和NeuPro的客户及生态系统合作伙伴提供了更为广泛的功能，用于训练和丰富其神经网络应用。”
最后，值得一提的是，在NeuPro引擎与NeuPro VPU之间，线路上没有设立任何的数据通行障碍，二者之间的数据交互可以非常流畅的展开。而且是双向的流通，这能够很好的提升软硬件系统间数据流通的效率，进而成倍提升AI芯片的处理能力。（责编：振鹏）
本文为华强电子网原创，版权所有，转载需注明出处
关注电子行业精彩资讯，关注华强资讯官方微信，精华内容抢鲜读，还有机会获赠全年杂志
关注方法：添加好友→搜索“华强微电子”→关注
或微信“扫一扫”二维码
