爱芯元智：“混合精度NPU+AI ISP”如何引领AI芯片天花板？

爱芯元智：“混合精度NPU+AI ISP”如何引领AI芯片天花板？

历经数年洗礼的AI芯片赛道，如今正快步走进“话语权”争夺的下半场。毕竟，过去数年，眼见不少新成立的AI芯片公司大多都在通过“玩概念”“蹭热度”“PPT”等方式来进行炒作，以求达到快速吸引投资、圈钱的目的。但往往越是这类公司，越经不起时间的考验，仅仅数年光景，就从人们视野中彻底消失，成为半导体圈内茶余饭后的谈资。

而那些真正能够挺到今天的AI芯片企业，无疑都是兼具技术与资本的双项实力的硬核玩家。爱芯元智就是其中的典型代表，这家2019年5月成立的本土AI芯片公司主打感知和计算两大关键技术，成立仅两年多就陆续发布了两颗AI的视觉处理芯片——AX630A和AX620A。

对于立志要做AI视觉芯片领域头部企业的爱芯元智来说，寻求有实力的资方也尤为必要。据爱芯元智半导体（上海）有限公司创始人兼CEO仇肖莘介绍：“到现在为止，我们一共做了三轮融资，Pre A、A轮和A+轮，A+轮是今年6月初做完的，我们注重引进了一些产业界的投资方，最早的Pre A轮主要是启明创投和联想之星。今年的A轮、A+轮，我们是引入了美团和韦豪创芯，韦豪创芯是韦尔股份的投资平台，我们跟豪威有很多协同，所以这个对我们将来的发展是有好处的。同时，像GGV，耀途，还有元禾璞华，石溪资本等，也有一定的协同性。”

截止目前，爱芯元智的员工数量已300多人，尤其是最近这一年大概差不多翻了一倍。之所以短期内如此快速的扩张，仇肖莘解释到：“因为我们产品出来以后，各种软件，客户支持的人力需求快速增加。同时，我们也希望爱芯能够做成一个边缘侧和端侧人工智能芯片的领军企业，所以希望我们整个产品研发的节奏能够支持头部企业的目标状态。这样才能在整个边缘侧、端侧整个的竞争的范围之内，我们能够处于第一梯队的状态。”

爱芯元智拥有业内领先的混合精度NPU，以及行业“天花板”的自研AI ISP图像处理技术，基于自有ISP与NPU的联合架构设计，可以大幅提升传统ISP中多个关键模块的性能，打造世界先进水平的优秀画质“样板间”，为客户拓展图形图像类业务提供基础设施。 

仇肖莘表示：“大家知道，NPU的等效算力其实跟标称算力是不一样的，很多人说NPU比如有10T的算力，但是它的有效利用率可能只有10%或者20%，那就是说它的有效算力只有1TOPS或者2TOPS。为什么有效算力这么低，其实不是说NPU的核少了，而是这个数据有内存墙的问题，数据没办法送到核里去做运算，卡在数据上。针对这个问题我们有两个思路，一个思路是说现在有很多在研发中的技术叫存算一体，就是不搬数据了，在数据旁边做运算，但是这种方案也有它自己的问题，就是工艺节点做不下去，运算能力也上不去。我们的解决方式不是做存算一体，而是尽量减少数据搬运，所以这就是我们混合精度NPU的一个设计初衷，怎么把数据搬运的数量减少，这样才能够让NPU运行的效率大幅增加。”

除此之外，算法协同NPU设计也是爱芯元智的关键技术优势，爱芯元智ISP负责人、系统架构师张兴表示：“我们有整体设计的思维方式，即芯片和算法协同设计的理念，我们一定要对算法比较了解，比如常用的检测、识别、分割和AI画质提升的等算法，熟悉常用的大量网络结构，以及对应的量化需求以及算子需求，整个内存访问的需求等等。根据这些，我们来定义NPU的架构，算法对NPU的设计有一个指导性的作用，NPU的设计反过来又会对算法的实现有影响。因为NPU的设计会给出算法，现有算子的硬件加速，量化上的限制，数据流访问、优化、存储访问等在硬件上的不同限制，我们将这些限制抽象出来，从算法层面进行协同优化。因此，算法和整个硬件设计是联合优化和迭代的过程，这样就会对我们整个的硬件设计起到一个非常好的指导性的作用。”

在ISP方面，爱芯元智的AI ISP被称为能拓展行业“天花板”的技术，之所以能够做到如此，仇肖莘解释到：“因为我们是做感知加视觉处理的，所以ISP是我们重中之重，一个非常重要的IP，我们将整个ISP pipeline里面的几个重要的模块，比如高动态，3D降噪，21TM，还有demosaic进行了AI化、AI处理。因为这些处理，我们整个ISP的效果就比传统的ISP提升了一个数量级。原来传统的方案是通过sensor信号进来一路去做处理，而我们的做法就是让信号通过NPU，让混合精度的NPU去跑HDR和3D降噪的AI模型，然后再通过ISP pipeline往下走，所以是一个ISP和NPU的混合/联合设计，而且是纯自研，这是我们的优势。”

目前，爱芯元智的产品已经导入诸如智慧城市、智能交通、消费类电子等领域。除此之外，在视觉处理相机、手机、工业检测相机、视频会议等场景都有广泛的应用。未来，爱芯元智将继续在AI芯片赛道奋力冲刺，借助自身优势的纯自研IP——ISP和NPU，立足打造行业“天花板”级的产品，成为国产AI芯片行业的“隐形冠军”。