AI芯片,三成在于硬件,七成在于软件,软硬件一体是关键。
作者 | 张瑞
“能在创新上把传统企业甩开多远”,这是很多业内人眼中,AI安防芯片企业能否作为独立的势力存活下去的关键。
业内的普遍观点是,如果AI芯片企业只是“微微领先”,那么待风口渐过,他们很有可能会被传统企业反超。
而决定他们能走多远的,恰恰还是其创新实力本身。AI芯片算力的提高、架构的创新、软硬一体化,以及商业模式的探索,都在互相交融,共同塑造着一个芯片的新生态。
近期,AI掘金志也采访了多家有着不同创新路径的芯片企业,他们或从优化芯片的计算、存储架构入手,或选择做软硬一体,或着眼于摄像头中的ISP、编解码芯片。
对于AI安防芯片要解决的主要问题和创新路径,企业们有着共识,也有各自不同的选择和看法。
一、AI安防芯片是一个系统级别的问题。前端除AI加速模块外,还包括ISP、编解码芯片等。安防芯片内的其他模块的竞争力、及其集成方式,也是整个AI 芯片的核心问题。
二、未来的趋势是系统级芯片得天下,而不是功能级的芯片得天下,AI 芯片一定会被集成。
(相佐的观点:AI协处理器以其灵活性和高效性见长,被集成的取舍可能会继续存在。)
三、衡量一款AI芯片,具体的指标包括算力、价格、功耗、稳定性等。
四、AI芯片,三成在于硬件,七成在于软件,软硬件一体是关键。
五、目前终端AI芯片的性能瓶颈不在于算力,而在于存储。
六、在计算架构上,区别于同构计算的“异构计算”,相对能更好在通用性和专用性之间实现折衷。
七、在落地安防上,现有AI芯片的主要问题是,差异化不明显,易掉入同质化竞争的陷阱。
八、芯片行业很残酷,存在二元法则:老大吃肉、老二喝汤,老三、老四可能找不到名字。
以下是AI掘金志采访芯片企业们的主要内容:
触景无限副总裁陈勇:
做芯,软硬件耦合是关键
做一款AI安防芯片要从全栈解决方案出发,不仅仅只有芯片,还要有比较完善的软件生态来耦合这个芯片,这样用户才比较容易、也能动态部署符合他们需求的方案。
另一个点是芯片的算力能效,芯片不能只单单提供算力,还要在满足应用算力要求的前提下消耗最少能量。
我觉得,这两个方面对于AI安防芯片来说最重要。
触景无限做芯片就是为了让自己的算法和工程经验找到一个更好耦合的练兵场,达成软硬件的协同优化,更好地实现前端感知。
以前,我们发现AI加速只是前端落地应用需求的一个点,打磨很长时间的AI加速芯片产品,用在前端的效果还是不够好。
就像一条公路,AI芯片的集成像是铺上了柏油,但车辆通行时除了对于路面的高要求,还有对于路牌、路标、服务区的需求,而这些在实际过程中,都没法得到很好的满足。
在芯片具体研究中,我认为,对AI 安防芯片来说,由于多层神经网络的应用,如何做到各种神经层中间的高效数据传输是一个难点。
另外,我们认为虽然在摄像头内,主控芯片很强势。但AI协处理器有它独有的灵活性和高效性,并不能简单地被主控芯片集成。这种通用性和专用性的取舍会一直存在,而这也是AI协处理器存在的机会。
探境科技CEO鲁勇:
芯片的数据存储管理要做好
安防领域的数据特点,其实主要在于需要实时的处理大量连续的图像数据流。
第一是每秒处理帧率要越来越高,第二是图像分辨率上要高。在这两个维度上,安防对边缘芯片提出了要求。
原先很多安防厂商采用Movidius的芯片实现前端智能,但我们认为它并不是非常适用于安防前端。不过Movidius的火爆,恰好说明了市场对边缘端芯片的强大需求。
我的看法是,要突破AI安防芯片的瓶颈,并不能只是简单的增加计算算力,而是一定要把数据存储管理做好。
传统芯片中,采用的是冯·诺伊曼架构,计算模块和存储单元是分开的,“内存墙”问题很严重。而AI依赖的算法是一个庞大和复杂的网络,有很多参数要存储,也需要完成大量的计算,需要巨大存储容量,高带宽、低延时的访存能力。很多AI初创芯片公司,实际上都在努力解决这个问题。
而我们的思考是,不能采取通常的先有计算指令然后提供数据的方式,应该从存储子系统的优化入手,让数据在存储之间的搬移过程之中完成计算。
这也可以叫做“基于memory的计算”,而不是“基于计算的memory”。
当前芯片领域对于AI算法的关注还较多,针对AI的结构改进尝试还比较少。之后,memory与computing结合的尝试,我相信会是一个好的方向。
华夏芯CEO李科奕:
提升AI芯片的易用性
现在的安防市场上,已经出现了很多前端的AI加速器,但实际它们在应用上,还存在一些问题。
第一是价格太高。第二是可编程性不足。原先的通用芯片CPU很容易能实现编程,但AI加速模块中并没有指令集,无法编程,需要手工去调整。
在安防领域也是一样,厂商普遍反映的,不是AI芯片的性能,而是无论AI初创企业,还是传统大厂设计的加速器都很复杂,AI加速器很难被用起来。
一般来说,通用芯片难以负荷对计算的高要求,AI专用芯片则在可编程性、灵活性上有所欠缺。目前应用较多的集成度高的Soc,将不同计算架构芯片集成在一起,需要多套编程程序,运行就容易带来问题。这也是安防芯片厂商们,尤其是在安防前端应用上面临的难题。
而业内目前看好的一种方式,就是将不同的芯片架构结合在一起,这就是“异构计算”。
异构计算的长处在于,能实现比较好的适应性和灵活性,在通用性和专用性上达成一个折衷。既能高效的处理数据,又能相对保证算法的及时更新和迭代。这也是我们在探索的一个方向。
现在在安防、自动驾驶等这些边缘端的市场,对芯片的综合要求非常高。芯片需要处理的数据量很大,同时对于性能、性价比、性能功耗比要求也很高。
但我们看好这些新兴市场,因为边缘端的需求量很大,而且相对于手机、云计算、PC端等这些已经很成熟的市场,给了芯片厂商更多创新,和在新市场中占据位置的机会。
欣博电子CEO梁敏学:
很多AI安防芯片是同质化的
对于AI安防芯片来说,我认为“芯片+算法”的整合是最重要的。而对于具体一款芯片,最主要的指标应该是价格和稳定性。
芯片是“硬”的,算法是“软”的,如何能将两者更好的结合起来,这就需要加强芯片对底层运算加速算法的适应性。
现有芯片的问题,从技术角度来说,对前端的AI芯片算力的要求,对存储问题的解决,都很重要,都需要靠算法和芯片架构一起来改善,比如说现在的算法就还比较耗带宽。
再具体应用上,我认为AI安防芯片在安防摄像头中作为协处理器,目前已经被主控芯片集成了,所以单纯提供AI加速器并不占优势。
而我们所做的,是开发编解码能力、加密及AI能力三合一的芯片,为摄像头提供安全加密。这也是我们相对于其他芯片厂商不同的一点。
从行业角度来说,现有AI芯片在安防行业应用落地上的主要问题,其实是同质化。
很多AI芯片厂商产出的芯片并没有太大差别,一方面很多芯片达不到现有安防行业对前端AI芯片的要求,一方面又容易陷入芯片同质化竞争。
现在的安防芯片格局下,其实已经存在垄断的生态,有大的行业玩家存在,那么做AI安防芯片如何找到自己的价值点,并做到差异化还是最难的。
人人智能CEO王海增:
芯片行业很残酷,遵循二元法则
AI芯片前两年很热,“热”的同时,也让市场很浮躁,去年一年,业内就推出了十几款AI芯片。
但在安防和芯片领域摸爬滚打多年,我们的看法是不去做纯碎的单一芯片,而是做融合芯片、算法和系统的FaceOS视觉中间件,用在人证比对等。
在我看来,市场上可能只需要一款主流产品。芯片行业是很残酷的,有个二元法则,就是老大吃肉,老二喝汤。老三、老四可能找不到名字。
综合来说,我还是比较看好华为海思。在安防视频芯片的领域,有华为海思这样的对手存在,做视觉智能芯片几乎没有太多机会,这一事实很难改变。
之前,我们对比过这些芯片,发现芯片从高端到低端系列,海思的芯片布局很完整,渠道健全,而且功能几乎比现有的几个AI芯片厂商都更加领先,优势很明显。两三年前,我们能看到这个市场很大,但不知道谁能跑出来,现在回过头来再看,我们依然觉得海思跑的更靠前了。
另外,AI芯片领域虽然一直在谈创新,但实际上,真正的创新还尚未到来。
算法的底层架构,如TensorFlow、Caffee等方面几乎都是采用国外的架构。
底层的算法上面,国内几乎还处于空白。这涉及很多基础数学的问题。就像谷歌谈张量计算芯片,是发觉了卷积使用的张量计算的模型和传统模型不同,所以需要设计芯片设备,适应它的模型,这是算法型的创新。而且谷歌还发明了TensorFlow这样的主要架构。
这些在国内还都是空白。
联系客服