高通芯片的AI藏在哪里？

 

如今，人工智能成为最热的话题，从云端蔓延到终端，我不想去争论，人工智能究竟应该在云端还是在终端侧，因为显然这是一个无聊的争论，两侧人工智能的发展一定是并驾齐驱，分工有所不同。我今天想讨论的热点话题是，在终端侧的人工智能，特别是在海量的手机市场，人工智能会藏在哪里？华为海思马上要发布的麒麟970，内置了寒武纪的人工智能IP，这已成为目前在终端侧的人工智能的最大新闻之一，据说9月2日会有详细内容发布，让大家充满了期待。

 

高通当然不会沉默不语。他们抢在海思麒麟970发布之前，上周，组织国内媒体进行了一场小范围的发布会，讲解他们在人工智能领域的布局，并表示这布局从十年前就开始了。

 

Qualcomm Technologies工程技术副总裁Jeff Gehlhaar说道，自2007年，Qualcomm已开始探索面向计算机视觉和运动控制应用的机器学习脉冲神经方法，随后将其研究范围从仿生方法拓展到了人工神经网络——主要是深度学习领域。时至今日，Qualcomm宣布收购专注于前沿机器学习技术的阿姆斯特丹大学附属公司ScyferB.V.，以充实其相关人才团队。Scyfer已为全球多个不同行业的公司打造了人工智能解决方案，包括制造业、医疗业和金融业。他特别强调，“对Scyfer的收购还带来了公司创始人、阿姆斯特丹大学知名教授 Max Welling博士的加入，这将帮助Qualcomm在人工智能研发上的进一步发展。”

 

一个是中国人工智能算法领域的顶级公司寒武纪，一个是荷兰阿姆斯特丹的人工智能著名公司Scyfer，目前，高通与海思，两大手机芯片巨头，都在加速布局人工智能领域。

 

高通的Jeff Gehlhaar 表示，“我们于十年前就开始了基础研究，目前我们的现有产品支持了许多人工智能用例：从计算机视觉和自然语言处理，到各种终端，如智能手机和汽车上的恶意软件侦测。同时，我们正在研究更广泛的课题，包括个人助理、安全与隐私保护，以及通过人工智能提升手机无线连接与续航能力，并提供出色的拍照能力。”

 

Jeff Gehlhaar解释，基于人工智能的个人助理，将会是真正透明、自然且智能的助理，帮助你管理手机电池功耗情况、通知你的朋友你会迟到等类似的情况。它将成为你个人的“自然延伸”，了解你的性格。

 

此外，对于用户关心的“安全和用户隐私保护”，他表示，“高通与谷歌合作，研究了几种技术，我们相信这些技术将引领发展方向，而这些想法彼此间也都有一定的联系。其中一个想法是，让多台终端一起作为整体协同学习，这样就没有一台终端能获取所有的数据。第二个想法叫做隐私保护深度学习（privacy preserving deep learning），可以保证数据只提供给训练模型，从而保护数据隐私，同时也保护数据所有人的个人信息。用户可以在不被泄露个人信息的情况下放心地分享数据。”

他表示，去年，高通就正式发布了Qualcomm骁龙神经处理引擎SDK，现在用户可通过developer.qualcomm.com下载。它支持TensorFlow、Caffe、Caffe2以及一些未来即将发布的框架。“此外，很重要的一点，它基于分布式的架构，可以让深度神经网络引擎运行在骁龙异构平台的CPU、GPU、DSP等每一个单元上。并且，未来能够利用先进的无线通信技术（5G），实现终端侧与云之间的人工智能配合和连接。”

 

端侧AI，它基于分布式的架构，可以让深度神经网络引擎运行在骁龙异构平台的CPU、GPU、DSP等每一个单元上。并且，未来能够利用先进的无线通信技术（5G），实现终端侧与云之间的人工智能配合和连接。

骁龙神经处理引擎SDK目前支持骁龙600和800系列平台，“也就是说我们的SDK支持了很大一部分市面上正在出货的芯片产品。已采用这些平台的手机，可以软件升级，实现部分人工智能功能。”Jeff Gehlhaar称，“所以值得强调的是，Qualcomm已能够让开发者及OEM厂商在现有的移动处理器上执行真正深度学习的人工智能工作负载。”他补充，在未来高通也会陆续在产品路标图上添加更多的能力，比如，Qualcomm还在研究自然语言处理和自然语言理解，“我们相信该相关技术也将在智能手机以及其他相邻领域终端侧的人工智能方面非常重要。”

 

他表示，Qualcomm Technologies将持续推进人工智能研究，把先进的机器学习技术带到业界最前沿。就此所作出的具体工作的例子包括：

1：针对半监督和无监督训练，如生成式对抗网络（GANs）、分布式学习和隐私保护，提升神经网络技术；

2：面向终端侧应用的网络优化，包括压缩、层间优化、稀疏优化，以及更好地利用内存和空间/时间复杂度的其他技术；

3：以及专门的硬件架构，旨在加速机器学习运算，从而在嵌入式终端上带来更佳性能和更低功耗。

 

最后，Jeff Gehlhaar特别强调的一点是，“我们要平衡好人工智能领域的研发创新和产品交付。”他透露后面高通会有新的专用的硬件架构支持人工智能。

 

他指出，对于端侧，人工智能需要的大量密集计算与终端所能承受的功耗是一对矛盾体，也是一大挑战，另一大挑战是对内存及存储空间的挑战。他认为，要成功解决这二大挑战，需要从三部分入手：第一个部分就是高效的硬件；第二个部分就是算法改进；第三个部分是软件工具。“从Qualcomm的角度来说，我们专注的算法优化和提升主要包括压缩、层间优化和稀疏优化等。软件方面，一方面Qualcomm提供自己的软件工具支持在终端侧进行的人工智能，同时也和生态系统里的合作伙伴合作，它支持TensorFlow、Caffe、Caffe2以及一些未来即将发布的框架。

 

一个是中国人工智能算法领域的顶级公司寒武纪，一个是荷兰阿姆斯特丹的人工智能著名公司Scyfer，目前，高通与海思，两大手机芯片巨头，都在加速布局人工智能领域。