怎样发挥Kirin 970人工智能的最大威力？_资讯频道

怎样发挥Kirin 970人工智能的最大威力？

时间：2018-03-27 16:26来源：半导体行业观察

摘要：据公开资料显示，Kirin970每分钟处理2005张图片；而在没有NPU的情况下，同样时间处理的图片只有97张。可见NPU在人工智能世界里的实力。

在华为发布搭配NPU的Kirin 970之后，行内人员都对这个AI芯片的应用充满了各种想象和疑问，这不但因为它是业界首颗集成NPU的移动SoC，更因为它的强悍性能。据公开资料显示，Kirin 970每分钟处理2005张图片；而在没有NPU的情况下，同样时间处理的图片只有97张。可见NPU在人工智能世界里的实力。

华为无线终端芯片产品市场总监周晨

华为无线终端芯片产品市场总监周晨在日前于香港举办的Linaro 开发者大会上也表达了同样的观点。他指出，NPU由于本身设计的独特性，能够高效地运行神经网络模型，大大提升推理的效率，这是CPU和GPU所不能比拟的。但华为的AI布局并不仅仅是NPU，他们所提供的是一套便捷的解决方案：

Kirin 970的GPU/CPU/NPU的Die面积和NN性能对比

HiAI是基础
华为HiAI移动计算平台是一个开放的AI生态，能够将Kirin 970的AI能力“赋予”第三方的应用，而这主要基于开发者的需求所决定的。在周晨看来，现在的开发者在做开发的时候，非常关注开发成本、收益和IP保护三个方面，而HiAI正好能够完美解决这解决这个问题。

HiAI移动计算平台

作为一个面向人工智能应用的异构计算机构。HiAI拥有了几项方便开发者的特性：

（1）提供一些经常被使用的人工智能功能API，这样的话上层应用就可以利用这些API更好的将相关模型在移动设备上运行；

（2）支持更多主流的架构，兼容更多的模型；

（3）提供对模型和算子的独立硬件加速。

（4）异构计算配置，能够让开发者可以灵活的配置神经网络模型的加速。从上图我们可以看到，HiAI底层提供了GPU、CPU、DSP和NPU的硬件支持，应用在运行的时候，芯片会判断工作量和对时延的需求，然后自动选择GPU或者AI加速器执行相关处理，这样就能达到性能最优化处理的效果。

HiAI最新SDK支持的项目

根据周晨介绍，HiAI移动计算平台支持稀疏模型加速，且NPU可以跳过系数为零的乘加运算，这可在保持计算精度的同时，大大提高计算效率，并降低了带宽要求；另外，HiAI移动计算平台支持8位和1位量化，有效降低计算带宽和存储消耗，提高能耗效率。

在这个基础之上，华为还将对HiAI持续升级（例如增加对Caffe 2和ONNX等的支持），保证整个平台符合新兴应用的需求。

Hikey 是加速器
有了HiAI之后，开发者就能基于其开发应用了，但并不是所有的开发者都能够买一个搭载Kirin 970芯片的手机来开发，且手机上的接口并不能很完美地符合开发者的需求。为了更好地拓展Kirin 970的AI应用范围和方向，华为推出了一个实用的解决方案——HiKey 970 AI开发板。从与周晨的交流中我们得知，这已经是华为Hikey开发板系列的第三款了。

Hikey 970

周晨表示：“新的Hikey 970不但支持华为HiAI SDK，而且相对于纯CPU运算AI，Hikey 970更有25倍的性能提升和50倍的效率提升。当然，支持流行的AI栈、主流的OS和更多的硬件接口也是必不可少的。”

HiKey 970的规格

在周晨看来，通过提供开发板的方式，一方面可以让大家能够感受到Kirin 970的人工智能实力，能在上面做更多的创新，为华为和相关的开发者提供更多的应用方向；另一方面，由于有了更多的开发者在上面投入开发，也为芯片升级提供了更多思路和指引方向，从而为更好地满足开发者的需求，也为消费者带来更好的体验。

华为方面也打算通过人才培养、开发支持，创新支持和市场等计划来扩展Hikey 970的覆盖范围。