机器学习（ML）和人工智能（AI）是当前科技领域最热门的话题，这两项技术都在通过对于底层的优化改良进而影响人们的生活，而下一次工业革命很有可能由人工智能点燃。而普通大众对于AI的认识源于智能手机中内置的AI引擎。特别是我们已经见识过了AI引擎在使用手机过程中带来的提升，如：AI一键换天、AI提升语音转文字效率。
当手机AI性能发展到切实能够影响使用体验的时候，AI也成了衡量手机芯片性能的一部分，AI跑分软件应运而生。用户必然会好奇AI跑分软件如何实现对于手机AI性能的衡量？今天我们就来解释什么是AI、AI跑分软件是如何评判手机AI性能的。
OPPO Find X2（8GB/128GB/全网通/5G版） 120Hz超感屏，3K分辨率，10亿色显示
[经销商] 京东商城
[产品售价] 4999元
进入购买
01 手机上的AI到底是什么？
所谓AI，指的是人工智能，如果将范围缩小到硬件层面，就是指模拟人类大脑结构的人工神经网络。说白了，就是模拟人的神经结构和功能的数学模型或计算模型，通过大量的人工神经元（数学函数）联结进行计算。不同于传统逻辑推理，基于大量数据统计的人工神经网络具有一定的判断力，在语音识别和图像识别上特别有优势。
单层神经元网络
人工神经网络需要大量的数据训练，它在识别图片的训练过程中会根据一些特征来记忆并识别物体。如人工神经网络会因为形状、颜色等特征来识别图片中的人脸、猫咪或者建筑。这有些类似人类在幼年时期，根据动物的特征来做出“这不是马，是鹿”的判断。
人工神经网络最有价值的地方是通过对于数据的归类和分割，从而“推理”出智能化结果。AI“推理”是人类向整套AI系统提供数据并“训练”AI以后的结果。用户端最终呈现的AI是经过训练后的AI“推理”后的结果。同理，智能手机中的AI引擎最主要的作用是AI“推理”，进而为用户提供定制化的使用效果。
需要注意的是，AI运算与传统运算的区别在于，传统运算是需要按照人为算法得到最终的函数结果，AI运算的过程更为开放，会根据用户输入的数据信息依靠人工神经元对数据信息进行识别判断。因此，手机AI的评判更为复杂、繁琐。
02 手机AI跑分软件的测试标准是什么？
为了让用户对手机AI性能有更清晰准确的认识，目前市面上已经出现了一些AI跑分软件，来帮助用户认识到不同机型的AI性能差异。
目前主流AI跑分软件主要衡量的是面向移动端图像分类的ResNet-34和Inception-V3、面向单一目标检测和移动视觉的Mobilenet-SSD，以及面向图像语义分割的Google DeepLab-v3等。
ResNet-34主要用来测试手机AI识别图片的概率高低与用时，来判断手机AI的性能。Inception-V3也是类似的评分机制。这两项是综合评判手机基本的AI性能。剩下的两项则是考察手机单项AI性能指标。
Mobilenet-SSD
Mobilenet-SSD是一种目标检测算法。特点是速度快、精度高，“目标检测”的意义就是让AI寻找图像中的物体，并指出他们在图像中的位置与种类，这种算法拍摄一次可检测图像中的多个对象。
Google DeepLab-V3+
Google DeepLab-V3+原理示意图
Google DeepLab-V3+是谷歌开源语义分割模型，它可以实现对于物体的建模。简单来说，这一项是检测手机AI的图像处理能力。
总结来说，ResNet-34和Inception-V3是考察手机芯片的基础AI能力，Mobilenet-SSD是让AI寻找图像中物体的位置与种类，Google DeepLab-V3+则是考验手机AI的“抠图”能力。
03 市面主流AI软件成绩该如何理解？
手机上的AI测试软件在建立测试标准后需要做两件事：其一，适配智能手机所在芯片平台的SDK（软件开发工具包）；其二，支持AI计算深度学习模型中的两种常用数据格式INT8和FP16的运算。这里提及了相对专业的名词，我们先来解释下做这两项的含义。
适配智能手机所在芯片平台的SDK
SDK是“Software Development Kit”的缩写，中文译为“软件开发工具包”，SDK是AI提供商为了开发者更方便实现AI功能而准备的开发者工具。AI测试软件支持AI SDK的意义在于更便捷、更准确测得实际的AI性能。
高通的AI SDK命名为SNPE
其中，高通的SDK命名为SNPE、联发科的SDK命名为NeuroPilot、海思的SDK命名为HiAI......AI测试软件支持的SDK越多，越容易建立统一的AI测试基准。
支持INT8和FP16的运算
INT8和FP16是AI计算深度学习模型中的两种常用数据格式。
INT8指的是8bits表示的数字，代表的是整数运算。INT8运算优势在于计算速度快，可以通过减少计算与内存带宽来提升能耗，可以让手机在AI运算中更为省电，缺点是计算精度略差。FP16指的是16 bits表示的数字，代表的是浮点运算。FP16运算的优势在于更高的计算精度，缺点是对于手机电量要求高、硬件需求高、多数消费类应用使用不到该级别精度。
INT8和FP16没有完全的优劣之分，手机端的AI往往会根据实际场景的不同来综合考虑选择。虽然FP16能提供比较高的精度，但其能效比略差，不适合在手机这种电池容量有限的设备上运行。而INT8不仅具备能效的优势，其运算的效率和精度也在不断提升。
了解这些后我们再来盘点下市面主流的AI测试软件：AIMark（鲁大师开发）、AITuTu（安兔兔开发）和ETH AI Benchmark（即苏黎世AI跑分应用）。
AIMark
AIMark
AIMark的开发商为鲁大师，测试手机芯片AI性能的基准分为ResNet-34、Inception-V3、Mobilenet-SSD和DeepLab-V3+四大类模型。其中AIMark的分值取决于手机AI处理数据集和执行特定目标识别的效率。
