人工智能的发展为人们生活带来便捷与改变，然而以云为中心的构架方式并非在任何情况下都是最理想的解决方案，比如对信息安全的担忧以及功耗对产品设计带来的挑战等。受此影响，以分布式为特点的嵌入式人工智能技术开始受到关注，未来它的发展将使设备端具有更高的智能。
嵌入式人工智能技术受重视
以边缘计算为特点的嵌入式人工智能技术开始受到重视，边缘计算的作用可以优化资源、提升效率。
当前，人工智能的计算大多数是在数据中心运行，即运行在“云”上。但是随着技术的发展，人们发现一个巨大的机会正在远离数据中心的互联网边缘产生——嵌入式人工智能正受到越来越广泛的重视。
物联网拥有海量的终端设备，未来如果这些网络节点所抓取的数据都需要上传云端进行智能处理或者深度学习，对网络带宽将提出巨大挑战。“另一个挑战就是功耗。设备端大量采用电池供电，比如智能移动设备、新能源汽车等都对设备功耗提出越来越高的要求。”瑞萨电子(中国)有限公司市场策略中心综合营销部副部长王均峰表示。因此，以边缘计算为特点的嵌入式人工智能技术开始受到重视。
对此，中科创达技术总监王璠表示，和云计算一样，边缘计算的作用也是优化资源、提升效率。举个例子，一些嵌入式的小型设备基础信息采集处理是在端完成的，即传感器手机数据传送到网关后，就进行数据过滤和处理，没必要每条原始数据都传送到云端，这省去了大量的成本。云端计算的AI致力于更好地解决问题，而嵌入式的AI则致力于更加经济地解决问题。
移动计算厂商加快布局
与互联网公司专注于云端的人工智能技术不同，设备端的技术发展主要得益于移动计算厂商的投入。
今年3月，ARM发布面向人工智能应用的DynamIQ技术。在近日举办的技术论坛上，ARM再次展示基于DynamIQ技术的全新处理器，Cortex-A75处理器、Cortex-A55处理器和Mali-G72图形处理器。ARM副总裁暨计算产品事业部总经理Nandan Nayampally表示：“我们需要赋予从网络节点到云端的计算具有更快速、更高效和更安全的分布式智能。”采用DynamIQ技术的Cortex-A系列处理器在优化应用后，可实现比基于Cortex-A73的设备高50倍的人工智能性能，并最多可提升10倍CPU与SoC上指定硬件加速器之间的响应速度。
在日前举行的GMIC(全球移动互联网大会)上，美国高通公司中国区董事长孟樸也重点提出了人工智能话题。他表示：“未来机器学习会在云端和终端协调发展。我们不认为所有的人工智能，都是在云里面实现，因为个人隐私的问题、信息安全问题，还有传输上的时延问题等。高通旗舰处理器骁龙835拥有高性能的图形处理能力，还有数字信号处理器DSP，加上软件算法，将使终端实现机器学习能力。相信今后人工智能、机器学习，在终端的发展会和在云端的发展一样，同步加速进行。”
针对边缘运算日益增加的需求，NVIDIA推出新款开发板Jetson TX2，将整套人工智能系统缩小在一块电路板之上，这让Jetson TX2可在终端设备上更好地运行深度学习功能等，进而开发出更高的智能化装置。相较前一代产品Jetson TX1，Jetson TX2的效能提升了两倍，耗电量则不到7.5瓦，能源效率提升了两倍多。
资料显示，赛灵思推出的reVISION堆栈技术，具备了可重组和所有形式链接的特性，让开发者能充分运用堆栈技术，快速研发与部署升级方案，对开发未来需求的智能视觉系统至关重要。不仅如此，该技术使开发者在结合机器学习、计算机视觉、传感器融合与连接的应用时，能够获得显著优势。举例而言，相较于其他嵌入式GPU与传统SoC，reVISION将机器学习推论的每秒每瓦影像效能提升了6倍，计算机视觉每秒每瓦每帧处理速度提升了42倍，而延迟却只有1/5。
自动驾驶与数据安全将率先导入应用
嵌入式人工智能将在边缘计算产品中，得到十分广泛的应用。目前，嵌入式AI已经开始进入市场，特别是在自动驾驶与数据安全领域得到快速的渗透与应用。
“辅助驾驶系统如果在云端计算，设备端采集到数据后上传，计算完成后再返回终端，这样会不可避免地带来一定延时，而在驾驶场景中，这种延时意味着危险系数的提高。”瑞萨电子(中国)有限公司应用技术中心汽车电子部副部长赵坤表示。同时，数据安全也是关注的一个要点，上传到云端的计算意味着隐私被泄露的风险提升。
所以，嵌入式人工智能将在边缘计算产品中，得到十分广泛的应用。根据刚发布的《边缘计算产业联盟白皮书》，边缘计算有三个发展阶段。
一是联接。实现终端及设备的海量、异构与实时连接，网络自动部署与运维，并保证联接的安全、可靠与维护性。远程自动抄表就是其中的应用场景，解决了电表数量巨大的问题。
二是智能。边缘侧引入数据分析与业务自动处理能力，智能化执行本地业务逻辑，可以大幅度提升效率并且降低成本。电梯的预测性维护就是该应用之一。
三是自治。引入人工智能，边缘计算不但可以自主进行业务逻辑分析与计算，还可以动态实时完成自我优化、调整执行策略。
