NN和DL如何实现更智能的互连世界，NN和DL如何实现更智能的互连世界

原标题：边缘侧AI兴起，神经网络和深度学习如何实现一个更智能的互连世界？

从苹果、华为在其手机中引入专用的神经网络引擎开始，引领了行业采用边缘处理的潮流，人工智能从而正式进入智能终端设备，并且迅速成为厂商大力宣传的卖点。现在，神经网络引擎/加速器成为主流，包括Face ID等应用已能在终端设备上进行处理，不再依赖云端，且相比传输到云端处理更安全、私密，响应时间更快。

几乎所有领域的芯片厂商都竞相推出了不同类型的AI处理器。智能手机中添加AI功能成为边缘侧AI的一个典型应用，高通、英伟达等芯片企业都已宣布推出用于智能手机和其他移动设备的神经引擎。在CEVA战略营销总监Moshe Sheier看来，几年后，每台带有摄像头的设备都将包含具有AI功能的视觉处理和神经网络引擎。

“全球摄像头的数量预计从2016到2022年期间会增长216%，届时将会有大约440亿设备带有摄像头（camera-enabled），这种新的垂直增长趋势源自于越来越多的不同设备已经开始集成摄像头。”他指出，“CEVA预测几年后每个带有摄像头的设备都将内置面向人工智能的视觉处理和神经网络处理器。到2020年，三分之一的智能手机将支持人工智能。”

边缘处理的优势在于减少延迟，全网络覆盖，增加了隐私和安全性，并减少了与云端的通信，从而降低了成本。除了智能手机，Moshe Sheier还举例说明了边缘侧AI的几大类应用，包括智能安防、汽车等。

在智能安防领域，可以实现已知或未知的人脸检测、语音生物识别、声音检测、动作感应，以及WiFi、蓝牙或蜂窝网络等的智能连接。这一切功能都可以进行决策，是否拨打报警电话，通知外出回家的家人顺道去收取门口的信件等。

在汽车领域，可以帮助视觉传感器实现驾驶员监视器、前视摄像头系统、夜视环绕视图盲点检测、后/停车检测等，也可以帮助实现定位、V2X通信及车内互连等功能，从这些功能中获取的数据经过端侧AI处理，可帮助驾驶员进行决策，并根据实际情况采取行动，同时通过深度学习不断改善，以不断提升决策的准确性。

在边缘侧AI巨大的市场潜力下，同时也面临着几个挑战——功耗、价格和不断飙升的性能需求。CEVA从去年开始部署相关技术，成为继蜂窝网络IP、互连IP、视觉IP和音频IP之后的一大IP平台。针对边缘侧的深度学习，CEVA在今年上半年推出了NeuPro系列AI处理器，可以应用于安防、运动摄像头、智能手机、汽车、AR/VR、无人机等应用的便于智能视觉处理，使得每个带有摄像头的设备都能实现先进的成像、视觉和深度学习功能。

NeuPro系列的推出完善了CEVA的整体视觉和AI IP工具组合，分别包括：CEVA-XM智能视觉系列芯片平台、NeuPro人工智能（机器学习）整体解决方案、硬件加速器DeWarp和适用于所有CEVA平台的CDNN（CEVA Deep NN）软件框架。

NeuPro作为全新的IP系列，它包括专用的引擎处理矩阵乘法、完全连接层、激活层和汇聚层。这种先进的专用AI引擎结合完全可编程工作的NeuPro VPU，可以支持所有其它层类型和神经网络拓扑。这些模块之间的直接连接允许数据无缝交换，不再需要写入内存。此外，优化的DDR带宽和先进的DMA控制器采用动态流水线处理，可以进一步提高速度，同时降低功耗。

Moshe Sheier表示，NeuPro AI系列可以应用于广泛的目标市场，从轻量型的物联网和可穿戴设备（2TOPs）到高性能的行业监控和自动驾驶应用（12.5 TOPs），扩展了各种终端市场的性能。目前已有行业领先的客户获得授权，并预计在今年第三季度发布其产品。

对于在成像、计算机视觉和神经网络方面均有需求的客户，则可以选择CEVA-XM和NeuPro Engine的组合方案。CEVA-XM系列智能视觉处理器和人工智能协处理器能够更好地在嵌入式设备中实现基于视觉的机器学习。Moshe Sheier举例说，在今年6月，无人机芯片领导厂商酷芯成为CEVA-XM4平台众多客户之一，AR9X01是酷芯至今设计的最复杂芯片，使用了多个CEVA-XM4内核来分析实时飞行环境，并利用人工智能完成各种任务，包括物体检测、分类和跟踪。

“与基于CPU或GPU的替代方案相比，由于CEVA-XM4平台在运行计算机视觉算法和深度学习推理时的固有低功耗特性，使得AR9X01允许无人机制造商最大限度增加飞行时间并提高整体无人机性能。”Moshe Sheier强调，“CEVA最新一代图像和视觉DSP平台不仅可满足极端处理能力要求，同时降低对于智能手机、监控、AR 和 VR、无人机和自动驾驶汽车等最复杂的机器学习和机器视觉应用的功耗束缚。”

如今，每年集成了基于CEVA IP芯片的终端设备出货量在10亿个以上。而人工智能仍然是一个新兴且快速发展的领域，神经网络的应用场景快速增加，例如目标识别、语音和声音分析、5G通信等等。去年CEVA营收为8750万美元，Moshe Sheier预计，市场研究机构指出到2022年，大约50%的AI设备将内置机器学习功能——如果数据正确，这会是一个相当大的数量。在强大的市场驱动下，今年CEVA营收将达到9200万美元。

Moshe Sheier强调，CEVA早已经不再是一个只提供DSP核的通信公司，现在的我们为不同的领域提供了更为广泛的技术。我们将继续致力于投资下一代计算机视觉和神经网络的产品开发，特别是潜力无限的神经网络技术，完善目前产品建立起来的人工智能生态系统。（校对/叨叨）