面向边缘设备、支持协同处理和自定义神经网络引擎的AI推理处理器架构 - Convertronic电子杂志

细节: 类别：集成电路; 2019年10月16日

CEVA 公司在比利时布鲁塞尔举行的上一届 AutoSens 大会上展示了其第二代人工智能处理器架构 NeuPro-S，该架构用于深度边缘神经网络推理。.

除了 NeuPro-S，CEVA 还推出了 CDNN-Invite API，这是业界首创的深度神经网络构建技术，支持在统一的固件运行时神经网络优化中，将 NeuPro-S 内核与定制神经网络引擎进行异构协同处理。NeuPro-S 与 CDNN-Invite API 相结合，是任何需要边缘 AI 处理的视觉设备的理想之选，包括自动驾驶汽车、智能手机、监控摄像头、消费级相机，以及 AR/VR 头显、机器人和工业应用等新兴用例。NeuPro

-S 旨在优化边缘设备上视频和图像中目标分割、检测和分类的神经网络处理，其包含的系统感知增强功能可显著提升性能。这些功能包括支持多级内存系统以减少昂贵的外部 SDRAM 传输、多种权重压缩选项，以及异构可扩展性，允许在单一统一架构上组合 CEVA-XM6 视觉 DSP、NeuPro-S 内核和定制 AI 引擎。这使得 NeuPro-S 平均而言能够实现比 CEVA 第一代 AI 处理器高 50% 的吞吐量、低 40% 的内存带宽和低 30% 的功耗。NeuPro

-S 系列包括 NPS1000、NPS2000 和 NPS4000，这些预配置处理器每个周期分别可执行 1000、2000 和 4000 个 8 位 MAC 运算。NPS4000 提供最高的单核 CNN 性能，在 1.5 GHz 频率下最高可达每秒 12.5 万亿次运算 (TOPS)，并且完全可扩展至最高 100 TOPS。

通过应对日益多样化的特定应用神经网络和处理器，CDNN-Invite API 能够将客户设计的神经网络引擎无缝集成到 CEVA 屡获殊荣的深度神经网络 (CDNN) 框架中。 CDNN 随后对网络和层进行全面优化和增强，以充分发挥 CEVA-XM6 视觉 DSP、NeuPro-S 和定制神经网络处理器的卓越性能。CDNN-Invite API 已被客户采用，他们正与 CEVA 工程师紧密合作，将其应用于商业产品中。CEVA

在处理、加速、软件和工具整合方面拥有丰富的经验和整体战略，从而打造了一个开放、高效且可编程的深度学习平台。嵌入 NeuPro-S 架构中的全可编程 CEVA-XM6 视觉 DSP 可同时处理图像、计算机视觉和通用 DSP 工作负载，以及 AI 运行时处理。这使得客户和算法开发人员能够利用 CEVA 丰富的视觉和成像软件及库，包括用于 3D 地图构建的 CEVA-SLAM 软件开发工具包、用于计算机视觉开发的 CEVA-CV 和 CEVA-VX 软件库，以及最近收购的包含图像校正、视频拼接和图像数据传感器融合技术的广角成像软件套件。