RZ/V2H能够应对人工智能的演进及其应用的复杂需求。本文将介绍RZ/V2H如何解决发热问题，实现高速实时处理，并为搭载人工智能的产品带来更高的性能和更低的功耗。.
摘要：
随着出生率下降和老龄人口增长导致劳动年龄人口减少，先进的人工智能（AI）处理能力，例如环境感知、行动决策和运动控制，在社会各个领域，包括工厂、物流、医疗保健、城市服务机器人和安防摄像头等领域，都将变得至关重要。系统需要实时处理各种应用中的这些先进AI处理。具体而言，该系统必须嵌入设备内部，才能对不断变化的环境做出快速响应。然而，AI芯片在嵌入式设备中执行先进AI处理的同时，功耗较低，且发热量受到严格限制。
为了满足这些市场需求，瑞萨电子开发了DRP-AI3（动态可重构AI处理器），作为一款用于高速AI推理处理的AI加速器，它兼具尖端设备所需的低功耗和灵活性。这项历经多年研发的可重构AI加速器处理器技术，已嵌入专为AI应用设计的RZ/V系列微处理器中。RZ
/V2H是RZ/V系列中的全新高端产品，其能效比前代产品提升了约10倍。RZ/V2H能够应对AI的不断发展以及机器人等应用的复杂需求。本文将介绍RZ/V2H如何解决发热问题，实现高速实时处理，并为配备AI的产品带来更高的性能和更低的功耗。
DRP-AI3加速器能够高效处理调试后的AI模型。
调试是提升AI处理效率的典型技术之一，它允许省略那些对识别精度影响不大的计算。然而，在AI模型中，这类对识别精度影响不大的计算往往随机存在。这导致硬件处理的并行性与调试的随机性之间存在脱节，从而造成处理效率低下。
为了解决这个问题，瑞萨电子对其独特的基于动态响应模式（DRP）的AI加速器（DRP-AI）进行了优化，使其更适合调试。通过分析典型图像识别AI模型（CNN模型）的调试模式特征和方法与识别精度之间的关系，我们确定了一种能够兼顾高识别精度和高效调试的AI加速器硬件结构，并将其应用于DRP-AI3的设计。此外，我们还开发了一款软件来减小DRP-AI3优化后的AI模型的大小。该软件将随机的调试模型配置转换为高效的并行计算，从而加快了AI处理速度。特别值得一提的是，瑞萨电子高度灵活的调试支持技术（N:M灵活调试技术）能够根据AI模型中局部调试速率的变化动态调整周期数，从而根据用户所需的功耗、运行速度和识别精度精确控制调试速率。.
DRP-AI3、DRP 和 CPU 协同工作的异构架构的特点：
- 利用 AI 加速器 (DRP-AI3)、DRP 和 CPU 进行多线程和菊花链式处理。
- 利用 DRP（动态可重构硬连线逻辑硬件）实现高速、低抖动的机器人应用。
例如，服务机器人需要先进的人工智能处理来识别周围环境。另一方面，基于算法的处理（不使用人工智能）对于决定和控制机器人的行为也至关重要。然而，目前的嵌入式处理器（CPU）资源不足，无法实时执行这些不同类型的处理。瑞萨电子通过开发一种异构架构技术解决了这个问题，该技术允许动态可重构处理器（DRP）、人工智能加速器（DRP-AI3）和CPU协同工作。
如图1所示，动态可重构处理器（DRP）可以运行应用程序，并在每个工作时钟周期内根据待处理的内容动态改变芯片运算单元的电路连接配置。由于仅使用必要的运算电路，DRP比CPU处理功耗更低，速度更快。此外，与 CPU 相比，CPU 会因缓存泄漏等原因频繁访问外部存储器而降低性能，而 DRP 可以预先在硬件中构建必要的数据路径，从而减少因内存访问而导致的性能下降和运行速度变化（抖动）。
分布式处理操作 (DRP) 在处理流式数据（例如图像识别）方面尤为有效，并行化和流水线技术能够直接提升性能。另一方面，决策和机器人行为控制等程序需要在条件变化时进行处理，并根据周围环境的变化进行精细化处理。软件 CPU 处理可能比硬件处理（例如 DRP）更适合此类需求。将处理任务分配到合适的位置并以协调的方式运行至关重要。瑞萨电子的异构架构技术能够使 DRP 和 CPU 协同工作。.
图 1：动态可重构灵活处理器 (DRP) 的特性
图 2 展示了 MPU 架构和 AI 加速器 (DRP-AI3) 的概览。机器人应用采用了复杂的 AI 图像识别算法与非 AI 决策和控制算法的组合。因此，采用包含用于 AI 处理的 DRP (DRP-AI3) 和用于非 AI 算法的 DRP 的配置将显著提升机器人应用的性能。.
图 2：基于 DRP-AI 3 的异构架构配置
评估结果
(1) AI模型处理性能评估
搭载此技术的RZ/V2H在AI加速器处理性能方面最高可达8 TOPS（每秒8万亿次乘积和运算）。此外，对于已调试的AI模型，运算周期数可与调试量成正比减少，从而使AI模型处理性能相比调试前模型最高提升至80 TOPS。这比之前的RZ/V产品处理性能提高了约80倍，显著的性能提升足以满足AI快速发展的需要（图3）。
图 3：DRP-AI3 最大测量性能对比
一方面，随着人工智能处理速度的提升，基于非人工智能算法的图像处理时间（例如人工智能预处理和后处理）正逐渐成为相对瓶颈。在人工智能微处理器（AI-MPU）中，部分图像处理程序被卸载到数据处理处理器（DRP），这有助于提升系统的整体处理速度。（图4）
图 4：异构架构加速图像识别处理（由测试芯片测量）
在能效方面，该人工智能加速器的性能评估表明，在运行主要人工智能模型时，其能效水平位居世界最高水平（约10 TOPS/瓦）。（图5）
图 5：真实 AI 模型的能效（通过测试芯片测量）
我们还证明，在配备 RZ/V2H 的评估板上，无需强制通风，即可执行相同的实时 AI 处理，且温度与配备风扇的同类产品相当。（图 6）
图 6：RZ/V2H 主板（无强制通风）与 GPU（带风扇）的发热量比较。
（2）机器人应用示例
例如，同步定位与建图（SLAM）是机器人的典型应用之一，其设置复杂，需要多个程序并行运行，分别用于机器人位置识别和利用人工智能进行环境识别。瑞萨电子的DRP技术使机器人能够即时切换程序，并且与人工智能加速器和CPU并行运行，速度比仅使用CPU运行快约17倍，功耗降低至仅使用CPU运行的1/12。
总之，
瑞萨电子开发的RZ/V2H是一款独特的AI处理器，它兼具终端所需的低功耗和灵活性，以及用于调试AI模型的处理能力，其能效比以往产品提升了10倍（10 TOPS/W）。
瑞萨电子将适时推出产品，以应对日益复杂的AI发展趋势，并助力部署能够智能、实时响应终端产品的系统。
作者：小岛慎吾，瑞萨电子首席集成处理工程师
相关信息
- RZ/V2H：https://www.renesas.com/rzv2h
- DRP-AI：瑞萨电子的专利AI加速器，兼具高AI推理性能和低功耗
