(1)基于动态可重构处理器(DRP)的AI加速器,能够高效处理轻量级AI模型;(2)异构架构技术,可通过协同运行的处理器IP(例如CPU)实现实时处理。瑞萨电子开发了一款集成了这些技术的AI-MPU原型,并验证了其高速低功耗的运行特性。与引入这些新技术之前相比,其处理速度提升了16倍(130 TOPS),并实现了世界一流的能效(0.8V供电时高达23.9 TOPS/W)。
随着机器人在工厂、物流、医疗和零售等领域的迅速普及,对能够利用先进的视觉AI感知环境并自主实时运行的系统的需求日益增长。鉴于对散热的严格限制,尤其是在嵌入式设备中,AI芯片需要兼顾更高的性能和更低的功耗。
瑞萨电子开发的技术如下:
一种能够高效处理轻量级AI模型的AI加速器。
作为一种提升AI处理效率的典型技术,剪枝可以省略那些不影响识别精度的计算。然而,AI模型中通常会随机包含一些不影响识别精度的计算。这导致硬件处理的并行性与剪枝的随机性之间存在差距,从而降低了处理效率。
为了解决这个问题,瑞萨电子对其独特的基于DRP的AI加速器(DRP-AI)进行了剪枝优化。通过分析典型图像识别AI模型(CNN模型)中剪枝模式和剪枝方法的特征与识别精度之间的关系,我们确定了一种能够同时实现高识别精度和高效剪枝率的AI加速器硬件结构,并将其应用于DRP-AI的设计。此外,我们还开发了一款软件来减小针对DRP-AI优化的AI模型的大小。该软件将随机剪枝模型配置转换为高效的并行计算,从而加快了AI处理速度。瑞萨电子高度灵活的剪枝支持技术(N:M灵活剪枝技术)能够根据AI模型中局部剪枝率的变化动态调整循环次数,从而实现基于用户所需的能耗、运行速度和识别精度的精确剪枝率控制。
该技术将AI模型处理循环次数减少到不兼容模型的十六分之一,能耗也降低到八分之一以下。
异构架构技术支持机器人控制的实时处理。
机器人应用需要先进的视觉AI处理来识别周围环境。同时,判断和控制机器人运动需要根据环境变化对条件进行详细编程,这使得基于CPU的软件处理比基于AI的处理更合适。然而,目前的嵌入式CPU尚无法完全胜任机器人的实时控制。因此,瑞萨电子推出了动态可重构处理器(DRP),它除了CPU和AI加速器(DRP-AI)之外,还能处理复杂的计算任务。这促成了异构架构技术的发展,该技术通过适当地分配和并行化进程,使 AI-MPU 能够实现更高的速度和更低的功耗。
动态响应处理器 (DRP) 会根据处理细节,在每个时钟周期内动态改变芯片内各运算单元之间的电路连接配置,从而执行应用程序。由于只有必要的运算电路运行,即使在复杂的处理过程中,也能实现更低的功耗和更高的速度。例如,SLAM(即时定位与地图构建)是一种典型的机器人应用,它需要多个程序并行运行,分别用于机器人位置识别和利用视觉 AI 处理进行环境识别。瑞萨电子通过使用 DRP 实现程序瞬时切换,并并行运行 AI 加速器和 CPU,演示了 SLAM 的运行情况,其运行速度比单独使用集成 CPU 快约 17 倍,运行能效比高约 12 倍。
验证了该芯片的运行情况
,并确认其 AI 加速器在 0.8V 标准供电电压下实现了 23.9 TOPS/W 的世界级能效,而主要 AI 模型的运行能效为 10 TOPS/W。该研究还证明,无需风扇或散热片即可进行人工智能处理。
这些成果有助于解决因功耗增加而导致的发热问题,而这正是人工智能芯片在各种嵌入式设备(例如服务机器人和自动导引车)中应用时面临的一大挑战。显著降低发热量将有助于推动自动化在机器人和智能技术等多个行业的普及。这些技术将应用于瑞萨电子的RZ/V系列微处理器,用于机器视觉应用。
