Le RZ/V2H est capable de s'adapter à l'évolution de l'IA et aux exigences sophistiquées de ses applications. Cet article explique comment le RZ/V2H résout les problèmes de génération de chaleur, permet un traitement en temps réel à haute vitesse et offre des performances accrues et une consommation d'énergie réduite pour les produits intégrant l'IA.

Résumé :
Face au déclin de la population active dû à la baisse de la natalité et au vieillissement de la population, le traitement avancé de l'intelligence artificielle (IA), notamment la perception de l'environnement, la prise de décision et le contrôle des mouvements, deviendra indispensable dans divers secteurs de la société, tels que l'industrie, la logistique, la santé, la robotique urbaine et la vidéosurveillance. Les systèmes devront gérer ce traitement d'IA avancé en temps réel pour différentes applications. Plus précisément, le système devra être intégré au dispositif afin de permettre des réponses rapides à son environnement en constante évolution. Cependant, les puces d'IA, bien qu'effectuant un traitement d'IA avancé dans des dispositifs embarqués, consomment moins d'énergie et sont soumises à des limitations strictes en matière de dissipation thermique.

Pour répondre aux besoins du marché, Renesas a développé le DRP-AI3 (Processeur dynamiquement reconfigurable pour l'IA3), un accélérateur d'IA pour le traitement d'inférence haute vitesse, alliant faible consommation et flexibilité, deux exigences essentielles pour les appareils de pointe. Cette technologie de processeur accélérateur d'IA reconfigurable, fruit de nombreuses années de développement, est intégrée à la gamme de microprocesseurs RZ/V, conçue pour les applications d'IA.
Le RZ/V2H, nouveau produit haut de gamme de la gamme RZ/V, offre une efficacité énergétique environ dix fois supérieure à celle de ses prédécesseurs. Le RZ/V2H est capable de s'adapter à l'évolution de l'IA et aux exigences sophistiquées d'applications telles que la robotique. Cet article explique comment le RZ/V2H résout les problèmes de dissipation thermique, permet un traitement temps réel haute vitesse et offre des performances accrues et une consommation d'énergie réduite pour les produits intégrant l'IA.

L'accélérateur DRP-AI3 traite efficacement les modèles d'IA débogués.
Le débogage, technologie courante pour améliorer l'efficacité du traitement de l'IA, permet d'éliminer les calculs n'ayant pas d'incidence significative sur la précision de la reconnaissance. Or, il est fréquent que ces calculs, sans incidence sur la précision de la reconnaissance, soient présents de manière aléatoire dans les modèles d'IA. Il en résulte un décalage entre le parallélisme du traitement matériel et l'aléatoire du débogage, ce qui engendre un traitement inefficace.

Pour résoudre ce problème, Renesas a optimisé son accélérateur d'IA unique basé sur la technologie DRP (DRP-AI) pour le débogage. En analysant la relation entre les caractéristiques et les méthodes de débogage et la précision de reconnaissance dans les modèles d'IA de reconnaissance d'images (modèles CNN), nous avons identifié une architecture matérielle d'accélérateur d'IA capable d'atteindre à la fois une précision de reconnaissance élevée et un débogage efficace, et l'avons appliquée à la conception de DRP-AI3. De plus, un logiciel a été développé pour réduire la taille des modèles d'IA optimisés pour DRP-AI3. Ce logiciel convertit la configuration aléatoire du modèle de débogage en un calcul parallèle hautement efficace, ce qui accélère le traitement de l'IA. En particulier, la technologie de support de débogage très flexible de Renesas (technologie de débogage flexible N:M), qui peut modifier dynamiquement le nombre de cycles en fonction des variations du taux de débogage local dans les modèles d'IA, permet un contrôle précis de ce taux selon la consommation d'énergie, la vitesse de fonctionnement et la précision de reconnaissance requises par les utilisateurs.

Caractéristiques de l'architecture hétérogène où DRP-AI3, DRP et le CPU fonctionnent en coopération :
- Traitement multithread et en cascade avec l'accélérateur d'IA (DRP-AI3), DRP et les CPU.
- Applications robotiques haute vitesse et faible gigue avec DRP (matériel logique câblée reconfigurable dynamiquement).

Les robots de service, par exemple, nécessitent un traitement d'IA avancé pour reconnaître leur environnement. Par ailleurs, un traitement algorithmique, sans IA, est également indispensable pour décider et contrôler le comportement du robot. Or, les processeurs embarqués (CPU) actuels ne disposent pas des ressources suffisantes pour effectuer ces différents types de traitement en temps réel. Renesas a résolu ce problème en développant une architecture hétérogène permettant au processeur reconfigurable dynamiquement (DRP), à l'accélérateur d'IA (DRP-AI3) et au CPU de fonctionner de concert.
Comme illustré sur la figure 1, le processeur reconfigurable dynamiquement (DRP) peut exécuter des applications tout en modifiant dynamiquement la configuration des connexions des unités arithmétiques de la puce à chaque cycle d'horloge, en fonction du contenu à traiter. N'utilisant que les circuits arithmétiques nécessaires, le DRP consomme moins d'énergie qu'un CPU et atteint des vitesses de traitement supérieures. De plus, contrairement aux processeurs, où les accès fréquents à la mémoire externe dus aux fuites de cache et à d'autres causes dégradent les performances, le DRP peut construire à l'avance les chemins de données nécessaires dans le matériel, ce qui entraîne une moindre dégradation des performances et une moindre variation de la vitesse de fonctionnement (gigue) due aux accès à la mémoire.

Les opérations de traitement distribué (DRP) sont particulièrement efficaces pour le traitement de données en flux continu, comme la reconnaissance d'images, où la parallélisation et le pipeline améliorent directement les performances. En revanche, les programmes tels que ceux d'aide à la décision et de contrôle du comportement des robots nécessitent un traitement en temps réel et un traitement précis en réponse aux changements de l'environnement. Le traitement logiciel sur CPU est souvent plus adapté à ces situations que le traitement matériel, comme dans les DRP. Il est essentiel de répartir le traitement sur les emplacements appropriés et d'assurer une coordination optimale. L'architecture hétérogène de Renesas permet aux DRP et aux CPU de fonctionner de concert.

Figure 1 : Caractéristiques du processeur flexible reconfigurable dynamiquement (DRP)

La figure 2 présente une vue d'ensemble de l'architecture MPU et de l'accélérateur d'IA (DRP-AI3). Les applications robotiques exploitent une combinaison sophistiquée d'algorithmes de reconnaissance d'images basés sur l'IA et d'algorithmes de décision et de contrôle non basés sur l'IA. Par conséquent, une configuration comprenant un DRP dédié au traitement de l'IA (DRP-AI3) et un DRP dédié aux algorithmes non basés sur l'IA permettra d'améliorer significativement les performances de l'application robotique.

Figure 2 : Configuration d'architecture hétérogène basée sur DRP-AI 3

Résultats de l'évaluation
(1) Évaluation des performances de traitement des modèles d'IA.
Le RZ/V2H équipé de cette technologie a atteint une performance maximale de 8 TOPS (8 billions d'opérations par seconde) pour le traitement des modèles d'IA. De plus, pour les modèles d'IA débogués, le nombre de cycles d'opération peut être réduit proportionnellement au niveau de débogage, ce qui permet d'atteindre une performance de traitement équivalente à 80 TOPS par rapport aux modèles non débogués. Cela représente environ 80 fois plus de performances que les produits RZ/V précédents, une amélioration significative qui permet de suivre efficacement l'évolution rapide de l'IA (Figure 3).

Figure 3 : Comparaison des performances maximales mesurées du DRP-AI3

D’une part, l’accélération du traitement par IA fait du temps de traitement d’image basé sur des algorithmes non-IA, comme le prétraitement et le post-traitement par IA, un facteur limitant. Dans les MPU-IA, une partie du programme de traitement d’image est déportée vers le DRP, ce qui contribue à améliorer le temps de traitement global du système (Figure 4)

Figure 4 : L'architecture hétérogène accélère le traitement de la reconnaissance d'images (mesuré par la puce de test)

En termes d'efficacité énergétique, l'évaluation des performances de l'accélérateur d'IA a démontré le plus haut niveau d'efficacité énergétique au monde (environ 10 TOPS par watt) lors de l'exécution des principaux modèles d'IA. (Figure 5)

Figure 5 : Efficacité énergétique de modèles d'IA réels (mesurée par une puce de test)

Nous avons également démontré que le même traitement d'IA en temps réel pouvait être effectué sur une carte d'évaluation équipée du RZ/V2H, sans ventilation forcée, à des températures comparables à celles des produits concurrents équipés de ventilateurs. (Figure 6)

Figure 6 : Comparaison de la génération de chaleur entre une carte RZ/V2H sans ventilation forcée et un GPU avec un ventilateur.

(2) Exemples d'applications robotiques.
Par exemple, la localisation et la cartographie simultanées (SLAM), une application typique des robots, repose sur une configuration complexe nécessitant plusieurs processus de traitement pour la reconnaissance de la position du robot en parallèle avec la reconnaissance de l'environnement par traitement d'IA. Le DRP de Renesas permet au robot de changer de programme instantanément. Le fonctionnement en parallèle avec un accélérateur d'IA et le processeur s'est avéré environ 17 fois plus rapide qu'un fonctionnement avec le seul processeur, tout en réduisant la consommation d'énergie à 1/12 de celle-ci.

En conclusion,
Renesas a développé le RZ/V2H, un processeur d'IA unique qui allie la faible consommation et la flexibilité requises par les terminaux à des capacités de traitement pour le débogage des modèles d'IA, et affiche une efficacité énergétique 10 fois supérieure (10 TOPS/W) aux produits précédents.
Renesas lancera prochainement des produits répondant à l'évolution de l'IA, dont la sophistication ne cesse de croître, et qui contribueront au déploiement de systèmes capables de s'adapter intelligemment et en temps réel aux terminaux.

Auteur : Shingo Kojima, ingénieur principal en traitement intégré, Renesas Electronics

Informations complémentaires
- RZ/V2H : https://www.renesas.com/rzv2h
- DRP-AI : accélérateur d’IA breveté de Renesas alliant hautes performances d’inférence IA et faible consommation d’énergie