Il processore RZ/V2H è in grado di rispondere all'evoluzione dell'intelligenza artificiale e ai requisiti sempre più sofisticati di queste applicazioni. Questo articolo illustra come l'RZ/V2H risolva i problemi di generazione di calore, consenta l'elaborazione in tempo reale ad alta velocità e garantisca prestazioni superiori e consumi energetici ridotti per i prodotti dotati di intelligenza artificiale.
Abstract:
Con la diminuzione della popolazione in età lavorativa dovuta al calo dei tassi di natalità e all'invecchiamento della popolazione, l'elaborazione avanzata dell'intelligenza artificiale (IA), come la consapevolezza ambientale, il processo decisionale e il controllo del movimento, diventerà necessaria in vari ambiti della società, tra cui fabbriche, logistica, sanità, robot di servizio urbano e telecamere di sicurezza. I sistemi dovranno gestire questa elaborazione avanzata dell'IA in tempo reale in diverse tipologie di applicazioni. In particolare, il sistema dovrà essere integrato nel dispositivo per consentire risposte rapide al suo ambiente in continua evoluzione. Tuttavia, i chip IA, pur eseguendo elaborazioni avanzate dell'IA in dispositivi embedded, consumano meno energia e sono soggetti a rigide limitazioni in termini di generazione di calore.
Per soddisfare queste esigenze di mercato, Renesas ha sviluppato il DRP-AI3 (Dynamically Reconfigurable Processor for AI3) come acceleratore AI per l'elaborazione ad alta velocità dell'inferenza AI, combinando il basso consumo energetico e la flessibilità richiesti dai dispositivi all'avanguardia. Questa tecnologia di processori acceleratori AI riconfigurabili, sviluppata nel corso di molti anni, è integrata nella serie RZ/V di MPU progettate per applicazioni di intelligenza artificiale.
L'RZ/V2H è un nuovo prodotto di fascia alta della serie RZ/V, che raggiunge un'efficienza energetica circa 10 volte superiore rispetto ai suoi predecessori. L'RZ/V2H è in grado di rispondere alla natura in continua evoluzione dell'IA e ai requisiti sofisticati di applicazioni come la robotica. Questo articolo illustra come l'RZ/V2H affronta i problemi di generazione di calore, consente l'elaborazione in tempo reale ad alta velocità e offre prestazioni superiori e un minore consumo energetico per i prodotti dotati di intelligenza artificiale.
L'acceleratore DRP-AI3 elabora in modo efficiente i modelli di IA sottoposti a debug.
Il debug, una tecnologia tipica per migliorare l'efficienza di elaborazione dell'IA, consente di omettere i calcoli che non influiscono significativamente sulla precisione del riconoscimento. Tuttavia, è frequente che nei modelli di IA siano presenti, in modo casuale, calcoli che non influiscono sulla precisione del riconoscimento. Ciò crea un divario tra il parallelismo dell'elaborazione hardware e la casualità del debug, con conseguente inefficienza di elaborazione.
Per risolvere questo problema, Renesas ha ottimizzato il suo esclusivo acceleratore AI basato su DRP (DRP-AI) per il debug. Analizzando la relazione tra le caratteristiche e i metodi dei pattern di debug e l'accuratezza del riconoscimento nei tipici modelli AI di riconoscimento delle immagini (modelli CNN), abbiamo identificato una struttura hardware per acceleratori AI in grado di raggiungere sia un'elevata accuratezza di riconoscimento che un debug efficiente, e l'abbiamo applicata alla progettazione di DRP-AI3. Inoltre, è stato sviluppato un software per ridurre le dimensioni dei modelli AI ottimizzati per DRP-AI3. Questo software converte la configurazione casuale del modello di debug in un calcolo parallelo altamente efficiente, con conseguente elaborazione AI più rapida. In particolare, la tecnologia di supporto al debug altamente flessibile di Renesas (tecnologia di debug flessibile N:M), che può modificare dinamicamente il numero di cicli in risposta alle variazioni della frequenza di debug locale nei modelli AI, consente un controllo preciso della frequenza di debug in base al consumo energetico, alla velocità operativa e all'accuratezza del riconoscimento richiesti dagli utenti.
Caratteristiche dell'architettura eterogenea in cui DRP-AI3, DRP e CPU operano in modo cooperativo:
- Elaborazione multithread e a catena con l'acceleratore AI (DRP-AI3), DRP e CPU.
- Applicazioni robotiche ad alta velocità e a basso jitter con DRP (hardware logico cablato riconfigurabile dinamicamente).
I robot di servizio, ad esempio, richiedono un'elaborazione AI avanzata per riconoscere l'ambiente circostante. D'altra parte, è necessaria anche un'elaborazione basata su algoritmi, che non utilizza l'IA, per decidere e controllare il comportamento del robot. Tuttavia, gli attuali processori embedded (CPU) non dispongono di risorse sufficienti per eseguire questi diversi tipi di elaborazione in tempo reale. Renesas ha risolto questo problema sviluppando una tecnologia ad architettura eterogenea che consente al processore riconfigurabile dinamicamente (DRP), all'acceleratore AI (DRP-AI3) e alla CPU di lavorare insieme.
Come mostrato in Figura 1, il processore riconfigurabile dinamicamente (DRP) può eseguire applicazioni modificando dinamicamente la configurazione di connessione dei circuiti delle unità aritmetiche del chip a ogni ciclo di clock, a seconda del contenuto da elaborare. Poiché vengono utilizzati solo i circuiti aritmetici necessari, il DRP consuma meno energia rispetto all'elaborazione tramite CPU e può raggiungere velocità superiori. Inoltre, rispetto alle CPU, dove i frequenti accessi alla memoria esterna dovuti a perdite di cache e altre cause degradano le prestazioni, DRP può creare in anticipo i percorsi dati necessari nell'hardware, con conseguente minore degrado delle prestazioni e minore variazione della velocità operativa (jitter) dovuta agli accessi alla memoria.
Le operazioni di elaborazione distribuita (DRP) sono particolarmente efficaci nell'elaborazione di dati in flusso, come nel riconoscimento di immagini, dove la parallelizzazione e la pipeline migliorano direttamente le prestazioni. D'altra parte, programmi come quelli per il processo decisionale e il controllo del comportamento dei robot richiedono l'elaborazione in condizioni variabili e un'elaborazione dettagliata in risposta ai cambiamenti dell'ambiente circostante. L'elaborazione software della CPU può essere più adatta a questo scopo rispetto all'elaborazione hardware, come nelle DRP. È importante distribuire l'elaborazione nelle posizioni appropriate e operare in modo coordinato. La tecnologia ad architettura eterogenea di Renesas consente a DRP e CPU di lavorare insieme.
Figura 1: Caratteristiche del processore flessibile riconfigurabile dinamicamente (DRP)
La Figura 2 mostra una panoramica dell'architettura MPU e dell'acceleratore AI (DRP-AI3). Le applicazioni robotiche utilizzano una sofisticata combinazione di algoritmi di riconoscimento delle immagini basati sull'IA e algoritmi di decisione e controllo non basati sull'IA. Pertanto, una configurazione con un DRP per l'elaborazione AI (DRP-AI3) e un DRP per algoritmi non basati sull'IA aumenterà significativamente le prestazioni dell'applicazione robotica.
Figura 2: Configurazione dell'architettura eterogenea basata su DRP-AI 3
Risultati della valutazione
(1) Valutazione delle prestazioni di elaborazione del modello AI
L'RZ/V2H dotato di questa tecnologia ha raggiunto un massimo di 8 TOPS (8 trilioni di operazioni somma di prodotti al secondo) per le prestazioni di elaborazione dell'acceleratore AI. Inoltre, per i modelli AI che sono stati sottoposti a debug, il numero di cicli operativi può essere ridotto in proporzione alla quantità di debug, con conseguenti prestazioni di elaborazione del modello AI equivalenti a un massimo di 80 TOPS rispetto ai modelli prima del debug. Questo è circa 80 volte superiore alle prestazioni di elaborazione dei precedenti prodotti RZ/V, un miglioramento significativo delle prestazioni che può tenere adeguatamente il passo con la rapida evoluzione dell'IA (Figura 3).
Figura 3: Confronto delle massime prestazioni misurate di DRP-AI3
Da un lato, con l'accelerazione dell'elaborazione AI, il tempo di elaborazione delle immagini basato su algoritmi non-AI, come la pre- e post-elaborazione AI, sta diventando un collo di bottiglia. Nelle AI-MPU, parte del programma di elaborazione delle immagini viene delegata al DRP, il che contribuisce a migliorare il tempo di elaborazione complessivo del sistema. (Figura 4)
Figura 4: L'architettura eterogenea accelera l'elaborazione del riconoscimento delle immagini (come misurato dal chip di test)
In termini di efficienza energetica, la valutazione delle prestazioni dell'acceleratore AI ha dimostrato il livello più elevato di efficienza energetica al mondo (circa 10 TOPS per watt) durante l'esecuzione dei principali modelli di intelligenza artificiale. (Figura 5)
Figura 5: Efficienza energetica di modelli di IA reali (misurata tramite chip di test)
Abbiamo inoltre dimostrato che la stessa elaborazione AI in tempo reale poteva essere eseguita su una scheda di valutazione dotata di RZ/V2H, senza ventilazione forzata, a temperature paragonabili a quelle dei prodotti concorrenti dotati di ventole. (Figura 6)
Figura 6: Confronto della generazione di calore tra una scheda RZ/V2H senza ventilazione forzata e una GPU con ventola.
(2) Esempi di applicazioni con i robot
Ad esempio, la localizzazione e mappatura simultanea (SLAM), una delle tipiche applicazioni dei robot, ha una configurazione complessa che richiede molteplici processi di programma per il riconoscimento della posizione del robot in parallelo con il riconoscimento dell'ambiente tramite elaborazione AI. Il DRP di Renesas consente al robot di cambiare programma istantaneamente e il funzionamento in parallelo con un acceleratore AI e la CPU si è dimostrato circa 17 volte più veloce del funzionamento solo CPU e riduce il consumo energetico a 1/12 del livello del funzionamento solo CPU.
In conclusione,
Renesas ha sviluppato RZ/V2H, un processore AI unico nel suo genere che combina il basso consumo energetico e la flessibilità richiesti dai dispositivi endpoint con capacità di elaborazione per il debug dei modelli di IA, risultando 10 volte più efficiente dal punto di vista energetico (10 TOPS/W) rispetto ai prodotti precedenti.
Renesas lancerà in futuro prodotti che risponderanno all'evoluzione dell'IA, destinata a diventare sempre più sofisticata, e contribuiranno alla realizzazione di sistemi in grado di interagire con i dispositivi endpoint in modo intelligente e in tempo reale.
Autore: Shingo Kojima, Ingegnere capo per l'elaborazione integrata, Renesas Electronics
Informazioni correlate
- RZ/V2H: https://www.renesas.com/rzv2h
- DRP-AI: l'acceleratore AI brevettato da Renesas che combina elevate prestazioni di inferenza AI con un basso consumo energetico.
