Der RZ/V2H ist in der Lage, auf die Weiterentwicklung von KI und die anspruchsvollen Anforderungen dieser Anwendungen zu reagieren. Dieser Artikel beschreibt, wie der RZ/V2H Probleme der Wärmeentwicklung löst, Hochgeschwindigkeits-Echtzeitverarbeitung ermöglicht und höhere Leistung bei gleichzeitig geringerem Stromverbrauch für KI-fähige Produkte erzielt.

Zusammenfassung:
Da die Erwerbsbevölkerung aufgrund sinkender Geburtenraten und einer wachsenden Zahl älterer Menschen schrumpft, wird die Verarbeitung fortschrittlicher künstlicher Intelligenz (KI) – beispielsweise für Umgebungserkennung, Handlungsentscheidungen und Bewegungssteuerung – in verschiedenen gesellschaftlichen Bereichen unerlässlich sein, darunter Fabriken, Logistik, Gesundheitswesen, Stadtroboter und Sicherheitskameras. Systeme müssen diese fortschrittliche KI-Verarbeitung in Echtzeit und für unterschiedlichste Anwendungen bewältigen können. Insbesondere muss das System in das Gerät integriert sein, um schnelle Reaktionen auf die sich ständig verändernde Umgebung zu ermöglichen. KI-Chips, die in eingebetteten Systemen fortschrittliche KI-Verarbeitung durchführen, müssen jedoch weniger Energie verbrauchen und unterliegen strengen Beschränkungen hinsichtlich der Wärmeentwicklung.

Um diesen Marktbedürfnissen gerecht zu werden, hat Renesas den DRP-AI3 (Dynamically Reconfigurable Processor for AI3) als KI-Beschleuniger für die Hochgeschwindigkeits-KI-Inferenzverarbeitung entwickelt. Er vereint den geringen Stromverbrauch und die Flexibilität, die für moderne Geräte erforderlich sind. Diese über viele Jahre entwickelte Technologie rekonfigurierbarer KI-Beschleunigerprozessoren ist in die MPU-Serie RZ/V integriert, die speziell für KI-Anwendungen konzipiert wurde.
Der RZ/V2H ist ein neues High-End-Produkt der RZ/V-Serie und erreicht eine etwa zehnmal höhere Energieeffizienz als seine Vorgänger. Der RZ/V2H ist in der Lage, auf die sich ständig weiterentwickelnde Natur der KI und die anspruchsvollen Anforderungen von Anwendungen wie der Robotik zu reagieren. Dieser Artikel beschreibt, wie der RZ/V2H Probleme der Wärmeentwicklung löst, Hochgeschwindigkeits-Echtzeitverarbeitung ermöglicht und höhere Leistung bei geringerem Stromverbrauch für KI-fähige Produkte bietet.

Der DRP-AI3-Beschleuniger verarbeitet debuggte KI-Modelle effizient.
Debugging ist eine gängige Technologie zur Verbesserung der KI-Verarbeitungseffizienz. Dabei werden Berechnungen ausgelassen, die die Erkennungsgenauigkeit nicht wesentlich beeinflussen. Allerdings treten solche Berechnungen in KI-Modellen häufig zufällig auf. Dies führt zu einer Diskrepanz zwischen der Parallelität der Hardwareverarbeitung und der Zufälligkeit des Debuggings, was eine ineffiziente Verarbeitung zur Folge hat.

Um dieses Problem zu lösen, optimierte Renesas seinen einzigartigen DRP-basierten KI-Beschleuniger (DRP-AI) für das Debugging. Durch die Analyse des Zusammenhangs zwischen Debugging-Mustern und -Methoden und der Erkennungsgenauigkeit typischer KI-Modelle zur Bilderkennung (CNN-Modelle) identifizierten wir eine Hardwarestruktur für den KI-Beschleuniger, die sowohl eine hohe Erkennungsgenauigkeit als auch effizientes Debugging ermöglicht, und implementierten diese in DRP-AI3. Zusätzlich wurde eine Software entwickelt, um die Größe der optimierten KI-Modelle für DRP-AI3 zu reduzieren. Diese Software wandelt die zufällige Konfiguration des Debugging-Modells in hocheffiziente Parallelberechnungen um und beschleunigt so die KI-Verarbeitung. Insbesondere die flexible Debugging-Technologie von Renesas (N:M flexible Debug-Technologie), die die Anzahl der Zyklen dynamisch an die lokale Debugging-Rate der KI-Modelle anpasst, ermöglicht eine präzise Steuerung der Debugging-Rate entsprechend dem Stromverbrauch, der Betriebsgeschwindigkeit und der von den Nutzern geforderten Erkennungsgenauigkeit.

Merkmale der heterogenen Architektur, in der DRP-AI3, DRP und CPU kooperativ zusammenarbeiten:
- Multithread- und kaskadierte Verarbeitung mit dem KI-Beschleuniger (DRP-AI3), DRP und CPUs.
- Hochgeschwindigkeits-Robotikanwendungen mit geringem Jitter dank DRP (dynamisch rekonfigurierbare, festverdrahtete Logikhardware).

Serviceroboter benötigen beispielsweise fortschrittliche KI-Verarbeitung, um ihre Umgebung zu erkennen. Andererseits ist auch algorithmenbasierte Verarbeitung ohne KI notwendig, um das Verhalten des Roboters zu steuern. Aktuelle eingebettete Prozessoren (CPUs) verfügen jedoch nicht über ausreichende Ressourcen, um diese unterschiedlichen Verarbeitungsarten in Echtzeit durchzuführen. Renesas hat dieses Problem durch die Entwicklung einer heterogenen Architekturtechnologie gelöst, die das Zusammenspiel von dynamisch rekonfigurierbarem Prozessor (DRP), KI-Beschleuniger (DRP-AI3) und CPU ermöglicht.
Wie in Abbildung 1 dargestellt, kann der DRP Anwendungen ausführen und dabei die Schaltungskonfiguration der Recheneinheiten des Chips in jedem Taktzyklus dynamisch an den zu verarbeitenden Inhalt anpassen. Da nur die benötigten Rechenschaltungen verwendet werden, verbraucht der DRP weniger Energie als die CPU und erreicht höhere Geschwindigkeiten. Im Vergleich zu CPUs, bei denen häufige Zugriffe auf externen Speicher aufgrund von Cache-Lecks und anderen Ursachen die Leistung beeinträchtigen, kann DRP die notwendigen Datenpfade im Voraus in Hardware aufbauen, was zu geringeren Leistungseinbußen und geringeren Schwankungen der Betriebsgeschwindigkeit (Jitter) aufgrund von Speicherzugriffen führt.

Verteilte Verarbeitungsprozesse (DRPs) sind besonders effektiv bei der Verarbeitung von Datenströmen, wie beispielsweise der Bilderkennung, da Parallelisierung und Pipelining die Leistung direkt verbessern. Programme wie solche zur Entscheidungsfindung und Robotersteuerung erfordern hingegen eine Verarbeitung unter sich ändernden Bedingungen sowie eine detaillierte Anpassung an Veränderungen in der Umgebung. Softwarebasierte CPU-Verarbeitung eignet sich hierfür möglicherweise besser als hardwarebasierte Verarbeitung, wie sie bei DRPs üblich ist. Es ist wichtig, die Verarbeitung an den entsprechenden Stellen zu verteilen und koordiniert abzulaufen. Die heterogene Architekturtechnologie von Renesas ermöglicht die Zusammenarbeit von DRPs und CPUs.

Abbildung 1: Eigenschaften des dynamisch rekonfigurierbaren flexiblen Prozessors (DRP)

Abbildung 2 zeigt eine Übersicht der MPU-Architektur und des KI-Beschleunigers (DRP-AI3). Roboteranwendungen nutzen eine komplexe Kombination aus KI-basierten Bilderkennungsalgorithmen und nicht-KI-basierten Entscheidungs- und Steuerungsalgorithmen. Daher steigert eine Konfiguration mit einem DRP für die KI-Verarbeitung (DRP-AI3) und einem DRP für nicht-KI-basierte Algorithmen die Leistung der Roboteranwendung signifikant.

Abbildung 2: Konfiguration heterogener Architekturen basierend auf DRP-AI 3

Evaluierungsergebnisse
(1) Bewertung der KI-Modellverarbeitungsleistung:
Der mit dieser Technologie ausgestattete RZ/V2H erreichte eine maximale KI-Beschleunigerleistung von 8 TOPS (8 Billionen Summen-von-Produkten-Operationen pro Sekunde). Darüber hinaus kann die Anzahl der Operationszyklen bei optimierten KI-Modellen proportional zum Optimierungsaufwand reduziert werden, was zu einer KI-Modellverarbeitungsleistung von maximal 80 TOPS im Vergleich zu Modellen vor der Optimierung führt. Dies ist etwa 80-mal höher als die Verarbeitungsleistung vorheriger RZ/V-Produkte – eine signifikante Leistungssteigerung, die mit der rasanten Entwicklung der KI Schritt halten kann (Abbildung 3).

Abbildung 3: Vergleich der maximal gemessenen Leistung von DRP-AI3

Einerseits wird die Bildverarbeitungszeit, die auf nicht-KI-Algorithmen wie der Vor- und Nachbearbeitung basiert, mit der Beschleunigung der KI-Verarbeitung zu einem relativen Flaschenhals. In KI-MPUs wird ein Teil des Bildverarbeitungsprogramms an den DRP ausgelagert, was zur Verbesserung der Gesamtverarbeitungszeit des Systems beiträgt. (Abbildung 4)

Abbildung 4: Heterogene Architektur beschleunigt die Bilderkennungsverarbeitung (gemessen mit dem Testchip)

Hinsichtlich der Energieeffizienz zeigte die Leistungsbewertung des KI-Beschleunigers beim Betrieb der wichtigsten KI-Modelle den weltweit höchsten Wert an Energieeffizienz (ca. 10 TOPS pro Watt). (Abbildung 5)

Abbildung 5: Energieeffizienz realer KI-Modelle (gemessen mit einem Testchip)

Wir haben außerdem gezeigt, dass die gleiche Echtzeit-KI-Verarbeitung auf einem mit dem RZ/V2H ausgestatteten Evaluierungsboard ohne Zwangslüftung bei Temperaturen durchgeführt werden kann, die mit denen von Konkurrenzprodukten mit Lüftern vergleichbar sind. (Abbildung 6)

Abbildung 6: Vergleich der Wärmeentwicklung zwischen einem RZ/V2H-Board ohne Zwangslüftung und einer GPU mit Lüfter.

(2) Anwendungsbeispiele mit Robotern:
Beispielsweise erfordert die simultane Lokalisierung und Kartierung (SLAM), eine typische Roboteranwendung, einen komplexen Aufbau mit mehreren Programmprozessen zur Positionsbestimmung des Roboters parallel zur Umgebungserkennung mittels KI-Verarbeitung. Renesas' DRP ermöglicht dem Roboter den sofortigen Programmwechsel. Der parallele Betrieb mit einem KI-Beschleuniger und der CPU ist nachweislich etwa 17-mal schneller als der reine CPU-Betrieb und reduziert den Stromverbrauch auf ein Zwölftel des Verbrauchs im Vergleich zum reinen CPU-Betrieb.

Zusammenfassend lässt sich sagen, dass
Renesas mit dem RZ/V2H einen einzigartigen KI-Prozessor entwickelt hat, der den für Endgeräte erforderlichen geringen Stromverbrauch und die Flexibilität mit Rechenleistung für das Debuggen von KI-Modellen vereint und dabei zehnmal energieeffizienter (10 TOPS/W) als Vorgängerprodukte ist.
Renesas wird in Kürze Produkte auf den Markt bringen, die der zunehmenden Komplexität der KI Rechnung tragen und zur Bereitstellung von Systemen beitragen, die intelligent und in Echtzeit auf Endgeräte reagieren.

Autor: Shingo Kojima, leitender Ingenieur für integrierte Verfahrenstechnik, Renesas Electronics

Weiterführende Informationen
– RZ/V2H: https://www.renesas.com/rzv2h
– DRP-AI: Der patentierte KI-Beschleuniger von Renesas, der hohe KI-Inferenzleistung mit geringem Stromverbrauch kombiniert