(1) Ein KI-Beschleuniger basierend auf einem dynamisch rekonfigurierbaren Prozessor (DRP), der ressourcenschonende KI-Modelle effizient verarbeitet, und (2) eine heterogene Architekturtechnologie, die Echtzeitverarbeitung durch kooperierende Prozessor-IPs wie die CPU ermöglicht. Renesas entwickelte einen Prototyp eines KI-MPU, der diese Technologien integriert, und bestätigte dessen hohe Geschwindigkeit und geringen Stromverbrauch. Er erreichte bis zu 16-mal höhere Verarbeitungsgeschwindigkeiten (130 TOPS) als vor der Einführung dieser neuen Technologien und eine erstklassige Energieeffizienz (bis zu 23,9 TOPS/W bei einer Versorgungsspannung von 0,8 V).
Angesichts der zunehmenden Verbreitung von Robotern in Fabriken, Logistik, Gesundheitswesen und Einzelhandel besteht ein wachsender Bedarf an Systemen, die mithilfe fortschrittlicher KI-gestützter Bildverarbeitung autonom und in Echtzeit arbeiten können. Aufgrund der strengen Beschränkungen der Wärmeentwicklung, insbesondere bei eingebetteten Systemen, benötigen KI-Chips sowohl eine höhere Leistung als auch einen geringeren Stromverbrauch.
Die von Renesas entwickelten Technologien umfassen Folgendes:
Ein KI-Beschleuniger, der ressourcenschonende KI-Modelle effizient verarbeitet.
Als gängige Technologie zur Verbesserung der KI-Verarbeitungseffizienz wird das Pruning eingesetzt, um Berechnungen zu entfernen, die die Erkennungsgenauigkeit nicht beeinflussen. KI-Modelle enthalten jedoch häufig zufällig Berechnungen, die die Erkennungsgenauigkeit nicht beeinträchtigen. Dies führt zu einer Diskrepanz zwischen der Parallelität der Hardwareverarbeitung und der Zufälligkeit des Prunings, was die Verarbeitung ineffizient macht.
Um dieses Problem zu lösen, optimierte Renesas seinen einzigartigen DRP-basierten KI-Beschleuniger (DRP-AI) für das Pruning. Durch die Analyse des Zusammenhangs zwischen den Eigenschaften des Pruning-Musters und der Pruning-Methode und der Erkennungsgenauigkeit in typischen Bilderkennungs-KI-Modellen (CNN-Modellen) identifizierten wir die Hardwarestruktur eines KI-Beschleunigers, der sowohl eine hohe Erkennungsgenauigkeit als auch eine effiziente Pruning-Rate ermöglicht, und implementierten diese im DRP-AI-Design. Zusätzlich wurde eine Software entwickelt, um die Größe der für diesen DRP-AI optimierten KI-Modelle zu reduzieren. Diese Software wandelt die Konfiguration des zufälligen Pruning-Modells in hocheffizientes Parallelrechnen um und ermöglicht so eine schnellere KI-Verarbeitung. Insbesondere die flexible Pruning-Technologie von Renesas (N:M-Flexible-Pruning-Technologie) passt die Anzahl der Zyklen dynamisch an die lokale Pruning-Rate der KI-Modelle an und erlaubt so eine präzise Steuerung der Pruning-Rate basierend auf Energieverbrauch, Betriebsgeschwindigkeit und Erkennungsgenauigkeit.
Diese Technologie reduziert die Anzahl der KI-Modellverarbeitungszyklen auf bis zu ein Sechzehntel der für inkompatible Modelle benötigten Zyklen und verbraucht weniger als ein Achtel der Energie.
Die heterogene Architektur ermöglicht Echtzeitverarbeitung für die Robotersteuerung.
Roboteranwendungen benötigen fortschrittliche KI-Bildverarbeitung zur Erkennung der Umgebung. Gleichzeitig erfordert die Beurteilung und Steuerung von Roboterbewegungen eine detaillierte Programmierung von Bedingungen als Reaktion auf Umgebungsänderungen, wodurch CPU-basierte Softwareverarbeitung besser geeignet ist als KI-basierte Verarbeitung. Die Herausforderung bestand bisher darin, dass aktuelle CPUs mit eingebetteten Prozessoren nicht vollständig in der Lage sind, Roboter in Echtzeit zu steuern. Aus diesem Grund hat Renesas einen dynamisch rekonfigurierbaren Prozessor (DRP) eingeführt, der neben der CPU und dem KI-Beschleuniger (DRP-AI) auch komplexe Verarbeitungsprozesse übernimmt. Dies führte zur Entwicklung einer heterogenen Architekturtechnologie, die durch die geeignete Verteilung und Parallelisierung von Prozessen höhere Geschwindigkeiten und einen geringeren Stromverbrauch in KI-MPUs ermöglicht.
Ein DRP (Dynamic Response Processor) führt eine Anwendung aus und passt dabei die Schaltungskonfiguration zwischen den Recheneinheiten im Chip für jeden Taktzyklus dynamisch an die jeweiligen Verarbeitungsdetails an. Da selbst bei komplexen Prozessen nur die benötigten Rechenschaltungen aktiv sind, werden ein geringerer Stromverbrauch und höhere Geschwindigkeiten ermöglicht. SLAM (Simultaneous Localization and Mapping), eine typische Anwendung in der Robotik, ist beispielsweise ein komplexes System, das mehrere Programmierprozesse zur Roboterpositionserkennung parallel zur Umgebungserkennung mittels visueller KI-Verarbeitung erfordert. Renesas demonstrierte die Funktionsweise dieses SLAM-Systems durch den verzögerungsfreien Programmwechsel mit dem DRP und den parallelen Betrieb von KI-Beschleuniger und CPU. Dies führte zu einer etwa 17-fach höheren Betriebsgeschwindigkeit und einer etwa 12-fach höheren Energieeffizienz im Vergleich zur integrierten CPU allein.
verifizierte die Funktionsweise
durch die Entwicklung eines Prototyp-Testchips mit diesen Technologien und bestätigte eine erstklassige Energieeffizienz von 23,9 TOPS pro Watt bei einer Standardversorgungsspannung von 0,8 V für den KI-Beschleuniger und eine Betriebsenergieeffizienz von 10 TOPS pro Watt für die wichtigsten KI-Modelle. Es wurde außerdem gezeigt, dass KI-Verarbeitung ohne Lüfter oder Kühlkörper möglich ist.
Diese Ergebnisse tragen dazu bei, die durch erhöhten Stromverbrauch verursachte Wärmeentwicklung zu reduzieren, die bisher eine Herausforderung bei der Implementierung von KI-Chips in verschiedenen eingebetteten Systemen wie Servicerobotern und fahrerlosen Transportsystemen darstellte. Die signifikante Reduzierung der Wärmeentwicklung wird die Automatisierung in diversen Branchen, wie beispielsweise der Robotik und dem Markt für intelligente Technologien, vorantreiben. Diese Technologien werden in den MPUs der RZ/V-Serie von Renesas für Anwendungen im Bereich der maschinellen Bildverarbeitung eingesetzt.
