Mit der zunehmenden Verbreitung von KI in Industrieanwendungen, Robotik und intelligenter Bildverarbeitung suchen Entwickler verstärkt nach Möglichkeiten, komplexere KI-Workloads näher am Ort der Datenerzeugung einzusetzen. Die lokale Nutzung von KI am Netzwerkrand (Edge) kann dazu beitragen, Latenzzeiten zu reduzieren, den Datenschutz zu verbessern und die Abhängigkeit von Cloud-basierter Verarbeitung zu verringern, insbesondere bei zeitkritischen Anwendungen.
Die NXP Ara240 DNPU wurde speziell für diese Anforderungen entwickelt und liefert bis zu 40 eTOPS (äquivalente Teraoperationen pro Sekunde). Sie unterstützt Workloads wie große Sprachmodelle (LLMs), Bildverarbeitungsmodelle (VLMs), Transformer und Convolutional Neural Networks (CNNs). Dank der Unterstützung von bis zu 16 GB LPDDR4-Speicher ermöglicht das Gerät Entwicklern, größere und komplexere KI-Modelle direkt auf eingebetteten Systemen und Edge-Systemen auszuführen, ohne auf Cloud-Ressourcen angewiesen zu sein.
Um Kunden die Nutzung dieser Funktionen zu erleichtern, bietet Arrow die Ara240-Lösungen von NXP über seine Digital Test Drive-Plattform an. Arrows Digital Test Drive (oft auch als „digitale Testplattform“ bezeichnet) ist eine cloudbasierte, remote nutzbare Umgebung für Hardwaretests und -entwicklung, die von Arrow betrieben wird und es Ingenieuren ermöglicht, physische Embedded-Boards online zu evaluieren, ohne dass die Hardware auf ihrem Desktop benötigt wird.
Ingenieure können per Fernzugriff auf Live-Systeme zugreifen, die auf NXP i.MX-Anwendungsprozessoren in Kombination mit der Ara240 DNPU basieren. So können sie KI-Anwendungen aus der Praxis, wie z. B. Computer Vision, Inferenz großer Sprachmodelle und KI für Bildverarbeitungssprachen, evaluieren, anstatt sich auf Spezifikationen oder Referenzdaten zu verlassen. Dadurch erhalten sie ein besseres Verständnis der Systemleistung und -eignung für ihre Projekte, bevor sie Hardwareinvestitionen tätigen oder Architekturentscheidungen treffen.
„Entwickler brauchen praktische Wege, um zu verstehen, wie fortschrittliche KI-Technologien in realen Anwendungen funktionieren“, sagte Justin Mortimer, Senior Director of Product Marketing für Secure Connected Edge bei NXP Semiconductors.
„Durch den Zugriff auf die Ara240 DNPUs von NXP über den Digital Test Drive ermöglicht Arrow Entwicklungsteams, die Leistung modernster KI-Lösungen in der Praxis schneller zu evaluieren und fundierte Designentscheidungen zu treffen.“ „Wir bei Arrow haben uns zum Ziel gesetzt, unsere Kunden bei der Beschleunigung ihrer KI-Transformation zu unterstützen, indem wir die Hürden zwischen Innovation und Implementierung beseitigen“, so Shelby Schnurrenberger, Vice President Global Semiconductor Supplier Management bei Arrow Electronics.
„Durch die Integration des KI-Beschleunigers Ara240 von NXP in unsere Digital Test Drive-Plattform können Ingenieure fortschrittliche KI-Workloads direkt am Netzwerkrand evaluieren und so praktische Erfahrungen mit der Technologie sammeln, bevor sie in Hardware investieren. Gemeinsam mit NXP ermöglichen wir unseren Kunden, schneller von der Konzeption zur Produktion zu gelangen und neue Möglichkeiten in intelligenten Edge-Anwendungen zu entdecken. Digital Test Drive erweitert den globalen Zugriff auf das KI-Portfolio von NXP und erlaubt es Ingenieuren, die Leistung zu validieren, Anwendungsfälle zu erkunden und Entwicklungszyklen von überall auf der Welt zu verkürzen. Diese Zusammenarbeit unterstreicht unser gemeinsames Engagement, Edge-KI für Kunden in Industrie, Robotik, Bildverarbeitung und neuen intelligenten Systemen zugänglicher, skalierbarer und praxisorientierter zu gestalten.“.
Die Evaluierungsumgebung für den NXP Ara240 ist jetzt über Digital Test Drive. Digital Test Drive vereinfacht die Testphase in der Frühphase, indem es dazu beiträgt, gängige Hürden wie die Verfügbarkeit von Testkits, Lieferverzögerungen, komplexe Einrichtung und Softwareinstallation zu beseitigen.
