Apportant son expertise en conception intégrée au projet, les experts internes d'Arrow ont fourni des conseils sur la conception du firmware et du matériel, et ont développé et validé le firmware de gestion de l'alimentation. Arrow a également pris en charge le débogage du microcontrôleur (MCU) et les flux d'alimentation de la plateforme afin de garantir le lancement réussi de NAPU, NR1-S et du logiciel embarqué NeuReality, le tout en un temps record.
L'équipe d'Arrow a contribué à la sélection du MCU le plus adapté pour assurer l'interface entre les composants du système de carte PCIe et le serveur.
Le NR1 NAPU™ est un serveur sur puce personnalisé qui exploite pleinement les performances de chaque accélérateur d'IA dédié, passant d'une utilisation proche de 30 % actuellement à 100 %, augmentant ainsi le débit global et réduisant le gaspillage de silicium. NAPU migre non seulement les services tels que la terminaison réseau, la qualité de service et le pré- et post-traitement de l'IA, mais améliore également le flux de données pour le volume important et la variété des pipelines d'IA.
L'architecture système NeuReality élimine le goulot d'étranglement des performances causé par l'architecture système traditionnelle centrée sur le processeur sur laquelle s'appuient aujourd'hui tous les systèmes d'inférence d'IA et les fabricants de matériel. Par conséquent, le NR1-S améliore la rentabilité et l'efficacité énergétique des pipelines de données IA à haut volume et à forte variance, un enjeu financier majeur pour le déploiement des applications d'IA conventionnelles et génératives actuelles, très énergivores.
« Notre NAPU s'attaque aux principaux goulots d'étranglement qui limitent les performances des accélérateurs d'IA actuels, tels que la gestion de l'énergie et le transfert de données du réseau vers l'accélérateur d'IA, généralement un GPU, un FPGA ou un ASIC », explique Eli Bar-Lev, directeur matériel chez NeuReality. « Le soutien d'Arrow en matière de matériel et de micrologiciel pour la gestion de l'énergie et l'ingénierie thermique nous a permis de concentrer nos ressources sur une solution d'inférence IA complète, du silicium au logiciel, qui facilitera l'accès à l'IA pour les gouvernements et les entreprises du monde entier. »
« Ce projet passionnant pourrait rendre l'inférence IA d'entreprise dans le cloud et sur site plus abordable et plus rapide, augmentant ainsi l'accès à des services précieux dans les domaines de l'imagerie médicale et des soins de santé, des services bancaires et d'assurance, ainsi que des centres d'appels et des assistants virtuels alimentés par l'IA », a déclaré Vitali Damasevich, directeur de l'ingénierie pour l'Europe de l'Est et le centre de solutions d'ingénierie EMEA.

Plus d'informations