Система RZ/V2H способна реагировать на развитие искусственного интеллекта и сложные требования этих приложений. В данной статье показано, как RZ/V2H решает проблемы тепловыделения, обеспечивает высокоскоростную обработку данных в реальном времени и позволяет достичь более высокой производительности и меньшего энергопотребления для продуктов, оснащенных искусственным интеллектом.

Аннотация:
Поскольку численность трудоспособного населения сокращается из-за снижения рождаемости и роста числа пожилых людей, передовые методы обработки данных с помощью искусственного интеллекта (ИИ), такие как распознавание окружающей среды, принятие решений о действиях и управление движением, будут необходимы в различных аспектах жизни общества, включая заводы, логистику, здравоохранение, городских сервисных роботов и системы видеонаблюдения. Системы должны будут обрабатывать эти передовые данные ИИ в режиме реального времени в различных типах приложений. В частности, система должна быть встроена в устройство, чтобы обеспечить быструю реакцию на постоянно меняющуюся окружающую среду. Однако чипы ИИ, хотя и выполняют передовые операции обработки данных ИИ во встроенных устройствах, потребляют меньше энергии и подвержены строгим ограничениям в отношении тепловыделения.

Для удовлетворения потребностей рынка компания Renesas разработала DRP-AI3 (динамически реконфигурируемый процессор для AI3) в качестве ускорителя ИИ для высокоскоростной обработки данных в рамках задач искусственного интеллекта, сочетающего в себе низкое энергопотребление и гибкость, необходимые для передовых устройств. Эта технология реконфигурируемого процессора-ускорителя ИИ, разработанная в течение многих лет, встроена в серию микропроцессоров RZ/V, предназначенных для приложений ИИ.
RZ/V2H — это новый высокопроизводительный продукт в серии RZ/V, обеспечивающий примерно в 10 раз большую энергоэффективность, чем его предшественники. RZ/V2H способен реагировать на развивающуюся природу ИИ и сложные требования таких приложений, как робототехника. В этой статье показано, как RZ/V2H решает проблемы тепловыделения, обеспечивает высокоскоростную обработку в реальном времени и гарантирует более высокую производительность и меньшее энергопотребление для продуктов, оснащенных ИИ.

Ускоритель DRP-AI3 эффективно обрабатывает отлаженные модели ИИ.
Как типичная технология повышения эффективности обработки ИИ, отладка позволяет пропускать вычисления, которые не оказывают существенного влияния на точность распознавания. Однако часто в моделях ИИ случайным образом присутствуют вычисления, не влияющие на точность распознавания. Это создает разрыв между параллелизмом аппаратной обработки и случайностью отладки, что приводит к неэффективной обработке.

Для решения этой проблемы компания Renesas оптимизировала свой уникальный ускоритель ИИ на основе DRP (DRP-AI) для отладки. Проанализировав, как характеристики и методы отладочных шаблонов связаны с точностью распознавания в типичных моделях ИИ для распознавания изображений (модели CNN), мы определили аппаратную структуру ускорителя ИИ, способную обеспечить как высокую точность распознавания, так и эффективную отладку, и применили её к разработке DRP-AI3. Кроме того, было разработано программное обеспечение для уменьшения размера оптимизированных моделей ИИ для DRP-AI3. Это программное обеспечение преобразует случайную конфигурацию модели отладки в высокоэффективные параллельные вычисления, что приводит к ускорению обработки ИИ. В частности, высокогибкая технология поддержки отладки Renesas (N:M flexible debug technology), которая может динамически изменять количество циклов в ответ на изменения локальной скорости отладки в моделях ИИ, позволяет точно контролировать скорость отладки в соответствии с энергопотреблением, скоростью работы и точностью распознавания, требуемыми пользователями.

Особенности гетерогенной архитектуры, в которой DRP-AI3, DRP и CPU работают совместно:
- Многопоточная и последовательная обработка с использованием ускорителя ИИ (DRP-AI3), DRP и CPU.
- Высокоскоростные роботизированные приложения с низким уровнем дрожания сигнала с использованием DRP (динамически реконфигурируемое аппаратное обеспечение с жесткой схемой).

Сервисным роботам, например, требуется сложная обработка с использованием ИИ для распознавания окружающей среды. С другой стороны, для принятия решений и управления поведением робота также необходима обработка на основе алгоритмов, не использующих ИИ. Однако современным встроенным процессорам (CPU) не хватает ресурсов для выполнения этих различных типов обработки в реальном времени. Компания Renesas решила эту проблему, разработав технологию гетерогенной архитектуры, которая позволяет динамически реконфигурируемому процессору (DRP), ускорителю ИИ (DRP-AI3) и центральному процессору работать вместе.
Как показано на рисунке 1, динамически реконфигурируемый процессор (DRP) может запускать приложения, динамически изменяя конфигурацию соединений цепей арифметических блоков микросхемы на каждом тактовом цикле в зависимости от обрабатываемого содержимого. Поскольку используются только необходимые арифметические цепи, DRP потребляет меньше энергии, чем обработка на центральном процессоре, и может достигать более высоких скоростей. Кроме того, по сравнению с центральными процессорами, где частые обращения к внешней памяти из-за утечек кэша и других причин снижают производительность, DRP позволяет заранее создавать необходимые пути передачи данных в аппаратном обеспечении, что приводит к меньшему снижению производительности и меньшим колебаниям скорости работы (джиттеру) из-за обращений к памяти.

Распределенные операции обработки (DRP) особенно эффективны при обработке данных в потоке, например, в задачах распознавания изображений, где распараллеливание и конвейерная обработка напрямую повышают производительность. С другой стороны, программы, подобные тем, что используются для принятия решений и управления поведением роботов, требуют обработки в условиях изменяющихся обстоятельств и детальной обработки в ответ на изменения окружающей среды. Для этого лучше подходит программная обработка на ЦП, чем аппаратная, как в случае с DRP. Важно распределять обработку по соответствующим областям и работать скоординированно. Технология гетерогенной архитектуры Renesas позволяет DRP и ЦП работать вместе.

Рисунок 1: Характеристики динамически реконфигурируемого гибкого процессора (DRP)

На рисунке 2 представлен общий обзор архитектуры MPU и ускорителя ИИ (DRP-AI3). Роботизированные приложения используют сложную комбинацию алгоритмов распознавания изображений на основе ИИ и алгоритмов принятия решений и управления, не основанных на ИИ. Поэтому конфигурация с DRP для обработки ИИ (DRP-AI3) и DRP для алгоритмов, не основанных на ИИ, значительно повысит производительность роботизированного приложения.

Рисунок 2: Конфигурация гетерогенной архитектуры на основе DRP-AI 3

Результаты оценки
(1) Оценка производительности обработки моделей ИИ.
RZ/V2H, оснащенный этой технологией, достиг максимальной производительности обработки ИИ в 8 TOPS (8 триллионов операций суммирования произведений в секунду). Кроме того, для отлаженных моделей ИИ количество циклов обработки может быть уменьшено пропорционально объему отладки, что приводит к производительности обработки моделей ИИ, эквивалентной максимум 80 TOPS по сравнению с моделями до отладки. Это примерно в 80 раз выше, чем производительность обработки предыдущих продуктов RZ/V, что является значительным улучшением производительности, которое адекватно соответствует быстрому развитию ИИ (Рисунок 3).

Рисунок 3: Сравнение максимальной измеренной производительности DRP-AI3

С одной стороны, по мере ускорения обработки данных с помощью ИИ, время обработки изображений с использованием алгоритмов, не относящихся к ИИ, таких как предварительная и последующая обработка с помощью ИИ, становится относительным узким местом. В микропроцессорах с поддержкой ИИ часть программы обработки изображений переносится на DRP, что помогает улучшить общее время обработки системы. (Рисунок 4)

Рисунок 4: Гетерогенная архитектура ускоряет обработку распознавания изображений (по результатам измерений на тестовом чипе)

С точки зрения энергоэффективности, оценка производительности ускорителя ИИ показала самый высокий уровень энергоэффективности в мире (приблизительно 10 TOPS на ватт) при запуске основных моделей ИИ. (Рисунок 5)

Рисунок 5: Энергоэффективность реальных моделей ИИ (измерено с помощью тестового чипа)

Мы также продемонстрировали, что аналогичная обработка данных с использованием ИИ в реальном времени может быть выполнена на оценочной плате, оснащенной RZ/V2H, без принудительной вентиляции, при температурах, сопоставимых с температурами конкурирующих продуктов, оснащенных вентиляторами. (Рисунок 6)

Рисунок 6: Сравнение тепловыделения между платой RZ/V2H без принудительной вентиляции и графическим процессором с вентилятором.

(2) Примеры применения роботов.
Например, одновременная локализация и картографирование (SLAM), одно из типичных применений роботов, имеет сложную структуру, требующую нескольких программных процессов для распознавания положения робота параллельно с распознаванием окружающей среды с использованием обработки ИИ. DRP от Renesas позволяет роботу мгновенно переключаться между программами, а параллельная работа с ускорителем ИИ и ЦП оказалась примерно в 17 раз быстрее, чем работа только на ЦП, и снижает энергопотребление до 1/12 от уровня работы только на ЦП.

В заключение,
компания Renesas разработала RZ/V2H, уникальный процессор для искусственного интеллекта, который сочетает в себе низкое энергопотребление и гибкость, необходимые для конечных устройств, с вычислительными возможностями для отладки моделей ИИ и в 10 раз более энергоэффективен (10 TOPS/Вт), чем предыдущие продукты.
В будущем Renesas выпустит продукты, которые будут отвечать требованиям развития ИИ, который, как ожидается, станет все более сложным, и будут способствовать развертыванию систем, интеллектуально и в режиме реального времени реагирующих на действия конечных устройств.

Автор: Синго Кодзима, ведущий инженер по интегрированным процессорам, Renesas Electronics

Дополнительная информация
- RZ/V2H: https://www.renesas.com/rzv2h
- DRP-AI: запатентованный компанией Renesas ускоритель ИИ, сочетающий высокую производительность обработки данных ИИ с низким энергопотреблением