Для удовлетворения этих новых требований отрасль разрабатывает архитектуры памяти следующего поколения, способные максимизировать пропускную способность, минимизировать задержку и повысить энергоэффективность. Технологические достижения в области DRAM, LPDDR и специализированных решений для памяти меняют производительность вычислительных систем, при этом оптимизированная для ИИ память играет ключевую роль в повышении эффективности и масштабируемости.
Память CUBE от Winbond Electronics Corporation является примером этого прогресса, предлагая высокоскоростное и энергоэффективное решение, разработанное для поддержки рабочих нагрузок, управляемых искусственным интеллектом. В этой статье рассматриваются последние разработки в области технологий памяти, растущее влияние приложений ИИ и стратегия Winbond по реагированию на меняющиеся потребности рынка.

Передовые архитектуры памяти и масштабирование производительности:
Технология памяти продолжает развиваться, чтобы соответствовать высоким требованиям к производительности систем искусственного интеллекта, интернета вещей и 5G.
В отрасли происходят значительные изменения благодаря внедрению таких стандартов, как
DDR5
и HBM3E
. Они обеспечивают более высокую пропускную способность и улучшенную энергоэффективность.
DDR5, со скоростью передачи данных на контакт до 6,4 Гбит/с, обеспечивает 51,2 ГБ/с на модуль, что почти вдвое превосходит производительность DDR4, при этом снижая напряжение с 1,2 В до 1,1 В, тем самым повышая энергоэффективность.
HBM3E, с другой стороны, превышает 1,2 ТБ/с пропускной способности на стек, что делает его идеальным решением для обучения ресурсоемких моделей ИИ, хотя он непрактичен для мобильных или периферийных устройств из-за высокого энергопотребления.
Ожидается, что к 2026 году пропускная способность LPDDR6 превысит 150 ГБ/с, что демонстрирует эволюцию энергоэффективной DRAM в сторону повышения производительности и энергоэффективности для таких устройств, как смартфоны с поддержкой ИИ и интегрированные ускорители ИИ.
В этом контексте Winbond активно разрабатывает решения DDR5 и LPDDR4 малой емкости, оптимизированные для приложений с низким энергопотреблением, а также продвигает разработку своей памяти CUBE, способной достичь пропускной способности более 1 ТБ/с со значительным снижением тепловыделения.
Планируемая емкость до 8 ГБ на стек и даже более высокие конфигурации, такие как 4Hi WoW, основанные на одном размере решетки, позволяют CUBE достигать плотности более 70 ГБ и пропускной способности до 40 ТБ/с, позиционируя себя как передовую альтернативу традиционным архитектурам DRAM для периферийных вычислений ИИ.

CUBE Подсерия CUBE -Lite обеспечивает пропускную способность от 8 до 16 ГБ/с (эквивалентно LPDDR4x x16/x32), потребляя всего 30% энергии по сравнению с LPDDR4x.
-Lite: эффективная память для маломощных устройств искусственного интеллекта.
Одним из ее преимуществ является отсутствие необходимости в физическом уровне LPDDR4, поскольку для достижения производительности, эквивалентной LPDDR4x на полной скорости, SoC достаточно интегрировать контроллер CUBE-Lite.

Это дает ряд преимуществ:
устраняет высокие затраты на лицензии PHY,
позволяет использовать зрелые производственные процессы, такие как 28 нм или даже 40 нм,
и обеспечивает уровень производительности, сопоставимый с 12-нм технологическим процессом.

Эта архитектура особенно хорошо подходит для:
AI-SoC или AI-MCU со встроенным NPU, а также
для устройств TinyML с питанием от батарей.
В сочетании с операционными системами Micro Linux и выполнением моделей ИИ она может применяться в сценариях с низким энергопотреблением на периферии сети, таких как:
IP-камеры с ИИ,
умные очки,
носимые устройства.
Это позволяет оптимизировать энергопотребление системы и уменьшить площадь кристалла.

Проблемы с памятью в генеративном ИИ:
экспоненциальный рост моделей генеративного ИИ создает новые ограничения в пропускной способности памяти и задержке.
Рабочие нагрузки ИИ, особенно основанные на архитектурах типа «трансформер», требуют огромной вычислительной мощности и высокоскоростного доступа к данным.
Например, для работы LLaMA 2 7B в режиме INT8 требуется не менее 7 ГБ DRAM или 3,5 ГБ в режиме INT4, что подчеркивает ограничения современной мобильной памяти.
Смартфоны с ИИ, использующие LPDDR5 (68 ГБ/с), сталкиваются со значительными проблемами, что стимулирует переход на LPDDR6.
Однако, пока эта технология не получит широкого распространения, необходимы временные решения для сокращения разрыва в пропускной способности.

В периферийных приложениях, таких как
робототехника,
беспилотные автомобили и
интеллектуальные датчики,
также возникают ограничения, связанные с энергоэффективностью и теплоотводом.
Хотя стандарты JEDEC движутся в сторону DDR6 и HBM4, специализированные архитектуры, такие как CUBE, предлагают масштабируемые высокопроизводительные альтернативы, соответствующие требованиям к SoC для ИИ.
CUBE может обеспечить пропускную способность уровня HBM при потреблении менее 10 Вт, что делает его жизнеспособным вариантом для выполнения задач ИИ на периферии. Теплоотвод и энергоэффективность:
Запуск крупномасштабных моделей ИИ на конечных устройствах создает значительные проблемы в области теплоотвода и энергопотребления.
Рабочие нагрузки ИИ потребляют большое количество энергии и выделяют тепло, что может повлиять на стабильность системы.

Ключевые стратегии включают:
- Расширение памяти в устройствах:
Мобильным устройствам необходимо интегрировать больший объем памяти для снижения зависимости от облачных сервисов и уменьшения задержки.
- HBM3E против CUBE:
Хотя HBM3E обеспечивает высокую производительность, она может потреблять более 30 Вт на стек, что делает ее непригодной для мобильных устройств.
Память CUBE может выступать в качестве LLC (кэш последнего уровня), снижая зависимость от встроенной SDRAM.
- Тепловая оптимизация:
При тепловых нагрузках, превышающих 15 Вт на чип, оптимизация распределения и рассеивания энергии имеет важное значение.
Специализированные решения DRAM с сквозными кремниевыми переходными отверстиями (TSV), такие как используемые в CUBE, повышают энергоэффективность.

DDR5 и DDR6: ускорение вычислений с помощью ИИ

Эволюция DDR5 и DDR6 представляет собой поворотный момент в архитектуре систем искусственного интеллекта.
DDR5 включает в себя
8-банковую
архитектуру ECC, интегрированную в чип.
Это повышает целостность данных и эффективность, что делает её идеальным выбором для ПК с поддержкой ИИ и высокопроизводительных ноутбуков.
Благодаря максимальной скорости 51,2 ГБ/с на модуль, она обеспечивает
вывод данных ИИ в реальном времени
расширенную многозадачность
высокоскоростную обработку данных.
В то же время, DDR6, которая всё ещё находится в разработке, может предложить скорость
более 200 ГБ/с на модуль,
на 20% меньшее энергопотребление
и оптимизированную поддержку ускорителей ИИ.

Стратегия Winbond в области памяти для ИИ:
Winbond внедряет инновации в специализированные архитектуры DRAM, ориентированные на рабочие нагрузки ИИ.
Ключевые инициативы включают:
- CUBE как оптимизированная для ИИ память:
Благодаря межсоединениям TSV, CUBE сочетает высокую пропускную способность с низким энергопотреблением, что идеально подходит для мобильных и периферийных SoC для ИИ.
- Сотрудничество с партнерами OSAT:
Компания работает спо сборке и тестированию полупроводников (OSAT) для улучшения интеграции с оборудованием ИИ следующего поколения.
- Перспективные инновации в DRAM:
В план развития входят:
оптимизированная для ИИ DRAM,
новые специализированные кэши и
оптимизированные архитектуры LPDDR.
Эти технологии позволят Winbond удовлетворить растущий спрос на ИИ в высокопроизводительных вычислениях, робототехнике и обработке данных в реальном времени.

Заключение:
Сближение рабочих нагрузок, управляемых ИИ, ограничений масштабируемости производительности и потребности в энергоэффективной памяти трансформирует рынок памяти.
Генеративный ИИ ускоряет спрос на высокоскоростные архитектуры памяти с низкой задержкой, стимулируя инновации в DRAM и специализированных решениях для памяти.
Лидерство Winbond в таких технологиях, как CUBE и DDR5/LPDDR, позиционирует ее как ключевого игрока в вычислениях следующего поколения для ИИ.
По мере усложнения моделей ИИ потребность в оптимизированных и эффективных архитектурах памяти будет становиться все более критической. Приверженность Winbond технологическим инновациям направлена ​​на преодоление разрыва между высокопроизводительными вычислениями и устойчивыми, масштабируемыми решениями для памяти.