Генеративные системы искусственного интеллекта требуют значительных вычислительных ресурсов, памяти и хранилища. Хотя они потенциально могут привести к кардинальным изменениям в различных секторах, их внедрение часто сопряжено с высокими затратами. Регенеративный ИИ (RAG) — это критически важный этап развития ИИ, который совершенствует большие языковые модели (LLM) с использованием данных, специфичных для предприятия или приложения.

Ключевым компонентом RAG является векторная база данных, которая накапливает и преобразует определенные данные в векторы признаков внутри базы данных. RAG также использует алгоритм сканирования альтернативных чисел (ANNS), который идентифицирует векторы, улучшающие модель на основе сходства между накопленными векторами и целевыми векторами.

Для эффективной работы RAG необходимо быстро извлекать наиболее релевантную информацию для заданного запроса. Традиционно алгоритмы ANNS развертывались в DRAM для достижения высокой скорости, необходимой для этих поисков.

Технология AiSAQ™ от KIOXIA обеспечивает масштабируемое и эффективное решение ANNS для больших наборов данных с минимальным использованием памяти и очень быстрыми изменениями индексов.

Ключевой особенностью технологии AiSAQ™ от KIOXIA
является то, что она позволяет работать с большими базами данных, не полагаясь на ограниченные ресурсы DRAM, тем самым повышая производительность систем RAG.

Это устраняет необходимость загрузки индексных данных в DRAM, позволяя векторной базе данных запускаться мгновенно. Это обеспечивает бесперебойное переключение между базами данных, специфичными для пользователя или приложения, на одном сервере для эффективного предоставления услуг RAG.

Оптимизировано для облачных систем за счет хранения индексов в дезагрегированном хранилище для совместного использования на нескольких серверах. Такой подход динамически регулирует производительность поиска в векторных базах данных для конкретных пользователей или приложений и облегчает быструю миграцию экземпляров поиска между физическими серверами.

«Решение AiSAQ™ от KIOXIA открывает путь к практически безграничной масштабируемости приложений RAG на системах генеративного ИИ, использующих твердотельные накопители (SSD) в качестве ядра», — заявил Аксель Шторманн, вице-президент и главный технический директор KIOXIA Europe GmbH. «Используя технологию ANNS на основе SSD, мы снижаем зависимость от дорогостоящей оперативной памяти (DRAM), одновременно удовлетворяя требованиям к производительности ведущих решений, работающих с оперативной памятью, что значительно расширяет диапазон производительности крупномасштабных приложений RAG»

Более подробная информация