Generative KI-Systeme benötigen erhebliche Rechen-, Speicher- und Datenspeicherressourcen. Obwohl sie das Potenzial haben, in verschiedenen Branchen transformative Fortschritte zu erzielen, ist ihre Implementierung oft mit hohen Kosten verbunden. Regenerative KI (RAG) ist eine entscheidende Phase der KI, in der große Sprachmodelle (LLMs) mit unternehmens- oder anwendungsspezifischen Daten verfeinert werden.
Ein Kernbestandteil von RAG ist eine Vektordatenbank, die spezifische Daten sammelt und in Merkmalsvektoren umwandelt. RAG nutzt außerdem einen Algorithmus zum Scannen alternativer Zahlen (ANNS), der Vektoren identifiziert, die das Modell anhand der Ähnlichkeit zwischen den gesammelten Vektoren und den Zielvektoren verbessern.
Damit RAG effektiv ist, muss es schnell die relevantesten Informationen für eine gegebene Anfrage abrufen. Traditionell wurden ANNS-Algorithmen im Arbeitsspeicher (DRAM) implementiert, um die für diese Suchvorgänge erforderliche hohe Geschwindigkeit zu erreichen.
Die AiSAQ™-Technologie von KIOXIA bietet eine skalierbare und effiziente ANNS-Lösung für große Datensätze mit minimalem Speicherverbrauch und sehr schnellen Indexänderungen.
Ein wesentliches Merkmal der AiSAQ™-Technologie von KIOXIA
ist, dass sie den Betrieb großer Datenbanken ohne Abhängigkeit von begrenzten DRAM-Ressourcen ermöglicht und somit die Leistung von RAG-Systemen verbessert.
Dadurch entfällt das Laden von Indexdaten in den DRAM, sodass die Vektordatenbank sofort starten kann. Dies ermöglicht ein nahtloses Umschalten zwischen benutzer- oder anwendungsspezifischen Datenbanken auf demselben Server für eine effiziente Bereitstellung von RAG-Diensten.
Optimiert für Cloud-Systeme durch Speicherung von Indizes in disaggregiertem Speicher zur gemeinsamen Nutzung auf mehreren Servern. Dieser Ansatz passt die Suchleistung in Vektordatenbanken dynamisch für spezifische Benutzer oder Anwendungen an und ermöglicht die schnelle Migration von Suchinstanzen zwischen physischen Servern.
„Die AiSAQ™-Lösung von KIOXIA ermöglicht nahezu unbegrenzte Skalierbarkeit von RAG-Anwendungen auf generativen KI-Systemen mit SSD-Flash-Speichern im Kern“, so Axel Stoermann, Vice President und Chief Technology Officer der KIOXIA Europe GmbH. „Durch den Einsatz der SSD-basierten ANNS-Technologie reduzieren wir die Abhängigkeit von teurem DRAM und erfüllen gleichzeitig die Leistungsanforderungen führender In-Memory-Lösungen. Dadurch verbessern wir die Leistungsfähigkeit umfangreicher RAG-Anwendungen deutlich.“
