生成式人工智能系统需要大量的计算、内存和存储资源。虽然它们具有推动各领域变革性发展的潜力,但其部署往往成本高昂。生成式人工智能(RAG)是人工智能发展的关键阶段,它利用企业或应用特定的数据来优化大型语言模型(LLM)。RAG
的核心组件是一个向量数据库,用于在数据库中累积特定数据并将其转换为特征向量。RAG 还利用了替代数扫描(ANNS)算法,该算法基于累积向量与目标向量之间的相似性来识别能够改进模型的向量。
为了使 RAG 有效,它必须能够快速检索给定查询的最相关信息。传统上,ANNS 算法部署在 DRAM 中,以实现这些搜索所需的高速性能。
铠侠的AiSAQ™技术为大规模数据集提供了一种可扩展且高效的ANNS解决方案,其内存占用极低,索引更新速度极快。
铠侠AiSAQ™技术的关键特性
在于,它允许大规模数据库在不依赖有限的DRAM资源的情况下运行,从而提升RAG系统的性能。
它无需将索引数据加载到DRAM中,从而使向量数据库能够立即启动。这使得在同一服务器上的用户或应用程序特定数据库之间可以无缝切换,从而实现高效的RAG服务交付。.
该方法通过将索引存储在分散的存储环境中,以便在多个服务器之间共享,从而针对云系统进行了优化。这种方法能够针对特定用户或应用程序动态调整向量数据库中的搜索性能,并有助于在物理服务器之间快速迁移搜索实例。.
“KIOXIA的AiSAQ™解决方案为基于SSD闪存驱动器核心的生成式AI系统上的RAG应用实现了近乎无限的扩展性,”KIOXIA欧洲有限公司副总裁兼首席技术官Axel Stoermann表示。“通过利用基于SSD的ANNS技术,我们减少了对昂贵DRAM的依赖,同时满足了领先的内存解决方案的性能要求,显著提升了大规模RAG应用的性能范围。”
