以開放原始碼軟體形式推出的KIOXIA AiSAQ™技術旨在降低生成式AI系統中的DRAM需求

該軟體技術透過使用SSD提高了RAG工作流中的向量資料庫擴充和準確性

東京--(BUSINESS WIRE)--(美國商業資訊)-- 記憶體解決方案領域的全球領導者Kioxia Corporation今天宣布推出全新全儲存ANNS和乘積量化(AiSAQ)技術的開放原始碼版本⁽¹⁾。KIOXIA AiSAQ™軟體採用針對SSD進行最佳化的新型「近似最近鄰」搜尋(ANNS)演算法，可為檢索強化生成(RAG)提供可擴充的效能，無需將索引資料放入DRAM中，而是直接在SSD上搜尋。

生成式AI系統需要大量的運算、記憶體和儲存資源。儘管它們有可能推動各個產業的變革性突破，但其部署通常伴隨著高昂的成本。RAG是AI的一個關鍵階段，它使用特定于公司或應用程式的資料來促成大型語言模型(LLM)的最佳化。

RAG的一個核心元件是向量資料庫，它累積特定資料並將其轉換為資料庫中的特徵向量。RAG還利用了ANNS演算法，該演算法根據累積向量和目標向量之間的相似性來辨識可改進模型的向量。要使RAG發揮效力，它必須能夠快速檢索與查詢最相關的資訊。ANNS演算法過去一直部署在DRAM中，以實現這些搜尋所需的高速效能。

KIOXIA AiSAQ技術為數十億規模的資料集提供了可擴充且高效的ANNS解決方案，記憶體使用量可忽略不計，並且具有快速索引切換功能。

KIOXIA AiSAQ技術的主要優勢：

• 允許大規模資料庫在不依賴有限DRAM資源的情況下運行，從而提高RAG系統的效能。
• 無需將索引資料載入到DRAM中，使向量資料庫能夠立即啟動，從而支援在同一台伺服器上的使用者特定資料庫或應用程式特定資料庫之間順暢切換，以實現高效的RAG服務交付。
• 將索引儲存在分散式儲存庫中以便在多個伺服器之間共用，從而針對雲端系統進行最佳化。這種方法可以動態調整特定使用者或應用程式的向量資料庫搜尋效能，並有助於在實體伺服器之間快速移轉搜尋執行個體。

Kioxia透過將其創新的KIOXIA AiSAQ技術以開放原始碼軟體的形式貢獻給社群，展示了其對推動AI發展的承諾。

註
(1) 請點選KIOXIA AiSAQ開放原始碼版本的連結。
https://github.com/kioxiaamerica/aisaq-diskann

*公司名稱、產品名稱和服務名稱可能第三方公司的商標。

關於Kioxia
Kioxia是全球記憶體解決方案領域的領軍企業，致力於快閃記憶體和固態硬碟(SSD)的開發、生產和銷售。其前身是Toshiba Memory，於2017年4月從1987年發明了NAND快閃記憶體的公司Toshiba Corporation脫售而出。Kioxia致力於透過提供產品、服務和系統來為客戶創造選擇，並為社會創造以儲存技術為基礎的價值，從而提升世界的「記憶」。Kioxia創新的3D快閃記憶體技術BiCS FLASH™正在塑造儲存技術在高密度應用領域（包括高階智慧型手機、PC、汽車系統、資料中心和生成式AI系統）的未來。

*本文件中的資訊，包括產品價格和規格、服務內容和聯絡資訊，在公告日期是正確的，但如有變更恕不另行通知。

免責聲明：本公告之原文版本乃官方授權版本。譯文僅供方便瞭解之用，煩請參照原文，原文版本乃唯一具法律效力之版本。