-

キオクシア:生成AIの回答精度向上に貢献する、SSDを活用したソフトウェア技術「KIOXIA AiSAQTM」をオープンソースとして公開

外部データを活用して推論を強化するRAG技術を構成する新たなベクトル探索ソフトウェアを開発

東京--(BUSINESS WIRE)--(ビジネスワイヤ) -- キオクシア株式会社(以下、キオクシア)は、生成AIの回答精度およびデータベースの拡張性向上に貢献する、RAG(Retrieval Augmented Generation) においてSSDを活用したソフトウェア技術「KIOXIA AiSAQTM(キオクシア アイザック)」を開発し、オープンソースとして公開を開始しました[注1]

「KIOXIA AiSAQ (All-in-Storage ANNS with Product Quantization)」は、RAG(Retrieval Augmented Generation)におけるベクトル探索処理を行うためのANNS(Approximate Nearest Neighbor Search:近似最近傍探索)の検索アルゴリズムを最適化するソフトウェアです。ベクトル探索を効率化するためにインデックス化されたデータは通常DRAM上に配置されますが、「KIOXIA AiSAQ」ではインデックス化されたデータをSSDに配置するため、DRAMの容量を気にせず、生成AIの回答精度および大規模データセット需要に対応する拡張性を高めます。

生成AIは、さまざまな業界において革新的なブレークスルーをもたらす可能性がある一方で、膨大な演算、メモリ、ストレージなどのリソースを必要とし、高額な導入費用が必要となる場合があります。RAGは、学習済みのLLM (Large Language Model) に対して外部データを用いて、生成AIの回答精度を向上させる重要な技術です。学習データとして組織から外に持ち出すことができない企業の機密情報や、まだ学習されていない最新の情報などに対し、LLM自身に学習させるのではなく、推論時にそれらの外部データを参照した上で結果を生成します。

「KIOXIA AiSAQ」の特長:

  • サーバーのDRAM容量に依存せずに大規模なデータベースを検索できるため、RAGシステムの回答精度向上に貢献。
  • 同一サーバーで複数のユーザーや用途別の複数データベースを使用する場合、インデックスデータを都度DRAMに読み込む必要がなく、直接SSDにアクセスしてシームレスに切り替えることが可能になり、効率的なRAGサービスを提供。
  • クラウドシステムで一般的なディスアグリゲーテッドストレージにベクトルデータを配置し、複数のサーバーでデータを共有する構成とすることが可能。これにより、特定のユーザーや用途向けのベクトルデータベースの検索能力を増強し、瞬時かつ動的に変更することが可能。

キオクシアは、生成AIの回答精度向上に貢献する、SSDを活用したソフトウェア技術「KIOXIA AiSAQ」をオープンソースとして公開することにより、生成AIのさらなる発展に貢献していきます。

[注1]「KIOXIA AiSAQ」のオープンソースとしての公開先:
https://github.com/kioxiaamerica/aisaq-diskann

*記載されている社名・商品名・サービス名は、それぞれ各社が商標として使用している場合があります。
*本資料に掲載されている情報(製品の価格/仕様、サービスの内容およびお問い合わせ先など)は、発表日現在の情報です。予告なしに変更されることがありますので、あらかじめご了承ください。

Contacts

報道関係の本資料に関するお問い合わせ先:
キオクシア株式会社
営業企画部
進藤智士/高畑浩二
Tel: 03-6478-2404

Kioxia Corporation


Release Summary
.

Contacts

報道関係の本資料に関するお問い合わせ先:
キオクシア株式会社
営業企画部
進藤智士/高畑浩二
Tel: 03-6478-2404

More News From Kioxia Corporation

キオクシア:MicrochipのAdaptec® SmartRAID 4300シリーズ RAIDストレージアクセラレーターとキオクシアSSDの相互互換性と相互運用性を確認

東京--(BUSINESS WIRE)--(ビジネスワイヤ) -- キオクシア株式会社は、当社の2.5インチ エンタープライズおよびデータセンターPCIe® 5.0 NVMe™ SSD、およびPCIe 4.0 NVMe SSDが、Microchip Technology Inc.(マイクロチップ・テクノロジー社、以下Microchip)のRAIDストレージアクセラレーターであるAdaptec® SmartRAID 4300シリーズとの相互接続試験を行い、相互運用性を確認しました。 次世代エンタープライズおよびAIデータセンターには、現在から将来への技術をシームレスに統合するためのエコシステムの連携と相互運用性が重要です。この相互接続において、キオクシアのデータセンターおよびエンタープライズ向けSSDを活用し、セキュリティーを備えたスケーラブルなハードウェアアクセラレーテッドRAIDアーキテクチャーを実現します。今回Microchipが行った試験で相互運用性が確認されたのは、PCIe 5.0対応エンタープライズNVMe SSDの「KIOXIA CM7シリーズ」、データセンターNVMe...

キオクシア:KIOXIA AiSAQ™技術のMilvusベクトルデータベースへの採用について

東京--(BUSINESS WIRE)--(ビジネスワイヤ) -- キオクシア株式会社のApproximate Nearest Neighbor Search(ANNS)技術であるKIOXIA AiSAQ™(キオクシア アイザック)が、オープンソースのベクトルデータベース Milvus(バージョン 2.6.4以降)に正式に採用されました。MilvusユーザーはKIOXIA AiSAQ™で最適化されたベクトル検索により、実用的かつコスト効率の高い形でAIアプリケーションを活用することが可能になります。ベクトルデータベースを活用したい開発者は、従来の大規模ベクトル検索を行う際にボトルネックとなるDRAMの容量に左右されることなく、高性能ベクトル検索を活用できます。 現在、AI業界では巨大なモデルの構築から、スケーラブルでコスト効率に優れた推論ソリューションの整備へと重心を移しています。その過程で中心となるのが、外部データを用いてAIの回答精度を向上させるRAG(Retrieval Augmented Generation)技術であり、KIOXIA AiSAQ™はSSDベースのベクトルアー...

キオクシア:高密度・低消費電力3D DRAMの実用化に向けた基盤技術を発表

東京--(BUSINESS WIRE)--(ビジネスワイヤ) -- キオクシア株式会社は、高密度・低消費電力3D DRAMの実用化に向けた基盤技術として高積層可能な酸化物半導体チャネルトランジスタ技術を開発しました。本成果は、米国サンフランシスコで開催されたIEEEの電子素子に関する国際会議IEDM(International Electron Devices Meeting)にて、12月10日(現地時間)に発表しました。本技術を用いることで、AIサーバーやIoT製品など幅広いアプリケーションにおいて低消費電力化を実現する可能性があります。 AI時代を迎え、大容量のデータを処理するために、より大容量かつ低消費電力のDRAMの実現が期待されています。従来のDRAMではメモリセルの微細化が物理限界に近づいており、さらなる大容量化に向けてメモリセルを3次元に積層する研究が進んでいます。メモリセルを積層する際に、従来のDRAMと同様の単結晶シリコンをトランジスタのチャネル材料に使用すると、製造コストが高くなり、かつ、メモリ容量に比例して、メモリセルをリフレッシュするための電力も増加する課題が...
Back to Newsroom