-

旨在降低生成式人工智能系统DRAM需求的KIOXIA AiSAQ™技术以开源软件形式发布

软件技术通过使用固态硬盘提高了RAG工作流程中矢量数据库的扩展性和准确性

东京--(BUSINESS WIRE)--(美国商业资讯)-- 世界领先的内存解决方案提供商Kioxia Corporation今天宣布开源发布其新的全存储ANNS乘积量化 (AiSAQ)技术(1)。KIOXIA AiSAQ™软件采用针对固态硬盘优化的新型“近似最近邻”搜索(ANNS)算法,可为检索增强生成(RAG)提供可扩展的性能,并且无需将索引数据放在DRAM中,而是直接在固态硬盘上进行搜索。

生成式人工智能系统需要大量的计算、内存和存储资源。虽然人工智能系统有可能推动各行各业实现变革性突破,但其部署往往需要高昂的成本。RAG是人工智能的一个关键阶段,它利用公司或应用的特定数据完善大型语言模型(LLM)。

RAG的核心组件是一个向量数据库,它能将特定数据累积并转换成数据库中的特征向量。RAG还采用了ANNS算法,该算法可根据累积向量和目标向量之间的相似性,识别出能改进模型的向量。为使RAG有效,它必须快速检索与查询最相关的信息。ANNS算法以往是部署在DRAM中,以实现这些搜索所需的高速性能。

KIOXIA AiSAQ技术可为十亿规模的数据集提供可扩展的高效ANNS解决方案,内存使用量可忽略不计,并具有快速索引切换功能。

KIOXIA AiSAQ技术的主要优势:

  • 允许大型数据库在不依赖有限DRAM资源的情况下运行,从而提高RAG系统的性能。
  • 无需将索引数据加载到DRAM中,从而可立即启动矢量数据库。这支持在同一服务器上的用户特定数据库或应用特定数据库之间进行无缝切换,从而高效交付RAG服务。
  • 通过将索引存储在可在多台服务器之间共享的分解式存储中,对云系统进行了优化。这种方法可针对特定用户或应用程序动态调整矢量数据库搜索性能,并有助于在物理服务器之间快速迁移搜索实例。

Kioxia将其创新KIOXIA AiSAQ技术作为开源软件提供给社区,以此表明该公司对推动人工智能发展的承诺。


(1) 请点击链接查看KIOXIA AiSAQ的开源版本。
https://github.com/kioxiaamerica/aisaq-diskann

*公司名称、产品名称和服务名称可能是第三方公司的商标。

关于Kioxia
Kioxia是全球领先的存储器解决方案供应商,致力于开发、生产和销售闪存和固态硬盘(SSD)。2017年4月,其前身Toshiba Memory从1987年发明NAND闪存的Toshiba Corporation中分拆出来。Kioxia致力于用“记忆”改善世界,提供产品、服务和系统,为客户创造选择,为社会创造基于记忆的价值。Kioxia的创新3D闪存技术BiCS FLASH™ 正在塑造高密度应用的存储未来,包括先进的智能手机、个人电脑、汽车系统、数据中心和生成式人工智能系统。

*本文档中的信息,包括产品价格和规格、服务内容和联系信息,在公告日期是正确的,但如有变更恕不另行通知。

免责声明:本公告之原文版本乃官方授权版本。译文仅供方便了解之用,烦请参照原文,原文版本乃唯一具法律效力之版本。

Contacts

媒体垂询:
Kioxia Corporation
销售战略规划部
Satoshi Shindo / Koji Takahata
电话:+81-3-6478-2404

客户咨询:
Kioxia Group
全球销售办事处
https://www.kioxia.com/en-jp/business/buy/global-sales.html

Kioxia Corporation



Contacts

媒体垂询:
Kioxia Corporation
销售战略规划部
Satoshi Shindo / Koji Takahata
电话:+81-3-6478-2404

客户咨询:
Kioxia Group
全球销售办事处
https://www.kioxia.com/en-jp/business/buy/global-sales.html

More News From Kioxia Corporation

Kioxia推出面向PC OEM的全新主流KIOXIA BG8系列固态硬盘

东京--(BUSINESS WIRE)--(美国商业资讯)-- Kioxia Corporation今日宣布推出KIOXIA BG8系列固态硬盘(SSD),这是其面向PC OEM客户的客户端固态硬盘产品线的最新力作。KIOXIA BG8系列将PCIe® 5.0的高速性能引入主流市场,兼具新一代技术能力、高效运行与广泛的设计灵活性,适用于轻薄本、商用和消费级笔记本电脑以及台式机系统。 KIOXIA BG8系列采用Kioxia的BiCS FLASH™第八代TLC架构3D闪存打造,在性能和能效上均实现升级。与上一代产品相比(1),KIOXIA BG8系列的连续读取性能最高提升47%,连续写入性能提升67%,随机读取性能提升44%,随机写入性能提升30%。 KIOXIA BG8系列的连续读取速度最高可达10,300 MB/s,连续写入速度最高可达10,000 MB/s,随机读取和写入性能分别最高可达140万和130万IOPS,可在各类客户端应用场景下提供灵敏流畅的系统运行表现。 无DRAM的KIOXIA BG8系列支持主机内存缓冲(HMB)功能,利用主机系统内存帮助实现性能、功耗和成本的平衡。...

Kioxia推出面向PC OEM厂商的高性价比QLC架构KIOXIA EG7系列固态硬盘

东京--(BUSINESS WIRE)--(美国商业资讯)-- Kioxia Corporation今日宣布推出KIOXIA EG7系列固态硬盘(SSD),这是首款采用Kioxia的BiCS FLASH™第八代每单元4位四级单元(QLC)技术的客户端解决方案。基于QLC架构的KIOXIA EG7系列可提供与TLC架构解决方案相当的性能(1),从而为高性价比轻薄本以及商用和消费级笔记本电脑和台式机带来更优的总体拥有成本(TCO)。 KIOXIA EG7系列固态硬盘将KIOXIA BiCS FLASH™第八代QLC 3D闪存的性能和能效优势带给PC OEM厂商的常见计算工作负载。新品可实现最高1000 KIOPS的随机读写性能、最高7000 MB/s的连续读取速度和最高6200 MB/s的连续写入速度。 KIOXIA EG7系列支持NVMe™ 2.0d规范,为PC OEM厂商在系统设计和设备管理方面提供更大的灵活性。该系列提供M.2 Type 2230、Type 2242和Type 2280三种外形尺寸,可在多种系统配置与空间限制下实现更广泛的兼容性。 作为Kioxia高性价比客户端固态硬...

KIOXIA单服务器实现48亿高维向量搜索数据库,借助GPU实现索引构建时间加速7.8倍

东京--(BUSINESS WIRE)--(美国商业资讯)-- Kioxia Corporation今日宣布,凭借其开源的KIOXIA AiSAQ™近似最近邻搜索(ANNS)技术,成功演示在单台服务器上实现48亿向量的高维向量搜索扩展。此外,Kioxia还展示了通过NVIDIA cuVS利用GPU加速,显著缩短索引构建时间的成果。这两项成果标志着检索增强生成(RAG)搜索解决方案取得了重大进展。目前公司正持续开发,以支持超过48亿向量的更大规模部署。 大规模向量数据库的索引构建时间是行业的核心痛点。Kioxia与NVIDIA合作,演示了其在1024维高维向量的KIOXIA AiSAQ索引构建时间上最多20倍的改进,以及端到端构建时间上最多7.8倍的改进。这20倍的改进意味着,构建索引的时间从使用CPU的28.4天缩短至使用4块NVIDIA Hopper GPU的1.4天,端到端测试时间从31天缩短至4天。1 如今,AI应用可依赖存储在固态硬盘上的更大规模向量化信息(可达数百亿向量及以上),而仅靠DRAM即便在十亿级规模下也已不再适用。Kioxia借助KIOXIA AiSAQ技术,实现了...
Back to Newsroom