Credo 於 Open Compute Project 中貢獻 OmniConnect Scale-In 互連解決方案，以突破 AI 推論的記憶體牆限制

透過以標準化互連技術為基礎，打造由 Credo 與第三方共同參與的 OmniConnect 開放生態系，降低對高頻寬記憶體(HBM)的依賴

加州聖荷西--(BUSINESS WIRE)--(美國商業資訊)-- 以高速、可靠且節能的系統解決方案提供大規模連接技術的創新企業 Credo Technology Group Holding Ltd(Credo) (NASDAQ: CRDO) 今日宣布，計畫於 Open Compute Project(OCP) 社群內推動互連技術標準化，以因應所謂的記憶體牆(memory wall)挑戰。所謂記憶體牆，是指處理器運算速度與記憶體供應資料速度之間的差距，導致昂貴的運算資源必須等待資料而閒置。在現代 AI 推論環境中，系統效能的主要限制通常來自記憶體頻寬與容量，而非運算能力本身。為解決限制資料中心 AI 推論規模化的記憶體瓶頸，Credo 成立 OCP Open Chiplet Economy(OCE)下的 Lightweight Serial Interconnect(LSI) 工作小組，開發新一代互連解決方案。透過向 OCP 貢獻其 OmniConnect 輕量化 AXI framer 規格並成立 OCE LSI 工作小組，Credo 正推動由 Credo 與第三方共同參與的 OmniConnect 開放生態系，以支援記憶體解耦與晶片間通訊。

新聞重點:

• Credo 計畫在Open Compute Project(OCP) 社群內推動互連技術標準化，以協助解決記憶體牆(Memory Wall)問題，也就是處理器效能成長速度與記憶體存取速度之間日益擴大的差距。
• Credo 已成立 OCP Open Chiplet Economy(OCE) 輕量級序列互連(Lightweight Serial Interconnect，LSI) 工作小組，並計畫貢獻其 OmniConnect 輕量級 AXI framer 規範。
• 此項計畫旨在透過可組合式(Composable) AI 架構，來降低對成本高昂且容量受限的高頻寬記憶體的依賴。該架構可提供較 HBM4高達 25 倍的記憶體密度，以及高出 5% 的頻寬表現。
• Credo 正致力於打造一個開放且可互通的生態系統，促進記憶體解耦(Memory Disaggregation) 及晶片間(Chip-to-Chip) 通訊技術的發展與應用。

為了開發能夠克服記憶體瓶頸的互連解決方案，進而突破限制 AI 推論在資料基礎設施中擴展能力的障礙，Credo 已成立OCP Open Chiplet Economy(OCE) 輕量級序列互連(Lightweight Serial Interconnect，LSI) 工作小組。配合 OCE LSI 工作小組的成立，Credo 也計畫將其 OmniConnect 輕量級 AXI framer 規範貢獻給 OCP，以推動建立由 Credo 與第三方業者共同參與的 OmniConnect 開放生態系統。該生態系統將支援記憶體解耦(Memory Disaggregation)以及晶片對晶片(Chip-to-Chip) 通訊技術的發展與應用。

高頻寬記憶體(HBM)面臨成本高昂、供應有限及密度受限等挑戰。透過標準化輕量化且高效率的序列式互連方案，可促進以 chiplet 為基礎的模組化 AI 系統靈活組合，並降低對 HBM 的依賴。AI 系統設計師可以靈活地建構特定領域架構，針對多樣且不斷演進的 AI 模型、資料流和工作負載特性進行最佳化。與 HBM4 相比，這種方式能提升高達 25 倍的記憶體密度以及 5% 的頻寬。此項推動亦有助於產業邁向可組合式基礎架構(Composable Infrastructure)，將運算、記憶體和儲存資源進行最佳組合，進而協助大規模 AI 釋放更高的效能、實現更佳的資源利用率並帶來更高的成本效益。

「我們成立了 OCP LSI 工作小組，是為了應對業界對創新互連解決方案的明確需求。這些方案不僅能解決記憶體牆問題，還能為 AI 系統實現新一代高頻寬與功耗最佳化的模組化架構，」Credo 產品副總裁 Vishal Shah 表示。「推進輕量化framing與序列互連的開放式方法，對於下一波 AI 推理中實現靈活的chiplet整合至關重要，其中也包含了近封裝可插拔(near-package pluggable)的組態配置。」

OCP Open Chiplet Economy 子專案共同負責人 Anu Ramamurthy 表示：「我們樂見 Credo 透過 OCP LSI 工作小組展現領導力，協助建立可加速整體生態系創新與規模化發展的開放框架與標準。「Credo 將輕量化 AXI framer規範貢獻給 OCP，是推動業界在 AI 互連架構上達成共識的重要一步。這項架構不僅能實現互通性、降低複雜度，還能支持新一代 AI 基礎架構的高效能需求」

Lightweight Serial Interconnect (LSI) 工作小組隸屬於Server Project旗下的 OCP Open Chiplet Economy子專案。欲了解更多關於 LSI 工作小組的資訊，請點擊此處。

Credo 計畫向 OCP 貢獻的 OmniConnect 輕量化 AXI framer 規格，屬於 OmniConnect 多功能 AXI-over-VSR(Very Short Reach)SerDes 匯流排技術的一部分，可透過外部 chiplet 連接多個運算引擎，同時支援裸晶到裸晶(die-to-die)互連與scale-up 網路架構。更多 OmniConnect 相關資訊請參閱產品頁面。

關於Credo

Credo 的使命是透過高速、可靠且節能的系統解決方案，重新定義大規模連接技術。我們的高速銅纜與光學互連產品可提供高達 1.6T 的業界領先功耗與效能，以滿足 AI 對數據基礎架構不斷增長的需求。

我們的產品組合包括 ZeroFlap (ZF) 主動式電纜(AECs)與 ZF 光收發器、OmniConnect 記憶體解決方案，以及一系列用於光學、銅纜乙太網路和 PCIe 的重定時器(retimers)與數位訊號處理器(DSPs)，所有產品皆搭配使用 PILOT 診斷與分析軟體平台。Credo 的創新技術協助客戶打造連結世界的關鍵系統。

更多資訊請造訪：https://www.credosemi.com，並歡迎於 LinkedIn 關注 Credo。

Credo、Credo 標誌以及與 AEC 產品相關之紫色識別，均為 Credo Technology Group Limited 於美國及其他司法管轄區註冊之商標。本文提及之其他商標均為其各自所有權人之財產。