I/ONX消除“主机税”：全新Symphony SixtyFour架构可在整个AI推理和微调生命周期节省50%总拥有成本

I/ONX消除传统设计的基础架构开销，推出可扩展AI推理与微调技术栈，每机架可节省高达30kW功耗，并将机架级部署的成本降低多达70%

拉斯维加斯--(BUSINESS WIRE)--(美国商业资讯)-- 异构AI系统领先供应商I/ONX High Performance Compute (HPC) 今日宣布正式面向全球发布高密度平台Symphony SixtyFour。该平台旨在大幅缩减AI推理和微调基础架构的物理占用空间及经济成本。I/ONX在单个节点上支持多达64个加速器，消除了冗余的“主机税”——即在电力、硬件和许可方面产生的巨额支出，这些开销会对企业AI的投资回报率产生负面影响。

尽管推理目前占企业AI工作负载的90%，但企业目前仍完全受限于在训练硬件平台上部署推理任务。Symphony SixtyFour在降低推理和微调工作负载的资本支出（CapEx）和运营支出（OpEx）方面具有显著优势。在训练对比中，I/ONX系统消除了30kW“主机税”（通常被浪费在多节点集群中冗余的CPU、内存和支持硬件上），并简化了日常维护任务。对于基于替代型加速器的生产级推理，该平台更具变革性：功耗仅为传统 64 节点集群的四分之一，在仅进行推理计算时，完全无需液冷系统。

I/ONX首席执行官Justyn Hornor表示，“企业级AI基础架构正迈入新的成熟阶段。过去以训练为中心的架构设计在实验阶段表现出色，但并未针对当今受功耗限制、工作量巨大的现实应用环境进行优化。借助Symphony SixtyFour，我们重新构想了整个技术栈，使其更加灵活，并且更加针对具体应用，不仅能帮助企业驾驭大规模推理任务，还能彻底消除那些阻碍投资回报率（ROI）的冗余基础设施浪费。”

Symphony SixtyFour优势：专为特定用途设计的芯片。该平台旨在为企业AI实现单位功耗和支出的最大效益。

• 消除训练“主机税”：对于大规模推理和微调任务，Symphony SixtyFour将基础设施堆栈从八个节点整合为一个。这种整合可减少多达30kW的冗余支持功耗，从而在现有功耗预算内实现更高的计算密度。
• 零跳变、近确定性性能：Symphony SixtyFour在单个操作系统实例内容纳64个加速器， 彻底消除了东西向网络延迟。
• 异构灵活性：Symphony SixtyFour完全不依赖特定供应商，专为混合模式运行而设计。企业可以无缝地将高端GPU（包括AMD/NVIDIA）与更具针对性的低功耗协处理器搭配使用，并集成专门的推理芯片（如Axelera、FuriosaAI、Tenstorrent），从而让基础架构能够适应未来市场动态的变化。
• 通过简化主机开销来降低运营支出：除了硬件和性能之外，Symphony SixtyFour还能大幅减轻运维负担。通过在单一管理环境中统一管理64台设备，I/ONX消除了软件费用，使企业每年最高可节省50万美元（每集群的企业级操作系统和协调许可）。

I/ONX加速企业向大规模推理和微调专用系统的转型。Symphony SixtyFour现已上市，帮助企业释放关键的电力容量并降低成本。I/ONX致力于提供高密度基础架构，以充分释放生产级AI的经济和运营潜力。

关于I/ONX

I/ONX High Performance Compute（HPC）是异构AI基础架构的先驱，通过消除传统架构中的“主机税”，正在重新定义人工智能的生命周期。I/ONX的旗舰产品Symphony SixtyFour将多达64个加速器整合到单个节点中，将机架级总拥有成本 (TCO) 降低了50% 以上。通过大幅降低功耗并最大化硬件利用率，I/ONX使企业能够以前所未有的效率实现生产级AI，并更快地获得投资回报。

免责声明：本公告之原文版本乃官方授权版本。译文仅供方便了解之用，烦请参照原文，原文版本乃唯一具法律效力之版本。