I/ONX pulveriza el impuesto al host: la nueva arquitectura de Symphony SixtyFour ofrece un ahorro de costo total de propiedad del 50 por ciento en inferencia de IA y ciclo de vida de ajuste fino

I/ONX elimina los gastos generales de infraestructura de los diseños anteriores con el debut de una pila de inferencia de IA y ajuste fino a escala que reduce el consumo de energía hasta 30 kW por rack y disminuye hasta un 70 por ciento el costo de las implementaciones a escala de rack

LAS VEGAS--(BUSINESS WIRE)--I/ONX High Performance Compute (HPC), proveedor líder de sistemas de IA heterogéneos, anunció hoy el lanzamiento global de Symphony SixtyFour, una plataforma de alta densidad diseñada para integrar la huella física y económica de la infraestructura de inferencia de IA y ajuste fino. Al admitir 64 aceleradores en un solo nodo, I/ONX elimina el impuesto al host redundante y los elevados gastos generales de energía hardware y licencias que afectan negativamente el rendimiento de la inversión en la IA empresarial.

Mientras la inferencia ya representa el 90 por ciento de las cargas de trabajo de IA empresariales, las empresas están totalmente limitadas a implementar inferencia en plataformas de hardware de entrenamiento. Symphony SixtyFour ofrece importantes ventajas en cuanto a menores gastos de capital y gastos operativos para cargas de trabajo de inferencia y ajuste fino. En comparaciones de entrenamiento, el sistema de I/ONX recupera el impuesto al host de 30 kW que generalmente se desperdicia en CPU, memoria y hardware de soporte redundantes en clústeres multinodo, además de simplificar las tareas de soporte en curso. Para inferencia a escala de producción en aceleradores alternativos, la plataforma es aún más transformadora, ya que requiere un cuarto de la energía comparado con un clúster de 64 dispositivos tradicional, lo que elimina por completo las necesidades de refrigeración líquida solo para inferencia.

“la infraestructura de IA empresarial está ingresando en una nueva fase de madurez”, afirmó Justyn Hornor, director ejecutivo de I/ONX . “Los diseños orientados a entrenamiento del pasado fueron muy útiles durante la fase experimental, pero no estaban optimizados para el mundo con limitaciones de energía y de producción intensiva en el que vivimos actualmente. Con Symphony SixtyFour, hemos rediseñado la pila para que sea más fluida y apta para objetivos específicos, y eso hace posible que las organizaciones dominen una inferencia a escala masiva para eliminar de una vez por todas el desperdicio de infraestructura innecesaria que ha puesto trabas al rendimiento de la inversión”.

La ventaja de Symphony SixtyFour: silicio apto para objetivos específicos. La plataforma está diseñada con el objetivo de maximizar cada vatio y dólar para la IA empresarial.

• Eliminación del impuesto al host: para inferencia y ajuste fino a gran escala Symphony SixtyFour integra la pila de infraestructura de ocho nodos en uno. Esta consolidación elimina hasta 30 kW de energía de soporte desperdiciada y permite una mayor densidad de cómputo dentro de los límites de potencia existentes.
• Rendimiento cuasideterminístico sin saltos: al albergar 64 aceleradores en una sola instancia de SO, Symphony SixtyFour elimina la latencia Este-Oeste.
• Flexibilidad heterogénea: Symphony SixtyFour es totalmente independiente del proveedor y está diseñada para operaciones mixtas. Las empresas pueden vincular de manera transparente GPU de gama alta (entre ellas AMD/NVIDIA) con coprocesadores más específicos de bajo consumo de energía, y agregar capas de silicio de inferencia especializado (Axelera/FuriosaAI/Tenstorrent), para que su infraestructura esté lista para el futuro y protegida contra la dinámica cambiante del mercado.
• Integración de gastos operativos gracias a la simplificación del impuesto al host: más allá del hardware y la potencia, Symphony SixtyFour ofrece un enorme alivio operativo. Al presentar una flota de 64 dispositivos a través de un solo entorno de gestión, I/ONX integra el impuesto al software y permite que las empresas ahorren hasta 500 mil dólares por año en licencias de sistemas operativos empresariales y orquestación por clúster.

I/ONX acelera el cambio empresarial hacia sistemas diseñados específicamente para inferencia y ajuste fino a escala. Symphony SixtyFour ya está disponible para permitir que las organizaciones recuperen su capacidad de potencia crítica y reduzcan los costos. I/ONX ha asumido el compromiso de ofrecer la infraestructura de alta densidad requerida para alcanzar el máximo potencial económico y operativo de la IA de producción.

Acerca de I/ONX

I/ONX High Performance Compute (HPC) es el pionero en infraestructura de IA heterogénea y está redefiniendo el ciclo de vida de la IA al eliminar el impuesto al host de las arquitecturas anteriores. El producto insignia de I/ONX, Symphony SixtyFour, consolida hasta 64 aceleradores en un solo nodo y reduce un 50% o más el costo total de propiedad a escala de rack. Al reducir en gran medida el consumo de energía y maximizar la utilización de hardware, I/ONX permite que las empresas logren IA a escala de producción con una eficiencia sin precedentes y un rendimiento de la inversión más rápido.

El texto original en el idioma fuente de este comunicado es la versión oficial autorizada. Las traducciones solo se suministran como adaptación y deben cotejarse con el texto en el idioma fuente, que es la única versión del texto que tendrá un efecto legal.