Spectro Cloud führt das „PaletteAI Inference Launchpad“ ein, um die Token-Kosten für Unternehmen um bis zu 70 % zu senken

Das neue, schlüsselfertige und lokal verwaltete „PaletteAI Inference Launchpad“ unterstützt Unternehmen dabei, ihre Token-Kosten durch „Local-First“-Inferenz zu kontrollieren, während die erweiterte PaletteAI-Unterstützung für AMD den Kunden eine größere Auswahl an GPUs, Modellen und KI-Infrastruktur-Stacks bietet.

SAN JOSE, Kalifornien--(BUSINESS WIRE)--Spectro Cloud, ein führender Anbieter von Software für das Management von KI-Infrastrukturen, hat heute „PaletteAI Inference Launchpad“ vorgestellt – eine schlüsselfertige, lokal verwaltete Lösung, die Unternehmen dabei unterstützen soll, ihre Token-Kosten um bis zu 70 % zu senken und KI-Inferenzprozesse näher an ihren Daten, Anwendungen und Nutzern auszuführen.

Das Unternehmen kündigte zudem eine erweiterte PaletteAI-Unterstützung für KI-Infrastrukturen auf AMD-Basis an, darunter AMD-GPUs, AMD GPU Operator, die ROCm™-Laufzeitumgebung sowie den AMD Enterprise AI Reference Stack – einschließlich der für AMD optimierten Modelle aus dem AMD Inference Microservices (AIMs)-Katalog.

Zusammen erweitern diese Ankündigungen PaletteAI als einheitliche Plattform für produktionsreife KI-Infrastrukturen in heterogenen Umgebungen – und bieten Unternehmen, Neoclouds und souveränen Cloud-Anbietern einen flexibleren Weg, kontrollierte KI-Infrastrukturen auf NVIDIA- und AMD-Chips zu betreiben.

Die KI-Infrastruktur hält Einzug in die Token-Ökonomie. Goldman Sachs Research prognostiziert, dass sich der Verbrauch an KI-Token bis 2030 um das 24-Fache erhöhen und 120 Billiarden Token pro Monat erreichen wird, da die Akzeptanz bei Verbrauchern und Unternehmen zunimmt. Mit dem Einzug der KI in die Produktionsumgebung wird die Token-Nutzung zu einem betrieblichen Thema. Unternehmen müssen die Token-Kosten verwalten, die Nutzung messen, Governance-Maßnahmen umsetzen und entscheiden, wann Workloads lokal und wann über externe Modelldienste ausgeführt werden sollen. Gleichzeitig wünschen sich Kunden eine größere Auswahl an GPUs, Modellen, Laufzeitumgebungen und Bereitstellungsumgebungen.

Das „PaletteAI Inference Launchpad“ bietet Unternehmen eine schlüsselfertige, lokal verwaltete Lösung zur Operationalisierung der KI-Inferenz, ohne dass ein eigener Inferenz-Stack aufgebaut und gewartet werden muss. Teams können die Inferenz näher an den Ort der Arbeit heranführen, Anfragen intelligent zwischen lokalen und externen Modellen weiterleiten, die Token-Nutzung messen, Governance- und Kontingentrichtlinien durchsetzen sowie die Abhängigkeit von externen Inferenzdiensten verringern, wenn lokale Modelle besser geeignet sind. Je nach Workload-Mix und Bereitstellungsmerkmalen können Unternehmen die Token-Kosten um bis zu 70 % senken.

Das PaletteAI Inference Launchpad wurde für „Local-First“-Inferenz entwickelt und verbindet die Einfachheit eines schlüsselfertigen lokalen Betriebs mit der Flexibilität, bei Bedarf weiterhin auf modernste Modelle zugreifen zu können. Da es sowohl NVIDIA- als auch AMD-Infrastrukturen unterstützt, bietet es Unternehmen, Neoclouds und souveränen Cloud-Anbietern ein einheitliches Betriebsmodell für die Bereitstellung, Steuerung und Skalierung von KI-Inferenz in heterogenen KI-Umgebungen.

Mit der erweiterten AMD-Unterstützung bietet PaletteAI Unternehmen, Neoclouds und souveränen Cloud-Anbietern einen bewährten Weg zur Operationalisierung von AMD-basierter KI-Infrastruktur. PaletteAI bietet ein umfassendes Lebenszyklusmanagement für Bare-Metal-Umgebungen, Kubernetes, GPUs, Laufzeitumgebungen, Modelle, Inferenzdienste und Steuerungsmöglichkeiten auf Token-Ebene. Damit unterstützt das Unternehmen seine Kunden bei der Bereitstellung, Steuerung, dem Betrieb und der Skalierung von AMD-basierten KI-Umgebungen, wobei die Flexibilität über den gesamten KI-Stack hinweg gewahrt bleibt.

„Unternehmen und Cloud-Anbieter suchen nach einer offenen, skalierbaren KI-Infrastruktur, die ihnen mehr Kontrolle über Kosten, Leistung und Bereitstellungsoptionen bietet“, sagte Kumaran Siva, Corporate Vice President, Enterprise AI bei AMD. „Die Unterstützung von Spectro Cloud für AMD-basierte Infrastruktur in PaletteAI und PaletteAI Inference Launchpad hilft Kunden dabei, die Bereitstellung von KI in der Produktion über flexible, offene KI-Stacks hinweg zu beschleunigen.“

Um das „PaletteAI Inference Launchpad“ auf Unternehmen in regulierten Branchen sowie auf Neocloud- und souveräne Umgebungen auszuweiten, arbeitet Spectro Cloud mit Infrastruktur- und Dienstleistungspartnern zusammen, die auf diese Märkte spezialisiert sind. Das in Austin und Dubai ansässige Unternehmen NexusIgnite gehört zu den ersten Partnern, die gemeinsam mit Spectro Cloud Kunden bei der Bereitstellung und dem Betrieb von KI-Inferenz-Infrastrukturen unterstützen, bei denen Datenstandort, Governance und operative Kontrolle entscheidende Anforderungen sind.

„NexusIgnite hat es sich zum Ziel gesetzt, eine souveräne KI-Infrastruktur für Unternehmen bereitzustellen, die strenge Anforderungen hinsichtlich Datenstandort, Governance und Compliance erfüllen müssen“, erklärte Greg Forrest, CEO von NexusIgnite. „Da KI in Unternehmen zunehmend in die Produktionsphase übergeht, benötigen Kunden Inferenzdienste, die sich über ihre gesamte GPU-Infrastruktur hinweg einfacher bereitstellen, betreiben und verwalten lassen. Das „PaletteAI Inference Launchpad“ von Spectro Cloud passt zu unserer Strategie für verwaltete KI-Infrastrukturen und bietet diesen Kunden einen schnelleren Weg zur Produktionsreife in vertrauenswürdigen, souveränen Umgebungen.“

Verfügbarkeit

Das PaletteAI Inference Launchpad sowie die erweiterte AMD-Unterstützung für PaletteAI sind ab sofort verfügbar. Bitte wenden Sie sich an Ihren Spectro Cloud-Ansprechpartner, um eine Live-Demo zu vereinbaren, oder besuchen Sie www.spectrocloud.com.

Teilnehmer der AMD Advancing AI können am 22. und 23. Juli 2026 am Stand 515A oder in der Spectro Cloud-Hospitality-Suite Live-Demos des „PaletteAI Inference Launchpad“ erleben. Außerdem können sie am Mittwoch, dem 22. Juli, um 14:20 Uhr (PT) an der Veranstaltung von Saad Malik, CTO und Mitbegründer von Spectro Cloud, im ISV Pavilion Expo Theater teilnehmen.

Über Spectro Cloud

Spectro Cloud unterstützt Plattformteams und Cloud-Anbieter dabei, ihre Infrastruktur für das KI-Zeitalter zu modernisieren und zu verwalten, ohne dabei zusätzliche Tools einzusetzen oder die betriebliche Komplexität zu erhöhen.

Mit PaletteAI können Unternehmen, Organisationen des öffentlichen Sektors, Neoclouds und souveräne Clouds Full-Stack-Umgebungen über virtuelle Maschinen, Kubernetes, Edge-Standorte, regulierte und luftisolierte Standorte sowie KI-Infrastruktur hinweg aufbauen, bereitstellen, verwalten, steuern und skalieren. PaletteAI unterstützt Teams dabei, mit „Launchpads“ – schlüsselfertigen, lokal verwalteten Lösungen für dringende Aufgaben wie die Modernisierung von virtuellen Maschinen, die Kostenkontrolle bei Token und den Edge-Betrieb – schnell durchzustarten und anschließend auf derselben Plattform auf ein zentralisiertes Lebenszyklusmanagement, Governance und den Flottenbetrieb zu skalieren.

AMD, das AMD-Arrow-Logo und Kombinationen davon sind Marken von Advanced Micro Devices, Inc.

Die Ausgangssprache, in der der Originaltext veröffentlicht wird, ist die offizielle und autorisierte Version. Übersetzungen werden zur besseren Verständigung mitgeliefert. Nur die Sprachversion, die im Original veröffentlicht wurde, ist rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen Sprachversion der Veröffentlichung ab.