Extrem energieeffiziente NPU von VeriSilicon bietet in mobilen Anwendungen mehr als 40 TOPS für LLM-Inferenz auf dem Gerät

Die energieeffiziente Architektur lässt sich über KI-fähige Geräte hinweg skalieren, darunter KI-Telefone und KI-PCs

SHANGHAI--(BUSINESS WIRE)--VeriSilicon (688521.SH) gab heute bekannt, dass seine leistungsstarke Neural Network Processing Unit(NPU)-IP mit extrem niedrigem Energieverbrauch jetzt Inferenz auf dem Gerät für Large Language Models (LLMs) unterstützt, wobei eine KI-Computing-Leistung von mehr als 40 TOPS erreicht wird. Diese energieeffiziente NPU-Architektur ist speziell darauf ausgelegt, den steigenden Bedarf an generativen KI-Funktionen auf mobilen Plattformen zu decken. Sie bietet nicht nur eine leistungsstarke Rechenleistung für KI-PCs und andere Geräte, sondern ist zudem dahingehend optimiert, die zunehmend hohen Anforderungen von KI-Telefonen und anderen mobilen Plattformen an die Energieeffizienz zu erfüllen.

Die NPU-IP mit äußerst geringem Energieverbrauch von VeriSilicon, die auf einer stark konfigurierbaren und skalierbaren Architektur basiert, unterstützt Computing mit gemischter Präzision, fortschrittliche Sparsity-Optimierung und parallele Verarbeitung. Sie ermöglicht eine effiziente Speicherverwaltung und Sparsity-bewusste Beschleunigung zur Senkung von Rechenaufwand und Latenz, was für eine reibungslose und reaktionsschnelle KI-Verarbeitung sorgt. Sie unterstützt Hunderte von KI-Algorithmen, darunter AI-NR und AI-SR, und führende KI-Modelle wie Stable Diffusion und LLaMA-7B. Zudem lässt sie sich nahtlos in die anderen Verarbeitungs-IPs von VeriSilicon integrieren, um ein heterogenes Computing zu ermöglichen und SoC-Designer in die Lage zu versetzen, umfassende KI-Lösungen für verschiedenste Anwendungsanforderungen zu entwickeln.

Die extrem energieeffiziente NPU-IP von VeriSilicon unterstützt zudem beliebte KI-Frameworks wie TensorFlow Lite, ONNX und PyTorch. Dies führt bei verschiedenen KI-Anwendungsfällen zu einer schnelleren Bereitstellung und einer einfacheren Integration bei den Kunden.

„Mobilgeräte wie Smartphones werden zu persönlichen KI-Servern. Durch die schnellen Fortschritte im Bereich von AIGC und multimodalen LLM-Technologien wächst der Bedarf an KI-Computing exponentiell und wird zu einem Hauptunterscheidungsmerkmal für mobile Produkte“, sagte Weijin Dai, Chief Strategy Officer, Executive Vice President und General Manager der IP Division bei VeriSilicon. „Eine der kritischsten Herausforderungen bei der Unterstützung derartiger KI-Computing-Workloads ist die Kontrolle des Energieverbrauchs. VeriSilicon hat kontinuierlich in die Entwicklung von NPUs mit extrem niedrigem Energieverbrauch für KI-Telefone und KI-PCs investiert. Im Rahmen der engen Zusammenarbeit mit führenden SoC-Partnern wurde unsere Technologie in Silizium realisiert und kann in KI-Telefonen und KI-PCs der nächsten Generation eingesetzt werden.“

Über VeriSilicon

VeriSilicon ist bestrebt, seinen Kunden plattformbasierte, allumfassende, kundenspezifische Siliziumdienste und Halbleiter-IP-Lizenzierungsdienste aus einer Hand anzubieten, die das eigene Halbleiter-IP nutzen. Weitere Informationen finden Sie unter www.verisilicon.com

Die Ausgangssprache, in der der Originaltext veröffentlicht wird, ist die offizielle und autorisierte Version. Übersetzungen werden zur besseren Verständigung mitgeliefert. Nur die Sprachversion, die im Original veröffentlicht wurde, ist rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen Sprachversion der Veröffentlichung ab.