Plattform für Deep-Learning-Inferenz

Inferenz-Software und -Beschleuniger für die Cloud, Rechenzentren, die Peripherie und autonome Maschinen.

Schnellere KI. Niedrigere Kosten.

Die Nachfrage nach immer ausgefeilteren KI-fähigen Diensten wie Bild- und Spracherkennung, der Verarbeitung natürlicher Sprache, visueller Suche und personalisierten Empfehlungen explodiert derzeit förmlich. Gleichzeitig werden Datensätze immer größer, Netzwerke immer komplexer und die Ansprüche an die Latenz immer höher, damit die Anforderungen der Nutzer erfüllt werden können.

NVIDIA® TensorRT ist eine programmierbare Lösung zur Beschleunigung von Inferenz. Sie bietet die Leistung, Effizienz und Reaktionsschnelligkeit, die entscheidend für die KI-Produkte und -Dienstleistungen der nächsten Generation sind – ob in der Cloud, im Rechenzentrum, in der Netzwerkperipherie oder in Fahrzeugen.

Mit NVIDIA TensorRT nutzen Sie das volle Potenzial der NVIDIA-Grafikprozessoren.

Deep-Learning-Software von NVIDIA ist der Schlüssel zu optimaler Inferenz-Leistung. Mit NVIDIA TensorRT können Sie neuronale Netze zur Inferenz schnell optimieren, validieren und bereitstellen. TensorRT liefert im Vergleich zu reinen CPU-Systemen bis zu 40-mal höheren Durchsatz mit weniger als sieben Millisekunden Echtzeit-Latenz.

Einheitliche, komplette, skalierbare Deep-Learning-Inferenz

Dank der einheitlichen Architektur lassen sich neuronale Netze auf jedem Deep-Learning-Framework trainieren, mit NVIDIA TensorRT optimieren und dann zur Echtzeit-Inferenz in der Netzwerkperipherie bereitstellen. Mit NVIDIA® DGX-Systemen,  NVIDIA Tesla®, NVIDIA Jetson und NVIDIA Drive PX ist NVIDIA nun in der Lage, eine komplette, vollständig skalierbare Deep-Learning-Plattform bereitzustellen.

Enorme Kosteneinsparungen

Für maximale Produktivität von Servern müssen Rechenzentren sorgfältig zwischen Leistung und Effizienz abwägen. Ein einzelner NVIDIA Tesla P4-Server kann beim Ausführen von Anwendungen und Diensten für Deep-Learning-Inferenz bis zu elf handelsübliche CPU-Server ersetzen. Dadurch verringert sich der Energiebedarf und Sie können bis zu 80 % der Kosten sparen.

So realisieren Sie schnellere KI.

Melden Sie sich noch heute zum Webinar „Achieving Faster AI with NVIDIA GPUs and NVIDIA TensorRT“ (Schnellere KI dank Grafikprozessoren und TensorRT von NVIDIA) an.