Was ist ein KI-Arbeitslast?

KI- und ML-Arbeitslasten lassen sich grob in zwei Kategorien einteilen:

• Phase im KI-Lebenszyklus (z. B. Datenvorverarbeitung, Training und Inferenz)
• Art der Aufgabe (z. B. Natural Language Processing oder Computer Vision)

Wenn Sie diese Typen kennen, können Sie als Entscheidungsträger im technischen Bereich die spezifische Infrastruktur, Rechenleistung und Orchestrierungsstrategie planen, die jeweils erforderlich sind.

KI-Arbeitslasten sind das Herzstück der digitalen Transformation. Sie ermöglichen wirkungsvolle, praxisnahe Anwendungen in nahezu allen Branchen und wandeln Daten in praktischen Nutzen um.

KI-Arbeitslasten können Empfehlungssysteme für Einzelhandels-, E-Commerce- und Medienunternehmen unterstützen. Ein Streaminganbieter verwendet beispielsweise ein ausgeklügeltes ML-Modell, das mit Milliarden von Sehgewohnheiten trainiert wurde, um hochgradig personalisierte Inhaltsempfehlungen zu geben.

Hersteller setzen Sensoren an kritischen Geräten ein, wodurch riesige Mengen an Zeitreihendaten entstehen. KI-Arbeitslasten können diese Daten kontinuierlich analysieren, um mechanische Fehler Tage oder Wochen im Voraus vorherzusagen und so eine planmäßige Wartung zu ermöglichen.

Finanzinstitute nutzen Workloads für maschinelles Lernen, um Millionen von Transaktionen in Echtzeit zu analysieren. Diese Modelle können Muster erkennen, die auf Betrug hindeuten. Einige Systeme erkennen unbefugte Transaktionen mit hoher Genauigkeit und einer niedrigen Falsch-Positiv-Rate.

Computer-Vision-Arbeitslasten werden verwendet, um medizinische Bilder wie Röntgenbilder, CT-Scans und MRTs zu analysieren. Diese KI-Modelle können potenzielle Anomalien wie Tumore im Frühstadium erkennen – oft schneller und zuverlässiger als menschliche Fachkräfte, was zu einer schnelleren und genaueren Diagnose beitragen kann.

Arbeitslasten, die auf generativen KI-Modellen basieren, tragen zur Transformation kreativer und technischer Bereiche bei. Sie werden verwendet, um automatisch Marketingtexte zu generieren, realistische Bilder für die Werbung zu erstellen, Zusammenfassungen von virtuellen Meetings zu erstellen oder sogar Entwickler zu unterstützen, indem sie Codeblöcke vorschlagen und vervollständigen.

Die Bereitstellung eines trainierten ML-Modells für die Inferenz kann ein wichtiger Schritt bei der Produktionsreife einer KI-Arbeitslast sein. Vertex AI vereinfacht diesen Prozess durch verwaltete Dienste, die die zugrunde liegende Infrastruktur verwalten.

Trainiertes Modell in die Model Registry hochladen

• Der erste Schritt besteht darin, das trainierte Modellartefakt zu nehmen und es in die Vertex AI Model Registry hochzuladen. In diesem zentralen Repository werden Ihre Modelle sicher gespeichert und versioniert, sodass sie bereit für die Bereitstellung sind.

Verwalteten Endpunkt erstellen

• Als Nächstes erstellen Sie einen Endpunkt, einen dedizierten HTTP-Server in Echtzeit für Ihr Modell. Dieser Endpunkt ist die URL, die Ihre Anwendungen aufrufen, um Vorhersagen zu erhalten. Sie definieren den Typ der zu verwendenden Rechenressourcen, z. B. eine N1-CPU-Maschine oder einen bestimmten GPU-Typ für eine höhere Leistung.

Modell für den Endpunkt bereitstellen

• Nachdem Sie den Endpunkt erstellt haben, stellen Sie eine bestimmte Version Ihres Modells darauf bereit. In diesem Schritt geben Sie das Container-Image an, das Ihr Modell und den Vorhersageservercode enthält (oft ein von Vertex AI bereitgestelltes vordefiniertes Image). Sie konfigurieren auch Traffic-Aufteilungen, mit denen Sie eine neue Modellversion mit einem kleinen Prozentsatz des Live-Traffics testen können, bevor Sie sie vollständig einführen.

Onlinevorhersagen senden und empfangen

• Nach der Bereitstellung ist das Modell für Onlinevorhersagen verfügbar. Ihre Anwendung sendet Eingabedaten (die Nutzlast) über eine HTTP-Anfrage an die URL des Endpunkts. Der verwaltete Dienst übernimmt die Inferenz-Arbeitslast und gibt die Vorhersage oder das Ergebnis nahezu in Echtzeit zurück.

Endpunkte überwachen und verwalten

• Der letzte Schritt ist die kontinuierliche Überwachung. Sie verwenden die integrierten Tools von Vertex AI, um den Zustand des Endpunkts (Latenz, Fehlerraten, Ressourcenauslastung) und die Leistung des Modells selbst (Drift, Verzerrung und Vorhersagequalität) zu verfolgen, damit die Inferenz-Workload im Laufe der Zeit zuverlässig und genau bleibt.