Endpunkte bereitstellen und verwalten

Verwenden Sie ein trainiertes benutzerdefiniertes Speech-to-Text-Modell in Ihrer Produktionsanwendung oder in Benchmarking-Workflows. Sie müssen das Modell über einen speziellen Endpunkt bereitstellen und freigeben, der zum Teil zum Bereitstellen des Modells in der ausgewählten Region erstellt wurde. Sie erhalten automatisch programmatischen Zugriff über ein Erkennungsobjekt. Es wird direkt über die V2 API oder in der Google Cloud Console verwendet. Sie können Ihr Modell in einer anderen Region bereitstellen als der, in der es trainiert wurde. Es wird jedoch eine Kopie des Modells in der vom Endpunkt angegebenen Region erstellt.

Wenn Sie ein benutzerdefiniertes Sprachmodell verwenden möchten, müssen Sie es über einen speziellen Endpunkt bereitstellen und freigeben. Wenn Sie einen Endpunkt erstellen, stellen Sie das Modell in der Region Ihrer Wahl bereit. Sie erhalten automatisch programmatischen Zugriff über ein Erkennungsobjekt, das Sie direkt über die V2 API für Inferenz oder in der Google Cloud Console verwenden können.

Hinweis

Sie müssen sich für ein Google Cloud -Konto registriert, ein Projekt erstellt und ein benutzerdefiniertes Sprachmodell trainiert haben.

  1. Rufen Sie in der Google Cloud Console Speech auf und navigieren Sie dann zu Speech-to-Text.
  2. Navigieren Sie über die Navigationsleiste auf der linken Seite zum Bereich Benutzerdefinierte Modelle.

Endpunkt erstellen

  1. Rufen Sie im Abschnitt Benutzerdefinierte Modelle den Tab Endpunkte auf.
  2. Klicken Sie auf Neuer Endpunkt.
  3. Geben Sie einen Namen für den Endpunkt an. Dieser Name dient als eindeutige Kennung für Ihre Endpunktressource und wird zum Aufrufen Ihres benutzerdefinierten Sprachmodells für die Inferenz verwendet.
  4. Wählen Sie die Region aus, in der Ihr benutzerdefiniertes Sprachmodell bereitgestellt werden soll. Wenn das Modell in einer anderen Region trainiert wurde als der, die in der Endpunktkonfiguration festgelegt wurde, wird automatisch eine neue Modellkopie erstellt.
  5. Wählen Sie aus der Liste das trainierte benutzerdefinierte Sprachmodell aus, das Sie über den Endpunkt bereitstellen möchten.
  6. Klicken Sie auf Erstellen. Nach wenigen Augenblicken wird Ihr benutzerdefiniertes Sprachmodell in Ihrem Endpunkt bereitgestellt und kann für Inferenz und Benchmarking verwendet werden.
Screenshot des Workflows zum Erstellen eines Endpunkts für ein benutzerdefiniertes Speech-to-Text-Modell mit den für den Endpunkt des benutzerdefinierten Modells erforderlichen Feldern

Endpunkte auflisten

Sie können die zugehörigen Endpunkte in der Console verwalten, indem Sie im Bereich „Benutzerdefinierte Modelle“ den Tab „Endpunkte“ auswählen. Sie können auch die von Ihnen in der Konsole erstellten Endpunkte zusammen mit ihrem aktuellen Status und dem zugehörigen benutzerdefinierten Speech-to-Text-Modell auflisten.

Screenshot des Workflows für die Liste der Endpunkte des benutzerdefinierten Speech-to-Text-Modells mit einer Tabelle mit allen bereits erstellten Endpunkten der benutzerdefinierten Modelle

Endpunkt löschen

Achten Sie vor Beginn darauf, dass kein Traffic über Ihren Endpunkt geleitet wird. Wenn Sie ihn löschen, werden keine Anfragen mehr über ihn gesendet.

  1. Rufen Sie im Abschnitt Benutzerdefinierte Modelle den Tab Endpunkte auf.
  2. Klicken Sie auf dem Tab Endpunkte, um die Optionen zu maximieren, und dann auf Löschen. Der Endpunkt wird in wenigen Momenten gelöscht und stellt keinen Traffic mehr bereit.

Modell mit Benchmarking vergleichen

Um das benutzerdefinierte Speech-to-Text-Modell und Ihr Benchmarking-Dataset zur Bewertung der Accuracy Ihres Modells zu nutzen, folgen Sie dem Leitfaden zum Messen und Verbessern der Accuracy.