Modellleistung durch Hyperparameter-Abstimmung verbessern


In dieser Anleitung erfahren Sie, wie Sie in BigQuery ML die Hyperparameter-Abstimmung verwenden. Dazu geben Sie die Trainingsoption NUM_TRIALS an, um eine Reihe von Modelltrainingstests zu aktivieren.

In dieser Anleitung verwenden Sie die Beispieltabelle tlc_yellow_trips_2018 zum Erstellen eines Modells zur Vorhersage der Spitze einer Taxifahrt. Mit der Hyperparameter-Abstimmung zeigt das Modell eine Leistungsverbesserung von ca. 40% im Hyperparameter-Abstimmungsziel R2_SCORE.

Lernziele

In dieser Anleitung verwenden Sie:

  • BigQuery ML zur Erstellung eines linearen Regressionsmodells unter Verwendung der CREATE MODEL-Anweisung, wobei NUM_TRIALS auf 20 gesetzt ist.
  • Die ML.TRIAL_INFO-Funktion, mit der die Übersicht über alle 20 Tests geprüft wird
  • Die ML.EVALUATE-Funktion zur Bewertung des ML-Modells
  • Die Funktion ML.PREDICT zum Erstellen von Vorhersagen mithilfe des ML-Modells

Kosten

In dieser Anleitung werden kostenpflichtige Komponenten von Google Cloud verwendet, darunter:

  • BigQuery
  • BigQuery ML

Weitere Informationen zu den Kosten von BigQuery finden Sie auf der Seite BigQuery-Preise.

Vorbereitung

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  5. Make sure that billing is enabled for your Google Cloud project.

  6. BigQuery ist in neuen Projekten automatisch aktiviert. Zum Aktivieren von BigQuery in einem vorhandenen Projekt wechseln Sie zu

    Enable the BigQuery API.

    Enable the API

    .

Schritt 1: Trainings-Dataset erstellen

Erstellen Sie ein BigQuery-Dataset, um Ihr ML-Modell zu speichern:

  1. Rufen Sie in der Google Cloud Console die Seite „BigQuery“ auf.

    Zur Seite „BigQuery“

  2. Klicken Sie im Bereich Explorer auf den Namen Ihres Projekts.

  3. Klicken Sie auf Aktionen ansehen > Dataset erstellen.

    Dataset erstellen

  4. Führen Sie auf der Seite Dataset erstellen die folgenden Schritte aus:

    • Geben Sie unter Dataset-ID bqml_tutorial ein.

    • Wählen Sie als Standorttyp die Option Mehrere Regionen und dann USA (mehrere Regionen in den USA) aus.

      Die öffentlichen Datasets sind am multiregionalen Standort US gespeichert. Der Einfachheit halber sollten Sie Ihr Dataset am selben Standort speichern.

    • Übernehmen Sie die verbleibenden Standardeinstellungen unverändert und klicken Sie auf Dataset erstellen.

      Seite "Dataset erstellen"

Schritt 2: Trainingseingabetabelle erstellen

In diesem Schritt erfassen Sie die Trainingseingabetabelle mit 100.000 Zeilen.

  1. Schema der Quelltabelle tlc_yellow_trips_2018 ansehen.

    Tabellenschema

  2. Erstellen Sie die Trainingseingabedatentabelle.

CREATE TABLE `bqml_tutorial.taxi_tip_input` AS
SELECT
  * EXCEPT(tip_amount), tip_amount AS label
FROM
  `bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2018`
WHERE
  tip_amount IS NOT NULL
LIMIT 100000

Schritt 3: Modell erstellen

Erstellen Sie als Nächstes mit der Beispieltabelle tlc_yellow_trips_2018 in BigQuery ein lineares Regressionsmodell mit Hyperparameter-Abstimmung. Die folgende GoogleSQL-Abfrage wird verwendet, um das Modell mit Hyperparameter-Abstimmung zu erstellen.

CREATE MODEL `bqml_tutorial.hp_taxi_tip_model`
OPTIONS
  (MODEL_TYPE='LINEAR_REG',
   NUM_TRIALS=20,
   MAX_PARALLEL_TRIALS=2) AS
SELECT
  *
FROM
  `bqml_tutorial.taxi_tip_input`

Abfragedetails

Das Modell LINEAR_REG hat zwei einstellbare Hyperparameter: l1_reg und l2_reg. Die obige Abfrage verwendet den Standardsuchbereich. Sie können den Suchbereich auch explizit angeben:

OPTIONS
  (...
    L1_REG=HPARAM_RANGE(0, 20),
    L2_REG=HPARAM_CANDIDATES([0, 0.1, 1, 10]))

Darüber hinaus verwenden diese anderen Trainingsoptionen für Hyperparameter-Abstimmung auch ihre Standardwerte:

  • HPARAM_TUNING_ALGORITHM: "VIZIER_DEFAULT"
  • HPARAM_TUNING_OBJECTIVES: ["r2_score"]

MAX_PARALLEL_TRIALS ist auf 2 gesetzt, um den Abstimmungsvorgang zu beschleunigen. Da zu zwei Zeitpunkten jeweils 2 Versuche ausgeführt werden, dauert die gesamte Feinabstimmung ungefähr 10 statt 20 serielle Trainingsjobs. Beachten Sie jedoch, dass die beiden gleichzeitigen Versuche nicht von den Trainingsergebnissen des jeweils anderen profitieren können.

Abfrage CREATE MODEL ausführen

So führen Sie die Abfrage CREATE MODEL zum Erstellen und Trainieren des Modells aus:

  1. Klicken Sie in der Google Cloud Console auf Neue Abfrage erstellen.

  2. Geben Sie im obigen Textfeld des Abfrageeditors die folgende GoogleSQL-Abfrage ein.

  3. Klicken Sie auf Ausführen.

    Die Abfrage dauert etwa 17 Minuten. Sie können den Fortschritt der Abstimmung in den Ausführungsdetails unter „Phasen” verfolgen:

    Fortschritt der Feinabstimmung.

Schritt 4: Informationen zu Testversionen abrufen

Mit der Funktion ML.TRIAL_INFO können Sie die Übersicht über alle Tests einschließlich ihrer Hyperparameter, Ziele, Status und der optimalen Testversion abrufen. Das Ergebnis können Sie in der Google Cloud Console sehen, nachdem der SQL-Server ausgeführt wurde.

SELECT *
FROM
  ML.TRIAL_INFO(MODEL `bqml_tutorial.hp_taxi_tip_model`)

Sie können diese SQL-Abfrage ausführen, sobald ein Test abgeschlossen ist. Wenn die Abstimmung in der Mitte beendet wird, bleiben alle bereits abgeschlossenen Tests verfügbar.

Schritt 5: Modell bewerten

Nachdem Sie das Modell erstellt haben, können Sie die Bewertungsmesswerte aller Tests mithilfe der Funktion ML.EVALUATE oder über die Google Cloud Console abrufen.

Führen Sie ML.EVALUATE aus

SELECT *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.hp_taxi_tip_model`)

Diese SQL-Datei ruft Bewertungsmesswerte für alle Tests ab, die aus den TEST-Daten berechnet wurden. Weitere Informationen zum Unterschied zwischen ML.TRIAL_INFO-Zielen und ML.EVALUATE-Bewertungsmesswerten finden Sie unter Modellbereitstellungsfunktionen.

Sie können auch eine bestimmte Testversion bewerten, indem Sie Ihre eigenen Daten angeben. Weitere Informationen finden Sie unter Modellbereitstellungsfunktionen.

Bewertungsmesswerte über die Google Cloud Console prüfen

Sie können auch Bewertungsmesswerte prüfen, indem Sie den Tab EVALUATION auswählen.

Bewertung der Feinabstimmung

Schritt 6: Modell verwenden, um Taxitipps vorherzusagen

Nachdem Sie Ihr Modell ausgewertet haben, besteht der nächste Schritt darin, den Taxitipp zu prognostizieren.

Die Abfrage zur Vorhersage des Ergebnisses lautet so:

SELECT
  *
FROM
  ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
    (
    SELECT
      *
    FROM
      `bqml_tutorial.taxi_tip_input`
    LIMIT 10))

Abfragedetails

Die oberste SELECT-Anweisung ruft alle Spalten einschließlich der Spalte predicted_label ab. Diese Spalte wird von der ML.PREDICT-Funktion generiert. Wenn Sie die Funktion ML.PREDICT verwenden, lautet der Ausgabespaltenname für das Modell predicted_label_column_name.

Die Vorhersage wird standardmäßig für den optimalen Test getroffen. Sie können einen anderen Test auswählen, indem Sie den Parameter trial_id angeben.

SELECT
  *
FROM
  ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
    (
    SELECT
      *
    FROM
      `bqml_tutorial.taxi_tip_input`
    LIMIT
      10),
    STRUCT(3 AS trial_id))

Weitere Informationen zur Verwendung von Modellbereitstellungsfunktionen finden Sie unter Modellbereitstellungsfunktionen.

Bereinigen

Damit Ihrem Google Cloud-Konto die in dieser Anleitung verwendeten Ressourcen nicht in Rechnung gestellt werden, löschen Sie entweder das Projekt, das die Ressourcen enthält, oder Sie behalten das Projekt und löschen die einzelnen Ressourcen.

  • Sie können das von Ihnen erstellte Projekt löschen.
  • Sie können das Projekt aber auch behalten und das Dataset löschen.

Dataset löschen

Wenn Sie Ihr Projekt löschen, werden alle Datasets und Tabellen entfernt. Wenn Sie das Projekt wieder verwenden möchten, können Sie das in dieser Anleitung erstellte Dataset löschen:

  1. Rufen Sie, falls erforderlich, die Seite "BigQuery" in der Google Cloud Console auf.

    Zur Seite "BigQuery"

  2. Wählen Sie im Navigationsbereich das Dataset bqml_tutorial aus, das Sie erstellt haben.

  3. Klicken Sie auf der rechten Seite des Fensters auf Dataset löschen. Das Dataset, die Tabelle und alle Daten werden gelöscht.

  4. Bestätigen Sie im Dialogfeld Dataset löschen den Löschbefehl. Geben Sie dazu den Namen des Datasets (bqml_tutorial) ein und klicken Sie auf Löschen.

Projekt löschen

So löschen Sie das Projekt:

  1. In the Google Cloud console, go to the Manage resources page.

    Go to Manage resources

  2. In the project list, select the project that you want to delete, and then click Delete.
  3. In the dialog, type the project ID, and then click Shut down to delete the project.

Nächste Schritte