Modell abstimmen

Modell abstimmen

Auf dieser Seite erfahren Sie, wie Sie mit Vertex AI interagieren, um ein Modell mithilfe des Seitenpanels in Colab Enterprise zu optimieren.

Wenn Sie über Ihr Colab Enterprise-Notebook Code ausführen und auf Google Cloud Dienste und APIs zugreifen möchten, können Sie die mit Ihrem Google-Konto verknüpften Anmeldedaten verwenden. Weitere Informationen finden Sie unter Auf Dienste und APIs zugreifen Google Cloud .

Über die Seitenleiste können Sie zusätzlich mit Vertex AI interagieren und Modelle optimieren, ohne die Colab Enterprise-Benutzeroberfläche zu verlassen.

Die Seitenleiste wird rechts neben einem geöffneten Notizbuch angezeigt.

Modellabstimmung in Vertex AI

Die Modellabstimmung ist eine effektive Möglichkeit, große Modelle an Ihre Aufgaben anzupassen. Dies ist ein wichtiger Schritt zur Verbesserung der Qualität und Effizienz des Modells. Die Modelloptimierung bietet folgende Vorteile:

• Höhere Qualität für Ihre spezifischen Aufgaben
• Erhöhte Robustheit des Modells
• Niedrigere Inferenzlatenz und Kosten aufgrund kürzerer Prompts

Eine Übersicht über die Vertex AI-Modelloptimierung für Gemini finden Sie unter Einführung in die Optimierung.

Hinweise

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihrem Nutzerkonto die folgenden IAM-Rollen für das Projekt zuzuweisen, damit Ihr Nutzerkonto die erforderlichen Berechtigungen zur Verwendung des Seitenpanels in einem Colab Enterprise-Notebook hat:

• Colab Enterprise-Nutzer (roles/aiplatform.colabEnterpriseUser)
• Vertex AI-Nutzer (roles/aiplatform.user)

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Ihr Administrator kann Ihrem Nutzerkonto möglicherweise auch die erforderlichen Berechtigungen über benutzerdefinierte Rollen oder andere vordefinierte Rollen erteilen.

Mindestens eine der erforderlichen Rollen enthält die Berechtigung dataform.repositories.list. Nutzer, denen die Berechtigung dataform.repositories.list oder die Rolle Code-Ersteller (roles/dataform.codeCreator) in einem Projekt gewährt wurde, können die Namen von Code-Assets in diesem Projekt mit der Dataform API oder der Dataform-Befehlszeile verwenden. Nicht-Administratoren, die BigQuery Studio verwenden, sehen nur Code-Assets, die sie erstellt haben oder für sie freigegeben wurden.

Modell abstimmen

Sie können ein Modell in Vertex AI über die Seitenleiste in Colab Enterprise optimieren.

1. Rufen Sie in der Google Cloud Console die Colab Enterprise-Seite Meine Notebooks auf.

   Zu „Meine Notizen“

2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

3. Klicken Sie auf das Notizbuch, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

4. Klicken Sie rechts neben Ihrem Notebook in der Seitenleiste auf die Schaltfläche  Optimierung.

   In der Seitenleiste wird der Tab Feinabstimmung maximiert.

5. Klicken Sie auf die Schaltfläche Gemini-Modell abstimmen.

   Colab Enterprise fügt Ihrem Notebook Codezellen zum Optimieren eines Gemini-Modells hinzu.

6. Suchen Sie in Ihrem Notebook nach der Codezelle, in der Parameterwerte gespeichert sind. Mit diesen Parametern interagieren Sie mit Vertex AI.

7. Aktualisieren Sie die Werte für die folgenden Parameter:

   • PROJECT_ID: Die ID des Projekts, in dem sich Ihr Notebook befindet.
   • REGION: Die Region, in der sich Ihr Notebook befindet.
   • TUNED_MODEL_DISPLAY_NAME: Der Name des optimierten Modells.

8. Aktualisieren Sie in der nächsten Codezelle die Parameter für die Modelloptimierung:

   • source_model: Das Gemini-Modell, das Sie verwenden möchten, z. B. gemini-1.0-pro-002.
   • train_dataset: Die URL Ihres Trainingsdatensatzes.
   • validation_dataset: Die URL Ihres Validierungs-Datasets.
   • Passen Sie die verbleibenden Parameter nach Bedarf an.

9. Führen Sie die Codezellen aus, die über die Seitenleiste Ihrem Notebook hinzugefügt wurden.

10. Klicken Sie nach dem Ausführen der letzten Codezelle auf die Schaltfläche  Optimierungsjob ansehen.

11. Die Seitenleiste enthält Informationen zum Job zur Modellabstimmung.

    • Auf dem Tab Überwachen werden Optimierungsmesswerte angezeigt, sobald sie verfügbar sind.
    • Auf dem Tab Dataset sehen Sie eine Zusammenfassung und Messwerte zu Ihrem Datensatz, nachdem er verarbeitet wurde.
    • Auf dem Tab Details finden Sie Informationen zu Ihrem Optimierungsjob, z. B. die verwendete Optimierungsmethode und das verwendete Basismodell (Quellmodell).

12. Nach Abschluss des Tuning-Jobs können Sie direkt vom Tab Tuning-Details zu einer Seite wechseln, auf der Sie Ihr Modell testen können. Klicken Sie auf Testen.

    In der Google Cloud Console wird die Seite Textchat von Vertex AI geöffnet, auf der Sie Ihr Modell testen können.

Details eines Abstimmungsjobs ansehen

Sie können sich die Details eines Abstimmungsjobs ansehen, auch wenn Sie ihn nicht in Colab Enterprise erstellt und ausgeführt haben. Sie können die Details eines Tuning-Jobs über die Seitenleiste in Colab Enterprise aufrufen.

1. Rufen Sie in der Google Cloud Console die Colab Enterprise-Seite Meine Notebooks auf.

   Zu „Meine Notizen“

2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

3. Klicken Sie auf das Notizbuch, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

4. Klicken Sie rechts neben Ihrem Notebook in der Seitenleiste auf die Schaltfläche  Optimierung.

   In der Seitenleiste wird der Tab Feinabstimmung maximiert.

5. Klicken Sie auf die Schaltfläche Details des Abstimmungsjobs ansehen.

   Colab Enterprise fügt Ihrem Notebook Codezellen hinzu, um die Details eines Optimierungsjobs abzurufen.

6. Suchen Sie in Ihrem Notebook nach der Codezelle, in der Parameterwerte gespeichert sind. Mit diesen Parametern interagieren Sie mit Vertex AI.

7. Aktualisieren Sie die Werte für die folgenden Parameter:

   • PROJECT_ID: Die ID des Projekts, in dem sich Ihr Notebook befindet.
   • REGION: Die Region, in der sich Ihr Notebook befindet.
   • TUNING_JOB_ID: Die ID Ihres Vertex AI-Optimierungsjobs.

8. Führen Sie die Codezellen aus, die über die Seitenleiste Ihrem Notebook hinzugefügt wurden.

9. Klicken Sie nach dem Ausführen der letzten Codezelle auf die Schaltfläche  Optimierungsjob ansehen.

10. Die Seitenleiste enthält Informationen zum Job zur Modellabstimmung.

    • Auf dem Tab Überwachen werden Optimierungsmesswerte angezeigt, sobald sie verfügbar sind.
    • Auf dem Tab Dataset sehen Sie eine Zusammenfassung und Messwerte zu Ihrem Datensatz, nachdem er verarbeitet wurde.
    • Auf dem Tab Details finden Sie Informationen zu Ihrem Optimierungsjob, z. B. die verwendete Optimierungsmethode und das verwendete Basismodell (Quellmodell).

Nächste Schritte

• Weitere Informationen zur Modellabstimmung in Vertex AI

• Weitere Informationen zu den Parametern für die Modelloptimierung finden Sie unter Gemini-Modelle mithilfe der überwachten Feinabstimmung optimieren.