BigQuery DataFrames testen
In dieser Kurzanleitung werden die folgenden Analyse- und ML-Aufgaben mit der BigQuery DataFrames API in einem BigQuery-Notebook ausgeführt:
- DataFrame für das öffentliche Dataset
bigquery-public-data.ml_datasets.penguins
erstellen - Durchschnittliche Körpermasse eines Pinguins berechnen
- Erstellen Sie ein lineares Regressionsmodell.
- DataFrame für eine Teilmenge der Pinguindaten erstellen, die als Trainingsdaten verwendet werden sollen
- Trainingsdaten bereinigen
- Modellparameter festlegen
- Modell anpassen
- Bewerten Sie das Modell.
Hinweise
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator
(
roles/resourcemanager.projectCreator
), which contains theresourcemanager.projects.create
permission. Learn how to grant roles.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator
(
roles/resourcemanager.projectCreator
), which contains theresourcemanager.projects.create
permission. Learn how to grant roles.
-
Verify that billing is enabled for your Google Cloud project.
Prüfen Sie, ob die BigQuery API aktiviert ist.
Wenn Sie ein neues Projekt erstellt haben, wird die BigQuery API automatisch aktiviert.
- BigQuery-Nutzer (
roles/bigquery.user
) - Notebook Runtime-Nutzer (
roles/aiplatform.notebookRuntimeUser
) - Code Creator (
roles/dataform.codeCreator
) - Erstellen Sie eine neue Codezelle im Notebook.
Fügen Sie der Codezelle den folgenden Code hinzu:
import bigframes.pandas as bpd # Set BigQuery DataFrames options # Note: The project option is not required in all environments. # On BigQuery Studio, the project ID is automatically detected. bpd.options.bigquery.project = your_gcp_project_id # Use "partial" ordering mode to generate more efficient queries, but the # order of the rows in DataFrames may not be deterministic if you have not # explictly sorted it. Some operations that depend on the order, such as # head() will not function until you explictly order the DataFrame. Set the # ordering mode to "strict" (default) for more pandas compatibility. bpd.options.bigquery.ordering_mode = "partial" # Create a DataFrame from a BigQuery table query_or_table = "bigquery-public-data.ml_datasets.penguins" df = bpd.read_gbq(query_or_table) # Efficiently preview the results using the .peek() method. df.peek()
Ändern Sie die Zeile
bpd.options.bigquery.project = your_gcp_project_id
, um Ihre Projekt-ID Google Cloud anzugeben. Beispiel:bpd.options.bigquery.project = "myProjectID"
.Führen Sie die Codezelle aus.
Der Code gibt ein
DataFrame
-Objekt mit Daten zu Pinguinen zurück.Erstellen Sie eine neue Codezelle im Notebook und fügen Sie den folgenden Code hinzu:
# Use the DataFrame just as you would a pandas DataFrame, but calculations # happen in the BigQuery query engine instead of the local system. average_body_mass = df["body_mass_g"].mean() print(f"average_body_mass: {average_body_mass}")
Führen Sie die Codezelle aus.
Der Code berechnet die durchschnittliche Körpermasse der Pinguine und gibt sie in derGoogle Cloud Konsole aus.
Erstellen Sie eine neue Codezelle im Notebook und fügen Sie den folgenden Code hinzu:
# Create the Linear Regression model from bigframes.ml.linear_model import LinearRegression # Filter down to the data we want to analyze adelie_data = df[df.species == "Adelie Penguin (Pygoscelis adeliae)"] # Drop the columns we don't care about adelie_data = adelie_data.drop(columns=["species"]) # Drop rows with nulls to get our training data training_data = adelie_data.dropna() # Pick feature columns and label column X = training_data[ [ "island", "culmen_length_mm", "culmen_depth_mm", "flipper_length_mm", "sex", ] ] y = training_data[["body_mass_g"]] model = LinearRegression(fit_intercept=False) model.fit(X, y) model.score(X, y)
Führen Sie die Codezelle aus.
Der Code gibt die Bewertungsmesswerte des Modells zurück.
- In the Google Cloud console, go to the Manage resources page.
- In the project list, select the project that you want to delete, and then click Delete.
- In the dialog, type the project ID, and then click Shut down to delete the project.
- Weitere Informationen zur Verwendung von BigQuery DataFrames
- Diagramme mit BigQuery DataFrames visualisieren
- BigQuery DataFrames-Notebook verwenden
Erforderliche Berechtigungen
Zum Erstellen und Ausführen von Notebooks benötigen Sie die folgenden IAM-Rollen (Identity and Access Management):
Notebook erstellen
Folgen Sie der Anleitung unter Notebook mit dem BigQuery-Editor erstellen, um ein neues Notebook zu erstellen.
BigQuery DataFrames testen
So testen Sie BigQuery DataFrames:
Bereinigen
Am einfachsten vermeiden Sie weitere Kosten durch Löschen des für die Anleitung erstellten Projekts.
So löschen Sie das Projekt: