Visualizar gráficos usando DataFrames do BigQuery

Este documento demonstra como criar vários tipos de gráficos usando a biblioteca de visualização de DataFrames do BigQuery.

A API bigframes.pandas oferece um ecossistema completo de ferramentas para Python. A API permite operações estatísticas avançadas, e é possível ver as agregações geradas pelo BigQuery DataFrames. Também é possível alternar do BigQuery DataFrames para um DataFrame pandas com operações de amostragem integradas.

Histograma

O exemplo a seguir lê dados da tabela bigquery-public-data.ml_datasets.penguins para criar um histograma sobre a distribuição das profundidades do bico dos pinguins:

import bigframes.pandas as bpd

penguins = bpd.read_gbq("bigquery-public-data.ml_datasets.penguins")
penguins["culmen_depth_mm"].plot.hist(bins=40)

Gráfico de linhas

O exemplo a seguir usa dados da tabela bigquery-public-data.noaa_gsod.gsod2021 para criar um gráfico de linhas das mudanças na temperatura mediana ao longo do ano:

import bigframes.pandas as bpd

noaa_surface = bpd.read_gbq("bigquery-public-data.noaa_gsod.gsod2021")

# Calculate median temperature for each day
noaa_surface_median_temps = noaa_surface[["date", "temp"]].groupby("date").median()

noaa_surface_median_temps.plot.line()

Gráfico de área

O exemplo a seguir usa a tabela bigquery-public-data.usa_names.usa_1910_2013 para acompanhar a popularidade dos nomes na história dos EUA e se concentra nos nomes Mary, Emily e Lisa:

import bigframes.pandas as bpd

usa_names = bpd.read_gbq("bigquery-public-data.usa_names.usa_1910_2013")

# Count the occurences of the target names each year. The result is a dataframe with a multi-index.
name_counts = (
    usa_names[usa_names["name"].isin(("Mary", "Emily", "Lisa"))]
    .groupby(("year", "name"))["number"]
    .sum()
)

# Flatten the index of the dataframe so that the counts for each name has their own columns.
name_counts = name_counts.unstack(level=1).fillna(0)

name_counts.plot.area(stacked=False, alpha=0.5)

Gráfico de barras

O exemplo a seguir usa a tabela bigquery-public-data.ml_datasets.penguins para visualizar a distribuição de sexos de pinguins:

import bigframes.pandas as bpd

penguins = bpd.read_gbq("bigquery-public-data.ml_datasets.penguins")

penguin_count_by_sex = (
    penguins[penguins["sex"].isin(("MALE", "FEMALE"))]
    .groupby("sex")["species"]
    .count()
)
penguin_count_by_sex.plot.bar()

Gráfico de dispersão

O exemplo a seguir usa a tabela bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2021 para analisar a relação entre os valores das tarifas de táxi e as distâncias percorridas:

import bigframes.pandas as bpd

taxi_trips = bpd.read_gbq(
    "bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2021"
).dropna()

# Data Cleaning
taxi_trips = taxi_trips[
    taxi_trips["trip_distance"].between(0, 10, inclusive="right")
]
taxi_trips = taxi_trips[taxi_trips["fare_amount"].between(0, 50, inclusive="right")]

# If you are using partial ordering mode, you will also need to assign an order to your dataset.
# Otherwise, the next line can be skipped.
taxi_trips = taxi_trips.sort_values("pickup_datetime")

taxi_trips.plot.scatter(x="trip_distance", y="fare_amount", alpha=0.5)

Como visualizar um conjunto de dados grande

O BigQuery DataFrames baixa dados para sua máquina local para visualização. Por padrão,o número de pontos de dados a serem baixados é limitado a 1.000. Se o número de pontos de dados exceder o limite, os DataFrames do BigQuery vão amostrar aleatoriamente o número de pontos de dados igual ao limite.

É possível substituir esse limite definindo o parâmetro sampling_n ao criar um gráfico, conforme mostrado no exemplo a seguir:

import bigframes.pandas as bpd

noaa_surface = bpd.read_gbq("bigquery-public-data.noaa_gsod.gsod2021")

# Calculate median temperature for each day
noaa_surface_median_temps = noaa_surface[["date", "temp"]].groupby("date").median()

noaa_surface_median_temps.plot.line(sampling_n=40)

Observação: o parâmetro sampling_n não tem efeito nos histogramas porque o BigQuery DataFrames agrupa os dados no lado do servidor para histogramas.

Plotagem avançada com parâmetros do pandas e do Matplotlib

É possível transmitir mais parâmetros para ajustar o gráfico, assim como no pandas, porque a biblioteca de geração de gráficos do BigQuery DataFrames é alimentada pelo pandas e pelo Matplotlib. As seções a seguir descrevem exemplos.

Tendência de popularidade de nomes com subgráficos

Usando os dados do histórico de nomes do exemplo de gráfico de área, o exemplo a seguir cria gráficos individuais para cada nome definindo subplots=True na chamada da função plot.area():

import bigframes.pandas as bpd

usa_names = bpd.read_gbq("bigquery-public-data.usa_names.usa_1910_2013")

# Count the occurences of the target names each year. The result is a dataframe with a multi-index.
name_counts = (
    usa_names[usa_names["name"].isin(("Mary", "Emily", "Lisa"))]
    .groupby(("year", "name"))["number"]
    .sum()
)

# Flatten the index of the dataframe so that the counts for each name has their own columns.
name_counts = name_counts.unstack(level=1).fillna(0)

name_counts.plot.area(subplots=True, alpha=0.5)

Diagrama de dispersão de viagens de táxi com várias dimensões

Usando dados do exemplo de diagrama de dispersão, o exemplo a seguir renomeia os rótulos dos eixos x e y, usa o parâmetro passenger_count para tamanhos de pontos, usa pontos de cor com o parâmetro tip_amount e redimensiona a figura:

import bigframes.pandas as bpd

taxi_trips = bpd.read_gbq(
    "bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2021"
).dropna()

# Data Cleaning
taxi_trips = taxi_trips[
    taxi_trips["trip_distance"].between(0, 10, inclusive="right")
]
taxi_trips = taxi_trips[taxi_trips["fare_amount"].between(0, 50, inclusive="right")]

# If you are using partial ordering mode, you also need to assign an order to your dataset.
# Otherwise, the next line can be skipped.
taxi_trips = taxi_trips.sort_values("pickup_datetime")

taxi_trips["passenger_count_scaled"] = taxi_trips["passenger_count"] * 30

taxi_trips.plot.scatter(
    x="trip_distance",
    xlabel="trip distance (miles)",
    y="fare_amount",
    ylabel="fare amount (usd)",
    alpha=0.5,
    s="passenger_count_scaled",
    label="passenger_count",
    c="tip_amount",
    cmap="jet",
    colorbar=True,
    legend=True,
    figsize=(15, 7),
    sampling_n=1000,
)

A seguir

• Saiba como usar o BigQuery DataFrames.
• Saiba como usar o BigQuery DataFrames no dbt.
• Confira a referência da API BigQuery DataFrames.