Generare incorporamenti di immagini utilizzando la funzione ML.GENERATE_THREADDING
Questo documento mostra come creare un modello BigQuery ML
modello remoto
che fa riferimento a un incorporamento di Vertex AI
modello di base.
Poi lo userai con
Funzione ML.GENERATE_EMBEDDING
per creare incorporamenti di immagini utilizzando i dati
BigQuery
tabella degli oggetti.
Ruoli obbligatori
Per creare una connessione, devi disporre di quanto segue Ruolo IAM (Identity and Access Management):
roles/bigquery.connectionAdmin
Per concedere le autorizzazioni all'account di servizio della connessione, è necessario il seguente autorizzazione:
resourcemanager.projects.setIamPolicy
Per creare il modello utilizzando BigQuery ML, è necessario quanto segue Autorizzazioni IAM:
bigquery.jobs.create
bigquery.models.create
bigquery.models.getData
bigquery.models.updateData
bigquery.models.updateMetadata
Per eseguire l'inferenza, devi disporre delle seguenti autorizzazioni:
bigquery.tables.getData
in tavolabigquery.models.getData
sul modellobigquery.jobs.create
Prima di iniziare
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud.
-
Abilita le API BigQuery, BigQuery Connection, and Vertex AI.
Crea un set di dati
Crea un set di dati BigQuery per archiviare il tuo modello ML:
Nella console Google Cloud, vai alla pagina BigQuery.
Nel riquadro Explorer, fai clic sul nome del tuo progetto.
Fai clic su
Visualizza azioni > Crea il set di dati.Nella pagina Crea set di dati, segui questi passaggi:
In ID set di dati, inserisci
bqml_tutorial
.Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).
I set di dati pubblici vengono archiviati nell'
US
più regioni. Per semplicità, per archiviare il set di dati nella stessa posizione.Lascia invariate le restanti impostazioni predefinite e fai clic su Crea il set di dati.
Crea una connessione
Crea un Connessione alle risorse cloud e recuperare l'account di servizio della connessione. Crea la connessione in nella stessa località del set di dati che hai creato passaggio precedente.
Seleziona una delle seguenti opzioni:
Console
Vai alla pagina BigQuery.
Per creare una connessione, fai clic su
Aggiungi e poi fai clic su Connessioni a origini dati esterne.Nell'elenco Tipo di connessione, seleziona Modelli remoti Vertex AI, funzioni remote e BigLake (risorsa Cloud).
Nel campo ID connessione, inserisci un nome per connessione.
Fai clic su Crea connessione.
Fai clic su Vai alla connessione.
Nel riquadro Informazioni sulla connessione, copia l'ID account di servizio per utilizzarlo in una passaggio successivo.
bq
In un ambiente a riga di comando, crea una connessione:
bq mk --connection --location=REGION --project_id=PROJECT_ID \ --connection_type=CLOUD_RESOURCE CONNECTION_ID
Il parametro
--project_id
sostituisce il progetto predefinito.Sostituisci quanto segue:
REGION
: il tuo regione di connessionePROJECT_ID
: l'ID del tuo progetto Google CloudCONNECTION_ID
: un ID per connessione
Quando crei una risorsa di connessione, BigQuery crea di account di servizio di sistema univoco e lo associa alla connessione.
Risoluzione dei problemi: se ricevi il seguente errore di connessione, Aggiorna Google Cloud SDK:
Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
Recupera e copia l'ID account di servizio per utilizzarlo in un secondo momento passaggio:
bq show --connection PROJECT_ID.REGION.CONNECTION_ID
L'output è simile al seguente:
name properties 1234.REGION.CONNECTION_ID {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}
Terraform
Aggiungi la seguente sezione al tuo file main.tf
.
## This creates a cloud resource connection. ## Note: The cloud resource nested object has only one output only field - serviceAccountId. resource "google_bigquery_connection" "connection" { connection_id = "CONNECTION_ID" project = "PROJECT_ID" location = "REGION" cloud_resource {} }Sostituisci quanto segue:
CONNECTION_ID
: un ID per connessionePROJECT_ID
: l'ID del tuo progetto Google CloudREGION
: il tuo regione di connessione
Concedi all'account di servizio l'accesso
Concedi al tuo account di servizio l'autorizzazione per utilizzare la connessione. Errore per fornire l'autorizzazione restituisce un errore. Seleziona una delle seguenti opzioni:
Console
Vai alla sezione IAM e Console di amministrazione.
Fai clic su
Concedi l'accesso.Si apre la finestra di dialogo Aggiungi entità.
Nel campo Nuove entità, inserisci l'ID account di servizio che copiato in precedenza.
Nel campo Seleziona un ruolo, seleziona Vertex AI, quindi seleziona Utente Vertex AI.
Fai clic su Salva.
gcloud
Utilizza la
Comando gcloud projects add-iam-policy-binding
:
gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.user' --condition=None
Sostituisci quanto segue:
PROJECT_NUMBER
: il numero del tuo progettoMEMBER
: l'ID dell'account di servizio che copiato in precedenza
Crea una tabella di oggetti
Crea una tabella di oggetto con contenuti di immagini. La tabella degli oggetti consente di analizzare le immagini senza spostarle da Cloud Storage.
Il bucket Cloud Storage utilizzato dalla tabella degli oggetti deve trovarsi nel percorso
nello stesso progetto in cui prevedi di creare il modello e chiamare
Funzione ML.GENERATE_EMBEDDING
. Se vuoi chiamare il
Funzione ML.GENERATE_EMBEDDING
in un progetto diverso da quello
che contiene il bucket Cloud Storage utilizzato dalla tabella degli oggetti, devi
concedere il ruolo Amministratore Storage a livello di bucket
all'account di servizio service-A@gcp-sa-aiplatform.iam.gserviceaccount.com
.
Crea un modello
Nella console Google Cloud, vai alla pagina BigQuery.
Con l'editor SQL, crea un'istanza modello remoto:
CREATE OR REPLACE MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME` REMOTE WITH CONNECTION `PROJECT_ID.REGION.CONNECTION_ID` OPTIONS (ENDPOINT = 'ENDPOINT');
Sostituisci quanto segue:
PROJECT_ID
: il tuo ID progettoDATASET_ID
: l'ID del set di dati da contiene il modelloMODEL_NAME
: il nome del modelloREGION
: la regione utilizzata dalla connessioneCONNECTION_ID
: l'ID del tuo Connessione BigQueryQuando visualizzi i dettagli della connessione nella console Google Cloud, questo è il valore riportato nell'ultima sezione l'ID connessione completo mostrato ID connessione, ad esempio
projects/myproject/locations/connection_location/connections/myconnection
ENDPOINT
: l'incorporamento LLM da utilizzare, in questo casomultimodalembedding@001
.
Genera incorporamenti di immagini
Genera incorporamenti di immagini con
Funzione ML.GENERATE_EMBEDDING
utilizzando i dati immagine di una tabella di oggetti:
SELECT * FROM ML.GENERATE_EMBEDDING( MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`, TABLE PROJECT_ID.DATASET_ID.TABLE_NAME, STRUCT(FLATTEN_JSON AS flatten_json_output) );
Sostituisci quanto segue:
PROJECT_ID
: il tuo ID progetto.DATASET_ID
: l'ID del set di dati che contiene il modello.MODEL_NAME
: il nome del modello remoto rispetto a un modellomultimodalembedding@001
.TABLE_NAME
: il nome della tabella dell'oggetto che contiene le immagini da incorporare.FLATTEN_JSON
: un valoreBOOL
che indica se analizzare l'incorporamento in una colonna separata. Il valore predefinito èTRUE
.
Esempio
L'esempio seguente mostra come creare incorporamenti per le immagini in
tabella dell'oggetto images
:
SELECT * FROM ML.GENERATE_EMBEDDING( MODEL `mydataset.embedding_model`, TABLE `mydataset.images`, STRUCT(TRUE AS flatten_json_output) );