Utilizza l'IA generativa per ottenere suggerimenti personalizzati in un'applicazione di e-commerce

Nota sull'interfaccia PostgreSQL: l'integrazione di Spanner con Vertex AI non è supportata nei database in dialetto PostgreSQL.

Obiettivo

In questo tutorial imparerai a:

• Utilizza i modelli di IA generativa di Vertex AI forniti da Google in un database Spanner.
• Utilizza l'IA generativa per fornire suggerimenti personalizzati sui prodotti in un'applicazione di e-commerce di esempio.

Costi

Questo tutorial utilizza componenti fatturabili di Google Cloud, tra cui:

• Spanner
• Vertex AI

Per ulteriori informazioni sui costi di Spanner, consulta la pagina Prezzi di Spanner.

Per ulteriori informazioni sui costi di Vertex AI, consulta Prezzi di Vertex AI.

Crea lo schema del sito web di e-commerce

Per questo tutorial, utilizziamo lo schema e i dati seguenti:

CREATE TABLE Products (
  id INT64,
  name STRING(MAX),
  description STRING(MAX),
  category_id INT64,
) PRIMARY KEY(id);

CREATE TABLE Categories (
  id INT64,
  name STRING(MAX)
) PRIMARY KEY(id);

CREATE TABLE Users (
  id INT64,
  age INT64,
  likes STRING(MAX)
) PRIMARY KEY(id);

INSERT INTO Categories (id, name) VALUES
    (1, "Toys"),
    (2, "Tools");

INSERT INTO Products (id, name, description, category_id) VALUES
    (1, "Plush Bear", "Really fluffy. Safe for infants.", 1),
    (2, "Bike", "Bike for teenagers.", 1),
    (3, "Drill", "Cordless.", 2);

INSERT INTO Users (id, age, likes) VALUES
    (1, 30, "DIY"),
    (2, 14, "Toys");

Registrare un modello di IA generativa in uno schema Spanner

In questo tutorial utilizziamo il modello text-bison di Vertex AI per fornire consigli personalizzati sui prodotti ai clienti finali. Per registrare questo modello in un database Spanner, esegui la seguente istruzione DDL:

CREATE MODEL TextBison
INPUT (prompt STRING(MAX))
OUTPUT (content STRING(MAX))
REMOTE
OPTIONS (
  endpoint = '//aiplatform.googleapis.com/projects/PROJECT/locations/LOCATION/publishers/google/models/text-bison'
);

Sostituisci quanto segue:

• PROJECT: l'ID progetto
• LOCATION: la regione in cui stai utilizzando Vertex AI

Il rilevamento e la convalida dello schema non sono disponibili per l'IA generativa di grandi dimensioni. Pertanto, devi fornire clausole INPUT e OUTPUT che corrispondano allo schema del modello. Puoi trovare lo schema completo del modello text-bison nella pagina Model API Reference di Vertex AI.

Purché il database e gli endpoint siano nello stesso progetto, Spanner deve concedere le autorizzazioni appropriate automaticamente. In caso contrario, rivedi il sezione relativa al controllo dell'accesso agli endpoint del modello della pagina di riferimento CREATE MODEL.

Per verificare che il modello sia stato registrato correttamente, esegui una query con la funzione ML.PREDICT. Il modello prevede Colonna STRING denominata prompt. Puoi utilizzare uno dei seguenti Sottoquery di Spanner per generare la colonna prompt. Il modello TextBison richiede di specificare un parametro del modello maxOutputTokens. Gli altri parametri sono facoltativi. Il modello text-bison di Vertex AI non supporta il batching, quindi devi utilizzare il parametro text-bison per impostare la dimensione del batch su 1.

SELECT content
FROM ML.PREDICT(
  MODEL TextBison,
  (SELECT "Is 13 prime?" AS prompt),
  STRUCT(256 AS maxOutputTokens, 0.2 AS temperature, 40 as topK, 0.95 AS topP)
) @{remote_udf_max_rows_per_rpc=1};

+--------------------+
| content            |
+--------------------+
| "Yes, 13 is prime" |
+--------------------+

Usa il modello TextBison per rispondere alle domande dei clienti

I modelli di testo con l'IA generativa possono risolvere un'ampia gamma di problemi. Ad esempio, un utente di un sito web di e-commerce potrebbe sicuri per i neonati. Con una singola query, possiamo trasferire la domanda al modello TextBison. Non dobbiamo fare altro che fornire il contesto pertinente per la domanda recuperando i dettagli del prodotto dal database.

NOTA: alcune risposte del modello sono state modificate per brevità.

SELECT product_id, product_name, content
FROM ML.PREDICT(
  MODEL TextBison,
  (SELECT
    product.id as product_id,
    product.name as product_name,
    CONCAT("Is this product safe for infants?", "\n",
        "Product Name: ", product.name, "\n",
        "Category Name: ", category.name, "\n",
        "Product Description:", product.description) AS prompt
   FROM
     Products AS product JOIN Categories AS category
       ON product.category_id = category.id),
  STRUCT(100 AS maxOutputTokens)
) @{remote_udf_max_rows_per_rpc=1};

-- The model correctly recommends a Plush Bear as safe for infants.
-- Other products are not safe and the model provides justification why.
+------------+-----------------+--------------------------------------------------------------------------------------------------+
| product_id | product_name    | content                                                                                          |
+------------+-----------------+--------------------------------------------------------------------------------------------------+
|          1 | "Plush Bear"    | "Yes, this product is infant safe. [...] "                                                       |
|            |                 | "The product description says that the product is safe for infants. [...]"                       |
+------------+-----------------+--------------------------------------------------------------------------------------------------+
|          2 | "Bike"          | "No, this product is not infant safe. [...] "                                                    |
|            |                 | "It is not safe for infants because it is too big and heavy for them to use. [...]"              |
+------------+-----------------+--------------------------------------------------------------------------------------------------+
|          3 | "Drill"         | "No, this product is not infant safe. [...]"                                                     |
|            |                 | " If an infant were to grab the drill, they could pull it on themselves and cause injury. [...]" |
+------------+-----------------+--------------------------------------------------------------------------------------------------+

Puoi sostituire il valore letterale della domanda con un parametro di query, ad esempio @UserQuestion, se vuoi compilare direttamente il parametro con una domanda del cliente. In questo modo, il cliente può usufruire di un'esperienza di shopping online basata sull'IA.

Fornire ai clienti suggerimenti sui prodotti personalizzati

Oltre ai dettagli del prodotto, possiamo anche aggiungere informazioni sul cliente al prompt. In questo modo, il modello prende in considerazione le preferenze dell'utente per fornire consigli sui prodotti completamente personalizzati.

SELECT product_id, product_name, content
FROM ML.PREDICT(
  MODEL TextBison,
  (SELECT
    product.id as product_id,
    product.name as product_name,
    CONCAT(
        "Answer with YES or NO only: Is this a good fit for me?",
        "My age:", CAST(user.age AS STRING), "\n",
        "I like:", user.likes,  "\n",
        "Product name: ", product.name, "\n",
        "Category mame: ", category.name, "\n",
        "Product description:", product.description) AS prompt,
   FROM
     Products AS product
       JOIN Categories AS category ON product.category_id = category.id
       JOIN Users AS user ON user.id = 1),
  STRUCT(256 AS maxOutputTokens)
) @{remote_udf_max_rows_per_rpc=1};

-- The model correctly guessed that the user might be interested in a Drill
-- as they are interested in DIY.
+------------+-----------------+-------------+
| product_id | product_name    | content     |
+------------+-----------------+-------------+
|          1 | "Plush Bear"    | "NO"        |
+------------+-----------------+-------------+
|          2 | "Bike"          | "NO"        |
+------------+-----------------+-------------+
|          3 | "Drill"         | "YES"       |
+------------+-----------------+-------------+

Per cercare un regalo per il figlio, l'utente può creare un profilo per il figlio adolescente e visualizzare un elenco diverso di consigli:

SELECT product_id, product_name, content
FROM ML.PREDICT(
  MODEL TextBison,
  (SELECT
    product.id as product_id,
    product.name as product_name,
    CONCAT(
        "Answer with YES or NO only: Is this a good fit for me?",
        "\nMy's age:", CAST(user.age AS STRING),
        "\nI like:", user.likes,
        "\nProduct Name: ", product.name,
        "\nCategory Name: ", category.name,
        "\nProduct Description:", product.description) AS prompt,
   FROM
     Products AS product
       JOIN Categories AS category ON product.category_id = category.id
       JOIN Users AS user ON user.id = 2),
  STRUCT(40 AS maxOutputTokens)
) @{remote_udf_max_rows_per_rpc=1};

-- The model correctly guesses that a teenager is interested in a Bike,
-- but not a plush bear for infants or spicy peppers.
+------------+-----------------+---------+
| product_id | product_name    | content |
+------------+-----------------+---------+
|          1 | "Plush Bear"    | "NO"    |
+------------+-----------------+---------+
|          2 | "Bike"          | "YES"   |
+------------+-----------------+---------+
|          3 | "Spicy peppers" | "NO"    |
+------------+-----------------+---------+

Puoi aggiungere la cronologia acquisti o altri dettagli pertinenti alla richiesta per fornire per offrire al cliente un'esperienza più personalizzata.

L'integrazione di Spanner Vertex AI ti aiuta a combinare prompt complessi contenenti dati in tempo reale e utilizzarle per creare applicazioni basate sull'AI.