Instala AlloyDB Omni con AlloyDB AI

En esta página, se muestra cómo instalar AlloyDB Omni y cómo integrar AlloyDB AI en él.

AlloyDB AI es un paquete de funciones que se incluye con AlloyDB Omni y que te permite crear aplicaciones de IA generativa empresarial. Para obtener más información sobre la funcionalidad de IA de AlloyDB, consulta Cómo compilar aplicaciones de IA generativa.

AlloyDB Omni con AlloyDB AI te permite consultar modelos de AA remotos para trabajar con predicciones en línea y embeddings de texto generados a partir de modelos de AA. AlloyDB Omni con AlloyDB AI también puede procesar incorporaciones de vectores de otro contenido, como una imagen, por ejemplo, si usas la interfaz google_ml.predict_row y haces la traducción tú mismo en la consulta.

Según el lugar en el que quieras instalar AlloyDB Omni con AlloyDB AI, selecciona una de las siguientes opciones:

Configura tu instancia de AlloyDB Omni para consultar modelos remotos

Para configurar AlloyDB Omni para consultar modelos remotos, sigue estos pasos:

  1. Crea una cuenta de servicio con Google Cloud.

  2. Crea una clave de cuenta de servicio en formato JSON y descárgala.

  3. Almacena la clave en una ubicación permanente en tu sistema de archivos. Reside en esta ubicación durante toda la vida útil de tu servidor de AlloyDB Omni.

    Anota su ubicación en el sistema de archivos, ya que la necesitarás para el siguiente paso.

  4. Agrega permisos de Identity and Access Management (IAM) de Vertex AI al proyecto y a la cuenta de servicio adecuados.

       gcloud projects add-iam-policy-binding PROJECT_ID \
       --member="serviceAccount:SERVICE_ACCOUNT_ID" \
       --role="roles/aiplatform.user"

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID de tu Google Cloud proyecto.

    • SERVICE_ACCOUNT_ID: Es el ID de la cuenta de servicio que creaste en el paso anterior. Esto incluye el sufijo @PROJECT_ID.iam.gserviceaccount.com completo, por ejemplo, my-service@my-project.iam.gserviceaccount.com.

Instala AlloyDB Omni con AlloyDB AI

Para instalar AlloyDB Omni e integrar AlloyDB AI, sigue estos pasos:

  1. Asegúrate de haber completado todos los pasos que se indican en Configura AlloyDB Omni para consultar modelos basados en la nube.

  2. Crea una copia local del archivo de configuración predeterminado de AlloyDB Omni:

       docker run -i --rm google/alloydbomni:15.5.4 cat /usr/share/postgresql/postgresql.conf.sample > my-postgres.conf

  3. Edita la copia del archivo de configuración para agregar directivas para la integración de IA de AlloyDB:

       echo "omni_enable_ml_agent_process = 'on'" >> my-postgres.conf
   echo "omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json'" >> my-postgres.conf

  4. Ajusta los permisos del sistema de archivos de la clave y los archivos de configuración:

       sudo chmod +r my-postgres.conf
   sudo chmod +r KEY_PATH

    Reemplaza KEY_PATH por la ruta de acceso al archivo de claves privadas de la cuenta de servicio en tu sistema de archivos host. Esta es la clave que creaste y descargaste antes en este procedimiento.

  5. Instala la clave y los archivos de configuración activados en el contenedor:

       docker run --name CONTAINER_NAME -e POSTGRES_PASSWORD=NEW_PASSWORD -p HOST_PORT:5432 -v "$PWD/my-postgres.conf":/etc/postgresql/postgresql.conf -v "FULL_KEY_PATH":/etc/postgresql/private-key.json -d google/alloydbomni:15.5.4 -c 'config_file=/etc/postgresql/postgresql.conf'

    Reemplaza lo siguiente:

    • CONTAINER_NAME: Es el nombre que se asignará a este nuevo contenedor de método de instalación simplificado de AlloyDB Omni en el registro de contenedores de tu máquina host, por ejemplo, my-omni-1.

    • NEW_PASSWORD: La contraseña asignada al usuario postgres del contenedor nuevo después de su creación.

    • HOST_PORT: Es el puerto TCP en la máquina host al que el contenedor debe publicar su propio puerto 5432. Para usar el puerto predeterminado de PostgreSQL en la máquina host, especifica 5432.

    • FULL_KEY_PATH: Es la ruta de acceso completa del sistema de archivos al archivo de claves privadas de la cuenta de servicio en tu sistema host.

Verifica AlloyDB Omni con la instalación de AlloyDB AI

Para verificar que la instalación se realizó correctamente y usa la predicción del modelo, ingresa lo siguiente:

   CREATE EXTENSION google_ml_integration CASCADE;

   SELECT array_dims(embedding( 'textembedding-gecko@001', 'AlloyDB AI')::real[]);
   array_dims

El resultado es similar al siguiente:

    [1:768]
    (1 row)

En la consulta anterior, la llamada a embedding() genera incorporaciones para el texto de entrada AlloyDB AI. array_dims muestra las dimensiones del array que muestra embedding(). Dado que el modelo textembedding-gecko registrado previamente muestra un resultado con 768 dimensiones, el resultado es [768].

¿Qué sigue?