Cómo ajustar el rendimiento de las consultas de vectores

En este documento, se muestra cómo ajustar los índices para lograr un rendimiento de consulta más rápido y una mejor recuperación.

Antes de compilar un índice ScaNN, completa lo siguiente:

  • Asegúrate de que ya se haya creado una tabla con tus datos.
  • Asegúrate de que el valor que establezcas para maintenance_work_mem y la marca shared_buffers sea inferior a la memoria total de la máquina para evitar problemas durante la generación del índice.

Cómo ajustar un índice ScaNN

Usa la siguiente guía para elegir entre un índice ScaNN de dos niveles y uno de tres niveles:

  • Elige un índice de dos niveles si la cantidad de filas vectoriales es inferior a 10 millones de filas.
  • Elige un índice de tres niveles si la cantidad de filas vectoriales supera los 100 millones de filas.
  • Elige un índice de tres niveles para optimizar el tiempo de compilación del índice o un índice de dos niveles para optimizar la recuperación de la búsqueda si la cantidad de filas vectoriales está entre 10 millones y 100 millones de filas.

Considera los siguientes ejemplos de índices ScaNN de dos y tres niveles que muestran cómo se establecen los parámetros de ajuste para una tabla con 1000000 filas:

Índice de dos niveles

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 1/2)]);

Índice de tres niveles

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

Analiza tus consultas

Usa el comando EXPLAIN ANALYZE para analizar las estadísticas de tus consultas, como se muestra en la siguiente consulta en SQL de ejemplo.

  EXPLAIN ANALYZE SELECT result-column
  FROM my-table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

La respuesta de ejemplo QUERY PLAN incluye información como el tiempo transcurrido, la cantidad de filas analizadas o devueltas y los recursos utilizados.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Consulta las métricas del índice vectorial

Puedes usar las métricas del índice vectorial para revisar el rendimiento de tu índice vectorial, identificar áreas de mejora y ajustar el índice según las métricas, si es necesario.

Para ver todas las métricas del índice vectorial, ejecuta la siguiente consulta en SQL, que usa la vista pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Para obtener más información sobre la lista completa de métricas, consulta Métricas del índice vectorial.

¿Qué sigue?