Menyesuaikan performa kueri vektor

Dokumen ini menunjukkan cara menyesuaikan indeks untuk mencapai performa kueri yang lebih cepat dan recall yang lebih baik.

Sebelum membuat indeks ScaNN, selesaikan langkah-langkah berikut:

  • Pastikan tabel dengan data Anda sudah dibuat.
  • Pastikan nilai yang Anda tetapkan untuk flag maintenance_work_mem dan shared_buffers kurang dari total memori mesin untuk menghindari masalah saat membuat indeks.

Menyesuaikan indeks ScaNN

Gunakan panduan berikut untuk memilih antara indeks ScaNN dua tingkat dan tiga tingkat:

  • Pilih indeks dua tingkat jika jumlah baris vektor kurang dari 10 juta baris.
  • Pilih indeks tiga tingkat jika jumlah baris vektor melebihi 100 juta baris.
  • Pilih indeks tiga tingkat untuk mengoptimalkan waktu pembuatan indeks atau pilih indeks dua tingkat untuk mengoptimalkan recall penelusuran jika jumlah baris vektor berada di antara 10 juta dan 100 juta baris.

Pertimbangkan contoh berikut untuk indeks ScaNN dua tingkat dan tiga tingkat yang menunjukkan cara parameter penyesuaian ditetapkan untuk tabel dengan 1.000.000 baris:

Indeks dua tingkat

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 1/2)]);

Indeks tiga tingkat

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

Menganalisis kueri

Gunakan perintah EXPLAIN ANALYZE untuk menganalisis insight kueri seperti yang ditunjukkan dalam contoh kueri SQL berikut.

  EXPLAIN ANALYZE SELECT result-column
  FROM my-table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

Contoh respons QUERY PLAN menyertakan informasi seperti waktu yang diperlukan, jumlah baris yang dipindai atau ditampilkan, dan resource yang digunakan.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Melihat metrik indeks vektor

Anda dapat menggunakan metrik indeks vektor untuk meninjau performa indeks vektor, mengidentifikasi area yang perlu ditingkatkan, dan menyesuaikan indeks berdasarkan metrik, jika diperlukan.

Untuk melihat semua metrik indeks vektor, jalankan kueri SQL berikut, yang menggunakan tampilan pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Untuk informasi selengkapnya tentang daftar lengkap metrik, lihat Metrik indeks vektor.

Langkah selanjutnya