Come per altri tipi di dati, l'esecuzione efficiente di query su un grande insieme di vettori richiede un indice, mentre i database vettoriali supportano indici specializzati per vettori. A differenza di molti altri tipi di dati (come testo o numeri), che hanno un unico ordinamento logico, i vettori non hanno un ordinamento naturale corrispondente a casi d'uso pratici. Al contrario, il caso d'uso più comune è eseguire query per i vettori k più vicini a un altro vettore in termini di metrica di distanza come prodotto scalare, somiglianza del coseno o distanza euclidea. Questo tipo di query è definito query "vicini k più prossimi (esatti)" o "KNN".

Sfortunatamente, non esistono algoritmi generali per query KNN efficienti: per avere la certezza di trovare i k più prossimi a un dato vettore, q, è necessario calcolare la distanza tra q e ogni altro vettore. Tuttavia, esistono algoritmi efficienti per trovare i vicini k approssimativi più prossimi ("ANN"). Questi algoritmi ANN riducono in un certo qual modo l'accuratezza (in particolare il richiamo, l'algoritmo potrebbe omettere alcuni dei vicini più prossimi effettivi) per apportare grandi miglioramenti alla velocità. Poiché molti casi d'uso già trattano in maniera piuttosto imprecisa il processo di calcolo delle rappresentazioni distribuite di vettori, spesso possono tollerare una certa perdita di richiamo in cambio di notevoli miglioramenti delle prestazioni.

Per abilitare le query ANN per i vettori in base alla distanza da un altro vettore, un indice vettoriale è strutturato in modo che i cluster di vettori vicini siano generalmente raggruppati insieme. I tipi di indici vettoriali comuni possono essere strutturati come un insieme di elenchi in cui ogni elenco rappresenta i vettori di un dato cluster, un grafico in cui ogni vettore è connesso a diversi dei vettori vicini più prossimi, diagrammi ad albero in cui i rami corrispondono a sottoinsiemi del cluster del nodo principale e altro ancora. Ogni tipo di indice offre compromessi tra velocità di ricerca, richiamo, consumo di memoria, tempo di creazione dell'indice e altri fattori.

La maggior parte delle query del database, tuttavia, non si basa solo sulla somiglianza semantica. Ad esempio, un utente potrebbe essere alla ricerca di un libro la cui descrizione è simile a "la storia commovente di un bambino e un cane", ma potrebbe anche volersi limitare ai libri dal prezzo inferiore a 20 $ e disponibili in formato brossura. I database vettoriali per uso speciale possono fornire alcune capacità di filtro aggiuntive limitate (a volte chiamate "limitazioni"), mentre i database per uso generico possono comporre predicati ricchi utilizzando linguaggi standard come SQL, che possono essere combinati con un ordinamento di somiglianza vettoriale per consentire query espressive molto potenti.

La capacità degli incorporamenti vettoriali di rappresentare il significato semantico dei dati non strutturati, combinata con la capacità dei database vettoriali di cercare in modo efficiente vettori vicini, sblocca molti importanti casi d'uso:

• Trovare nella cronologia chat i messaggi pertinenti alla conversazione in corso, consentendo così ai chatbot basati sull'AI di avere "memoria"
• Trovare video clip tratti da un vasto archivio di trasmissioni sportive che corrispondono a una semplice descrizione come "superare un difensore per prendere la palla e segnare una meta".
• Trovare prodotti simili a quelli acquistati in precedenza da un utente e che rientrano nelle sue preferenze di prezzo e stile
• Cercare documenti pertinenti a un'attività come "sostituire il filtro di un aspirapolvere" in modo che un assistente basato sull'AI possa fornire una risposta pertinente e concreta

I database vettoriali sono importanti perché possono essere utilizzati per risolvere una varietà di problemi difficili o impossibili da risolvere con le sole tecniche di ricerca testuale o predicati relazionali.

I database vettoriali sono adatti alle applicazioni di AI generativa perché consentono di recuperare facilmente i contesti aziendali e applicativi critici come la cronologia chat pertinente o i contenuti non strutturati specifici dell'attività per aiutare gli LLM a rispondere a una query utente complessa.

Inoltre, possono semplificare la ricerca di contenuti utilizzando il linguaggio naturale o l'esecuzione di query basate su esempio.