Wie bei anderen Datentypen erfordert die effiziente Abfrage einer großen Menge von Vektoren einen Index – und Vektordatenbanken unterstützen spezialisierte Indizes für Vektoren. Im Gegensatz zu vielen anderen Datentypen (wie Text oder Zahlen), die eine einzelne logische Sortierung haben, haben Vektoren keine natürliche Reihenfolge, die praktischen Anwendungsfällen entspricht. Der häufigste Anwendungsfall ist stattdessen die Abfrage der k-Vektoren, die einem anderen Vektor in Bezug auf einen Entfernungsmesswert wie Punktprodukt, Kosinus-Ähnlichkeit oder euklidische Entfernung am nächsten sind. Diese Art von Abfrage wird als „k (Exact) Nearest Neighbors“ oder „KNN“-Abfrage bezeichnet.

Leider gibt es keine allgemeinen Algorithmen für effiziente KNN-Abfragen – um garantiert zu finden, dass die nächsten Nachbarn k zu einem bestimmten Vektor q gefunden werden, muss die Entfernung zwischen q und jedem anderen Vektor berechnet werden. Es gibt jedoch effiziente Algorithmen, um die k Approximate Nearest Neighbors (ANN) zu finden. Bei diesen ANN-Algorithmen wird eine gewisse Genauigkeit abgeschwächt (insbesondere die Trefferquote; möglicherweise lässt der Algorithmus einige der tatsächlichen nächsten Nachbarn aus), um die Geschwindigkeit erheblich zu verbessern. Da die Berechnung von Vektoreinbettungen in vielen Anwendungsfällen bereits als etwas ungenau eingestuft wird, können sie im Gegenzug für erhebliche Leistungssteigerungen oft mit einem gewissen Trefferquotenverlust rechnen.

Um ANN-Abfragen für Vektoren basierend auf der Entfernung von einem anderen Vektor zu ermöglichen, ist ein Vektorindex so strukturiert, dass Cluster benachbarter Vektoren in der Regel gruppiert werden. Gängige Vektorindextypen können als eine Reihe von Listen strukturiert werden, in denen jede Liste die Vektoren in einem bestimmten Cluster darstellt; ein Graph, in dem jeder Vektor mit mehreren der nächsten Nachbarn verbunden ist; Strukturen, bei denen die Zweige den Teilmengen des Clusters des übergeordneten Knotens entsprechen; und vieles mehr. Jeder Indextyp bietet Kompromisse zwischen Suchgeschwindigkeit, Trefferquote, Arbeitsspeichernutzung, Indexerstellungszeit und anderen Faktoren.

Die meisten Datenbankabfragen basieren jedoch nicht nur auf semantischer Ähnlichkeit. Zum Beispiel könnte eine nutzende Person nach einem Buch suchen, dessen Beschreibung „eine herzerwärmende Geschichte über ein Kind und einen Hund“ ähnelt, aber sie möchten es auch auf Bücher unter 20 $ beschränken, die im Taschenbuchformat verfügbar sind. Spezielle Vektordatenbanken bieten möglicherweise einige begrenzte zusätzliche Filterfunktionen (manchmal als „Einschränkungen“ bezeichnet), während Datenbanken für allgemeine Zwecke mithilfe von Standardsprachen wie SQL umfassende Prädikate erstellen können, die mit der Reihenfolge von Vektorähnlichkeiten kombiniert werden können, um sehr leistungsstarke, ausdrucksstarke Abfragen zu ermöglichen.

Die Fähigkeit von Vektoreinbettungen, die semantische Bedeutung unstrukturierter Daten darzustellen, kombiniert mit der Fähigkeit von Vektordatenbanken, effizient nach nahe gelegenen Vektoren zu suchen, eröffnet viele wichtige Anwendungsfälle:

• Nachrichten aus dem Chatverlauf finden, die für die aktuelle Unterhaltung relevant sind, sodass KI-gestützte Chatbots „Arbeitsspeicher“ haben
• Videoclips aus einem riesigen Archiv von Sportübertragungen finden, die einer einfachen Beschreibung entsprechen, z. B. „Über einen Verteidiger springen, um den Ball zu fangen und einen Touchdown zu erzielen“
• Suchen von Produkten, die einem bereits gekauften Produkt ähneln und zu den Preis- und Stilvorlieben des jeweiligen Nutzers passen
• Nach Dokumenten suchen, die für eine Aufgabe wie „Filter eines Staubsaugers austauschen“ relevant sind, damit ein KI-gestützter Assistent eine relevante, sachliche Antwort geben kann

Vektordatenbanken sind wichtig, da sie verwendet werden können, um eine Vielzahl von Problemen zu lösen, die nur mit relationalen Prädikaten oder Textsuchtechniken allein schwer oder unmöglich zu lösen sind.

Vektordatenbanken eignen sich gut für Generative-KI-Anwendungen, da sie es einfach machen, kritische Geschäfts- und Anwendungskontexte wie den relevanten Chatverlauf oder geschäftsspezifische unstrukturierte Inhalte abzurufen, um LLMs dabei zu helfen, auf eine komplexe Nutzeranfrage zu reagieren.

Außerdem erleichtern sie die Suche nach Inhalten mit natürlicher Sprache oder die Abfrage anhand von Beispielen.