Il motore RAG di Vertex AI, un componente della piattaforma Vertex AI, semplifica la generazione RAG (Retrieval-Augmented Generation). Il motore RAG di Vertex AI è anche un framework di dati per lo sviluppo di applicazioni con modelli linguistici di grandi dimensioni (LLM) basati sul contesto. L'aumento del contesto avviene quando applichi un LLM ai tuoi dati. Viene implementata la RAG (Retrieval Augmented Generation).
Un problema comune degli LLM è che non comprendono le conoscenze private, ovvero i dati della tua organizzazione. Con il motore RAG di Vertex AI, puoi arricchire il contesto dei modelli LLM con informazioni private aggiuntive, perché il modello può ridurre le allucinazioni e rispondere alle domande in modo più preciso.
Combinando fonti di conoscenza aggiuntive con le conoscenze esistenti degli LLM, viene fornito un contesto migliore. Il contesto migliorato insieme alla query migliora la qualità della risposta dell'LLM.
L'immagine seguente illustra i concetti chiave per comprendere il motore RAG di Vertex AI.
Questi concetti sono elencati nell'ordine del processo di generazione basata sul recupero con potenziamento.
Importazione dei dati: importa i dati da origini dati diverse. Ad esempio, file locali, Cloud Storage e Google Drive.
Trasformazione dei dati: conversione dei dati in preparazione all'indicizzazione. Ad esempio, i dati vengono suddivisi in blocchi.
Incorporamento: rappresentazioni numeriche di parole o parti di testo. Questi numeri riflettono il significato semantico e il contesto del testo. Parole o testo simili o correlati tendono ad avere incorporamenti simili, il che significa che sono più vicini nello spazio vettoriale di alta dimensione.
Indicizzazione dei dati: il motore RAG di Vertex AI crea un indice chiamato corpus. L'indice struttura la knowledge base in modo che sia ottimizzata per la ricerca. Ad esempio, l'indice è come un sommario dettagliato di un grande libro di riferimento.
Ricerca: quando un utente pone una domanda o fornisce un prompt, il componente di recupero nel motore RAG di Vertex AI esegue ricerche nella knowledge base per trovare informazioni pertinenti alla query.
Genesi: le informazioni recuperate diventano il contesto aggiunto alla query dell'utente originale come guida per il modello di AI generativa per generare risposte pertinenti e basate su fatti.
Aree geografiche supportate
Vertex AI RAG Engine è supportato nelle seguenti regioni:
| Regione | Località | Descrizione | Fase di avvio |
|---|---|---|---|
europe-west3 |
Francoforte, Germania | È supportata solo la versione v1beta1. |
Anteprima |
us-central1 |
Iowa | Sono supportate le versioni v1 e v1beta1. |
GA |
Passaggi successivi
- Per scoprire come utilizzare l'SDK Vertex AI per eseguire le attività dell'RAG Engine di Vertex AI, consulta la guida rapida di RAG per Python.
- Per scoprire di più sul grounding, consulta la Panoramica del grounding.
- Per scoprire le differenze tra RAG e messa a terra, consulta Eseguire la messa a terra delle risposte utilizzando RAG.
- Per scoprire di più sull'architettura RAG: