Che cos'è il context engineering dell'AI?

Sono le regole fondamentali che fungono da "fisica" del mondo dell'AI. Definiscono il ruolo dell'agente, il suo tono di voce e ciò che è strettamente consentito o non consentito. In Vertex AI, queste istruzioni rimangono attive durante ogni singola interazione.

Questo strato tiene traccia della cronologia della conversazione e delle preferenze specifiche dell'utente. Se un utente ha menzionato un formato di dati preferito tre passaggi fa, la memoria semi-persistente assicura che l'agente non lo dimentichi. Consente di far progredire il flusso di lavoro senza che l'utente debba ripetere le operazioni.

Questa è la "verità" che viene inserita dal mondo esterno in tempo reale. Include documenti trovati tramite Agent Search, output API live e note a breve termine che il modello utilizza per "pensare" a un problema. È altamente specifico per l'attività in questione e cambia a ogni nuova richiesta.

Il prompt engineering consiste nello scrivere le migliori istruzioni possibili. La progettazione del contesto è il compito più grande di progettare l'intero sistema di dati e la memoria che l'AI utilizza per rispondere a queste domande su Google Cloud.

L'ingegneria del contesto è la pratica di gestione delle informazioni per un'AI. Il Model Context Protocol (MCP) è uno strumento specifico che semplifica la connessione sicura dell'AI a diverse origini dati come BigQuery.