Ottimizza i prompt

Questo documento descrive come utilizzare lo strumento di ottimizzazione dei prompt di Vertex AI per ottimizzare automaticamente il rendimento dei prompt migliorando le istruzioni di sistema per un insieme di prompt.

Vertex AI Prompt Optimizer può aiutarti a migliorare i tuoi prompt in modo rapido e su larga scala, senza riscrivere manualmente le istruzioni di sistema o i singoli prompt. Ciò è particolarmente utile quando vuoi utilizzare istruzioni e prompt di sistema scritti per un modello con un modello diverso.

Offriamo due approcci per ottimizzare i prompt:

  • L'ottimizzatore zero-shot è un ottimizzatore in tempo reale a bassa latenza che migliora un singolo prompt o un modello di istruzioni di sistema. È veloce e non richiede configurazioni aggiuntive, oltre a fornire il prompt originale o le istruzioni di sistema.
  • L'ottimizzatore basato sui dati è un ottimizzatore iterativo a livello di attività batch che migliora i prompt valutando la risposta del modello a prompt etichettati di esempio rispetto a metriche di valutazione specificate per il modello di destinazione selezionato. È per l'ottimizzazione più avanzata che ti consente di configurare i parametri di ottimizzazione e fornire alcuni campioni etichettati.

Questi metodi sono disponibili per gli utenti tramite l'interfaccia utente o l'SDK Vertex AI.

Modelli target supportati per l'ottimizzazione

L'ottimizzatore zero-shot è indipendente dal modello e può migliorare i prompt per qualsiasi modello Google.

L'ottimizzatore basato sui dati supporta l'ottimizzazione solo per i modelli Gemini disponibili a livello generale.

Passaggi successivi