Interface GenerationConfig (0.5.0)

Opzioni di configurazione per la generazione e gli output del modello.

Pacchetto

@google-cloud/vertexai

Proprietà

candidate_count

candidate_count?: number;

Facoltativo. Numero di candidati da generare.

max_output_tokens

max_output_tokens?: number;

Facoltativo. Il numero massimo di token di output da generare per messaggio.

stop_sequences

stop_sequences?: string[];

Facoltativo. Interrompi le sequenze.

temperatura

temperature?: number;

Facoltativo. Controlla la casualità delle previsioni.

top_k

top_k?: number;

Facoltativo. Se specificato, verrà utilizzato il campionamento top-k.

top_p

top_p?: number;

Facoltativo. Se specificato, verrà utilizzato il campionamento del nucleo.