Classe GenerativeModel (1.1.0)

La classe GenerativeModel è la classe base per i modelli generativi su Vertex AI. NOTA: non creare un'istanza direttamente per questa classe. Usa invece il criterio vertexai.getGenerativeModel().

Pacchetto

@google-cloud/vertexai

Costruttori

(constructor)(getGenerativeModelParams)

constructor(getGenerativeModelParams: GetGenerativeModelParams);

Crea una nuova istanza della classe GenerativeModel

Parametro
Nome	Description
getGenerativeModelParams	GetGenerativeModelParams GetGenerativeModelParams

Metodi

countTokens(request)

countTokens(request: CountTokensRequest): Promise<CountTokensResponse>;

Effettua una richiesta asincrona per il conteggio dei token.

La funzione countTokens restituisce il conteggio dei token e il numero di caratteri fatturabili per un prompt.

Parametro
Nome	Description
request	CountTokensRequest Un oggetto CountTokensRequest con i contenuti della richiesta.

Restituisce
Tipo	Description
Promise<CountTokensResponse>	L'oggetto CountTokensResponse con il conteggio dei token.

Esempio

const request = {
  contents: [{role: 'user', parts: [{text: 'How are you doing today?'}]}],
};
const resp = await generativeModel.countTokens(request);
console.log('count tokens response: ', resp);

generateContent(request)

generateContent(request: GenerateContentRequest | string): Promise<GenerateContentResult>;

Effettua una chiamata asincrona per la generazione di contenuti.

La risposta verrà restituita in GenerateContentResult.response.

Parametro
Nome	Description
request	GenerateContentRequest | string Un oggetto ManageContentRequest con i contenuti della richiesta.

Restituisce
Tipo	Description
Promise<GenerateContentResult>	L'oggetto GeneraContentResponse con i candidati di risposta.

Esempio

const request = {
  contents: [{role: 'user', parts: [{text: 'How are you doing today?'}]}],
};
const result = await generativeModel.generateContent(request);
console.log('Response: ', JSON.stringify(result.response));

generateContentStream(request)

generateContentStream(request: GenerateContentRequest | string): Promise<StreamGenerateContentResult>;

Effettua una richiesta di streaming asincrono per generare contenuti.

La risposta viene restituita blocco per blocco mentre viene generata in StreamGenerateContentResult.stream. Dopo che sono stati restituiti tutti i blocchi della risposta, la risposta aggregata è disponibile in StreamGenerateContentResult.response.

Parametro
Nome	Description
request	GenerateContentRequest | string GenerateContentRequest

Restituisce
Tipo	Description
Promise<StreamGenerateContentResult>	Promessa di StreamGenerateContentResult

Esempio

const request = {
  contents: [{role: 'user', parts: [{text: 'How are you doing today?'}]}],
};
const streamingResult = await generativeModel.generateContentStream(request);
for await (const item of streamingResult.stream) {
  console.log('stream chunk: ', JSON.stringify(item));
}
const aggregatedResponse = await streamingResult.response;
console.log('aggregated response: ', JSON.stringify(aggregatedResponse));

startChat(request)

startChat(request?: StartChatParams): ChatSession;

Crea un'istanza per ChatSession.

La classe ChatSession è una classe stateful che contiene lo stato della conversazione con il modello e fornisce metodi per interagire con il modello in modalità chat. La chiamata di questo metodo non esegue chiamate a un endpoint remoto. Per effettuare chiamate da remoto, utilizza ChatSession.sendMessage() o ChatSession.sendMessageStream}.

Parametro
Nome	Description
request	StartChatParams StartChatParams

Restituisce
Tipo	Description
ChatSession	ChatSession

Esempio

const chat = generativeModel.startChat();
const result1 = await chat.sendMessage("How can I learn more about Node.js?");
const response1 = await result1.response;
console.log('Response: ', JSON.stringify(response1));

const result2 = await chat.sendMessageStream("What about python?");
const response2 = await result2.response;
console.log('Response: ', JSON.stringify(await response2));