Codey per il completamento del codice (code-gecko
) è il nome del modello che supporta il completamento del codice. È un modello di base che genera codice basandosi sulla scrittura del codice. Codey per il completamento del codice
completa il codice digitato di recente da un utente. Codey per il completamento del codice è
supportato dall'API di generazione del codice. Le API Codey fanno parte della famiglia delle API PaLM.
Per scoprire di più sulla creazione di prompt per il completamento del codice, consulta Creare prompt per il completamento del codice.
Per esplorare questo modello nella console, consulta la scheda del modello Codey per il completamento del codice in Model Garden.
Vai a Model Garden
Casi d'uso
Alcuni casi d'uso comuni per il completamento del codice sono:
Scrivi il codice più velocemente: usa il
code-gecko
modello per scrivere il codice più velocemente sfruttando il codice suggerito per te.Riduci al minimo i bug nel codice: utilizza suggerimenti di codice che sono corretti sintatticamente per evitare errori. Il completamento del codice consente di ridurre al minimo il rischio di introdurre involontariamente bug che possono verificarsi con la scrittura rapida del codice.
Richiesta HTTP
POST https://us-central1-googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/code-gecko:predict
Versioni modello
Per utilizzare la versione più recente del modello, specifica il nome del modello senza numero di versione, ad esempio code-gecko
.
Per utilizzare una versione del modello stabile, specifica il numero di versione del modello, ad esempio code-gecko@001
. Ogni versione stabile è disponibile per sei mesi dopo la data di rilascio della versione stabile successiva.
La seguente tabella contiene le versioni del modello stabile disponibili:
modello code-gecko | Data di uscita | Data di interruzione |
---|---|---|
code-gecko@002 | 6 dicembre 2023 | 9 ottobre 2024 |
code-gecko@001 | 29 giugno 2023 | 6 luglio 2024 |
Per saperne di più, consulta Versioni e ciclo di vita dei modelli.
Corpo della richiesta
{
"instances":[
{
"prefix": string,
"suffix": string
}
],
"parameters": {
"temperature": number,
"maxOutputTokens": integer,
"candidateCount": integer,
"stopSequences": [ string ],
"logprobs": integer,
"presencePenalty": float,
"frequencyPenalty": float,
"echo": boolean,
"seed": integer
}
}
Di seguito sono riportati i parametri per il modello di completamento di codice denominato
code-gecko
. Il modello code-gecko
è uno dei modelli Codey. Puoi utilizzare questi parametri per ottimizzare la richiesta di completamento del codice. Per ulteriori informazioni, consulta Panoramica dei modelli di codice e Creare prompt per il completamento del codice.
Parametro | Description | Valori accettati |
---|---|---|
(obbligatorio) |
Per i modelli di codice, prefix rappresenta l'inizio di una porzione di codice di programmazione significativo o di un prompt in linguaggio naturale che descrive il codice da generare. Il modello tenta di compilare il codice tra prefix e suffix .
|
Una stringa di testo valida |
(facoltativo) |
Per il completamento del codice, suffix rappresenta la fine di una porzione di codice di programmazione significativo. Il modello tenta di inserire il codice tra prefix e suffix .
|
Una stringa di testo valida |
|
La temperatura viene utilizzata per il campionamento durante la generazione delle risposte. La temperatura controlla il grado
di casualità nella selezione dei token. Le temperature più basse sono ideali per prompt che richiedono una risposta meno aperta o creativa, mentre le temperature più alte possono portare a risultati più diversificati o creativi. Una temperatura pari a 0 significa che vengono sempre selezionati i token con la probabilità più alta. In questo caso, le risposte per un dato prompt sono per lo più deterministiche, ma è ancora possibile una piccola
variazione.
|
|
|
Numero massimo di token che possono essere generati nella risposta. Un token equivale a circa quattro caratteri. 100 token corrispondono a circa 60-80 parole.
Specifica un valore più basso per risposte più brevi e un valore più alto per risposte potenzialmente più lunghe. |
|
(facoltativo) |
Il numero di varianti della risposta da restituire. |
(facoltativo) |
(facoltativo) |
Specifica un elenco di stringhe che indica al modello di interrompere la generazione di testo se una delle stringhe viene rilevata nella risposta. Se una stringa compare più volte nella risposta, la risposta viene troncata nel punto in cui è stata rilevata per la prima volta.
Le stringhe sono sensibili alle maiuscole.
Ad esempio, se seguente è la risposta restituita quando stopSequences non è specificato:
public
static string reverse(string myString)
La risposta restituita con stopSequences impostato su ["Str",
"reverse"] è:
public static string
|
Un elenco di stringhe |
(facoltativo) |
Restituisce i primi logprobs token candidati con più probabilità con le rispettive probabilità di log a ogni passaggio di generazione. Vengono sempre restituiti i token scelti e le relative probabilità di log in ogni passaggio. Il token scelto potrebbe trovarsi o meno tra i primi logprobs candidati con maggiore probabilità.
|
|
(facoltativo) |
I valori positivi penalizzano i token che appaiono ripetutamente nel testo generato, diminuendo la probabilità
di ripetizione di contenuti. I valori accettati sono -2.0 -2.0 .
|
|
(facoltativo) |
I valori positivi penalizzano i token già presenti nel testo generato, aumentando la probabilità di generare contenuti più diversificati. I valori accettati sono -2.0 -2.0 .
|
|
(facoltativo) |
Se il valore è true, il prompt viene ripetuto nel testo generato. |
|
|
Il decoder genera un rumore casuale con un generatore di numeri pseudo-casuali, il rumore di temperatura * viene aggiunto
ai logit prima del campionamento. Il generatore di numeri pseudo-casuali (prng) prende un seme come input, genera lo stesso output con lo stesso seed.
Se il seed non è impostato, il seed utilizzato nel decoder non sarà deterministico, quindi il rumore casuale generato non sarà deterministico. Se il seed è impostato, il rumore casuale generato sarà deterministico. |
|
Richiesta di esempio
REST
Per testare un prompt di testo utilizzando l'API Vertex AI, invia una richiesta POST all'endpoint del modello del publisher.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
- PROJECT_ID: il tuo ID progetto. Per gli altri campi, consulta la tabella Corpo della richiesta.
Metodo HTTP e URL:
POST https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/code-gecko:predict
Corpo JSON della richiesta:
{ "instances": [ { "prefix": "PREFIX", "suffix": "SUFFIX"} ], "parameters": { "temperature": TEMPERATURE, "maxOutputTokens": MAX_OUTPUT_TOKENS, "candidateCount": CANDIDATE_COUNT } }
Per inviare la richiesta, scegli una delle seguenti opzioni:
arricciatura
Salva il corpo della richiesta in un file denominato request.json
ed esegui questo comando:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/code-gecko:predict"
PowerShell
Salva il corpo della richiesta in un file denominato request.json
ed esegui questo comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/code-gecko:predict" | Select-Object -Expand Content
Dovresti ricevere una risposta in formato JSON simile alla risposta di esempio.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.
Node.js
Prima di provare questo esempio, segui le istruzioni di configurazione di Node.js riportate nella guida rapida di Vertex AI sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Node.js Vertex AI.
Per eseguire l'autenticazione in Vertex AI, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Java
Prima di provare questo esempio, segui le istruzioni di configurazione di Java riportate nella guida rapida di Vertex AI sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Java Vertex AI.
Per eseguire l'autenticazione in Vertex AI, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Corpo della risposta
{
"predictions": [
{
"content": string,
"citationMetadata": {
"citations": [
{
"startIndex": integer,
"endIndex": integer,
"url": string,
"title": string,
"license": string,
"publicationDate": string
}
]
},
"logprobs": {
"tokenLogProbs": [ float ],
"tokens": [ string ],
"topLogProbs": [ { map<string, float> } ]
},
"safetyAttributes":{
"categories": [ string ],
"blocked": boolean,
"scores": [ float ],
"errors": [ int ]
},
"score": float
}
]
}
Elemento risposta | Descrizione |
---|---|
blocked |
Un flag boolean associato a un attributo di sicurezza che indica se l'input o l'output del modello è stato bloccato. Se blocked è true , il campo errors nella risposta contiene uno o più codici di errore. Se blocked è false , la risposta non include il campo errors .
|
categories |
Un elenco di nomi delle categorie di attributi di sicurezza associati ai
contenuti generati. L'ordine dei punteggi nel parametro scores
corrisponde all'ordine delle categorie. Ad esempio, il primo punteggio nel parametro scores indica la probabilità che la risposta violi la prima categoria nell'elenco categories .
|
citationMetadata |
Un elemento che contiene un array di citazioni. |
citations |
Un array di citazioni. Ogni citazione contiene i relativi metadati. |
content |
Il risultato generato dal modello utilizzando il testo di input. |
endIndex |
Un numero intero che specifica dove termina una citazione con content .
|
errors |
Un array di codici di errore. Il campo della risposta errors viene incluso nella risposta solo quando il campo blocked nella risposta è true . Per informazioni
sulla comprensione dei codici di errore, consulta
Errori di sicurezza.
|
license |
La licenza associata a una citazione. |
publicationDate |
La data di pubblicazione di una citazione. I formati validi sono YYYY , YYYY-MM e YYYY-MM-DD .
|
score |
Un valore float inferiore a zero. Più elevato è il valore di score , maggiore è l'affidabilità del modello nella sua risposta.
|
startIndex |
Un numero intero che specifica il punto in cui inizia una citazione nel contenuto. |
title |
Il titolo della fonte della citazione. Esempi di titoli di origine potrebbero essere quelli di un articolo o di un libro. |
url |
L'URL della fonte di una citazione. Un URL può essere, ad esempio, un sito web di notizie o un repository GitHub. |
tokens |
I token campionati. |
tokenLogProbs |
Le probabilità di log dei token campionati. |
topLogProbs |
I token candidati più probabili e le relative probabilità di log in ogni passaggio. |
logprobs |
Risultati del parametro "logprobs". Mappatura 1-1 ai "candidati". |
Esempio di risposta
{
"predictions": [
{
"safetyAttributes": {
"blocked": false,
"categories": [],
"scores": []
},
"content": " reverses a string",
"citationMetadata": {
"citations": []
}
},
"score": -1.1161688566207886
]
}
Risposta in streaming dai modelli di IA generativa
I parametri sono gli stessi per le richieste in modalità flusso e non in modalità flusso alle API.
Per visualizzare le richieste di codice e le risposte di esempio utilizzando l'API REST, consulta Esempi di utilizzo dell'API REST per i flussi di dati.
Per visualizzare richieste di codice e risposte di esempio utilizzando l'SDK Vertex AI per Python, consulta Esempi di utilizzo dell'SDK Vertex AI per Python per i flussi di dati.