Classe PredictionServiceGrpc.PredictionServiceBlockStub (0.1.0)

public static final class PredictionServiceGrpc.PredictionServiceBlockingStub extends AbstractBlockingStub<PredictionServiceGrpc.PredictionServiceBlockingStub>

Uno stub per consentire ai client di effettuare chiamate RPC sincrone al servizio PredictionService.

Un servizio per previsioni e spiegazioni online.

Ereditarietà

java.lang.Object > io.grpc.stub.AbstractStub > io.grpc.stub.AbstractBlockStub > PredictionServiceGrpc.PredictionServiceBlockStub

Metodi

build(Canale canale, CallOptions callOptions)

protected PredictionServiceGrpc.PredictionServiceBlockingStub build(Channel channel, CallOptions callOptions)
Parametri
Nome Description
channel io.grpc.Channel
callOptions io.grpc.CallOptions
Restituisce
Tipo Description
PredictionServiceGrpc.PredictionServiceBlockingStub
Sostituzioni
io.grpc.stub.AbstractStub.build(io.grpc.Channel,io.grpc.CallOptions)

countTokens(CountTokensRequest request)

public CountTokensResponse countTokens(CountTokensRequest request)

Esegui un conteggio di token.

Parametro
Nome Description
request CountTokensRequest
Restituisce
Tipo Description
CountTokensResponse

directPredict(DirectPredictRequest request)

public DirectPredictResponse directPredict(DirectPredictRequest request)

Esegui una richiesta di previsione online unaaria per i prodotti e i framework proprietari di Vertex.

Parametro
Nome Description
request DirectPredictRequest
Restituisce
Tipo Description
DirectPredictResponse

directRawPredict(DirectRawPredictRequest request)

public DirectRawPredictResponse directRawPredict(DirectRawPredictRequest request)

Eseguire una richiesta di previsione online tramite gRPC.

Parametro
Nome Description
request DirectRawPredictRequest
Restituisce
Tipo Description
DirectRawPredictResponse

spiegare(richiesta ExplainRequest)

public ExplainResponse explain(ExplainRequest request)

Eseguire una spiegazione online. Se viene specificato deployed_model_id, per il modello DeployModel corrispondente deve essere compilato explanation_spec. Se deployed_model_id non è specificato, per tutti i DeployedModel deve essere compilato explanation_spec.

Parametro
Nome Description
request ExplainRequest
Restituisce
Tipo Description
ExplainResponse

predicted(richiesta PredictRequest)

public PredictResponse predict(PredictRequest request)

Eseguire una previsione online.

Parametro
Nome Description
request PredictRequest
Restituisce
Tipo Description
PredictResponse

rawPredict(RawPredictRequest request)

public HttpBody rawPredict(RawPredictRequest request)

Eseguire una previsione online con un payload HTTP arbitrario. La risposta include le seguenti intestazioni HTTP:

  • X-Vertex-AI-Endpoint-Id: ID dell'endpoint che ha fornito questa previsione.
  • X-Vertex-AI-Deployed-Model-Id: ID del modello DeployedModel dell'endpoint che ha fornito questa previsione.
Parametro
Nome Description
request RawPredictRequest
Restituisce
Tipo Description
com.google.api.HttpBody

serverStreamingPredict(StreamingPredictRequest request)

public Iterator<StreamingPredictResponse> serverStreamingPredict(StreamingPredictRequest request)

Esegui una richiesta di previsione online di streaming lato server per i flussi di dati Vertex LLM.

Parametro
Nome Description
request StreamingPredictRequest
Restituisce
Tipo Description
Iterator<StreamingPredictResponse>

streamGenerateContent(GenerateContentRequest request)

public Iterator<GenerateContentResponse> streamGenerateContent(GenerateContentRequest request)

Genera contenuti con input multimodali con supporto per lo streaming.

Parametro
Nome Description
request GenerateContentRequest
Restituisce
Tipo Description
Iterator<GenerateContentResponse>