Classe PredictionServiceGrpc.PredictionServiceStub (0.5.0)

public static final class PredictionServiceGrpc.PredictionServiceStub extends AbstractAsyncStub<PredictionServiceGrpc.PredictionServiceStub>

Uno stub per consentire ai client di effettuare chiamate RPC asincrone al servizio PredictionService.

Un servizio per previsioni e spiegazioni online.

Ereditarietà

java.lang.Object > io.grpc.stub.AbstractStub > io.grpc.stub.AbstractAsyncStub > PredictionServiceGrpc.PredictionServiceStub

Metodi

build(Canale canale, CallOptions callOptions)

protected PredictionServiceGrpc.PredictionServiceStub build(Channel channel, CallOptions callOptions)
Parametri
Nome Description
channel io.grpc.Channel
callOptions io.grpc.CallOptions
Restituisce
Tipo Description
PredictionServiceGrpc.PredictionServiceStub
Sostituzioni
io.grpc.stub.AbstractStub.build(io.grpc.Channel,io.grpc.CallOptions)

directPredict(DirectPredictRequest request, StreamObserver<DirectPredictResponse> responseObserver)

public void directPredict(DirectPredictRequest request, StreamObserver<DirectPredictResponse> responseObserver)

Esegui una richiesta di previsione online unaria a un server del modello gRPC per i prodotti e i framework proprietari di Vertex.

Parametri
Nome Description
request DirectPredictRequest
responseObserver io.grpc.stub.StreamObserver<DirectPredictResponse>

directRawPredict(DirectRawPredictRequest request, StreamObserver<DirectRawPredictResponse> responseObserver)

public void directRawPredict(DirectRawPredictRequest request, StreamObserver<DirectRawPredictResponse> responseObserver)

Eseguire una richiesta di previsione online unaria a un server del modello gRPC per i container personalizzati.

Parametri
Nome Description
request DirectRawPredictRequest
responseObserver io.grpc.stub.StreamObserver<DirectRawPredictResponse>

spiegare(richiesta ExplainRequest, StreamObservationr<ExplainResponse> responseExampler)

public void explain(ExplainRequest request, StreamObserver<ExplainResponse> responseObserver)

Eseguire una spiegazione online. Se viene specificato deployed_model_id, per il modello DeployModel corrispondente deve essere compilato explanation_spec. Se deployed_model_id non è specificato, per tutti i DeployedModel deve essere compilato explanation_spec.

Parametri
Nome Description
request ExplainRequest
responseObserver io.grpc.stub.StreamObserver<ExplainResponse>

generateContent(GenerateContentRequest request, StreamObserver<GenerateContentResponse> responseObserver)

public void generateContent(GenerateContentRequest request, StreamObserver<GenerateContentResponse> responseObserver)

Genera contenuti con input multimodali.

Parametri
Nome Description
request GenerateContentRequest
responseObserver io.grpc.stub.StreamObserver<GenerateContentResponse>

predicted(PredictRequest request, StreamObservationr<PredictResponse> responseObservationr)

public void predict(PredictRequest request, StreamObserver<PredictResponse> responseObserver)

Eseguire una previsione online.

Parametri
Nome Description
request PredictRequest
responseObserver io.grpc.stub.StreamObserver<PredictResponse>

rawPredict(RawPredictRequest request, StreamObserver<HttpBody> responseObserver)

public void rawPredict(RawPredictRequest request, StreamObserver<HttpBody> responseObserver)

Eseguire una previsione online con un payload HTTP arbitrario. La risposta include le seguenti intestazioni HTTP:

  • X-Vertex-AI-Endpoint-Id: ID dell'endpoint che ha fornito questa previsione.
  • X-Vertex-AI-Deployed-Model-Id: ID del modello DeployedModel dell'endpoint che ha fornito questa previsione.
Parametri
Nome Description
request RawPredictRequest
responseObserver io.grpc.stub.StreamObserver<com.google.api.HttpBody>

serverStreamingPredict(StreamingPredictRequest request, StreamObserver<StreamingPredictResponse> responseObserver)

public void serverStreamingPredict(StreamingPredictRequest request, StreamObserver<StreamingPredictResponse> responseObserver)

Esegui una richiesta di previsione online di streaming lato server per i flussi di dati Vertex LLM.

Parametri
Nome Description
request StreamingPredictRequest
responseObserver io.grpc.stub.StreamObserver<StreamingPredictResponse>

streamDirectPredict(StreamObserver<StreamDirectPredictResponse> responseObserver)

public StreamObserver<StreamDirectPredictRequest> streamDirectPredict(StreamObserver<StreamDirectPredictResponse> responseObserver)

Esegui una richiesta di previsione online di flussi di dati a un server del modello gRPC per i prodotti e i framework proprietari di Vertex.

Parametro
Nome Description
responseObserver io.grpc.stub.StreamObserver<StreamDirectPredictResponse>
Restituisce
Tipo Description
io.grpc.stub.StreamObserver<StreamDirectPredictRequest>

streamDirectRawPredict(StreamObserver<StreamDirectRawPredictResponse> responseObserver)

public StreamObserver<StreamDirectRawPredictRequest> streamDirectRawPredict(StreamObserver<StreamDirectRawPredictResponse> responseObserver)

Esegui una richiesta di previsione online di flussi di dati a un server del modello gRPC per i container personalizzati.

Parametro
Nome Description
responseObserver io.grpc.stub.StreamObserver<StreamDirectRawPredictResponse>
Restituisce
Tipo Description
io.grpc.stub.StreamObserver<StreamDirectRawPredictRequest>

streamGenerateContent(GenerateContentRequest request, StreamObserver<GenerateContentResponse> responseObserver)

public void streamGenerateContent(GenerateContentRequest request, StreamObserver<GenerateContentResponse> responseObserver)

Genera contenuti con input multimodali con supporto per lo streaming.

Parametri
Nome Description
request GenerateContentRequest
responseObserver io.grpc.stub.StreamObserver<GenerateContentResponse>

streamRawPredict(StreamRawPredictRequest request, StreamObserver<HttpBody> responseObserver)

public void streamRawPredict(StreamRawPredictRequest request, StreamObserver<HttpBody> responseObserver)

Eseguire una previsione online in modalità flusso con un payload HTTP arbitrario.

Parametri
Nome Description
request StreamRawPredictRequest
responseObserver io.grpc.stub.StreamObserver<com.google.api.HttpBody>

streamingPredict(StreamObserver<StreamingPredictResponse> responseObserver)

public StreamObserver<StreamingPredictRequest> streamingPredict(StreamObserver<StreamingPredictResponse> responseObserver)

Esegui una richiesta di previsione online di flussi di dati per prodotti e framework proprietari di Vertex.

Parametro
Nome Description
responseObserver io.grpc.stub.StreamObserver<StreamingPredictResponse>
Restituisce
Tipo Description
io.grpc.stub.StreamObserver<StreamingPredictRequest>

streamingRawPredict(StreamObserver<StreamingRawPredictResponse> responseObserver)

public StreamObserver<StreamingRawPredictRequest> streamingRawPredict(StreamObserver<StreamingRawPredictResponse> responseObserver)

Eseguire una richiesta di previsione online di flussi di dati tramite gRPC.

Parametro
Nome Description
responseObserver io.grpc.stub.StreamObserver<StreamingRawPredictResponse>
Restituisce
Tipo Description
io.grpc.stub.StreamObserver<StreamingRawPredictRequest>