Classe LlmUtilityServiceGrpc.LlmUtilityServiceUsageStub (1.2.0)

public static final class LlmUtilityServiceGrpc.LlmUtilityServiceBlockingStub extends AbstractBlockingStub<LlmUtilityServiceGrpc.LlmUtilityServiceBlockingStub>

Uno stub per consentire ai client di effettuare chiamate RPC sincrone al servizio LlmUtilityService.

Servizio per le funzioni di utilità correlate agli LLM.

Ereditarietà

java.lang.Object > io.grpc.stub.AbstractStub > io.grpc.stub.AbstractBlockStub > LlmUtilityServiceGrpc.LlmUtilityServiceBlockStub

Metodi

build(Canale canale, CallOptions callOptions)

protected LlmUtilityServiceGrpc.LlmUtilityServiceBlockingStub build(Channel channel, CallOptions callOptions)
Parametri
Nome Description
channel io.grpc.Channel
callOptions io.grpc.CallOptions
Restituisce
Tipo Description
LlmUtilityServiceGrpc.LlmUtilityServiceBlockingStub
Sostituzioni
io.grpc.stub.AbstractStub.build(io.grpc.Channel,io.grpc.CallOptions)

computeTokens(ComputeTokensRequest request)

public ComputeTokensResponse computeTokens(ComputeTokensRequest request)

Restituisce un elenco di token in base al testo di input.

Parametro
Nome Description
request ComputeTokensRequest
Restituisce
Tipo Description
ComputeTokensResponse

countTokens(CountTokensRequest request)

public CountTokensResponse countTokens(CountTokensRequest request)

Esegui un conteggio di token.

Parametro
Nome Description
request CountTokensRequest
Restituisce
Tipo Description
CountTokensResponse