Interfaccia LlmUtilityServiceGrpc.AsyncService (1.3.0)

public static interface LlmUtilityServiceGrpc.AsyncService

Servizio per le funzioni di utilità correlate agli LLM.

Metodi

computeTokens(ComputeTokensRequest request, StreamObserver<ComputeTokensResponse> responseObserver)

public default void computeTokens(ComputeTokensRequest request, StreamObserver<ComputeTokensResponse> responseObserver)

Restituisce un elenco di token in base al testo di input.

Parametri
Nome Description
request ComputeTokensRequest
responseObserver io.grpc.stub.StreamObserver<ComputeTokensResponse>

countTokens(CountTokensRequest request, StreamObserver<CountTokensResponse> responseObserver)

public default void countTokens(CountTokensRequest request, StreamObserver<CountTokensResponse> responseObserver)

Esegui un conteggio di token.

Parametri
Nome Description
request CountTokensRequest
responseObserver io.grpc.stub.StreamObserver<CountTokensResponse>