public static interface LlmUtilityServiceGrpc.AsyncService
Servizio per le funzioni di utilità correlate agli LLM.
Metodi
computeTokens(ComputeTokensRequest request, StreamObserver<ComputeTokensResponse> responseObserver)
public default void computeTokens(ComputeTokensRequest request, StreamObserver<ComputeTokensResponse> responseObserver)
Restituisce un elenco di token in base al testo di input.
Parametri | |
---|---|
Nome | Description |
request |
ComputeTokensRequest |
responseObserver |
io.grpc.stub.StreamObserver<ComputeTokensResponse> |
countTokens(CountTokensRequest request, StreamObserver<CountTokensResponse> responseObserver)
public default void countTokens(CountTokensRequest request, StreamObserver<CountTokensResponse> responseObserver)
Esegui un conteggio di token.
Parametri | |
---|---|
Nome | Description |
request |
CountTokensRequest |
responseObserver |
io.grpc.stub.StreamObserver<CountTokensResponse> |