public static interface LlmUtilityServiceGrpc.AsyncServiceServizio per le funzioni di utilità correlate agli LLM.
Metodi
computeTokens(ComputeTokensRequest request, StreamObserver<ComputeTokensResponse> responseObserver)
public default void computeTokens(ComputeTokensRequest request, StreamObserver<ComputeTokensResponse> responseObserver)Restituisce un elenco di token in base al testo di input.
| Parametri | |
|---|---|
| Nome | Description |
request |
ComputeTokensRequest |
responseObserver |
io.grpc.stub.StreamObserver<ComputeTokensResponse> |
countTokens(CountTokensRequest request, StreamObserver<CountTokensResponse> responseObserver)
public default void countTokens(CountTokensRequest request, StreamObserver<CountTokensResponse> responseObserver)Esegui un conteggio di token.
| Parametri | |
|---|---|
| Nome | Description |
request |
CountTokensRequest |
responseObserver |
io.grpc.stub.StreamObserver<CountTokensResponse> |