Classe _TunableModelMixin (1.50.0)

_TunableModelMixin(model_id: str, endpoint_name: typing.Optional[str] = None)

Modello che può essere ottimizzato con l'ottimizzazione con supervisione (SFT).

Metodi

_MixinModelloTunable

_TunableModelMixin(model_id: str, endpoint_name: typing.Optional[str] = None)

Crea un LanguageModel.

Questo costruttore non deve essere chiamato direttamente. Usa invece il criterio LanguageModel.from_pretrained(model_name=...).

Parametri
Nome	Description
model_id	str Identificatore di un LLM Vertex. Esempio: "text-bison@001"
endpoint_name	typing.Optional[str] Nome della risorsa Vertex Endpoint per il modello

tune_model

tune_model(
    training_data: typing.Union[str, pandas.core.frame.DataFrame],
    *,
    corpus_data: typing.Optional[str] = None,
    queries_data: typing.Optional[str] = None,
    test_data: typing.Optional[str] = None,
    validation_data: typing.Optional[str] = None,
    batch_size: typing.Optional[int] = None,
    train_steps: typing.Optional[int] = None,
    learning_rate: typing.Optional[float] = None,
    learning_rate_multiplier: typing.Optional[float] = None,
    tuning_job_location: typing.Optional[str] = None,
    tuned_model_location: typing.Optional[str] = None,
    model_display_name: typing.Optional[str] = None,
    tuning_evaluation_spec: typing.Optional[
        vertexai.language_models.TuningEvaluationSpec
    ] = None,
    default_context: typing.Optional[str] = None,
    task_type: typing.Optional[str] = None,
    machine_type: typing.Optional[str] = None,
    accelerator: typing.Optional[str] = None,
    accelerator_count: typing.Optional[int] = None,
    accelerator_type: typing.Optional[typing.Literal["TPU", "GPU"]] = None,
    max_context_length: typing.Optional[str] = None
) -> vertexai.language_models._language_models._LanguageModelTuningJob

Ottimizza un modello in base ai dati di addestramento.

Questo metodo avvia e restituisce un job di ottimizzazione del modello asincrono. Utilizzo:

tuning_job = model.tune_model(...)
... do some other work
tuned_model = tuning_job.get_tuned_model()  # Blocks until tuning is complete

Parametro
Nome	Description
training_data	typing.Union[str, pandas.core.frame.DataFrame] Un URI per i dati di addestramento in formato TSV (per i modelli di incorporamento) o in formato di righe JSON oppure in un DataFrame Pandas.

Eccezioni
Tipo	Description
ValueError	Se il valore "tune_job_location" non è supportato
ValueError	Se il valore "tuned_model_location" non è supportato
RuntimeError	Se il modello non supporta l'ottimizzazione