Pengantar class model bahasa di Vertex AI SDK

Anda dapat menggunakan Vertex AI SDK untuk Python guna membuat solusi secara terprogram menggunakan model dasar bahasa Vertex AI. Vertex AI SDK mencakup class untuk pembuatan teks, chat teks, embedding teks, pembuatan kode, chat kode, dan model penyelesaian kode.

Guna mempelajari cara menginstal Vertex AI SDK untuk Python, lihat Menginstal Vertex AI SDK untuk Python. Untuk melihat bagian model bahasa dalam panduan referensi Vertex AI SDK, lihat Model bahasa paket.

Model bahasa yang direpresentasikan dalam Vertex AI SDK merupakan tambahan bagi class yang membantu Anda membuat solusi Vertex AI yang tidak berkaitan dengan model bahasa dan AI generatif. Untuk informasi tentang cara menggunakan Vertex AI SDK untuk mengotomatiskan penyerapan data, melatih model, dan mendapatkan prediksi di Vertex AI, lihat Pengantar Vertex AI SDK untuk Python.

Ringkasan class model bahasa

Vertex AI SDK menyertakan class model bahasa yang membantu Anda menyelesaikan tugas AI generatif umum. Berikut adalah class model yang digunakan untuk bekerja dengan model dasar yang tersedia di Vertex AI:

  • ChatModel — Gunakan class ini untuk bekerja dengan model dasar chat teks. Nama versi stabil saat ini dari model ini adalah chat-bison@002.
  • CodeChatModel — Gunakan class ini untuk bekerja dengan model dasar chat kode Nama versi stabil saat ini dari model ini adalah codechat-bison@002.
  • CodeGenerationModel — Gunakan class ini untuk menangani pembuatan kode dan model dasar penyelesaian kode. Nama versi stabil saat ini dari model pembuatan kode adalah code-bison@002 dan nama versi stabil saat ini dari model penyelesaian kode adalah code-gecko@001.
  • TextEmbeddingModel — Gunakan class ini untuk bekerja dengan model dasar embedding teks. Nama versi stabil saat ini dari model pembuatan kode adalah textembedding-gecko@003.
  • TextGenerationModel praktis Gunakan class ini untuk mengerjakan model dasar pembuatan teks. Nama-nama versi stabil saat ini dari model pembuatan teks adalah text-bison@002 dan text-unicorn@001.

Memuat model dasar

Untuk mulai menggunakan Vertex AI SDK agar dapat bekerja dengan model dasar, Anda harus memuat instance model. Untuk memuat model, gunakan metode from_pretrained pada class model bahasa. Model dasar juga dikenal sebagai model terlatih. Saat Anda memanggil from_pretrained, tentukan versi stabil atau versi terbaru dari model yang ingin Anda gunakan. Untuk mengetahui informasi selengkapnya tentang versi stabil dan terbaru, serta bagaimana versi tersebut ditentukan dalam kode, lihat Siklus proses dan versi model.

Baris contoh dari kode Python berikut menunjukkan cara memuat model dasar.

  • Dapatkan versi 001 dari versi stabil model chat kode terlatih:

    from vertexai.language_models import ChatModel

my_chat_model = ChatModel.from_pretrained("chat-bison@002")

  • Dapatkan versi terbaru model pembuatan teks:

    from vertexai.language_models import TextGenerationModel

my_text_generation_model = TextGenerationModel.from_pretrained("text-bison")

Setelah menggunakan Vertex AI SDK untuk memuat model, Anda dapat menggunakan model tersebut untuk membuat solusi AI generatif. Beberapa tugas yang dapat Anda lakukan dengan model yang dimuat adalah membuat konten teks dan kode, melakukan streaming konten, membuat sesi chat teks atau kode, menyesuaikan model, mendapatkan embedding, dan membuat prediksi batch. Tugas spesifik yang dapat Anda lakukan bergantung pada jenis model yang Anda muat.

Langkah selanjutnya