Menggunakan model Llama

Llama adalah kumpulan model terbuka yang dikembangkan oleh Meta yang dapat Anda sesuaikan dan deploy di Vertex AI. Llama menawarkan model teks dan multimodal generatif terlatih dan disesuaikan dengan petunjuk untuk chat seperti asisten. Anda dapat men-deploy model Llama 3.2, Llama 3.1, Llama 3, dan Llama 2 di Vertex AI.

Llama 3.2

Llama 3.2 memungkinkan developer membuat dan men-deploy model AI generatif terbaru dan aplikasi yang menggunakan kemampuan Llama untuk memicu inovasi baru, seperti penalaran gambar. Llama 3.2 juga dirancang agar lebih mudah diakses untuk aplikasi di perangkat. Daftar berikut menyoroti fitur Llama 3.2:

  • Menawarkan pengalaman AI yang lebih pribadi dan dipersonalisasi, dengan pemrosesan di perangkat untuk model yang lebih kecil.
  • Menawarkan model yang dirancang agar lebih efisien, dengan latensi yang lebih rendah dan performa yang lebih baik, sehingga cocok untuk berbagai aplikasi.
  • Dibuat di atas Llama Stack, yang mempermudah pembuatan dan deployment aplikasi. Llama Stack adalah antarmuka standar untuk mem-build komponen toolchain kanonis dan aplikasi agen.
  • Mendukung tugas visi, dengan arsitektur model baru yang mengintegrasikan representasi encoder gambar ke dalam model bahasa.

Model 1B dan 3B adalah model khusus teks ringan yang mendukung kasus penggunaan di perangkat seperti pengambilan, ringkasan, dan penulisan ulang pengetahuan lokal multibahasa.

Model Llama 11B dan 90B adalah model multimodal berukuran kecil dan sedang dengan penalaran gambar. Misalnya, model ini dapat menganalisis data visual dari diagram untuk memberikan respons yang lebih akurat dan mengekstrak detail dari gambar untuk menghasilkan deskripsi teks.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3.2 di Model Garden.

Pertimbangan

Saat menggunakan 11B dan 90B, tidak ada batasan saat Anda mengirim perintah teks saja. Namun, jika Anda menyertakan gambar dalam perintah, gambar harus berada di awal perintah, dan Anda hanya dapat menyertakan satu gambar. Anda tidak dapat, misalnya, menyertakan beberapa teks, lalu gambar.

Llama 3.1

Kumpulan model bahasa besar (LLM) multibahasa Llama 3.1 adalah kumpulan model generatif terlatih dan disesuaikan dengan petunjuk dalam ukuran 8B, 70B, dan 405B (teks masuk/teks keluar). Model khusus teks yang disesuaikan dengan petunjuk Llama 3.1 (8B, 70B, 405B) dioptimalkan untuk kasus penggunaan dialog multibahasa dan mengungguli banyak model chat tertutup dan open source yang tersedia pada benchmark industri umum.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3.1 di Model Garden.

Llama 3

Model yang disesuaikan dengan petunjuk Llama 3 adalah kumpulan LLM yang dioptimalkan untuk kasus penggunaan dialog. Model Llama 3 mengungguli banyak model chat open source yang tersedia pada benchmark industri umum.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 3 di Model Garden.

Llama 2

LLM Llama 2 adalah kumpulan model teks generatif terlatih dan disesuaikan, dengan ukuran mulai dari 7 miliar hingga 70 miliar parameter.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama 2 di Model Garden.

Code Llama

Model Code Llama Meta dirancang untuk sintesis, pemahaman, dan petunjuk kode.

Untuk mengetahui informasi selengkapnya, lihat kartu model Code Llama di Model Garden.

Llama Guard 3

Llama Guard 3 dibuat berdasarkan kemampuan Llama Guard 2, dengan menambahkan tiga kategori baru: Pencemaran Nama Baik, Pemilu, dan Penyalahgunaan Penafsir Kode. Selain itu, model ini multibahasa dan memiliki format perintah yang konsisten dengan model instruksi Llama 3 atau yang lebih baru.

Untuk mengetahui informasi selengkapnya, lihat kartu model Llama Guard di Model Garden.

Resource

Untuk mengetahui informasi selengkapnya tentang Model Garden, lihat Menjelajahi model AI di Model Garden.