Menjalankan inferensi LLM di GPU Cloud Run dengan Hugging Face Transformers.js (layanan)

Codelab berikut menunjukkan cara menjalankan layanan backend yang menjalankan paket Transformers.js. Paket Transformers.js secara fungsional setara dengan library python transformers Hugging Face bersama dengan model Gemma 2 Google.

Kecuali dinyatakan lain, konten di halaman ini dilisensikan berdasarkan Lisensi Creative Commons Attribution 4.0, sedangkan contoh kode dilisensikan berdasarkan Lisensi Apache 2.0. Untuk mengetahui informasi selengkapnya, lihat Kebijakan Situs Google Developers. Java adalah merek dagang terdaftar dari Oracle dan/atau afiliasinya.

Terakhir diperbarui pada 2024-11-27 UTC.