Membangun aplikasi yang didukung LLM menggunakan LangChain

Halaman ini memperkenalkan cara membangun aplikasi yang didukung LLM menggunakan LangChain. Ringkasan di halaman ini ditautkan ke panduan prosedur di GitHub.

Apa itu LangChain?

LangChain adalah framework orkestrasi LLM yang membantu developer membangun aplikasi AI generatif atau alur kerja retrieval-augmented generation (RAG). Vertex AI menyediakan struktur, alat, dan komponen untuk menyederhanakan alur kerja LLM yang kompleks.

Untuk mengetahui informasi selengkapnya tentang LangChain, lihat halaman Google LangChain. Untuk mengetahui informasi selengkapnya tentang framework LangChain, lihat dokumentasi produk LangChain.

Komponen LangChain untuk Firestore

Firestore menawarkan antarmuka LangChain berikut:

Penyimpanan vektor untuk Firestore

Penyimpanan vektor mengambil dan menyimpan dokumen serta metadata dari database vektor. Penyimpanan vektor memberi aplikasi kemampuan untuk melakukan penelusuran semantik yang menafsirkan makna kueri pengguna. Jenis penelusuran ini disebut penelusuran vektor, dan dapat menemukan topik yang cocok dengan kueri secara konseptual. Pada waktu kueri, penyimpanan vektor mengambil vektor embedding yang paling mirip dengan embedding permintaan penelusuran. Di LangChain, penyimpanan Vektor menangani penyimpanan data tersemat dan melakukan penelusuran vektor untuk Anda.

Untuk menggunakan penyimpanan vektor di Firestore, gunakan class FirestoreVectorStore.

Untuk mengetahui informasi selengkapnya, lihat dokumentasi produk LangChain Vector Stores.

Panduan prosedur penyimpanan vektor

Panduan Firestore untuk penyimpanan vektor menunjukkan cara melakukan hal berikut:

  • Menginstal paket integrasi dan LangChain
  • Menginisialisasi tabel untuk penyimpanan vektor
  • Menyiapkan layanan penyematan menggunakan VertexAIEmbeddings
  • Lakukan inisialisasi FirestoreVectorStore
  • Memperbarui dan menghapus dokumen
  • Menelusuri dokumen serupa
  • Buat penyimpanan vektor kustom untuk terhubung ke database Firestore yang sudah ada sebelumnya dan memiliki tabel dengan penyematan vektor

Pemuat dokumen untuk Firestore

Pemuat dokumen menyimpan, memuat, dan menghapus objek Document LangChain. Misalnya, Anda dapat memuat data untuk diproses menjadi penyematan dan menyimpannya di penyimpanan vektor atau menggunakannya sebagai alat untuk memberikan konteks spesifik ke rangkaian.

Untuk memuat dokumen dari Firestore, gunakan class FirestoreLoader. Metode FirestoreLoader menampilkan satu atau beberapa dokumen dari tabel. Gunakan class FirestoreSaver untuk menyimpan dan menghapus dokumen.

Untuk mengetahui informasi selengkapnya, lihat topik Pemuat Dokumen LangChain.

Panduan prosedur pemuat dokumen

Panduan Firestore untuk pemuat dokumen menunjukkan cara:

  • Menginstal paket integrasi dan LangChain
  • Memuat dokumen dari tabel
  • Menambahkan filter ke pemuat
  • Menyesuaikan koneksi dan autentikasi
  • Menyesuaikan pembuatan Dokumen dengan menentukan konten dan metadata pelanggan
  • Cara menggunakan dan menyesuaikan FirestoreSaver untuk menyimpan dan menghapus dokumen

Histori pesan chat untuk Firestore

Aplikasi tanya jawab memerlukan histori hal-hal yang diucapkan dalam percakapan untuk memberikan konteks aplikasi dalam menjawab pertanyaan lebih lanjut dari pengguna. Class ChatMessageHistory LangChain memungkinkan aplikasi menyimpan pesan ke database dan mengambilnya saat diperlukan untuk merumuskan jawaban lebih lanjut. Pesan dapat berupa pertanyaan, jawaban, pernyataan, sapaan, atau teks lainnya yang diberikan pengguna atau aplikasi selama percakapan. ChatMessageHistory menyimpan setiap pesan dan merangkai pesan untuk setiap percakapan.

Firestore memperluas class ini dengan FirestoreChatMessageHistory.

Panduan prosedur histori pesan chat

Panduan Firestore untuk histori pesan chat menunjukkan cara:

  • Instal LangChain dan autentikasi ke Google Cloud
  • Inisialisasi class FirestoreChatMessageHistory untuk menambahkan dan menghapus pesan
  • Menggunakan klien untuk menyesuaikan koneksi dan autentikasi