Membangun aplikasi yang didukung LLM menggunakan LangChain

Halaman ini memperkenalkan cara membangun aplikasi yang didukung LLM menggunakan LangChain. Ringkasan di halaman ini ditautkan ke panduan prosedur di GitHub.

Apa itu LangChain?

LangChain adalah framework orkestrasi LLM yang membantu developer membangun aplikasi AI generatif atau alur kerja retrieval-augmented generation (RAG). Vertex AI menyediakan struktur, alat, dan komponen untuk menyederhanakan alur kerja LLM yang kompleks.

Untuk mengetahui informasi selengkapnya tentang LangChain, lihat halaman Google LangChain. Untuk mengetahui informasi selengkapnya tentang framework LangChain, lihat dokumentasi produk LangChain.

Komponen LangChain untuk Cloud SQL for SQL Server

Cloud SQL untuk SQL Server menawarkan antarmuka LangChain berikut:

Pelajari cara menggunakan LangChain dengan Panduan memulai LangChain untuk Cloud SQL untuk SQL Server.

Pemuat dokumen untuk Cloud SQL untuk SQL Server

Pemuat dokumen menyimpan, memuat, dan menghapus objek LangChain Document. Misalnya, Anda dapat memuat data untuk diproses menjadi embedding dan menyimpannya di penyimpanan vektor atau menggunakannya sebagai alat untuk memberikan konteks tertentu ke rantai.

Untuk memuat dokumen dari pemuat dokumen di Cloud SQL untuk SQL Server, gunakan class MSSQLLoader. Metode MSSQLLoader menampilkan satu atau beberapa dokumen dari tabel. Gunakan class MSSQLDocumentSaver untuk menyimpan dan menghapus dokumen.

Untuk mengetahui informasi selengkapnya, lihat topik Pemuat Dokumen LangChain.

Panduan prosedur pemuat dokumen

Panduan Cloud SQL untuk SQL Server bagi pemuat dokumen menunjukkan cara melakukan hal berikut:

  • Menginstal paket integrasi dan LangChain
  • Memuat dokumen dari tabel
  • Menambahkan filter ke pemuat
  • Menyesuaikan koneksi dan autentikasi
  • Menyesuaikan pembuatan Dokumen dengan menentukan konten dan metadata pelanggan
  • Cara menggunakan dan menyesuaikan MSSQLDocumentSaver untuk menyimpan dan menghapus dokumen

Histori pesan chat untuk Cloud SQL untuk SQL Server

Aplikasi tanya jawab memerlukan histori hal-hal yang diucapkan dalam percakapan untuk memberikan konteks aplikasi dalam menjawab pertanyaan lebih lanjut dari pengguna. Class ChatMessageHistory LangChain memungkinkan aplikasi menyimpan pesan ke database dan mengambilnya saat diperlukan untuk merumuskan jawaban lebih lanjut. Pesan dapat berupa pertanyaan, jawaban, pernyataan, sapaan, atau teks lainnya yang diberikan pengguna atau aplikasi selama percakapan. ChatMessageHistory menyimpan setiap pesan dan mengaitkan pesan untuk setiap percakapan.

Cloud SQL untuk SQL Server memperluas class ini dengan MSSQLChatMessageHistory.

Panduan prosedur histori pesan chat

Panduan Cloud SQL untuk SQL Server terkait histori pesan chat menunjukkan cara melakukan hal berikut:

  • Instal LangChain dan autentikasi ke Google Cloud
  • Buat objek MSSQLEngine dan konfigurasi pool koneksi ke database Cloud SQL for SQL Server Anda
  • Menginisialisasi tabel
  • Inisialisasi class MSSQLChatMessageHistory untuk menambahkan dan menghapus pesan
  • Membuat rangkaian untuk histori pesan menggunakan LangChain Expression Language (LCEL) dan model chat Vertex AI Google