Dokumen ini menjelaskan manfaat instrumentasi aplikasi AI generatif Anda. Panduan ini juga merangkum cara membuat instrumentasi aplikasi yang menggunakan framework LangGraph.
Tentang agen AI generatif
Aplikasi yang menggunakan AI generatif mengandalkan agen untuk menyelesaikan tugas atau mencapai sasaran. Agen adalah aplikasi yang menyelesaikan tugas atau mengejar sasaran atas nama pengguna. Misalnya, agen AI generatif dapat membuka situs dan mengeluarkan perintah API. Perintah API ini dapat mengambil informasi atau melakukan tindakan.
Agen bertindak secara otonom dan menggunakan penalaran untuk menentukan cara menguraikan sasaran atau tugas menjadi subtugas, lalu menentukan alat yang akan digunakan untuk menyelesaikan subtugas tersebut. Dalam konteks AI generatif, alat menentukan cara agen dapat berinteraksi dengan lingkungannya. Misalnya, agen mungkin memiliki alat yang memungkinkannya mengeluarkan perintah API.
Untuk mempelajari agen lebih lanjut, lihat hal berikut:
- Observabilitas Agen AI - Standar dan Praktik Terbaik yang Berkembang
- Apa yang dimaksud dengan agen AI?
Alasan untuk melengkapi aplikasi AI generatif Anda
Menginstrumentasikan aplikasi AI generatif adalah satu-satunya cara untuk memahami penalaran yang digunakan oleh agen otonom. Proses penalaran ini tidak deterministik.
Saat Anda melengkapi aplikasi AI generatif dengan instrumen, data telemetri akan menyertakan keputusan dan tindakan agen. Anda dapat menggunakan data ini untuk memvalidasi atau meningkatkan aplikasi Anda.
Cara membuat instrumentasi aplikasi AI generatif
Menginstrumentasikan aplikasi Anda melibatkan pembuatan telemetri dan pengirimannya ke tempat data dapat disimpan, dikueri, dan dianalisis. Misalnya, saat instrumentasi mengirimkan telemetri ke Google Cloud project, Anda dapat menggunakan Google Cloud Observability untuk melihat dan menganalisis data tersebut.
Contoh framework LangGraph mengilustrasikan cara menggunakan OpenTelemetry untuk melengkapi aplikasi AI generatif yang menggunakan framework LangChain atau LangGraph.
OpenTelemetry adalah project open source yang menyediakan framework terpadu untuk instrumentasi aplikasi.
Framework agen menyediakan infrastruktur yang diperlukan untuk mengembangkan aplikasi AI generatif. Framework agen menentukan cara membuat dan mendaftarkan alat, cara memilih alat yang akan dijalankan, dan cara menjalankan alat.
Cloud Trace dikonfigurasi untuk mengekstrak peristiwa dari span yang ditulis oleh aplikasi AI generatif, asalkan span tersebut sesuai dengan Konvensi semantik untuk span AI generatif OpenTelemetry dan menyertakan atribut atau peristiwa yang mengikuti Konvensi semantik untuk peristiwa AI generatif.