Praktik terbaik berikut dapat membantu Anda membuat agen yang andal.
Nama playbook dalam bahasa alami
Gunakan bahasa alami dengan makna yang jelas untuk nama playbook. Misalnya, "Customer Help Center Playbook" lebih deskriptif daripada "company_specialist", yang membantu performa AI Generator saat runtime.
Sasaran yang ringkas
Sasaran harus berupa deskripsi ringkas tentang tujuan playbook.
Memberikan petunjuk yang berkualitas
Petunjuk harus:
- mencerminkan pendekatan langkah demi langkah untuk memecahkan masalah pengguna akhir
- berupa kalimat natural language yang ringkas dari petunjuk tingkat tinggi
- sederhana dan menentukan skenario penggunaan alat
Minimal satu contoh untuk setiap playbook
Anda harus memiliki minimal satu contoh untuk setiap playbook, tetapi sebaiknya memiliki minimal empat. Contoh harus menyertakan skenario jalur yang baik.
Tanpa contoh yang memadai, playbook kemungkinan akan menghasilkan perilaku yang tidak dapat diprediksi. Jika playbook tidak merespons atau berperilaku seperti yang Anda harapkan, contoh yang tidak ada atau tidak ditentukan dengan baik mungkin menjadi penyebabnya. Coba tingkatkan contoh Anda atau tambahkan contoh baru.
Ketepatan petunjuk dan contoh
Meskipun menulis petunjuk yang jelas dan deskriptif akan membantu, kualitas dan kuantitas contoh Anda lah yang menentukan akurasi perilaku playbook. Dengan kata lain, habiskan lebih banyak waktu untuk menulis contoh yang menyeluruh daripada menulis petunjuk yang sangat akurat.
Alat referensi dalam contoh
Jika playbook dirancang untuk memberikan respons menggunakan alat, referensikan alat dalam contoh yang sesuai dengan jenis permintaan ini.
Kolom operationId
skema alat
Saat menentukan skema untuk alat Anda, nilai operationId
sangat penting.
Petunjuk playbook Anda akan mereferensikan nilai ini.
Berikut adalah rekomendasi penamaan untuk kolom ini:
- Hanya huruf, angka, dan garis bawah.
- Harus unik di antara semua
operationId
yang dijelaskan dalam skema. - Harus berupa nama yang bermakna yang mencerminkan kemampuan yang disediakan.
Validasi skema alat
Anda harus memvalidasi skema alat. Anda dapat menggunakan Swagger Editor untuk memeriksa sintaksis skema openAPI 3.0.
Menangani hasil alat kosong
Jika playbook Anda mengandalkan alat untuk menginformasikan responsnya, hasil alat yang kosong dapat menyebabkan perilaku playbook yang tidak dapat diprediksi. Terkadang, Generator AI playbook akan berhalusinasi informasi dalam respons sebagai pengganti hasil alat. Untuk mencegah hal ini, Anda dapat menambahkan petunjuk khusus untuk memastikan Pembuatan AI playbook tidak mencoba menjawabnya sendiri.
Beberapa kasus penggunaan mengharuskan respons playbook didasarkan dengan baik pada hasil alat atau data yang diberikan dan perlu memitigasi respons hanya berdasarkan pengetahuan Generator AI playbook.
Contoh petunjuk untuk mengurangi halusinasi:
- "Anda harus menggunakan alat ini untuk menjawab semua pertanyaan pengguna"
- "Jika Anda tidak mendapatkan data apa pun dari alat tersebut, balas bahwa Anda tidak tahu jawaban untuk kueri pengguna"
- "Jangan mengarang jawaban jika Anda tidak mendapatkan data apa pun dari alat tersebut"
Membuat skema dengan Gemini
Gemini dapat membuat skema untuk Anda. Misalnya, coba "dapatkah Anda membuat contoh skema openAPI 3.0 untuk Google Kalender".
Playbook terfokus
Hindari membuat playbook yang sangat besar dan rumit. Setiap playbook harus menyelesaikan tugas yang spesifik dan jelas. Jika Anda memiliki playbook yang kompleks, pertimbangkan untuk membaginya menjadi sub-playbook yang lebih kecil.
Menghindari loop dan rekursi
Jangan membuat loop atau rekursi saat menautkan agen dalam petunjuk Anda.
Memberikan informasi pemilihan rute ke contoh
Jika playbook harus dirutekan ke playbook lain, Anda harus memberikan informasi ini ke contoh. Ini diberikan ke contoh dari kolom Contoh akhir dengan informasi output dari bagian contoh Input & Output.
Misalnya, kalimat terakhir kolom ini dapat berupa "Alihkan kembali ke playbook default untuk kueri lebih lanjut".
Menggunakan fungsi JavaScript Messenger Agen Percakapan (Dialogflow CX) untuk personalisasi
Saat menggunakan Messenger Agen Percakapan (Dialogflow CX), fungsi berikut berguna untuk mengirim informasi personalisasi pengguna dari antarmuka web ke playbook:
Merencanakan performa
Fitur generatif biasanya memerlukan waktu beberapa detik atau bahkan puluhan detik untuk menghasilkan respons. Meskipun playbook meningkatkan kealamian percakapan, penting untuk mengelola waktu respons guna mempertahankan pengalaman pengguna akhir yang positif. Berikut beberapa strategi untuk mengoptimalkan performa:
Menyeimbangkan Penggunaan Fitur Generatif
Pertimbangkan dengan cermat konsekuensi antara waktu yang diperlukan untuk menjalankan beberapa fitur generatif dan nilai yang diberikannya ke percakapan. Hindari penggunaan berlebihan fitur ini jika tidak berkontribusi secara signifikan terhadap sasaran pengguna.
Meminimalkan Input fitur Generatif
Bertujuan untuk mengumpulkan dan memproses jumlah minimum informasi yang diperlukan agar Generator AI dapat menghasilkan respons yang berguna. Hal ini dapat mengurangi waktu pemrosesan secara signifikan.
Menggunakan Context Caching
Jika Anda menggunakan Gemini melalui alat dan memiliki konteks awal yang besar, pelajari informasi penyimpanan dalam cache menggunakan Penyimpanan dalam Cache Konteks Vertex AI untuk menghindari permintaan berulang untuk data yang sama. Terapkan respons tetap untuk kecepatan:
Jika aplikasi Anda tidak memerlukan konten dinamis yang unik, pertimbangkan untuk menyimpan respons yang sering digunakan dalam database tradisional seperti Firebase. Karena telah ditentukan sebelumnya dan tersedia, respons tetap ini memberikan waktu respons yang jauh lebih cepat daripada fitur generatif yang perlu menghitung jawaban dengan cepat.
Memberi petunjuk kepada AI Generator untuk membuat Respons Playbook Ringkas
Untuk input dan output teks, waktu respons AI Generator sangat bergantung pada model yang digunakan dan panjang output. Respons singkat dapat meningkatkan performa secara signifikan. Meskipun panjang input juga menjadi faktor, panjang output memiliki dampak yang lebih besar.
Respons Streaming:
Streaming respons playbook kembali ke klien Dialogflow, yang pada gilirannya mengalirkan respons ke pengguna akhir. Hal ini berbeda dengan menunggu seluruh respons dibuat sebelum mengirim bagian mana pun. Respons streaming memberikan pengalaman pengguna yang lebih baik dengan mengirimkan respons sebagian saat tersedia. Pendekatan ini meminimalkan latensi yang dirasakan dan mengurangi waktu tunggu pengguna.