Mengelola aplikasi yang di-deploy

Operasi Dasar

Anda dapat mencantumkan instance ReasoningEngine, mendapatkan instance ReasoningEngine, atau menghapus instance ReasoningEngine.

Mencantumkan instance ReasoningEngine

Vertex AI SDK untuk Python

Perintah berikut mencantumkan semua instance ReasoningEngine untuk project dan lokasi tertentu:

reasoning_engines.ReasoningEngine.list()

Kode berikut memfilter daftar instance ReasoningEngine menurut display_name:

reasoning_engines.ReasoningEngine.list(filter='display_name="DISPLAY_NAME"')

Misalnya,

reasoning_engines.ReasoningEngine.list(filter='display_name="Demo Langchain Application"')

REST

Jalankan perintah curl berikut untuk menampilkan semua instance ReasoningEngine untuk project dan lokasi tertentu:

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines

Mendapatkan instance ReasoningEngine

Setiap instance ReasoningEngine memiliki ID RESOURCE_ID unik. Untuk mempelajari lebih lanjut, lihat Men-deploy aplikasi.

Vertex AI SDK untuk Python

Kode berikut memungkinkan Anda mendapatkan resource ReasoningEngine tertentu:

remote_app = reasoning_engines.ReasoningEngine("RESOURCE_ID")

Atau, Anda dapat memberikan seluruh nama resource:

remote_app = reasoning_engines.ReasoningEngine(
"projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)

REST

Jalankan perintah curl berikut untuk mendapatkan resource ReasoningEngine tertentu:

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

Mengupdate instance ReasoningEngine

Vertex AI SDK untuk Python

Kode berikut memungkinkan Anda mengupdate instance ReasoningEngine yang ditetapkan ke variabel remote_app:

remote_app.update(
    reasoning_engine=UPDATED_AGENT_INSTANCE,  # Optional.
    requirements=REQUIREMENTS,                # Optional.
    display_name="DISPLAY_NAME",              # Optional.
    description="DESCRIPTION",                # Optional.
    extra_packages=EXTRA_PACKAGES,            # Optional.
)

Argumennya sama seperti saat Anda men-deploy aplikasi. Anda dapat menemukan detailnya di referensi API.

Catatan: Anda dapat memperbarui satu atau beberapa kolom instance ReasoningEngine secara bersamaan, tetapi Anda harus menentukan setidaknya salah satu kolom yang akan diperbarui. Jumlah waktu yang diperlukan untuk mengupdate instance akan bergantung pada update yang dilakukan, tetapi biasanya memerlukan waktu antara beberapa detik hingga beberapa menit.

REST

Jalankan perintah curl berikut untuk memperbarui nama tampilan dan deskripsi resource ReasoningEngine:

curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description" \
-d '{ "displayName": "DISPLAY_NAME", "description": "DESCRIPTION" }'

Catatan: Anda juga dapat melakukan perubahan pada kolom lain dan menentukannya di bagian update_mask saat melakukannya.

Menghapus instance ReasoningEngine

Vertex AI SDK untuk Python

Kode berikut memungkinkan Anda menghapus instance ReasoningEngine yang ditetapkan ke variabel remote_app:

remote_app.delete()

REST

Setiap instance ReasoningEngine memiliki ID RESOURCE_ID unik. Untuk mempelajari lebih lanjut, lihat Men-deploy aplikasi.

Jalankan perintah curl berikut untuk menghapus instance ReasoningEngine tertentu:

curl \
-X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

Pelacakan untuk instance LangchainAgent

Untuk mengaktifkan pelacakan aplikasi LangchainAgent, tentukan enable_tracing=True saat Anda mengembangkan aplikasi. Misalnya:

agent = reasoning_engines.LangchainAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

agent.query(input="What is the exchange rate from US dollars to Swedish currency?")

Tindakan ini akan mengekspor rekaman aktivitas ke Cloud Trace dalam project di Menyiapkan project Google Cloud.

Melihat Trace

Anda dapat menemukan trace di Trace Explorer.

Buka Trace Explorer

Diagram Gantt berikut menunjukkan hasil rekaman aktivitas aplikasi contoh dari Mengembangkan aplikasi:

 

Baris pertama dalam diagram Gantt adalah untuk rekaman aktivitas, dan ada satu baris untuk setiap span dalam rekaman aktivitas, yang menjelaskan berapa lama waktu yang diperlukan setiap sub-operasi.

Untuk mempelajari lebih lanjut, lihat dokumentasi untuk Trace Explorer.

Mengaktifkan Perekaman Aktivitas untuk Aplikasi Kustom

Untuk mengaktifkan pelacakan aplikasi kustom, Anda dapat menggunakan Integrasi Google Cloud Open Telemetry bersama dengan framework instrumentasi seperti OpenInference atau OpenLLMetry.

Kuota dan batas

Beberapa nilai atribut mungkin terpotong saat mencapai batas kuota. Untuk mengetahui detailnya, buka Kuota Cloud Trace.

Biaya

Cloud Trace memiliki paket gratis. Di luar paket gratis, buka Harga Cloud Trace.