プロンプト内のトークンをカウントする

このサンプルでは、Vertex AI Gemini API を使用してプロンプト内のトークン数をカウントする方法を示しています。

さらに詳しい情報

このコードサンプルを含む詳細なドキュメントについては、以下をご覧ください。

トークン数と課金対象文字数を取得する

コードサンプル

Python

このサンプルを試す前に、Vertex AI クイックスタート: クライアントライブラリの使用にある Python の設定手順を完了してください。詳細については、Vertex AI Python API のリファレンスドキュメントをご覧ください。

Vertex AI に対する認証を行うには、アプリケーションのデフォルト認証情報を設定します。詳細については、ローカル開発環境の認証を設定するをご覧ください。

import vertexai

from vertexai.generative_models import GenerativeModel

# Initialize Vertex AI
vertexai.init(project=project_id, location=location)

# Load the model
model = GenerativeModel(model_name="gemini-1.0-pro-002")

# prompt tokens count
print(model.count_tokens("why is sky blue?"))

# Load example images
response = model.generate_content("why is sky blue?")

# response tokens count
print(response._raw_response.usage_metadata)

次のステップ

他の Google Cloud プロダクトに関連するコードサンプルの検索およびフィルタ検索を行うには、Google Cloud のサンプルをご覧ください。