Cloud SQL インスタンスからオンライン予測を呼び出す

MySQL | PostgreSQL | SQL Server

プレビュー版 - Cloud SQL for MySQL integration with Vertex AI

この機能は、サービス固有の規約の「一般サービス規約」セクションの「一般提供前サービス規約」の対象となります。お客様はこの機能の個人データを Cloud のデータ処理に関する追加条項に記載されているとおりに処理できます。ただし、Google Cloud へのアクセスに関する契約に記載されている義務と制限事項が適用されます。 pre-GA の機能は「現状のまま」で提供されるものであり、サポートが制限されることがあります。詳細については、リリースステージの説明をご覧ください。

このページでは、Cloud SQL インスタンスからオンライン予測を呼び出す方法について説明します。

Cloud SQL では、mysql.ml_predict_row() 関数を呼び出すことで、SQL コードでオンライン予測を取得できます。詳細については、Cloud SQL を使用して生成 AI アプリケーションを作成するをご覧ください。

始める前に

Cloud SQL インスタンスからオンライン予測を呼び出すには、データベースを準備して、適切な ML モデルを選択する必要があります。

データベースを準備する

データベースを準備するには、Cloud SQL と Vertex AI の統合を設定します。

ML モデルを選択する

mysql.ml_predict_row() 関数を呼び出すときに、ML モデルの場所を指定する必要があります。指定するモデルは次のいずれかです。

Vertex AI Model Garden で実行されているモデル。

mysql.ml_predict_row() 関数は、表形式モデルまたはカスタムモデルでのみ予測の呼び出しをサポートしています。
Identity and Access Management（IAM）のアクセス権限があるアクティブなエンドポイントを持つ Vertex AI モデル。

Cloud SQL は、オンライン予測を取得するためのプライベートエンドポイントをサポートしていません。

オンライン予測を呼び出す

mysql.ml_predict_row() SQL 関数を使用して、データに対するオンライン予測を呼び出すことができます。

関数の最初の引数の形式は、使用する ML モデルが Vertex AI Model Garden にあるか、 Google Cloud プロジェクトで実行されているエンドポイントかによって異なります。

Vertex AI Model Garden でモデルを使用する

Vertex AI Model Garden で実行されている ML モデルを使用してオンライン予測を呼び出すには、mysql.ml_predict_row() SQL 関数に次の構文を使用します。

SELECT mysql.ML_PREDICT_ROW('publishers/google/models/MODEL_ID', '{ "instances": [ INSTANCES ], "parameters":
PARAMETERS }');

次のように置き換えます。

MODEL_ID: 使用する ML モデルの ID（例: gemini-2.0）
INSTANCES: JSON 形式の予測呼び出しの入力
PARAMETERS: JSON 形式の予測呼び出しのパラメータ

SELECT mysql.ML_PREDICT_ROW('publishers/google/models/MODEL_ID', '{ "instances": [ INSTANCES ], "parameters":
PARAMETERS }');

モデルの JSON レスポンスメッセージについては、生成 AI の基盤モデルのリファレンスをご覧ください。例については、呼び出しの例をご覧ください。

Vertex AI モデルエンドポイントを使用する

Vertex AI モデルエンドポイントを使用してオンライン予測を呼び出すには、mysql.ml_predict_row() SQL 関数に次の構文を使用します。

SELECT mysql.ML_PREDICT_ROW('endpoints/ENDPOINT_ID', '{ "instances": [ INSTANCES ], "parameters":
PARAMETERS }');

次の項目を置き換えます。

ENDPOINT_ID: モデルのエンドポイントの ID
INSTANCES: JSON 形式の予測呼び出しの入力
PARAMETERS: JSON 形式の予測呼び出しのパラメータ

モデルの JSON レスポンスメッセージについては、PredictResponse をご覧ください。

呼び出しの例

次の例では、Model Garden で利用可能な PaLM 2 for Text を使用して、mysql.ml_predict_row() にリテラル引数として指定された短いプロンプトに基づいてテキストを生成します。

sql
select mysql.ML_PREDICT_ROW('publishers/google/models/gemini-2.0-flash:generateContent', '{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "Write me a short poem about MySQL"
    }]
  }]
}');

レスポンスは JSON オブジェクトです。オブジェクトの形式の詳細については、レスポンス本文をご覧ください。

次の例では、前の例を次のように変更しています。

この例では、現在のデータベースの messages.message 列の内容を入力として使用します。
この例では、関数のパラメータをフォーマットする際に json_object() 関数を使用する方法を示しています。

select mysql.ML_PREDICT_ROW('projects/PROJECT_ID/locations/us-central1/publishers/google/models/text-bison', json_object('instances', json_object('prompt', message), 'parameters', json_object('maxOutputTokens', 1024,'topK', 40,'topP', 0.8,'temperature', 0.2))) from messages;

messages テーブルの各行について、返された JSON オブジェクトの predictions 配列に 1 つのエントリが含まれるようになりました。

レスポンスは JSON オブジェクトであるため、特定のフィールドを取得できます。

select JSON_EXTRACT(mysql.ml_PREDICT_ROW('publishers/google/models/gemini-2.0-flash:generateContent', JSON_OBJECT(
  'contents', JSON_ARRAY(
    JSON_OBJECT(
      'role', 'user',
      'parts', JSON_ARRAY(
        JSON_OBJECT(
          'text', message
        )
      )
    )
  )
)), '$.candidates[0].content.parts[0].text') from messages;

ml_predict_row() の引数の例については、Vertex AI Gemini API を試すをご覧ください。