AI & 機械学習

Anthropic の Claude 3 Opus とツール使用を Vertex AI 上で一般提供開始

2024年6月11日

https://storage.googleapis.com/gweb-cloudblog-publish/images/image1_A1zLY0S.max-2000x2000.jpg

Nenshad Bardoliwalla

Director, Product Management, Vertex AI

※この投稿は米国時間 2024 年 6 月 1 日に、Google Cloud blog に投稿されたものの抄訳です。

この 4 月、Anthropic 最高水準のインテリジェンスを備えたモデル Claude 3 Opus を Vertex AI Model Garden のプレビュー版で公開し、試験的な使用が可能になりました。本日は、Vertex AI にて Claude 3 Opus を一般提供することを発表いたします。また、Vertex AI に構築される Claude 3 の全モデルでツール使用が利用可能となったこともお知らせします。これによって、よりエージェント的なワークフローとプロビジョニングされたスループットが実現し、エンタープライズグレードの信頼性とパフォーマンスを発揮できます。

Claude 3 Opus の登場は画期的なことで、Claud 3 ファミリーのモデル（Opus、Sonnet、Haiku）はすべて Vertex AI 上で一般提供されることになりました。

Claude 3 Opus: 現時点で Anthropic 最高水準の性能とインテリジェンスを備えたモデルであり、詳細な分析、調査、タスクの自動化など複雑なタスクをナビゲートするのに最適です。
Claude 3 Sonnet: Anthropic 最高水準のスキルとスピードを組み合わせ、インテリジェントな仮想アシスタントや chatbot の実現など、大規模な AI のデプロイに最適です。
Claude 3 Haiku: Anthropic 最高水準の高速性とコンパクトさを備えたモデルで、迅速な応答と効率的なリソース利用が求められるアプリケーションに最適です。

各業界における Opus のユースケース

Claude 3 Opus は、優れた理解力と流暢さを備え、複雑なタスクを処理できるように設計されています。アプリケーションの例として、次のようなものがあります。

金融機関が Opus を活用すると、高度な市場分析、複雑な財務モデリング、自動化されたコンプライアンスプロセス、堅牢なリスク管理戦略が可能になります。
ライフサイエンス分野で Opus を活用すると、文献統合による新薬の開発が加速し、新たな患者治療の研究が進み、診査仮説の生成もできます。
Opus を活用すると、内部業務全般にわたって以前のコードベース全体の移行がスムーズになり、一般的なワークフローとタスクが自動化されるとともに、シームレスなプロセスオートメーションによって生産性が向上します。

プロビジョニングされたスループットによるパフォーマンスの確実性

Vertex AI は、Anthropic の Claude 3 モデル向けにプロビジョニングされたスループットを提供しており、パフォーマンスとコストの予測可能性を保証するサブスクリプションベースの料金モデルを実現しています。既存の従量課金制オプションも引き続きご利用いただけます。プロビジョニングされたスループットには次のような利点があります。

容量とパフォーマンスの確実性: Google がサポートする可用性と優先的な実行による信頼性を備え、必要なスループット（トークン/秒）を予約して一貫した低レイテンシを実現します。
コストの予測可能性: 価格を固定することで、AI ワークロードの予算編成と予測を簡素化します。
柔軟性: ベースロード容量用にプロビジョニングされたスループットと超過需要用の従量課金制を組み合わせ、コストとパフォーマンスを最適化します。

プロビジョニングされたスループットを開始するには、Google Cloud の営業担当者にお問い合わせください。

ツール使用: Claude の性能を拡張する

ツール使用（関数呼び出し）により、基盤モデルは、外部のデータソース、API などのツールと自律的にインタラクトできるようになります。これにより Claude は自律エージェントとして動作することができ、活用するツールを判断して一連のインタラクションを実行し、リアルタイムのデータや計算を必要とする複雑な目標を達成できます。

Claude をより正確に制御し、ツールの使用方法を柔軟に定義したいチームは以下をご活用ください。

ツール使用ストリーミング: エンドユーザーが感じる待ち時間と実際の待ち時間を短縮し、より魅力的で人間らしいインタラクションを構築します。
強制的なツール使用: 任意のツールを使用するのか、常に 1 つのツールを使用するのか、定義した特定のツールを使用するのかなど、さまざまなシナリオで適切なツールを確実に選択するよう Claude に指示します。
画像: ツールは画像を扱います。画像を扱う際には常に事前定義した形式に従うこと、ライブアシスタントやチャットアプリケーションの一部として画像入力を組み込むことを、Claude に指示できます。

ツール使用と Google API

開発者は、Claude 3 モデルの能力を活用し、Google の広範な API やサービスなどの外部ツールと組み合わせることもできるようになりました。以下の例では、Google Places API を Claude のツールとして提供し、価格と営業時間をもとに近隣の飲食店を検索する機能を有効にする手順を示しています。

コードで AnthropicVertex をクライアント設定し、入力スキーマで Google Places API ツールを定義します。その後、Claude にメッセージを送信し、提供されたツールを使用してサンフランシスコで営業中の手頃なおいしいイタリアンレストランを検索するよう指示します。

読み込んでいます...

from anthropic import AnthropicVertex

MODEL = "claude-3-opus@20240229"
PROJECT_ID = 'your-project-id'
REGION = "us-east5"

client = AnthropicVertex(region=REGION, project_id=PROJECT_ID)
response = client.messages.create(
    model = MODEL,
    max_tokens = 1024,
    tools = [
      {
        "name": "text_search_places_api",
        "description": "returns information about a set of places based on a string",
        "input_schema": {
          "type": "object",
          "properties": {
            "textQuery": {
              "type": "string",
              "description": "The text string on which to search"
            },
            "priceLevels": {
              "type": "array",
              "description": "Price levels to query places, value can be one of [PRICE_LEVEL_INEXPENSIVE, PRICE_LEVEL_MODERATE, PRICE_LEVEL_EXPENSIVE, PRICE_LEVEL_VERY_EXPENSIVE]",
            },
            "openNow": {
              "type": "boolean",
              "description": "whether those places are open for business."
            },
          },
          "required": ["textQuery"]
        }
      }
    ],
    messages = [
      {
        "role": "user",
        "content": "What are some affordable and good Italian restaurants open now in San Francisco??"
      }
    ],
)
print(response)

読み込んでいます...

#Claude response
Message(
id =
  'msg_vrtx_01PVYodbvgeRibsC8mppez8m',
  content = [
    TextBlock(
      text =
      '<thinking>\nTo find affordable and good Italian restaurants open now in San Francisco, I will need to use the text_search_places_api tool. Let\'s look at the required parameters:\n\ntextQuery (required): The user\'s request provides a good text query to search for - "affordable and good Italian restaurants in San Francisco". So this parameter is satisfied.\n\nopenNow (optional): The user specified they want places open now, so I should set this optional parameter to true.\n\npriceLevels (optional): The user asked for affordable restaurants. Translating "affordable" to price levels, I think it\'s reasonable to include PRICE_LEVEL_INEXPENSIVE and PRICE_LEVEL_MODERATE. The user didn\'t ask for a specific price level, so I don\'t need to include the more expensive levels.\n\nIn summary, I have enough information to make the text_search_places_api call with the textQuery and openNow parameters, and can reasonably infer values for the optional priceLevels parameter based on the user\'s request for "affordable" restaurants. No other tools are needed to answer this query.\n</thinking>',
      type = 'text'
    ),
    ToolUseBlock(id =
      'toolu_vrtx_01AUxyh2YPF8uW6vxQx63hh4',
      input = {
        'textQuery': 'affordable and good Italian restaurants in San Francisco',
        'openNow': True,
        'priceLevels': [
          'PRICE_LEVEL_INEXPENSIVE',
          'PRICE_LEVEL_MODERATE'
        ]
      },
      name = 'text_search_places_api',
      type = 'tool_use')
  ], model = 'claude-3-opus-20240229',
  role = 'assistant', stop_reason =
  'tool_use', stop_sequence = None,
  type = 'message', usage = Usage(
    input_tokens = 727, output_tokens =
    372)
)

Vertex AI を使用した統合 AI プラットフォームの構築

Vertex AI は、大規模 AI モデルを構築、デプロイ、管理するための包括的なエンタープライズ向けプラットフォームを提供します。Vertex AI 上に構築することで、何の不安もなく Claude 3 モデルの能力を活用しながら、生成 AI ワークフローの一部始終をサポートするように設計された統合 AI 開発プラットフォームも利用できます。

Vertex AI の生成 AI ツールを使用してアプリケーションを構築: Vertex AI は生成 AI アプリケーションを開発、評価、デプロイする統合環境を提供します。たとえば、モデル評価向けの Auto SxS、カスタムアプリケーションを構築するためのLangChain インテグレーション、反復的な開発のための Colab Enterprise などがあります。
パフォーマンスとコストの最適化: Vertex AI のスケーラブルなインフラストラクチャと柔軟な価格モデルにより、生成 AI アプリケーションの効率的な試行、デプロイ、拡張が可能になります。
BigQuery でデータの力を最大化: BigQuery のようなツールを活用することで、エンタープライズデータを Claude 3 の高度な機能とシームレスに統合し、重要な分析情報を引き出して情報に基づいた意思決定を促します。
エンタープライズ グレードのセキュリティ、コンプライアンス、データ ガバナンスを備えた責任あるデプロイ: エンタープライズレベルの基準に準拠するようカスタマイズされた、Google Cloud の組み込みのセキュリティ、プライバシー、データガバナンス、コンプライアンスの機能を活用します。

Vertex AI での Claude 3 ご利用方法

Vertex AI Model Garden にアクセスし、[Browse Model Garden] を選択します。
基盤モデルのセクションに移動します。
利用可能なモデルから、Claude 3 Opus、Claude 3 Sonnet、あるいは Claude 3 Haiku タイルを選択します。
[有効にする] を選択し、手順に沿って操作します。
これで、Opus をワークフローに統合するための API アクセスが可能になります。Vertex AI の包括的なツールを使用して、AI アプリケーションをデプロイし、そのパフォーマンスを監視します。開始にあたって、サンプルノートブックをご利用ください。