AI ワークロードとは

AI / ML ワークロードは、大きく 2 つの方法で分類できます。

• AI ライフサイクルにおける段階 （データの前処理、トレーニング、推論など）
• 実行するタスクの種類 （自然言語処理やコンピュータ ビジョンなど）

これらのタイプを理解することで、技術的な意思決定者は、それぞれのタイプに必要なインフラストラクチャ、コンピューティング能力、オーケストレーション戦略を計画できます。

AI ワークロードはデジタル トランスフォーメーションの中核を担います。高い影響力を持つ実世界のアプリケーションをほぼすべての業界に提供し、データを実用的な価値に変えます。

AI ワークロードは、小売、e コマース、メディア企業のレコメンデーション エンジンを強化できます。たとえば、あるストリーミング会社では、数十億件の視聴習慣データに基づいてトレーニングされた高度な ML モデルを使用して、高度にパーソナライズされたコンテンツを提案しています。

重要な機器にセンサーを設置することで、大量の時系列データを生成できます。AI ワークロードは、このデータを継続的に分析して、数日前または数週間前に機械の故障を予測できるため、計画的なメンテナンスが可能になります。

金融機関では、ML ワークロードを使用して数百万件のトランザクションをリアルタイムで分析しています。これらのモデルは不正を示すパターンを特定でき、一部のシステムでは不正なトランザクションを高い精度と低い誤検知率で検出することが可能です。

コンピュータ ビジョンのワークロードは、X 線、CT スキャン、MRI などの医療画像の分析に使用されます。これらの AI モデルは、潜在的な異常（初期段階の腫瘍など）を検出でき、多くの場合、そのスピードと一貫性により、人間の臨床医がより迅速かつ正確な診断を下すのに役立ちます。

生成 AI モデルに基づくワークロードは、クリエイティブ分野や技術分野の変革に役立っています。マーケティング コピーの自動生成、広告用のリアルな画像合成、オンライン ミーティングの要約作成、さらには、デベロッパーを支援するコードブロックの提案や補完などに活用されています。

トレーニング済みの ML モデルを推論用にデプロイすることは、AI ワークロードを本番環境に移行するうえで重要なステップです。Vertex AI は、基盤となるインフラストラクチャを処理するマネージド サービスを提供することで、このプロセスを簡素化します。

トレーニング済みモデルを Model Registry にアップロードする

• 最初の手順は、トレーニング済みモデルのアーティファクトを取得して Vertex AI Model Registry にアップロードすることです。この中央リポジトリは、モデルを安全に保存してバージョン管理し、デプロイの準備を整えます。

マネージド エンドポイントを作成する

• 次に、モデル専用のリアルタイム HTTP サーバーであるエンドポイントを作成します。このエンドポイントは、アプリケーションが予測を取得するために呼び出す URL です。N1 CPU マシンや、高速処理のための特定の GPU タイプなど、使用するコンピューティング リソースのタイプを定義します。

エンドポイントにモデルをデプロイする

• エンドポイントを作成したら、モデルの特定のバージョンをデプロイします。このステップでは、モデルと予測サーバーコードを含むコンテナ イメージ（多くの場合、Vertex AI が提供するビルド済みのイメージ）を指定します。また、トラフィック分割を構成して、新しいモデル バージョンを完全にロールアウトする前に、ライブ トラフィックのごく一部でテストできるようにします。

オンライン予測の送受信

• デプロイが完了すると、モデルをオンライン予測に使用できます。アプリケーションは、HTTP リクエストを介してエンドポイントの URL に入力データ（ペイロード）を送信します。その後、マネージド サービスが推論ワークロードを処理し、予測や結果を準リアルタイムで返します。

エンドポイントのモニタリングと管理

• 最後のステップは継続的なモニタリングです。Vertex AI の統合ツールを使用して、エンドポイントの健全性（レイテンシ、エラー率、リソース使用率）とモデル自体のパフォーマンス（ドリフト、スキュー、予測の品質）を追跡し、推論ワークロードの信頼性と精度を長期にわたって維持します。