このドキュメントでは、生成 AI に関連する機能、制限、リスクを考慮して、Google Cloud 向け Gemini for Google Cloud がどのように設計されているかについて説明します。
大規模言語モデルの機能とリスク
大規模言語モデル（LLM）は、次のような多くの有用なタスクを実行できます。
- 言語を翻訳する。
- テキストを要約する。
- コードとクリエイティブ ライティングを生成する。
- chatbot と仮想アシスタントを強化する。
- 検索エンジンとレコメンデーション システムを補完する。
同時に、LLM の技術的な能力が進化しているため、誤用や不正使用、意図しない結果や予期しない結果が生じる可能性があります。
LLM では、不適切なテキスト、配慮に欠けるいテキスト、事実と異なるテキストなど、予期しない出力が生成される場合があります。LLM は非常に汎用性が高いため、どのような種類の意図しない出力や予期しない出力が作成されるかを正確に予測することは困難です。
これらのリスクと複雑さを考慮して、Google Cloud 向け Gemini for Google Cloud は Google の AI に関する原則を考慮して設計されています。ただし、安全かつ責任を持って機能するように、ユーザーが Gemini for Google Cloud の制限事項を理解しておくことが重要です。
Gemini for Google Cloud の制限事項
Gemini for Google Cloud を使用する場合には、次のような制限事項があります。（ただし、これらに限定されません）。
エッジケース。エッジケースとは、トレーニング データで十分に表現されていない、一般的でない状況、まれな状況、または例外的な状況を指します。このような場合は、モデルの過度の信頼、コンテキストの解釈の誤り、不適切な出力などの Gemini の出力の制限につながる可能性があります。
モデルのハルシネーション、根拠、事実。Gemini モデルには、実世界の知識、物理的特性、または正確な理解に関する根拠と真正性が欠落している場合があります。この制限により、モデルのハルシネーションにつながる可能性があります。これにより、Gemini for Google Cloud は、もっともらしい内容であるかのように聞こえるものの、事実とは異なる、無関係、不適切、または無意味な出力を生成する場合があります。ハルシネーションには、存在しないウェブページや、これまで存在したことのないウェブサイトへのリンクの作成も含まれることがあります。詳細については、Gemini for Google Cloud により適したプロンプトを作成するをご覧ください。
データ品質とチューニング。Gemini for Google Cloud プロダクトに入力されるプロンプト データの品質、精度、バイアスは、パフォーマンスに大きな影響を与える可能性があります。ユーザーが不正確な、または誤ったプロンプトを入力すると、Gemini for Google Cloud が最適ではないレスポンスや誤ったレスポンスを返す可能性があります。
バイアス増幅。: 言語モデルによってトレーニング データに存在するバイアスが意図せず増幅されて、社会的偏見や特定のグループに対する不平等な扱いをさらに強める結果につながる可能性があります。
言語の品質。Gemini for Google Cloud は、評価済みのベンチマークに関して優れた多言語機能を有することを示していますが、ベンチマークのほとんど（すべての公平性評価を含む）はアメリカ英語によるものです。
言語モデルによって、ユーザーごとに提供されるサービスの品質が異なる場合があります。たとえば、一部の言語や言語のバリエーションでは、トレーニング データでの表現が少なくなるため、テキスト生成が効果的でない場合があります。表現の少ない英語以外の言語や英語のバリエーションでは、パフォーマンスが低下する可能性があります。
公平性のベンチマークとサブグループ。Google Research の Gemini モデルの公平性分析では、さまざまなリスクの可能性について包括的な説明はできません。たとえば、性別、人種、民族、宗教の軸に沿ったバイアスに注目していますが、分析はアメリカ英語のデータとモデルの出力に対してのみ行います。
ドメインに関する限定された専門知識。Gemini モデルは Google Cloud テクノロジーでトレーニングされていますが、高度に専門的なトピックや技術的トピックに関する正確で詳細な回答に必要な知識の深さが不足しているため、表面的または不正確な情報につながる可能性があります。
Google Cloud コンソールで [Gemini] ペインを使用する場合、Gemini は特定の環境を認識しないため、「VM を作成した直近の日時」などの質問に答えることはできません。
場合によっては、Gemini for Google Cloud はコンテキストの特定のセグメントをモデルに送信して、コンテキスト固有のレスポンスを受け取ります。たとえば、Error Reporting サービス ページの [トラブルシューティングの提案] ボタンをクリックした場合です。
Gemini の安全性と有害性に関するフィルタリング
Gemini for Google Cloud のプロンプトとレスポンスは、各ユースケースに適用される安全性属性の包括的なリストと照合されます。これらの安全属性は、利用規定に違反するコンテンツを除外することを目的としています。出力が有害であると判断された場合、レスポンスはブロックされます。
次のステップ
- コードの生成に役立つときに Gemini がソースを引用する方法の詳細を学習する。