Public Sector

責任ある AI: 公共部門におけるイノベーションの促進

2024年7月2日

https://storage.googleapis.com/gweb-cloudblog-publish/images/TLH_Pillar_Hero.max-1600x1600.png

Adelina Cooke

Government Affairs & Public Policy Senior Manager, Google Public Sector

Google AI for Public Sector

Empowering an Adaptive, Responsible, Secure, and Intelligent way forward

Learn more

※この投稿は米国時間 2024 年 6 月 26 日に、Google Cloud blog に投稿されたものの抄訳です。

このブログシリーズでは、AI がどのように行政サービスを変革しているかについて、Google Public Sector のリーダーたちが専門知識を共有します。適応性と安全性を備えた Google のインテリジェントな責任ある AI ソリューションを活用して、行政機関がより良いサービスを住民に提供する方法をご紹介します。また、Google のソート リーダーシップ ハブでは、公共サービスに関する革新的なアイデアをご確認いただけます。

AI の影響力の高まり: あらゆるレベルでの変革を促進

人工知能（AI）は、連邦レベルでのサービス提供の効率化から州や地方レベルでの先進研究の促進および市民サービスの向上に至るまで、公共部門の業務のあり方を急速に変革しています。米国政府は、公共部門における変革を支持する一方、AI の活用における透明性の確保とアカウンタビリティの必要性を強調しています。オープンな AI 活用に関するこれらの方針は、Google の責任ある AI への取り組みと合致しており、倫理的開発、信頼性、透明性を重視しつつ、全国の公共部門組織に対して強力なツールを提供します。

Google の責任ある AI への取り組み

社会に貢献する AI ソリューションの構築とデプロイを実現するためには、信頼性が不可欠です。Google の責任ある AI への取り組みの内容は以下のとおりです。

透明性と説明可能性: AI モデルの仕組みと、AI が下した判断の根拠を理解することを意味します。
公平性とバイアスの軽減: ユーザー属性やユースケースにかかわらず公正な結果が得られることを目指し、意図しない潜在的なバイアスを積極的に取り除くことを意味します。
セキュリティとプライバシー: AI 開発とデプロイのライフサイクル全体におけるデータ保護の強化を意味します。
アカウンタビリティ: 政府の基準と規制に準拠することを意味します。

責任ある AI の実例: Google Cloud と米国防総省

Google Cloud Next '24 における米国防総省とのディスカッションでは、責任ある AI を実践し、兵士や退役軍人を診察する医師によるがんの検出を支援する AI 顕微鏡の開発を進める国防総省の取り組みが紹介されました。ディスカッションには VA Puget Sound Health Care System の病理検査学部門のディレクターである Nadeem Zafar 博士と Google Cloud の国防プログラムの責任者である Scott Frohman が登壇し、AI と人間の病理学者の連携の重要性を強調しました。

拡張現実顕微鏡（ARM）と呼ばれるこの顕微鏡は、世界各地の軍病院に導入されています。AI アルゴリズムを活用する ARM は、デジタル化された組織サンプルを分析して異常が疑われる箇所をハイライトすることで、病理学者がより迅速かつ正確にがんを検出することを支援します。今後、ARM をトレーニングすることで、他の疾患の検出や、疾患の研究や診断に関する開発、教育、調査にまで活用の幅を広げることが期待されています。

プロジェクトでは、以下の方法で責任ある AI を実践しました。

オープンソースへの取り組み: Google はアルゴリズムをオープンソースとして公開しています。アルゴリズムのオープン化は技術の向上に向けた幅広い連携を促進し、コミュニティによる安全かつ責任ある方法での AI 導入を支援します。
堅牢なデータ プラクティス: プロジェクトでは、トレーニング、検証、テストで異なるデータセットを利用することで、不要なバイアスを軽減してモデルの精度を向上させました。
プライバシーとセキュリティ: エッジデバイスを使ってローカルで分析を実施し、センシティブデータを送信する必要性を最小限に抑えることで、患者のプライバシーを確保しつつ信頼できる結果を迅速に得ることを可能にしました。
適応性: 治療の全工程において正確な診断を実現するうえで、技術の成熟に伴い追加のトレーニングデータ（治療途中の腫瘍など）を取り入れることが非常に重要です。
専門家のフィードバック: プロジェクトの初期から医療専門家に参画してもらうことで、責任ある開発を促進できます。病理学者からの継続的なフィードバックは、偽陽性などのリスクを軽減し、AI の機能を向上させることにつながります。

責任ある AI の原則に基づくこうした協調的アプローチは、信頼性が高く効果的な医療ソリューションの開発への道を開きます。

責任ある AI の実践: ニューヨーク州

責任ある AI を実践することで得られる効果の実例として、ニューヨーク州の画期的な功績が挙げられます。ニューヨーク州の自動車管理局やメディケイドなどの機関は、Google Cloud との連携により、公平性、透明性、倫理的配慮を重視しながらサービスの効率化や医療の向上を実現しています。Gen AI Live + Labs New York で紹介されているニューヨーク州によるこうした取り組みは、十分な配慮のもとで AI を活用すれば、最高水準の責任を果たしながら公共部門の業務を変革し、最終的には全ニューヨーク市民に対してより良い影響をもたらすことができるということを示しています。

責任ある AI の実践に向けて

Google Cloud は、連邦政府や州政府の公共部門における AI の導入を支援し、公共部門がアメリカ国立標準技術研究所（NIST）の AI リスクマネジメントフレームワーク（AI RMF）に基づいて責任および説明責任を認識して AI を利用できるよう取り組んでいきます。Google Cloud は、AI の準備状況に関する第三者評価を実施した最初の組織です。この評価では、今後の AI コンプライアンスに向けた貴重な分析情報を提供しています。

責任ある形で AI を導入し、AI の持つ力を組織で活用する方法について詳しく知りたい場合は、「Introduction to Responsible AI」コースを受講するか、責任あるデータガバナンスに基づく AI の活用方法を紹介するこちらのウェビナーにご参加ください。