NTTデータ: 官公庁の行政事務業務を AI で効率化、Cloud TPU により短期間でのモデル作成が可能に

NTTグループ傘下のシステム インテグレーターとして、さまざまな業種や分野に対する IT システムの導入や活用を手掛ける株式会社NTTデータ（以下、NTTデータ）。公共機関の IT システム開発でも多くの実績を持つ同社では、官公庁における業務改善に向けた取り組みの一環として、AI を活用して書類の分類や検索業務を効率化する PoC（概念実証） を実施し、そのための機械学習プラットフォームとして Google Cloud TPU を採用しました。PoC を実施した同社の担当者 2 名、そして株式会社NTTデータグループ（以下、NTTデータグループ）の担当者 1 名に話を伺いました。

利用しているサービス:
Cloud TPU, Cloud GPU, Cloud Logging, Cloud Monitoring

利用しているソリューション:
AI Infrastructure Modernization

機械学習を活用して、過去の膨大な申請書類から素早く類似の申請を探し出す

NTTデータでは、長年にわたって公共機関の IT システムの開発や DX（デジタル トランスフォーメーション）をサポートしており、AI などの最新技術を活用した業務改善の実現にも積極的に取り組んできました。同社はその一環として、官公庁が取り扱う書類の分類と検索に機械学習を活用し、業務効率化を目指す PoC を実施しました。

今回 PoC の対象となったのは、企業や個人から官公庁に提出される申請書類に対して、分類情報を付与するための検証業務と、過去の書類を検索して類似のケースを調査できるようにする検証業務です。このプロジェクトの実施に至った経緯を、同社の公共統括本部 第一公共事業本部 パブリックサービスデザイン事業部 企画統括部 営業担当 課長の桂 康文氏は、次のように説明します。

公共・社会基盤事業推進部 プロジェクト推進統括部 技術戦略担当 主任の甲野 慎太郎氏は、機械学習が有効だと判断した理由を、技術的な観点から語っています。

仮説検証のために、数百ギガのデータを元にした事前学習モデルの構築を 100 回以上実施

ただし、NTTデータグループ 技術革新統括本部 システム技術本部 データ&インテリジェンス技術部の小池 大地氏によれば、今回のプロジェクトで事前学習モデルを構築する際には、いくつか考慮しなければならない要件がありました。

今回のプロジェクトでは、単年度で検証を終え、納品を完了させることも求められていました。これらの条件を満たすべく桂氏が採用したのが、大規模な AI モデルの学習ならびに推論モデルの構築のために最適化された AI アクセラレータ、Google Cloud TPU でした。

「事前学習に必要なデータ量が膨大な場合は、1 回の学習を終えるだけでも長い時間がかかります。しかもドメインに特化した学習を行って高精度なモデルを構築し、実際の分類付与と類似検索で精度を確保していくには、仮説検証を繰り返し行うことが必要になります。初期段階の検証では複数のソリューションを検討しましたが、 Cloud TPU を利用した事前学習では、一般的なプロセッサよりも 20 倍近い速さで学習を完了できました。この時点で、我々にとっては Cloud TPU が唯一の選択肢になりました。」（桂氏）

検証用モデルの構築では、まず提供された膨大なデータを分析し、データの選別方法と学習モデルの作成方法を決定。そのうえで約 1 か月かけて複数種類の事前学習モデルを構築し、続く約 2 か月間で、官公庁で行われている実際のタスクに即した評価が行われました。さらに残りの数か月間で、改善と検証が幾度となく実施されています。

一連のプロセスでは、Google Cloud の Professional Services Organization（PSO）のサポートも活用されています。これもプロジェクトをスムーズに進めていく追い風になりました。

「我が社で Cloud TPU を本格的に使うのは初めてでしたが、問題が発生した場合でも PSO チームから丁寧にアドバイスをいただき、1 つずつクリアしながら前に進むことができました。PSO にはその他にも、公式ドキュメントを補完する詳細な情報を提供いただき、質疑応答と勉強会の機会も頻繁に設けていただきましたので本当に助かりました。このような PSO の手厚いサポートも、PoC が成功を収めた要因になりました。」（甲野氏）

ドメイン特化モデルの知見を、マルチモーダル対応や生成 AI の活用にもつなげたい

こうして PoC は予定の期間内に順調に終了。甲野氏と小池氏は、プロジェクトの成果に強い手応えを感じたと話します。

「今回の PoC では、最終的に大きく分けて 6 種類の事前学習モデルを構築することができました。これらの学習モデルを構築するまでには、モデルごとにトライアル アンド エラーを何度も繰り返しましたので、モデルを構築した回数は合計で 100 回以上になりました。先ほども述べたように、Cloud TPU の処理能力がなければ、指定された期間内に検証を終えることはできなかったでしょう。我々にとっては 、当初の目的をしっかり達成できただけでなく、TPU を活用して機械学習のモデルを構築していく新たな知見を得られた点も、非常に有意な成果となりました。」（甲野氏）

「精度面に関しては、ドメインごとに個別に用意したデータを学習させたモデルを構築することにより、おおむね期待通りの成果が得られることを確認できました。その一方では、ハイパーパラメータを調整することで、さらに精度を高められそうなモデルがあること、あるいは既存の事前学習モデルをファイン チューニングする程度で十分ならば、Cloud GPU でも対応できるケースがありそうなことも把握できました。要件に応じて Cloud TPU と GPU をうまく使い分ければ、システムをオンプレミスで運用していく場合にも、精度を確保していけると思います。」（小池氏）

プロジェクト リーダーを務めた桂氏は、ドメイン特化の事前学習モデルという発想が、生成 AI の今後の発展においても鍵を握ると指摘。PoC で得られた知見を、今後の事業に幅広く活用していきたいと締めくくりました。

「このプロジェクトを進めている最中に、LLM（大規模言語モデル）をベースとした生成 AI が話題となりました。現在の生成 AI は、LLM のサイズを大きくしていく方向で精度の向上を図っていますが、官公庁が実際の業務で扱う場合には、そのような汎用的なモデルはオーバー スペックになったり、逆に専門的な情報や機密性の高い情報が反映できなかったりするケースが出てくることも想定されます。それを考えれば、やはり各ドメインで利用しやすいモデルやシステムを作っていくことが、生成 AI の活用でも重要になるはずです。現にドメイン特化の事前学習モデルは、官公庁が書類を扱う業務に極めて有効であることが確認できましたので、このノウハウを関連する分野にどんどん横展開していくつもりです。また、今回我々が実施したのはテキスト情報を対象とした検証でしたが、お客さまの間では、視覚情報などのテキスト以外の情報も AI で処理したいというニーズが高まってきています。そのようなマルチモーダルな方向性も含め、今後も Google Cloud が提供している AI 基盤を活用しながら、さまざまなサービスの実用化に、積極的にチャレンジしていければと考えています。」

株式会社NTTデータ
1988 年 5 月設立。NTTグループの主要企業の 1 つで、IT システムの企画や設計、開発、維持運用、コンサルティングや先進技術の研究開発など、さまざまな業種や分野において多様な IT サービス事業を手掛けている。日本有数の傘下企業を持ち、主要顧客には官公庁や金融関連企業も多い。2023 年 7 月に持株会社に移行して商号が株式会社NTTデータグループとなり、国内事業を株式会社NTTデータが、海外事業を株式会社NTT DATA, Inc. が担当する現行体制がスタートした。

インタビュイー（写真左から）
・株式会社NTTデータ 公共統括本部 第一公共事業本部
　パブリックサービスデザイン事業部 企画統括部 営業担当 課長　桂 康文 氏
・株式会社NTTデータ 公共・社会基盤事業推進部
　プロジェクト推進統括部 技術戦略担当 主任　甲野 慎太郎 氏
・株式会社NTTデータグループ 技術革新統括本部
　システム技術本部 データ&インテリジェンス技術部　小池 大地 氏

その他の導入事例はこちらをご覧ください。