公共機関における生成AI利用の意義と課題：Gartner Insights Pickup（326）

公共機関はAI（人工知能）技術への理解を徐々に深めており、サービス提供の改善に向けて投資を増やしている。だが、「ChatGPT」のようなモデルによる生成AIの台頭に伴う課題が生じており、新たなマインドセットが必要とされている。

» 2023年11月17日 05時00分公開

[Dean Lacheca, Gartner]

この記事は会員限定です。会員登録（無料）すると全てご覧いただけます。

ガートナーの米国本社発のオフィシャルサイト「Insights」などのグローバルコンテンツから、＠IT編集部が独自の視点で“読むべき記事”をピックアップして翻訳。グローバルのITトレンドを先取りし「今、何が起きているのか、起きようとしているのか」を展望する。

　公共機関はAI（人工知能）技術への理解を徐々に深めており、市民サービスの向上、自動化と効率化の推進、サービス体制の改善に向けて投資を増やしている。だが、「ChatGPT」のようなモデルによる生成AIの台頭に伴う新たな課題が生じており、新しいマインドセットが必要となっている。

　民間企業では、生成AIの利用は、リスクの高いイノベーションから得られる利益が潜在的な問題を上回り、拡大し始めている。だが公共機関に対しては、倫理的で公平な行動や説明責任、透明性、プライバシーなどに関して市民の寄せる期待が、企業に寄せる期待よりもはるかに大きい。公共機関は生成AIに大きな関心を持っているが、導入にはまだ問題が残っている。

実務経験を積むインターン

　公共機関にとって最大の問題は、生成AIは実際の認知モデルではなく、数学的アルゴリズムを使用して、プロンプトに対する有効な、あるいは効果的な応答を生成することだ。

　生成AIは「幅広い知識を持ち言語明瞭だが経験が浅く、秘密保持契約を結んでいないインターン」のようなものと考えるとよい。こうしたインターンには機密情報にアクセスさせないだろうし、その仕事の成果物は、公表したり対外的に使用したりする前に、経験豊富なスタッフにレビューさせるだろう。

　こうした生成AIプラットフォームの自由な利用を認めれば、情報の流出や政策検討過程の暴露、不用意な偏見、公共機関の記録や報告における著作権のあるコンテンツの使用といったリスクが生じかねない。

　現時点では、一部の公共機関が実験や学習のツールとしてChatGPTの機能を調べている。これは生成AIの利用を検討している公共機関にとって、良い出発点となる。実現される価値が残存するリスクを上回り、影響が小さい方法で、技術の限界を探るのが賢明だ。

　こうした課題はあるものの、生成AIアプリケーションは公共機関全体にイノベーションの扉を開く。適切な方法で使用すれば――例えば、この技術は同じ文書を異なる言語で、あるいは異なる層向けに、さまざまな形で起草する際に効果を発揮する。

　生成AIを使うことで、長い記述や複雑な事例を要約し意思決定の改善に役立てたり、複雑な問い合わせに対応中の顧客サービス担当者にガイダンスを提供したりできる。また生成AIは、大量の非構造化テキストを分類、照合し、政策立案者が使用するデータの質を向上させることもできる。

公共機関業務への影響

　公共機関は、内部での生成AIの扱い方を試行錯誤しているが、生成AIが社会に与える全体的な影響をより懸念している。2023年3月、イタリアは、西側諸国で初めてChatGPTを全面的に使用禁止にした。だが、翌4月にChatGPTに新しいデータ保護機能が追加され、禁止は解除された。

　ここでは議員の懸念には立ち入らないが、公共機関としては、サービスの提供先となるコミュニティーで生成AIがどのように使われるか、それが自らの業務にどんな影響を与え得るかを検討することが重要だ。

　例えば、市民が自ら生成AIを使って公共機関文書を翻訳したり、要約したりするかもしれないが、翻訳や要約の結果が誤解を招くものになる可能性もある。

　また、公共機関からの発信を装った、あるいは公共機関宛てのもっともらしいメッセージが、生成AIアプリケーションによって大量に作成されることもあり得る。そうなれば、公共機関が対応に追われる羽目になる。

　政治指導者や行政官を装ったディープフェイク攻撃は、実際に行われる可能性がある。最近最も衝撃的だったのが、2023年5月に開かれたAIに関する米上院公聴会の冒頭で行われたデモだ。リチャード・ブルメンタール（Richard Blumenthal）上院議員（民主党）が開会のあいさつをし、AIのリスクを指摘したが、それはChatGPTで作成された文をAIクローニングソフトウェアで音声合成し、同氏の声を模したディープフェイク音声だった。

体系的なアプローチが必要

　生成AIは、特定の結果を出すように設計されていない。このため、従来のガバナンスや保証の慣行を同じように適用することはできない。

　この技術を利用する公共機関には、責任あるAIの理解、使用、実装の実践に向けた体系的なアプローチが不可欠だ。

　例えば、オーストラリアでは、連邦政府が2023年6月初めに「オーストラリアにおける安全で責任あるAI」を発表し、「公共機関がベストプラクティスをモデルにし、率先して模範を示す」ことを求める国民の期待を踏まえ、「公共機関は責任あるAIを支える実践を強化する必要がある」との認識を示した。連邦政府や州政府のレベルでは、既にAI政策の策定への取り組みがかなりなされているが、公共機関の各部局のAI利用に関する義務付けはほとんどなされていない。

　以上を要約すると、公共機関が生成AIを利用するメリットは大きいが、広く導入する前に、その利用に関する義務的要件、政策、枠組みの設定に向けて、公共機関が早急に動く必要がある。

出典：Implications of generative AI use in government（Gartner）

※この記事は、2023年7月に執筆されたものです。