テキスト生成AIのリスクを利用形態、想定ユースケースごとに解説 デジタル庁がガイドブックを公開：テキスト生成AIのサービス開発者が対象

デジタル庁は、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」を公開した。政府情報システムを対象に、テキスト生成AI固有と思われるリスクに焦点を当て、留意点を紹介している。

[＠IT]

　デジタル庁は2024年5月29日、「テキスト生成AI（人工知能）利活用におけるリスクへの対策ガイドブック（α版）」を公開した。同庁のWebサイトからダウンロードできる。

プレスリリース

全10章でユースケースごとにリスクと対応策を解説

　本ガイドブックには、生成AIを利用するためのシステム開発に関わる担当者を対象に、生成AIを行政サービスなどで利用する際に起こり得るリスクとその対応策がまとめられている。一方で、学習データのサプライチェーンや権利問題に関するリスク、ディープフェイクなど“サービス利用者のリスク”には触れていない。

　デジタル庁ではこれまで、生成AIの業務利用について「第10回デジタル社会推進会議幹事会・書面開催」などで議論を重ねてきた。本ガイドブックは、こうした議論のいきさつや検証結果を踏まえた内容となっている。

　全10章で構成されており、ユースケースごとに企画、予算要求、調達、設計開発、リリース、提供形態などの観点でリスクと対応策を解説している。デジタル庁は「α版のため内容に不十分な点があるが、生成AI利用時のリスクや対策に関する議論の参考として活用してほしい」としている。

　なお、業務でやりとりする情報の多くがテキスト情報であることと、テキスト以外の生成AIの活用についてデジタル庁では検証段階にあることを踏まえて、同ガイドブックでは画像や音声、動画は含まず、テキスト生成AIのみに焦点を当てている。