今さら聞けない「生成AI」の仕組みや活用の注意点をこっそり学ぼう：ビジネスパーソンのためのIT用語基礎解説

IT用語の基礎の基礎を、初学者や非エンジニアにも分かりやすく解説する本連載、第13回は「生成AI」です。ITエンジニアの学習、エンジニアと協業する業務部門の仲間や経営層への解説にご活用ください。

[古閑俊廣（BFT），＠IT]

1　生成AIとは

　生成AIは、学習したデータを基にテキストや画像などのコンテンツを生成するAI（人工知能）です。プロンプト（AIへの命令）によって、言語間の翻訳や文章、画像、プログラムコードなど、さまざまなコンテンツを自動生成できます。従来のビジネスを大きく変革し得る存在として世界中で注目されており、日本国内の企業においても生成AIを活用した生産性向上施策やビジネス戦略が立てられています。

2　生成AIの仕組み

　生成AIがコンテンツを生成するためには、大量のデータの学習が必要です。ディープラーニングなどの「機械学習」と呼ばれる仕組みによってデータの特徴やパターンを学習し、精度の高いコンテンツを生成できます。

図1 AI・機械学習・深層学習の関係　出典：AIに関する基本的な仕組み（総務省）

　従来はAIに大規模なデータを学習させるために膨大な時間を要していました。しかし、Transformer（※1）というディープラーニングモデルの登場によって大規模なデータを高速で学習できるようになった結果、生成AIの性能が大きく向上しました。

　また、従来のAIは画像認識や音声認識など、識別の用途で活用されるものが多かったのに対し、生成AIは入力されたデータから新たなコンテンツを生み出せる点が、これまでのAIとは大きく異なっています。

※1 Transformer：自然言語処理や機械学習で幅広く使用されているディープラーニングのモデルの一つ

3　生成AIの活用例と得られるメリット

　生成AIには以下に挙げるような活用例があり、利用することでさまざまなメリットを得られます。

3.1　業務の効率化

　例えば以下のような業務の効率化が可能です。

• 大量のテキストデータから要件に応じた情報を抽出して要約する
• 与えられた要件に従って商品説明の文章を作成する
• 与えられた要件に従ってプログラムのソースコードを作成する
• 音声データを基に、自動で文字起こしをする

　このように、従来人間が考えて作成していたものを生成AIは短時間で自動生成できるため、さまざまな業務の効率化を実現します。

3.2　業務品質の向上

　人間が作成した文章やプログラムのソースコードなどを、生成AIを利用して校正することで、成果物の品質の向上や均一化に役立てられます。他にも、製品やサービスに対するフィードバックを入力して改善案を生成するなど、使い方によってさまざまな業務やサービスの品質向上を実現します。

3.3　アイデアの創出

　上述した活用例など、使い方次第でさまざまな新しいビジネスを創出できる可能性があります。データから将来のトレンドや需要を予測して新規事業計画の一助にするなど、活用方法次第で他社をリードするビジネス戦略を立てられます。

4　生成AI活用における注意点

　生成AIは非常に便利で強力なツールですが、活用には注意が必要です。

4.1　情報漏えいのリスクがある

　一般に公開されている生成AIサービスを業務で利用する際は、入力する情報に機密情報が含まれていないかどうかなど、セキュリティリスクの考慮が必要です。

　プロンプトそのものにビジネスのコアとなるロジックが含まれていると、ビジネスアイデアや企業固有の技術を盗まれてしまう可能性があります。また、入力した機密情報を生成AIが学習した結果、他者の生成結果に反映されてしまうといったリスクもあります。

　「プロンプトインジェクション」と呼ばれるような、対話型AIの脆弱（ぜいじゃく）性を突いた攻撃も存在します。データ入力の際は個人や企業を特定できる情報は伏せるなど、細心の注意を払う必要があります。

4.2　さまざまな権利を侵害する可能性がある

　生成AIを利用して作成した文章や画像、音楽などが、第三者の持つ著作権などを侵害する可能性や、生成AIに他社の機密情報を入力すると企業間の秘密保守義務に違反する可能性があります。

　サービス利用者がこのようなリスクを認識した上で活用しないと、知らない間に他者の権利を侵害してしまうこともあり得ます。サービスの利用規約の確認や、AIと著作権の関係を正しく理解した上で利用することが重要です。

参考：AIと著作権の関係等について（内閣府）

4.3　生成された内容に虚偽が含まれている可能性がある

　生成AIによって生成された文章などは、虚偽の内容を含んでいることがあります。このような事象を「ハルシネーション」（※2）と呼び、大規模言語モデル（LLM）（※3）に基づく生成AIの仕組みによって発生します。

　大規模言語モデルは学習したデータに基づき、ある単語に対してつながる確率の高い単語を並べているにすぎず、これによりでたらめな文章が生成されることがあります。また、学習したデータの中に誤った内容のものがあれば、それも生成内容に悪影響を及ぼします。ハルシネーションは多くの対話型AIサービスの課題となっています。生成AIを利用する際は、生成された内容を検証することが重要です。

※2 ハルシネーション：AIモデルが現実には存在しない情報や内容を生成する現象のこと。生成AIの品質や信頼性に関わる課題とされている

※3 大規模言語モデル：大量のテキストデータを用いてトレーニングされた言語モデルのことで、OpenAIが開発したGPT-4などが存在する

5　生成AIの今後

　世界中で話題になっている生成AIですが、AI研究の分野は過去に何度もブームと停滞を繰り返しています。

図2 人工知能（AI）の歴史　出典：人工知能（AI）研究の歴史（総務省）

　生成AIは現在世界的なブームとなっていますが、上述の課題が解決されなければ過去と同様に停滞してしまう懸念があるといえます。

　生成AIの利活用を巡っては現在国際的なルール作りが進められており、その中で日本は主導的な役割を担う意思を示しています。革新的な技術を継続して発展させていくためにも、課題の解決や正しく有効に活用するためのルール作りが急がれています。

古閑俊廣

BFT インフラエンジニア

主に金融系、公共系情報システムの設計、構築、運用、チームマネジメントを経験。

現在はこれまでのエンジニア経験を生かし、ITインフラ教育サービス「BFT道場」を運営。

「現場で使える技術」をテーマに、インフラエンジニアの育成に力を注いでいる。

実践型ITインフラ研修 BFT道場