AIのリスクと価値のバランスを取るにはガバナンスが不可欠：Gartner Insights Pickup（366）
生成AIの台頭に伴い、AIが社会に与える影響についての議論が活発化している。企業にとって重要なのは、適切なガードレールを設け、AIの可能性を追求する一方で課題に対処することだ。
さまざまな形態のAIが登場して久しいが、生成AIの急速な台頭に伴い社会に与える潜在的な影響についての議論が活発化している。企業はこの技術の大きな可能性と、この技術がもたらす新たなリスク、特に悪用リスクとのバランスを取らなければならない。
企業にとって重要なのは、適切なガードレールを設け、AIの可能性を追求する一方で課題に対処することだ。これは、AI固有の特徴に合わせた柔軟なガバナンスフレームワークを導入することで可能になる。
だが、AIガバナンスとは具体的には何か。企業はAIガバナンスになぜ真剣に取り組まなければならないのか。
逆説的に聞こえるが、ガバナンスがしっかりしていると、実際に優れたイノベーションが可能になる。ガバナンスの制約とガードレールがあるからこそ、企業はAIの価値とリスク、ならびにイノベーションを起こし、結果を出し始める領域について、疑問を掘り下げて探求できる。
ガバナンスなしにAIを大規模に展開するのは、効果がなく危険だ。社会は、透明性があり、責任ある、倫理的な企業運営を期待する。そのため、AIガバナンスは、企業がこうした社会からの要請に応えるために必要だ。同時に、AIの複雑さや曖昧さ、急速な技術進化に対処することによる企業の発展を支える役割も担う。
企業は、広範な社会的影響や規制順守を考慮するだけでなく、職場における信頼とコントロールという相反する要件と、ビジネス価値、企業リスク、個々の従業員や顧客、市民のプライバシーのバランスを取る必要がある。
例えば、AIガバナンスを通じて、文化の違いや個人と集団の権利を保護する規制を踏まえて、バイアス（偏り）の軽減ガイドラインと検証要件を策定しなければならない。バイアスは、企業や社会全体におけるAIの受容レベルに悪影響を及ぼす場合がある。
例えば、多国籍企業にとってバイアスは厄介な問題だ。国によって文化的な規範や関連規制（消費者保護法など）が異なるからだ。
企業は、組織的、社会的な、あるいは顧客や従業員への配慮を調整する担当者を置くことが重要だ。こうした担当者は多様な考え方、背景、職務を代表しなければならない。さらに専門性と見識に基づいて、ガバナンス上の決定と決定権それぞれの内容に違いをもたらす必要がある。決定権は、ビジネス、技術、倫理に関わる決定に関する権限と説明責任を確立する。最も重要なAIコンテンツについてのみ設定しなければならない。こうしたコンテンツには、積極的にガバナンスを適用する必要があるからだ。
一方、重要でないAIコンテンツについては、企業は決定権のより大きな自律性を認めることができる。だが、AIの支援を利用する従業員は、その結果について説明責任を負うことを認識しなければならない。
AIガバナンスの体制と範囲
AIと関連技術は絶えず進化しており、その複雑さと、AIの予測機能や生成機能につきまとう曖昧さが相まって、風評、ビジネス、社会にAIが与える影響は明らかではない。
ガバナンスは、AIの機能横断的な性質や、予測機能の提供における不確定性に対応できなければならない。多くの企業が犯す過ちは、AIガバナンスを独立した単体の取り組みとして進めることだ。AIガバナンスは、組織内で既に実施している施策の延長線上で行われる必要がある。
既存のガバナンスアプローチで成功した例を活用し、再利用することで、AIの影響を管理するタスクは、大変さが軽減され、より理解しやすくなる。データの分類や標準化、コミュニケーションプラクティスなど、多くのアプローチがAIに適用されているが、AIには信頼、透明性、多様性という固有の要件がある。これらを人やデータ、技術の観点からどのように確保するかが重要だ。
多くの企業では、AIに関連する重要な意思決定はAIカウンシル（協議会）で行われている。一般的に、AIカウンシルはCIO（最高情報責任者）かCDAO（最高データ／アナリティクス責任者）が議長を務め、社内の各部署の代表者を集めたワーキンググループが関与する。この多様なステークホルダーのグループは、他のガバナンスグループと直接協力しながら、AIガバナンスの取り組みの先頭に立つ必要がある。
AIカウンシルが最初に取り組むことの一つは、関連規制の順守を確保することだ。プライバシーが最も重要で分かりやすい問題だが、あらゆる種類の法的な要件や業界固有の要件も満たさなければならない。
AIガバナンスは、ビジネス目標をサポートする結果を出すことから始まる。AIのパイロットプロジェクトや概念実証（PoC）プロジェクトでは、AIカウンシルが他のビジネスステークホルダーと共同で定義、確認した価値を証明することを目指さなければならない。精度などの測定や、技術ツールの比較を目標にすべきではない。
AIへの取り組みが進んでいる企業では、AIガバナンスには、AIコンポーネントの再利用を可能にし、デリバリーを加速させ、AIを全社で大規模に展開することを目的とした、AIライフサイクル全体のガバナンスが含まれる。
出典：Governance essential to balance AI risk and value（Gartner）
※この記事は、2024年7月に執筆されたものです。
Copyright © ITmedia, Inc. All Rights Reserved.