AIチャットを全社活用している竹中工務店は生成AIの「ブレーキにはならない」インシデント対策を何からどう進めたのか：AIリスク対策は「2階建て」？

業務の効率化や自動化を目的に生成AIの活用の模索が進んでいる。一方で、企業で生成AIを活用する場合はそのリスクとも向き合う必要がある。竹中工務店の鈴木真徳氏が、現在の生成AIリスクをコントロールしながらAI活用を推進する同社の取り組みを紹介した。

[高橋睦美，＠IT]

　生成AI（人工知能）に対する期待は高まるばかりだ。多くの企業で業務の効率化や自動化を目指して取り組みが始まっている。だが、海外を中心にAIにまつわるインシデントも発生しているのが実情だ。

　奈良先端科学技術大学院大学 サイバーレジリエンス構成学研究室教授の門林雄基氏がチェアを務めたInterop Tokyo Conference 2024の「AIインシデントへの具体策〜ヒヤリハットと大事故を踏まえた対策〜」では、そんなAIインシデントの事例を踏まえた上で、どのようにAIリスクをコントロールしながらAI活用を推進していくかのヒントが、竹中工務店での取り組みを例に紹介された。

インフラなどの1階とAIモデルなどの2階、両にらみでAIリスクへの対応を

奈良先端科学技術大学院大学 サイバーレジリエンス構成学研究室 教授 門林雄基氏

　今や「実証実験を開始しました」といったニュースだけでは目新しさを感じないほど、連日のようにAIが話題になっている。だが一方で「日本では報道されていない大事故も含め、ヒヤリハットも多いのも事実です」と門林氏は指摘した。

　AIがはらむリスクが顕在化しつつあることを受け、EU（欧州連合）のAI規制やG7（先進7カ国）のAI原則をはじめ、さまざまな法規制、ガイドラインの整備も進んでいる。これらに共通する方針が「リスクベースのアプローチを採用すべき」ということだ。

　門林氏はこのように概況を説明した上で、具体的にどのような「リスク」――AIにまつわる事故が発生しているかを紹介した。