「AI倫理も品質の一部」な時代、AIエンジニアには何が求められるのか 有識者に聞いた（前編）：いずれはセキュリティやプライバシーと同じ扱いに？

AI倫理に関してエンジニアは何を知っておくべきなのか、エンジニアには何が求められるのか、AI倫理に詳しい弁護士の古川直裕氏に話を聞いた。前編である今回は、AI倫理とは何か、エンジニアにAI倫理はどのように関わってくるかについて。

[松林沙来，＠IT]

　AI（人工知能）を活用したシステムがさほど珍しくなくなった昨今、AIが起こしてしまう問題のある挙動をどう防ぐかという議論がなされている。AIの挙動によって、差別を助長してしまったり、プライバシーを侵害してしまったりする事例はたびたび問題になってきた。そんなAIが起こす問題が「AI倫理」に関する議論の出発点だ。

　AI倫理と、それについてエンジニアは何を知っておくべきなのか、エンジニアには何が求められるのか。ABEJAで企業内弁護士を務め、AI開発に関わる企業へ法的・技術的な視点から多数助言するなど、AI倫理に詳しい古川直裕氏に話を聞いた。本稿では、その模様とAI倫理についてエンジニアが知っておくべきことは何かを前後編に分けて紹介する。前編である今回は、AI倫理とは何か、エンジニアにAI倫理はどのように関わってくるかについて。

AI倫理とは何か

　そもそも「AI倫理」とはどういうものなのだろうか。「倫理」という言葉が示す通り、道徳的な側面が強いものと思われがちなのではないだろうか。古川氏はAI倫理という言葉をどう認識すればよいか「明確な定義はないためこういうものだとはっきりさせるのは難しい」と前置きしつつこう語った。

　「AIが自律的、自動的に動いて判断するに当たって守るべき倫理、価値、原則などは何か、それを守らせるために必要な開発技術、運用技術などの実現方法はどういったものを指すのか、ということを取り扱う領域です」

　この一連の分野について、AI倫理以外の表現がなされることもあるが、本稿では「AI倫理」という言葉を使用する。

AI倫理についてエンジニアが知っておくべきこととは

ABEJAの古川直裕氏

　AI倫理についてエンジニアが知っておくべきこととは何なのか。古川氏によると「まずはどんな事件、問題が生じているのかを知ること」が重要だという。

　「ITエンジニアの方でAIに興味を持っている方は、AI倫理に関してご存じの方はたびたびいらっしゃいます。実際に起こった具体的な事件を通じて、倫理の問題は大きな問題になりうるというのを知っていただけたらと思います」

　海外では、Amazon.comが求職者の履歴書をスコアリングするAIを開発したところ、女性の求職者に対して不利な評価を判定してしまうことが判明し非難を呼んだ事件、国内では、就職支援サイト「リクナビ」において、独自に導き出した学生の内定辞退率をクライアント企業に提供した事件（前編、中編、後編）などが問題となっている。AI倫理が問題となった事件はこれ以外にも多数存在するが、こういった事件の報道などを通じて、AI倫理の重要性をまずは知ってほしいとした。

　また、国内外の各種団体が発表しているAI倫理に関するガイドラインを確認することもAI倫理を知るために効果的だという。

• 「AI利活用ガイドライン」（総務省）

　「特に業としてAIサービス等を他者に提供する者（AIサービスプロバイダー）や業としてAIシステム等を利用する者（ビジネス利用者）」が留意すべき事項をまとめたもの。

• 「AI原則実践のためのガバナンス・ガイドライン Ver.1.1」（経済産業省）

　「AIシステムの開発・運用に関わる事業者」が実施すべき行動目標を提示しているが、あくまでも法的拘束力のないガイドラインであるとしている。

　その他、業種によっては業種特有のガイドラインが発表されているものもあるという。関わるプロダクトによって、官公庁が発表しているものと併せて確認しておくとよいだろう。

AI倫理も品質の一部

　では、AI開発に関わるエンジニアはどうAI倫理を「自分ごと」化すればよいのだろうか。古川氏は「AI倫理も品質の一部」だと語る。

　「AI倫理というのは、AIを使ったプロダクトやサービスが、市場／ユーザーに受け入れてもらえるかというところにかかってきます。差別的なAIを使いたい人はいないでしょう」

　AI倫理に関して議論の対象となる諸問題を放置することはAIやそれに関わるサービス品質の低下につながるだろう。AI倫理が品質維持の方向から必要になる可能性として、古川氏はセキュリティやプライバシーの扱われ方の変化を例に語った。

　「確かに、AI倫理という分野は多くのエンジニアにとってなじみのない、よく分からない世界で、『技術じゃないじゃないか』という意識は少なからずあると思います。ですが、昔はセキュリティやプライバシーも『よく分からないもの』という扱いでした。今ではエンジニアとしてはある程度身につけるのは必須と考えられています。おそらく同じような経緯をたどるであろうという気はしています」

　プロダクトやサービスを考える上で、セキュリティやプライバシーを考慮することは今では当たり前に行われている。「セキュリティやプライバシーを考慮することが当たり前」という認識が広まったのも過去、AI倫理と同じように事件が起きたり、問題提起がなされたりしたことが要因といえるだろう。

AIエンジニアに求められていることは何か

　AI開発に関わるエンジニアには、AI倫理に即することが求められる。AIエンジニアができる範囲では、何をすべきなのだろうか。古川氏はAI開発に関わるエンジニアに求められていることとして「倫理アセスメントの実施」「データ設計とデータ来歴の確認」「テストおよびモニタリング」の3つを挙げる。

• 倫理アセスメントの実施

　AI倫理上の問題点を抽出することを倫理アセスメントという。「システムを作る前、もしくは開始した直後でよいので、AI開発時にはまずやってほしいと思います」（古川氏）

• データ設計とデータの来歴の確認

　データ設計とは学習用データとテスト用データの品質を確認することをいう。例えば、人の顔写真のデータがあるとして、データの男女比が男性8：女性2となっていたら、出力される結果に偏りが出る可能性が高いと予想できる。また、比率が5：5だったとしても片方の性別のデータだけ解像度が低い場合も問題だ。データに一定の品質が保たれているかどうかを確認すべきだという。

　データの来歴とは、データがどこからきたのか、どう収集されたのかの情報だ。テキストデータを例に挙げると、SNSに投稿された文章なのか、論文として発表された文章なのかでデータの質が大きく異なる。データがどうやって収集されたか、データがどのように、誰に加工されたか、これらを可能な範囲でトレースして、問題のある行為が行われていないかを確認することも大切だ。AIに問題が発生した場合、AIの導き出す結果は学習したデータに依存するためデータに問題があることが多い。データのどこに問題があったかを検討する場合、データの来歴を確認しておくと非常に有用であるという。

• テストおよびモニタリング

　リリース前はテスト、リリース後にAIをAI倫理の観点でモニタリングすることも重要だという。「ユーザーが入力したデータでAIが再学習したときにも、テストやモニタリングが必要です」（古川氏）

　今回は、AI倫理とは何か、エンジニアにAI倫理はどのように関わってくるかについてを紹介した。後編では、AI倫理に対する企業の動きや公平性の議論、AI倫理の今後について紹介する。

参考文献

Q&A　AIの法務と倫理／中央経済社／古川直裕（著、編集）、渡邊道生穂（著）、柴山吉報（著）、木村菜生子（著）／2021

特集：AIを使う人、作る人に知ってほしい　「AI倫理」との付き合い方

システムやサービスにAI（人工知能）を活用することが珍しくなくなった昨今、AIが引き起こす倫理的な問題もまた身近なものとなった。すでに欧米諸国ではAI倫理に関する法整備も進んでおり、日本国内にもその影響が及ぶことは想像に難くない。本特集ではそんなAI倫理について「AI倫理とはどういうものなのか」といった初歩的なテーマから「AI倫理に関してエンジニアは何を知っておくべきなのか」「AI倫理の観点から見たAI開発プロセスにおけるリスクとその対処法とは何か」といった実践的なテーマまで、深堀りして解説する。

特集：AIを使う人、作る人に知ってほしい　「AI倫理」との付き合い方