「AI倫理も品質の一部」な時代、AIエンジニアには何が求められるのか 有識者に聞いた（前編）：いずれはセキュリティやプライバシーと同じ扱いに？

AI倫理に関してエンジニアは何を知っておくべきなのか、エンジニアには何が求められるのか、AI倫理に詳しい弁護士の古川直裕氏に話を聞いた。前編である今回は、AI倫理とは何か、エンジニアにAI倫理はどのように関わってくるかについて。

[松林沙来，＠IT]

　AI（人工知能）を活用したシステムがさほど珍しくなくなった昨今、AIが起こしてしまう問題のある挙動をどう防ぐかという議論がなされている。AIの挙動によって、差別を助長してしまったり、プライバシーを侵害してしまったりする事例はたびたび問題になってきた。そんなAIが起こす問題が「AI倫理」に関する議論の出発点だ。

　AI倫理と、それについてエンジニアは何を知っておくべきなのか、エンジニアには何が求められるのか。ABEJAで企業内弁護士を務め、AI開発に関わる企業へ法的・技術的な視点から多数助言するなど、AI倫理に詳しい古川直裕氏に話を聞いた。本稿では、その模様とAI倫理についてエンジニアが知っておくべきことは何かを前後編に分けて紹介する。前編である今回は、AI倫理とは何か、エンジニアにAI倫理はどのように関わってくるかについて。

AI倫理とは何か

　そもそも「AI倫理」とはどういうものなのだろうか。「倫理」という言葉が示す通り、道徳的な側面が強いものと思われがちなのではないだろうか。古川氏はAI倫理という言葉をどう認識すればよいか「明確な定義はないためこういうものだとはっきりさせるのは難しい」と前置きしつつこう語った。

　「AIが自律的、自動的に動いて判断するに当たって守るべき倫理、価値、原則などは何か、それを守らせるために必要な開発技術、運用技術などの実現方法はどういったものを指すのか、ということを取り扱う領域です」

　この一連の分野について、AI倫理以外の表現がなされることもあるが、本稿では「AI倫理」という言葉を使用する。

AI倫理についてエンジニアが知っておくべきこととは

ABEJAの古川直裕氏

　AI倫理についてエンジニアが知っておくべきこととは何なのか。古川氏によると「まずはどんな事件、問題が生じているのかを知ること」が重要だという。

　「ITエンジニアの方でAIに興味を持っている方は、AI倫理に関してご存じの方はたびたびいらっしゃいます。実際に起こった具体的な事件を通じて、倫理の問題は大きな問題になりうるというのを知っていただけたらと思います」

　海外では、Amazon.comが求職者の履歴書をスコアリングするAIを開発したところ、女性の求職者に対して不利な評価を判定してしまうことが判明し非難を呼んだ事件、国内では、就職支援サイト「リクナビ」において、独自に導き出した学生の内定辞退率をクライアント企業に提供した事件（前編、中編、後編）などが問題となっている。AI倫理が問題となった事件はこれ以外にも多数存在するが、こういった事件の報道などを通じて、AI倫理の重要性をまずは知ってほしいとした。

　また、国内外の各種団体が発表しているAI倫理に関するガイドラインを確認することもAI倫理を知るために効果的だという。

• 「AI利活用ガイドライン」（総務省）

　「特に業としてAIサービス等を他者に提供する者（AIサービスプロバイダー）や業としてAIシステム等を利用する者（ビジネス利用者）」が留意すべき事項をまとめたもの。

• 「AI原則実践のためのガバナンス・ガイドライン Ver.1.1」（経済産業省）

　「AIシステムの開発・運用に関わる事業者」が実施すべき行動目標を提示しているが、あくまでも法的拘束力のないガイドラインであるとしている。

　その他、業種によっては業種特有のガイドラインが発表されているものもあるという。関わるプロダクトによって、官公庁が発表しているものと併せて確認しておくとよいだろう。

AI倫理も品質の一部

　では、AI開発に関わるエンジニアはどうAI倫理を「自分ごと」化すればよいのだろうか。古川氏は「AI倫理も品質の一部」だと語る。