2019年中に顔認識技術を法律で規制すべきだ――Microsoftが見解を発表：『1984年』が実現しないように

Microsoftは、顔認識技術に関する見解を発表した。顔認証技術が急速に高度化し、成功事例が積み重なるものの、同技術が持つ潜在的な危険性に対応する必要があるとした。政府に法整備を促す一方で、6つの行動規範を制定し、2019年の第1四半期までに社内に導入する。

[＠IT]

　Microsoftは2018年12月13日、顔認識技術を規制する法律を2019年中に政府が制定すべきだとする同社の見解を発表した。

　同社は顔認識技術について継続的な取り組みを進めてきており、2018年7月には社会的利益があるものの、乱用のリスクもあるとして、政府による規制と業界の方策が必要だとの意見を表明している。その後、各国の技術専門家や企業、市民社会団体、学術界、政府担当者などと議論を進めた結果、研究と議論の段階から行動へと、一歩先に進む時が来たとの結論に至ったという。

　Microsoftによると、顔認識技術の活用は驚異的な速度で拡大しているという。例えば、インドではニューデリーの警察が、顔認識技術を利用して4日間で約3000人の行方不明の子どもたちを発見した。また米国の歴史学者は、1860年代に撮られた南北戦争時代の写真から無名の兵士の肖像を特定した。National Australia Bankは2018年10月に、顔認証と暗証番号だけでATMから現金を引き出せるシステムの実証実験を行った。

　Microsoftは自ら顔認識技術の開発を進めている。2018年11月にはNIST（米国標準技術局）のテストに対して同社が評価用に提出したアルゴリズムは、テスト対象となった127種のアルゴリズムの中で、最も正確、あるいは、極めて正確だと評価されたという。

　このような楽観的な状況が続く一方で、5年後には、顔認識サービスが社会的問題を悪化させるような状況に直面する可能性もあり、一度そうなってしまえば、課題を解決することははるかに困難となるとした。

　顔認識技術に対する法制化が必要だとする同社の意見には、テクノロジー企業に対する一歩引いた観点が込められている。

　同社によればテクノロジー企業には社会的責任があるものの、徹底的な市場競争における成功が求められている。このため、世界のために最善を尽くすことは考えにくいという。このジレンマを避ける唯一の方法が、健全な市場を保つための、責任の基準を作ることだとした。

政府が対応すべき3つの課題

　公共の利益を守りつつ顔認識技術を進化させていくため、Microsoftは、法制化に向けて政府が対応すべき3つの課題があるとした。

　1つ目は、顔認識技術を利用したために、偏見を含み、法に違反するような差別を含む結果を生み出すリスク。2つ目は、広範な利用が人々のプライバシーを侵害する危険性。3つ目は、政府による大規模監視に利用されて、民主主義の自由を損なう危険性だ。Microsoftは、法整備によってこうした問題を解決すべきだとしている。

　1つ目のリスクに対しては4種類の対処が必要だとした。顧客や消費者がテクノロジー企業に説明を求める権利を定め、「透明性の要求」を確保することだという。加えて「第三者によるテストと比較」が重要だとした。正確性と偏見のなさを確認するためだ。企業が最終的な意思決定を行う前に「人間による有効なレビュー」を義務付け、「違法な差別への使用の排除」を求めた。

　2つ目の危険性に対しては、顔認識技術が使われていることを示す「通知の義務化」と消費者の「明確な同意」で対応できるという。

　3つ目の危険性に対しては、警察権力による「特定の個人に対する長期的な監視の制限」を求めた。

法制化と企業の行動規範は車の両輪

　その一方で同社は、政府が行動を起こすのをただ待っているべきではなく、同社を含めたIT企業は、顔認識技術に対応する安全策の立案を開始する必要があるとも述べている。

　顔認識技術の開発と活用には、他の技術以上の注意が必要だとしており、同社はこの課題に対応するために次に挙げる6つの行動規範を制定し、2019年の第1四半期までに社内に導入する予定だという。

Microsoftの行動規範（出典：日本マイクロソフト）

1. 公正性：あらゆる人々を公正に扱う顔認識テクノロジーの開発と展開を行う
2. 透明性：顔認識テクノロジーの能力と限界について文書化し、明確に伝える
3. 説明責任：顔認識テクノロジーが重大な影響を及ぼす用途では、人間による適切なコントロールが行われるよう顧客を支援する
4. 差別的使用の禁止：顔認識サービスが違法な差別に使用されることを利用規約により禁止する
5. 通知と同意：民間セクターの顧客に対して顔認識テクノロジーの展開における通知と明確な同意を奨励する
6. 合法的監視：警察権力による監視の状況において人々の民主主義的自由が確保されるよう支援し、その自由が損なわれると考える目的では顔認識テクノロジーを使用しない

　同社は今後、これらの行動規範を詳細に説明した文書を公表し、これらの行動規範を実行する上でのフィードバックや提言を募る予定だ。そして2019年3月末までに、これらの行動規範を公式に確定し、関連するフレームワークを公表するとしている。