リクナビだけじゃない――不正利用元年に理解すべき個人情報の概念と倫理：お天道様は見ている（4/6 ページ）

[高橋睦美，＠IT]

データエコノミーに乗り遅れないためには「ホワイト化」を

　リクルートキャリア1社の姿勢がたたかれがちだが、「ちゃんと真面目にやろうとする企業が萎縮してはいけない。恣意（しい）的ではない基準が必要だ」と倉重氏は述べた。

　ただ、「法律による立法政策には限界がある。規制緩和ばっかり言っている一方でデータエコノミーに出遅れ、欧米とは懸け離れた状態になっている」と鈴木氏は懸念する。

　盛んにGAFA規制が言われているが、「このままではGAFAが縛られずに、日本人の情報のみが（GAFAに）出ていく懸念がある」（山本氏）。「経済学やアドテクなど、いろいろな分野の人たちと一緒に率直に議論していきたい。しっかり対応していかないと、国民は、便利で『白い』GAFAを選択していく。それを避けるには、技術力はもとより、まずは自らが白い企業になっていくほかない」（鈴木氏）とした。

　高木氏は、ソフトバンクがエントリーシートの読み取り作業にIBM Watsonを活用している例を挙げ、「彼らは2〜3年検証を繰り返し、人間がやった場合と同じ結果になるようチューニングしていた上、Watsonが落とした場合には人間がもう一度チェックしていた。そこまで慎重にやるべきことなのだ」と述べた。

　そして、そもそもデータ分析やAIが人の運命を決めてもいいのかどうかという論点に踏み込み、「今回の一件で、AIの限界が明らかになったのではないか」と指摘した。

　以前から、AIが不公平な判断をする危険性が指摘されているが、「仮に正確かつ公平なAIができたとしても、コンピュータによるサービスはどうしても寡占化してしまう。そうすると、ほとんどの人については正しく判断されても、たまたま外れの判断をされた人からすれば、どこにも逃げ場がなくなってしまう。つまり多様性がなくなるということ」（高木氏）。そもそもなぜ個人データを保護しなければならないかの背景には、1970年代から議論されてきた、コンピュータ処理による自動決定の問題があった。あらためてそこに立ち戻って検討すべきとした。

消費者の限定合理性に付け込んで優越的地位を乱用、「こんなアホな事件が起こるとは」

　依田氏は、専門である経済学の観点から、今回の件が消費者に対する優越的地位の乱用に当たるかどうかを解説した。

京都大学大学院経済学研究科 依田高典教授

　行動経済学では、人間を完全に合理的な存在ではなく、限定合理的な存在として捉える。消費者を失敗ばかりするありのままの人間として捉え、その上で良い結果になるように誘導していくことが制度のポイントとなる。

　「人間は無料に弱い。だが本当はサービスは無料ではなく、対価として個人情報が吸い取られ、第三者に展開される。この結果、本当は月に数百円といった損失になっているかもしれない。つまり正しい対価になっておらず、経済合理性が成り立っていない可能性がある」（依田氏）

　また「人間は利用規約を読まない。読む人は半分だし、たとえ読んでいる人でも理解しているのは半分にすぎず、残りは知識のない限定合理的な存在だ」という。

　市場では今、消費者から個人情報を受け取って無料サービスを展開し、広告ビジネスなどを展開する、Googleをはじめとするプラットフォーマーが両面市場を制しているが、限定合理的な存在が過半を占めることを前提に、プライバシーや倫理、消費者保護といった観点を背景にして競争政策を進めていく必要があるとした。

　そこに起こったこの事件。依田氏は率直に、「こんなアホな事件が起こると思わなかった」と述べた。

　もともと同氏は優越的地位の乱用の規制に懐疑的だったというが、「現実的にこういう問題が起きると、これは消費者に対する優越的地位の乱用に当たるといわざるを得ない。消費者の限定合理性に付け込んで、意志に反して経済的利益を得ている。ネットワーク効果を駆使した両面市場での支配力を使っていると認定せざるを得ない」と述べた。

　そして今回の件は、「GAFA以上にプライバシー対応が遅れている日本企業にとってブーメランになる。GAFAは制度を通り抜けてくるのに、日本のプラットフォーマー、日本の企業ばかり規制することになりかねない」と、このままでは国内企業の首を絞めかねないと指摘している。