トロッコ問題（Trolley problem）とは？：AI・機械学習の用語辞典

用語「トロッコ問題」について説明。「多くの人を助けるためなら、1人を犠牲にしてもよいのか」という倫理的ジレンマを問う思考実験を指す。この問題に正解はない。自動運転で注目されている。

[一色政彦，デジタルアドバンテージ]

連載目次

用語解説

　トロッコ問題は、AIや機械学習の用語というわけではないが、自動運転などを含むAI技術の倫理的な課題を考える際によく取り上げられる用語である。トロッコ問題（Trolley problem）とは、

多くの人を救うために、1人を犠牲にするかしないか

という倫理的ジレンマを問う思考実験のことである（図1）。

図1　トロッコ問題のイメージ

　基本的なストーリーは次の通り。

トロッコ（Trolley：路面電車）が線路（railway tracks）を暴走しており、その先では5人が線路上に縛られており動くことができない（図1のメイントラック）。あなたは、線路をメイントラックからサイドトラックに切り替えるレバーの前に立っている。しかし、サイドトラックには1人が縛られており逃げられない。ここで2つの選択肢がある。

• 選択肢（1）［メイントラック］： 何もせず、5人がひき殺される（傍観者：Bystander）
• 選択肢（2）［サイドトラック］： レバーを引いて、1人だけがひき殺される

どちらが、より倫理的な選択となるか。どちらが正しい選択なのか。

　この問題に正解はない。多くの調査では、回答者の約90％が「1人を犠牲にして、5人を助ける」という選択肢（2）［サイドトラック］を選択するようである。つまり、助かる人が多ければ多いほど「より倫理的」と判断しているわけだ。しかし、何もしないよりも、能動的に1人を犠牲にする方が「本当により倫理的なことなのか」、一人一人の考えが求められている。

　このトロッコ問題は、1976年のJudith Jarvis Thomson（ジュディス・ジャービス・トムソン）氏による哲学論文で提示された。その後、道徳心理学の思考実験として広く使用され続けた。トロッコ問題の派生として、詳細は割愛するが、

• 太った人： 太った人を線路に落としてトロッコを止める（＝太った人を直接、殺すようなもの）
• 太った人（悪役）： その太った人が5人を線路に縛った犯人だった場合なら、線路に落とすか

などの別バージョンも誕生している（図2）。最近では、自動運転技術の登場により、トロッコ問題は関係する議題として大きな注目を浴びている。

図2　トロッコ問題（太った人）のイメージ

　なお、現実にこの問題に遭遇した場合、選択肢（2）の「レバーを引く」という行動には、倫理的／道徳的な問題だけでなく、社会的な責任も伴うかもしれない。「故意に1人をひき殺すようにした」として殺人罪などの法的な責任が追及される懸念があるし、殺された人の遺族はすんなりと納得してくれない可能性もある。一方、選択肢（1）で「何もせず」に傍観者に徹すれば、そのような社会的な責任は発生しないかもしれないが、より多くの人が死ぬことになるため良心の呵責（かしゃく）が生まれるだろう。

　また、上記のトロッコ問題は2択しかない思考実験に過ぎないことに留意してほしい。現実の世界では、これら以外の解決策が存在する可能性がある。例えば、新しい技術や創造的なアプローチによって、誰も犠牲にせずに全員を救う方法が見つかることもあり得る。自動運転などの実践では、倫理問題だけにこだわらず、より広い可能性を検討することが求められる。

　さらにトロッコ問題は、原則的に法的問題は問わずに、純粋に「倫理的、道徳的にどちらが正しいか」だけを問うている。しかし現実の自動運転では、やはり社会的な責任や法律的な責任の観点からの考察も欠かせないだろう。自動運転で1人をひき殺す判断を行った場合、ひき殺された遺族から裁判を起こされることは容易に想像し得る。こういったことも含めて、より広範な分野をまたいだ領域横断的な議論の継続と、法的な整備、一般消費者への周知および同意などが必要ではないかと考えられる。

「AI・機械学習の用語辞典」

ここを更新しました（2024年6月3日）

トロッコ問題が2択しかない思考実験に過ぎないことに関する注意書きを追記しました。