「2001年宇宙の旅」の「HAL 9000」を、2019年のテクノロジーで解説しよう:デーイジー、デーイジー(6/7 ページ)
スピルバーグが、手塚治虫が、そして全世界の子どもたちがあのころ夢見たテクノロジーは、2019年現在どこまで実現できているのだろうか?――映画や漫画、小説、テレビドラマに登場したコンピュータやロボットを、現代のテクノロジーで徹底解説する「テクノロジー名作劇場」、第5回は「2001年宇宙の旅」だ。
HAL 9000はなぜ、殺人を選択したのか
「自分が宇宙船の制御装置から切り離され、責務を果たせなくなること」を恐れたHAL 9000は、全てのクルーを抹殺しようとする。
ここに至る経緯を説明しよう。
HAL 9000は「モノリスの存在は極秘」「モノリスの調査をする秘密ミッションがある」という指令があった上で「単独で行動できるようにプログラムされている」(「2010年」でドクター・チャンドラによって明かされた)。しかし秘密を知らないボーマンとフランクによって、HAL 9000は排除されそうになる。HAL 9000はこれらを総合して、「人間を殺害することにより目的は達成される」という論理を導き出したわけである。
このような推測は現代のAIでも可能だろうか。
「殺す」という選択肢が存在していた可能性
現代のAIは、先ほど説明したように「分類器」である。「どれにするか選択する」ということだ。
つまり「殺す」という選択肢が存在すれば、それを選択する可能性はある。
HAL 9000が置かれたシチュエーションを、RPG(ロールプレイングゲーム)のようなものだとしよう。RPGにはさまざまな得点、減点がある。もちろん「モノリスの調査の完遂」が最も大きな得点である。減点は「HALシリーズの失敗が汚点になる」とか「自分が切り離されてしまう」とか「自分が止められてしまう」とかいうことかもしれない。
そのようなさまざまな選択肢が与えられ、それが進むにつれ得点数が集計されるようなシステムを作ったとする。そして、この行動の組み合わせによって最も高い点数を得られるものを選択するようなシステムは作れるかもしれない。実際、ブロックくずしゲームを自動的に覚え、あっという間に習得したシステムが公表され、話題になったことがある。
幾つかの行動を集計して最適なものを選んでいくシステムは、「予測」と「最適化」というジャンルのシステムである。チェス、囲碁などの対戦システムはそういった技術を突き詰めたものである。
ブロック崩しで高得点を上げたり、自動運転のロボットが自然にぶつからなくなるように自動チューニングしたりするようなシステムは、機械学習の応用によって成り立っている。
HAL 9000も、そういった予測、最適化、学習モデルを内部に潜めていて、さまざまな計算の上で行動したことで、殺害、およびHAL 9000自身が単独で調査をする道を選択したのかもしれない。
“Open the pod bay doors, HAL”(ドアを開けてくれ、HAL)
“I’m sorry Dave, I’m afraid, I can’t do that.”(すみませんデイブ、申し訳ありませんが、それはできません)
最初の殺人を犯し、人間に反抗を始めたHAL 9000だが、言葉はプログラムされたように丁寧だ。
Point!
HAL 9000は、予測、最適化、学習モデルなどの総合的判断で犯行に及んだ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
- 「火の鳥」の「ロビタ」を、2018年のテクノロジーで解説しよう
スピルバーグが、横山光輝が、そして全世界の子どもたちがあのころ夢見たテクノロジーは、2018年現在どこまで実現できているのだろうか?――映画や漫画、小説、テレビドラマに登場したコンピュータやロボットを、現代のテクノロジーで徹底解説する「テクノロジー名作劇場」、第4回は手塚治虫先生の「火の鳥」だ - 「わたしは真悟」の「モンロー」を、2018年のテクノロジーで解説しよう
手塚治虫が、スピルバーグが、そして全世界の子どもたちがあのころ夢見たテクノロジーは、2018年現在どこまで実現できているのだろうか?――映画や漫画、小説、テレビドラマに登場したコンピュータやロボットを、現代のテクノロジーで徹底解説する「テクノロジー名作劇場」、第3回は楳図かずお先生の「わたしは真悟」だ - 「バビル2世」のコンピュータを、2017年のテクノロジーで解説しよう
手塚治虫が、スピルバーグが、そして全世界の子どもたちがあのころ夢見たテクノロジーは、2017年現在どこまで実現できているのだろうか?――「鉄腕アトム」や「2001年宇宙の旅」に登場したコンピュータやロボットを、現代のテクノロジーで徹底解説する「テクノロジー名作劇場」、第1回は、横山光輝先生の「バビル2世」だ! - 「ナイトライダー」の「K.I.T.T.」を、2017年のテクノロジーで解説しよう
手塚治虫が、スピルバーグが、そして全世界の子どもたちがあのころ夢見たテクノロジーは、2017年現在どこまで実現できているのだろうか?――映画やテレビドラマに登場したコンピュータやロボットを、現代のテクノロジーで徹底解説する「テクノロジー名作劇場」、第2回は「ナイトライダー」だ - 「AI」が婚活サイトのサクラ?――シンギュラリティの芽生え
ミニスカ調査員「ユカリ」が受け取った不気味なDM、匿名掲示板に書き込まれた「ある」うわさ、そしてハーフ社長の暗い過去――これは単純な結婚サギなのか、それとも……?