自動運転車は「どの命を救うべきか」世界規模の思考実験によると...

自分の命を犠牲にする？

「実に興味深く、刺激的」な調査だと言うのは、豪ニューサウスウェールズ大学のトビー・ウォルシュ教授（MITの調査には参加していない）。ただし、人間の期待するものをAIの判断基準に採り入れるという考え方には疑問を呈する。「機械には人間よりも高い倫理基準を持たせるべきだ。それが可能だし、そうであってこそ人は機械を信用できる。そもそも機械には人間的な弱点がなく、人間より正確に状況を把握し、人間より素早く反応できる」

一方、これまでにない重要な疑問も生まれている。同じく調査に関わっていないニューサウスウェールズ大学のイアン・マギル准教授は、道徳的な見地について社会的な合意が得られたとしても、それを実際にプログラムに書き込むのは難しいと考える。

「乗員の命と同じように、あるいはそれ以上に歩行者の安全を重視するような車を誰が買うだろう」と、マギルは問う。「新たな技術革新が新たな社会的リスクをもたらすことは避けられないが、今はこの点を考慮せずに自動運転車の開発競争が繰り広げられている。中には『勝者の独り勝ち』は当然と信じている企業もある。そんなメーカーが、所有者を犠牲にしかねない基準をプログラムに組み込むとも思えない」

オタゴ大学（ニュージーランド）のコリン・ギャバガン教授（法学）によれば、トロッコ問題のような状況は従来、法律の扱う範囲外とされていた。しかし自動運転車のソフトウエアに倫理的判断を組み込むとなれば、話は変わってくる。

「いかなる倫理を組み込むべきなのか、どこまで多数派の意見を反映させるべきなのか。今回の調査結果には、差別や平等に関する法的な見解と一致しない判断も含まれている」と、ギャバガンは指摘する。「例えば性別や収入によって人命に優先順位を付けることは（法的には）あり得ない」

「車に簡単に理解させられ、プログラム化しやすいのは『できるだけ多くの命を救え』という指示かもしれない」と、彼は続ける。「そうなると、あなたの車は自転車の集団を避けて大型トラックと正面衝突するのを選ぶ可能性が出てくる。大半の人間は、それが正しいことだと頭では理解する。しかし多くの人命を救うために自分や愛する者の命を犠牲にしかねない車を、私たちは買うだろうか？」

＜2018年12月11日号掲載＞

※12月11日号（12月4日発売）は「移民の歌」特集。日本はさらなる外国人労働者を受け入れるべきか？　受け入れ拡大をめぐって国会が紛糾するなか、日本の移民事情について取材を続け発信してきた望月優大氏がルポを寄稿。永住者、失踪者、労働者――今ここに確かに存在する「移民」たちのリアルを追った。