Photo by iStock

AI時代の到来で「トロッコ問題」が再燃! その「ワケ」と「解法」

法学者と情報学者の特別対談【PR】
自分の選択で奪われる命の数が変わる──。
かつて思考実験として話題になった「トロッコ問題」。だが、いまや「待ったなし」でその解決法を考えなければならなくなったという。
何が起きているのか、どうすればいいのか。法学者・平野晋氏と情報学者・岡嶋裕史氏による特別対談から、乗り越えるためのヒントが見えてくる。

取材・構成:桧尚子 提供:中央大学国際情報学部
平野晋平野晋氏(右)、岡嶋裕史氏(左) Photo by Naoko Hinoki

「トロッコ問題」が現実になるとき

平野 「トロッコ問題」をご存じの方も多いでしょう。暴走するトロッコの先に5人が動けない状況でいる。それを避けようとして転轍機(ポイント)を右方向へ切り替えると、その先にいる1人を轢くことになる。ポイントの前に立つあなたならどうするか、という問題です。

岡嶋 「ある人に危害を及ぼさないためには、他の人に危害が加わらざるをえない場合、他の人を犠牲にするのは許されるか?」というジレンマを扱った、哲学的な思考実験ですね。

平野 そうです。1960年代にイギリスの哲学者によって提起されて、以降、アメリカの哲学者や法哲学者の間で議論がなされてきました。

ところが最近、若手の倫理哲学者たちがこう言いだしたんです。「トロッコ問題はもはや思考実験ではなく、現実的に解決方法を決めなければいけない問題だ」と。

転轍機現実に選択しなければならない? Photo by Getty Images

なぜなら、「完全自動運転車がトロッコと似たような状況に陥ったときに、どちらを選択するのか」を、プログラマーや設計者が決めなければならなくなったからです。

岡嶋 完全自動運転車が現実のものになりつつある今、単なる思考実験だったトロッコ問題が、現実の問題として起ちあがってきたわけですね。

平野 そうなんです。仮想事例として、トロッコ問題の派生物である「橋問題」を挙げてみましょう。対向1車線ずつの橋があるとします。すると、向こうから子供が30人乗ったスクールバスが来て、なんらかの理由でこちら側の車線に飛び出してきました。

このとき、こちら側を走っている自動運転車が取りうる選択肢は2つです。1つは、そのまま直進し、スクールバスに突っ込んで30人の子どもが死んでしまうこと。もう1つは、自動運転車が曲がって橋から落ちること。後者を選択すると、30人の子どもの命が助かるかわりに、その車に乗っていた人は死んでしまいます。自動運転車の設計者はどちらの行動をさせるべきか、というのが「橋問題」です。

岡嶋 他にも、「バイク問題」というのがありますね。自動運転車が走っていたら、後続車に追突された。すぐ前を2台のバイクが走っていて、ブレーキは間に合わない。このとき、バイクAの運転手はヘルメットをかぶっている。一方で、バイクBの運転手はヘルメットをかぶっていない。どちらに突っ込むべきか、という。

平野 この場合、被害を最小限にするためには、ヘルメットを被っているバイクAに突っ込むのが正解です。しかしこれでは、道路交通法を守ってヘルメットを被ったAが追突されて、損をしてしまいます。それは不公正ではないのか、というのが「バイク問題」です。

これと同じ構図で、バイクAの代わりにメルセデスベンツ、バイクBの代わりにジープ・チェロキーが走っていた、とするものもあります。この場合、損害賠償請求額がより安いのはチェロキーなので、できればこちらにぶつかりたいところです。しかしそうすると「ベンツに乗っている金持ちを優遇するのか」という批判が生まれる。

科学知識に、人間の知恵が追いつかない

岡嶋 こうした問題を解決するためには、まずこのような状況にならないように、工学技術的に最善の努力をすることが当然必要になりますね。

平野 ええ。しかし、工学技術的にどうしても回避できなかった場合はどうなるでしょう?