AI時代の到来で「トロッコ問題」が再燃! その「ワケ」と「解法」

法学者と情報学者の特別対談【PR】
平野 晋, 岡嶋 裕史 プロフィール

平野 メーカーの人たちとこのテーマでパネルディスカッションをすると、「そういう事態が起きないように最善を尽くします」とおっしゃいます。そういうとき、私は「それでも回避できなかった時のことを聞いているんですが」と意地悪に追い詰めてしまいたくなります(笑)。

しかし、答えが返ってきたことはありません。この問題の正解と言えるコンセンサスはまだ形成されていないんです。

「この世の最も悲しい側面は、社会が知恵(wisdom)を蓄積する速度よりも、科学が知識(knowledge)を蓄積する速度が上回っていることだ」

これは『われはロボット(I,Robot)』(1950年刊行)を書いたSF作家、アイザック・アシモフの言葉だとされています。

岡嶋 AI技術を手にした現代は、まさにそんな時代になってきましたね。科学技術による知識(knowledge)はどんどん蓄積されるけれど、人間の知恵(wisdom)が追いつていない。

平野 ええ、ですから、AIがさまざまな機械に実装されつつある今、我々は知恵を深めて、真剣に議論し、正解を発見しなければならないタイミングに来ているんです。

理系ではなく、「文理融合」がトレンドに

平野 この「派生型トロッコ問題」のような問いに正解を見出すためには、ITやAIなどの技術的な「知識」(knowledge)がもちろん必要ですが、同時に、法律学や倫理学や哲学などの文系の「知恵」(wisdom)も必要になります。この両者が協力しないと、多くの人が納得できる答えは導きだせません。

中央大学国際情報学部文系と理系の垣根を越えて学ぶ必要がある Photo by 中央大学国際情報学部

岡嶋 そんな流れもあって、最近は、理系教育である「STEM教育」と、文系教養である「ELSI素養」が取りざたされるようになってきましたね。「STEM」は、Science(科学), Technology(技術), Engineering(工学), Mathematics(数学)の略です。

平野 「これからはAIの時代だから、これを経済成長の柱にしたい。そのためには理系のSTEM教育が重要だ」というのは、最近の日本政府の言い分です。

たとえば今年の6月、文科省はSociety5.0(超スマート社会)の到来に向けて、国立大学の改革方針をまとめました。その中で、理系・文系を問わずに、全学部にデータサイエンスや数理の教育を課すことにしたんです。さらに、AIを使いこなす人材を年間25万人育てることも目標にしています。

岡嶋 一方の「ELSI」は、Ethical(倫理), Legal(法律),Social Implication(社会的な課題)の略で、文系的な「知恵」のことですね。

平野 ELSIは、1990年にアメリカでヒトゲノム計画が活発化してきたときに、頻繁に使われはじめた言葉と言われています。このとき、「遺伝子操作をしたらいろいろなことができますけど、やっていいんですか? 大変な影響があるんじゃないですか?」ということが問題視されました。

この場合、生物学で「できること」だけではなく、倫理や法律に則って「やっていいこと」も同時に考えていかなければいけない。そのためには生物学などの理系「知識」だけでなく、ELSI素養(知恵)が必要になります。

岡嶋 AI開発はゲノム開発と同等以上の影響力があると考えられているので、この先はSTEM教育だけでは不十分で、ELSI素養の教育も必要だとされているんですよね。

平野 ですから、昨年から内閣府が開いてきた「人間中心のAI社会原則検討会議」。ここに、東京大学大学院情報学環の須藤修教授と一緒に私も参加させてもらいましたが、文案を作るときには、「規範意識を含む社会科学や倫理等、人文科学に関する素養を習得していること」という文言を加えさせてもらいました。

こうした流れは、日本だけのことではありません。