AI時代の到来で「トロッコ問題」が再燃! その「ワケ」と「解法」

法学者と情報学者の特別対談【PR】
平野 晋, 岡嶋 裕史 プロフィール

平野 たとえば理系の大学だと思われているマサチューセッツ工科大学(MIT)でも、「政策」という文系の単位を、「データサイエンス」や「コンピュータサイエンス」といった理系の単位と同じくらい取得しないと、卒業・修了できない学部・大学院を作りますと発表しています。

岡嶋 AI時代になって、教育の主流は理系だと感じている人が多いと思いますが、流れは「文理融合」に向かっているわけですね。

AI時代のグローバルリーダーに求められるもの

平野 ええ、おそらく、若い世代はそうしたことをより敏感に感じているんでしょう。

私と岡嶋先生が奉職しているのは、中央大学の国際情報学部(iTL : Information Technology & Law)ですが、ここでは「情報の仕組み」といった少し技術的な分野と、「情報の法律」や「グローバル教養」といった文系分野を同時に学べます。「グローバル教養」では、法律のベースになる倫理や哲学、国際的な価値観を扱います。

実は、このiTLの2019年度の入試志願者倍率は61倍で、主な国際系学部の中でトップでした。これは、STEM教育だけでなく、ELSI素養が世の中に求められているということを、学生たちが感じている結果だと思います。

岡嶋 ちなみにうちの学部はITや情報を扱いますけど、文系なんですよね。

平野 そうなんです。ITや情報の部分については、理系の人たちのように数学を深く扱うことはありません。その代わりに生まれた余力をもって法学を勉強してもらいます。法学は「法科の中央」と呼ばれる中央大学の強みでもありますから。

これから先は、今まで以上に、情報技術の高度化やグローバル化が進みます。その中では、情報と法律の双方に基づいて正しい判断ができる人材が、あらゆるシーンで求められるようになっていきます。

さらに言えば、そうした立場に立つ人には、トロッコ問題のような哲学的な問題を解くために、知識(knowledge)だけでなく、知恵(wisdom)も求められます。まだ法律のない問題を解くためには、やはり功利主義やイマヌエル・カントの義務論といった倫理や哲学の基礎教養がないと、議論すらできません。知恵に繋がるベースとなるのが、「グローバル教養」です。

岡嶋 これからの社会では、「ITのことも、法律のことも、哲学のこともわかる」という人が、社会から強く望まれるようになり、グローバルリーダーとして活躍するようになっていくはずです。

中央大学国際情報学部「グローバル教養」を身につけるために Photo by 中央大学国際情報学部

AIは悪いことも学習してしまう

平野 その通りだと思います。この先、技術のさらなる進化によって、AIやロボットにまつわるさまざまな問題が頻出するでしょう。

たとえば昨年、Amazonは、自社で推し進めてきたAI採用システムの運用を打ち切りました。AIにプログラマーの採用活動をさせた結果、過去のビッグデータに男性が多かったせいで、機械学習をしたAIが、女性の評価を下げるようになってしまったからと言われています。

岡嶋 そのお話で思い出しましたが、Googleは創業当初、「人手を廃するからこそ、公平なランキングやリンク集を提供できる」と言っていましたよね。

どういうことかというと、「人間は必ず堕落して悪いものになるから、人の主観を排除して、全部機械的なアルゴリズムに任せることで、我々はずっと善であり続けることができる」というような言い方をしていたんです。これ、今思うと、無邪気な考え方だな、って。

平野 AIが機械学習を行うと、人間の悪いところを学んでしまうことだってありますよね。

岡嶋 最近だと、人と楽しく会話するためにマイクロソフトが開発したAIチャットボット「Tay(テイ)」が、ツイッターを介してユーザーと触れ合ううちに「ヒトラーは正しかった」などと言い出し、アカウント停止になった事例があります。

平野 こうなると「機械に全部任せるから公平だ」なんて短絡的な考えは、もう通用しませんね。

岡嶋 そうなんです。機械学習を重ねるAIは、子どものように、特定の考え方に染まりやすい側面を持っています。

「採用」や「人事評価」でAIを使うことに関して「人間と違って主観が入らないAIのほうが公平だ」という人もいますが、今こそ人の目でチェックすることが必要になっているんだと思います。

平野 事実、今後は「人間参加型(human-in-the loop)のAIシステム」という考え方が有効になるだろうという世界的な見方があります。これは、「『人間に大きな影響のある判断』は機械だけにさせず、人間の判断を入れるようにしなさい」という考え方です。

そして、このときに判断する人間というのは、やはりITと法律に基づいて正しい判断ができる人間でないとまずいわけです。