AIが「人間より正しい判断ができる」という思想、やめませんか?

機械は責任をとれるのか?
西垣 通, 千葉 雅也

「エビデンス主義」が排除するもの

千葉:ガブリエル的に考えれば、メイヤスーが言うような数理的な記述だけじゃなくて、もっと質的な記述でもものごとの事実性は確保できるという立場なんですよね。

西垣:そうですね。ですから、音楽なら音楽、文学なら文学でそれはもうファクトであると考えよう、相対主義なんてヌルいことは言うな、というわけです。いろんな領域があって、それはそれなりに正しい事実なんだと。ただしその領域自体は、ある意味では偶然できるものであって、どれかが絶対的に正しいとメタレベルでフィックスしちゃいけない、と。

このことに関連して、最近いろんな人が「エビデンス」という言葉を使うようになったと思うんですけど…。

千葉:実は今の話を聞いて、僕もそれに触れようと思っていたんです。

西垣:エビデンスを大事にすること自体は決して間違っていないんですが、でもあれって、考えてみるとかなりいい加減な話ですよね。

大学では統計を勉強したんですが、現場はわりと生々しいんです。サンプルをかき集めて、論文を書いて…まあ、サンプルが無いよりはいいけれど、中途半端なサンプルで「エビデンスだ」と言ったり、すぐに「絶対正しい」と主張したりするのは、よく考えるとちょっとまずいんじゃないかと。

科学のデータの取り方にも偶然性がある。例えば薬の副作用なんかにしても、扱う対象が生命体だからすごく結果は変動するし、個人差もかなりある。しかし、そういうふうに個人をデータとして均して見て、それがエビデンスだからこういう論理がなりたつ、と言うのは、いかにも科学的に冷静に主張しているようでいながら、かならずしもそうではない。だから、もっとちゃんとした立脚点から科学主義を捉えなおすべきだと思うんですね。

 

千葉:それに関しては僕も以前から、現代では形骸化したエビデンス主義が跋扈していると感じています。

エビデンスといっても、実際にはデータにも揺れや幅があるものですが、とりあえず論文があるとか、あるいは官公庁がこういう資料を出しているとなると、盲目的に信頼できる、あるいは正しいということにされる。最近はちょっと大学で書類を作る時にも、常に補足資料や証拠をちゃんとつけろ、みたいなことがうるさく言われるようになっているわけです。

結局、そういう「エビデンスをつけろ」という時に何が排除されているかというと、人間的な判断だと思うんですね。つまり、揺れや幅のある判断とか証言とか、想像力の余地のあるようなものは受け付けない、ひとつに固定されて動かないエビデンスじゃなければ通用しない、という風潮がすごく強くなってきていると思うんです。

逆に言うと、エビデンスさえ出ていれば、あとは何も考えなくてもすべてが手続き的に進んでいくわけです。あらゆる物事の判断や処理を、そういう手続き的な事務処理のようなものにすべて還元していこうとする風潮が今はすごく強い。官僚主義の大衆化と言ってもいいですが。

西垣先生の著作を読んで、AIによる判断支援が、そうした形骸化した手続き主義、エビデンス主義をさらに悪化させるんじゃないか、とすごく思いますね。

西垣:いまのご発言は、私の言いたいことを全部言っていただいた感じです。AIをうまく使って人間の領域を開く、例えばアートの新しい領域を拡張するといった試みはいいんです。でも、判断をAIに丸投げして、部分的なデータに基づくにすぎない計算結果を「普遍的に正しい」と主張するのは、要するに、「世界は神のロゴスでできている」というモデルの悪用だと思うんですよ。

新聞にはしばしば「今度はこんなことをAIがやりました」なんて書いてありますが、AIの深層学習はパターン認識の部分に使われているだけで、その他のところは昔ながらのプログラムで動いている。それを「AIだからすごい」と言うのはおかしい。もし事故が起きたら、誰が責任をとるのか。

もちろん、AI技術自体は有益でしょう。例えば過疎地に住むお年寄りは、自動運転の助けを借りて出かけられるようになるかもしれないし、いいことはたくさんあると思います。ただ一方で、AIに対する奇妙な御利益信仰が、私は納得できないんですね。

千葉:AIを使うことに伴う責任の所在という問題は、これからは実際に避けがたく出てくると思います。そうなったとき、責任という概念の根本的な、形而上学的な捉え直しがおそらく必要になるでしょうし、技術と絡んだ法哲学が非常に盛り上がるだろうと思います。僕も興味があるところです。

西垣:私は関連したプロジェクトに少し関わっているんですが、あまり本質的な議論まで行かないんですよ。専門的というか、ここのところをこう直さないと法的整合性がとれないとか、細かい議論に偏っている状況ですね。

コンピュータができること、できないことの限界を見極めて、責任の問題についてもきちんと意見を出していくことが必要だと思います。(了)