ひところ自動運転という新しい技術の話題とセットで、「トロッコ問題」が盛んに語られていた時期があった。あの議論はその後どうなったのだろう。あまり聞こえてこなくなったような気がするけれど、どうなのだろうか。

トロッコ問題とは

トロッコ問題については、ネット上で検索すれば詳しく知れる。トロッコとは鉱山などで使われる小型、簡易な鉄道のことである。
そのトロッコ車両が何かの不具合でブレーキが効かず暴走し始めたとする。進行先の線路上には五名の作業員がいて、そのままだと轢かれてしまう。ただしその手前には線路の分岐がある。転轍機を操作することで、支線の方にトロッコを導くことができ、五名は助かる。ただし支線の先には一名の作業員がいる。転轍機での切り替えを行えばその一名が轢かれる。
この時、あなたはたまたま転轍機の脇にいた。ではトロッコの進行方向をそのままにするか。それとも切り替えるか。さあ、どうする？ トロッコ問題とはそういう問いかけである。

別のバージョン例

このトロッコ問題には色んな別バージョンがある。本人がトロッコ問題関連だと言ってはいないけれど、立岩真也さんの本にあった次の話も意味としてはそれに近い。※１
ここに三名の患者がいて、それぞれ別の内蔵に重度の疾患を抱えている。三名ともこのままでは近じか確実に死亡する。でも臓器移植が施されれば三名とも確実に治癒する。
そこに一名の健康な人がいる。この健康人の三種類の臓器を摘出して三名に移植すれば、その三名は助かる。もちろん一名は死亡する。さあ、どうする。
さて、僕自身の中からまず最初に浮かんでくる回答を言えば、トロッコの場合は転轍機を切り替える。臓器移植の方は、そんなヒドイなことできるか！

最大多数の最大幸福だけじゃない何か

しかしここで早速二つの疑問が湧いてくる。まず、僕（たち）の概ねの常識として「最大多数の最大幸福を優先」というのがある。だからトロッコの方では、僕は多数である五名を救う。ところが臓器移植の方は僕は多数を救わない。その扱いの差は一体なぜだろう。自分の中にあるどんな価値観から来るのだろう。
次にトロッコの場合でも、極端な例を考えると五名はヒトラーとその側近達でした。一名の方はガンジーでした。それなら僕は迷わず転轍機をそのままに。いや臓器移植だって似た構図は描ける。健康人がもし死刑を宣告された極悪犯罪者だったなら、移植の是否は迷ってしまう気がする。
つまり上記ケースの当事者がどういう人たちであるか。僕にとってどういう人たちかによっても判断は変わるのだ。しかし、そもそもその人がどういう人かなんて普通は、そして本当には、わかるわけがない。ではその場面に直面した時、どう決断すればいいのか。

自動運転車は「わからない」が可能か

今まで述べたようなことは、これまでの時代なら、突き詰めて考えなくてもよかっただろう。それで何となく済んできた。
でもAI搭載の自動運転車登場となると、そうはいかないのではないか。自動運転車は何か異変を察知すると瞬時に判断し、最善と結論した操作を行う。あるいは何も操作しないことを最善の結論とする。その結果、救われる者と犠牲になる者が生じる場合もあるだろう。ではその判断は一体どういう価値の基準をもとに為されるのか。自動運転車開発と連動してトロッコ問題が語られたのは、その議論の脈略だった。
先の二つの例題に対する現時点の僕の考えを言えばこうなる。トロッコ問題については転轍機を切り替えるかどうか「わからない」。臓器移植の例については依然として健康人からの摘出は反対だが、なぜ反対か。その理由を論理で突き詰めると今のところ「わからない」※２
では、自動運転車には僕の様に「わからない」と結論する能力は付与されるのだろうか。付与された方がいいとも即座には言えないが、付与されない（できない？）ならば、そこがAIと人間の違いになるだろうとは思う。

わからないでいられるところ

自己決定が大事としきりといわれる。となると、わからないので決められませんでは済ませてもらえない。あるいはよくよく調べ、思案すればわかるかもしれないがその余裕がない。だからわかったことにして決定する。スピード感が大事などと言われる。世界はだんだんとそういう方向に進んでいるように見える。
でも僕には、それは人間にとって居心地のよいところとは思えない。だから安心して、わかんない！と言えるひとときや場所がいつまでもあって欲しい。

佐渡島在住　　十文字　修

 

※１『私的所有論』 立岩真也　勁草書房
※２ 上記の著作ではその理由を論理で突き詰めることが為されていた記憶がある。
筆者（十文字）はAIと人間の違いのことを考えたいと、最近、四百頁超のこの本を三十年ぶりに開いた。膨大な迷路を探求するような著者の文体は変わらず好きなものの、体力的に途中で頓挫。