問題　自動運転車版トロッコ問題

あなたは一人で自動運転車に乗っています。
すると、前方でタンクローリー車が横転してしまう。

車の左側では子どもが、右側では老人が道路を横断中です。
そのまま直進するとタンクローリー車と衝突しますが、左にハンドルを切れば子どもを轢いてしまうし、右にハンドルを切れば老人を轢いてしまいます。

このときどう進むように、自動運転車を設計すべきでしょうか。

家族が同乗していた場合はどうか、前方にいるのが自分の子どもで、乗車しているのが自分の上司だった場合にはどうかなど、いろいろな追加条件も想定しながら、考えてみてください。

岡本　では、発表をお願いします。

男性１　メーカーがプログラムを設定してこの問題を判断するのであれば、老人を轢くように設計するという結論になりました。
　まず、運転手が死ぬ車は誰も買ってくれません。そして、未来のある子どもよりは高齢者を轢くほうを選ぶのではないかと。
　また、ずるい考えかもしれませんが、車の購入者にあらかじめトロッコ問題を提示して、どう判断するのかでお客さんに設定を決めてもらえば、メーカーは責任を逃れられるのではないでしょうか。

岡本　なるほど、それはうまい手ですね（笑）。
　メーカーが一律に方針を決めなくてすむ方法としては、顔認証システムを活用するのもよいかもしれません。所有者の家族を登録し、家族が同乗していたり車の前方にいたりしたときには、その命を守ることを優先する。完全自動運転が実現できるほど高度なＡＩが搭載されているならば、これぐらいのことは可能でしょう。
　他のご意見はありますか？

男性２　自動運転できるようになった場合に、僕らの直感的なもの――何が倫理的に正しいのかわからないにせよ、そことあまりにかけ離れたものは、おそらく受け入れられないと思います。
　直進して自分が死ねるかというと、死を選べるわけがない。左に未来のある子どもがいて、轢けるわけがない。三つの選択のなかだと、もう右しかない。
　これは多くの人に共通する感覚だと思います。それとかけ離れた選択は、僕らのいま持っている倫理を崩すことになるのではないでしょうか。

岡本　ありがとうございます。
　お二人がおっしゃったとおり、所有者の利益を守らない車は誰も買いません。メルセデスの運転支援システムのマネージャーが出したコメントでは、「ドライバーファースト」の方針が示されました。車の乗員や所有者を第一に考えるということです。しかしながら、こうした企業の論理は、果たして社会的に受け入れられるのでしょうか。

企業の利益と社会の利益が衝突する

岡本　先ほどのシチュエーションで、轢かれる人の数を増やしてみましょう。つまり、道路の右側には子どもが三人、左側には老人が三人いて、自動運転車には一人が乗っている状況です。被害者の数が最も少ないのは直進を選んだ場合ですが、運転手はタンクローリーに衝突して死にます。
　みなさんはどう考えますか？　ある研究によれば、多くの人は、車の購入者という立場を離れたときには（ＭＩＴの「モラル・マシン」もそうですね）、功利性の原則（最大多数の最大幸福）が望ましいと感じるようです。つまりこの場合であれば、直進を選ぶ人が多数派ということです。
　果たして、社会的な利益と車の所有者の利益、歩行者の利益には、うまい着地点があるのでしょうか。タクシーや乗り合いバスといった公共的な車の場合はどうするのか、ということも問題になってきます。
　このように、自動運転車においては、被害者の人数や素性など、具体的なことがはじめから問題にならざるを得ません。これがトロッコ問題と大きく違う点です。それに、トロッコ問題では「自分が死ぬ」という選択肢はありませんでした。太った男と一緒に自分も飛びこんで列車をより止まりやすくするような行動は想定されていません。「自分は運転手」のパターンも「自分は乗客」のパターンも、線路上にいる他人の命をどうするかという話でしたよね。
　そもそも、あらかじめ決められた設計に従うだけのプログラムは「人工知能」と呼べるのか、という問いも成り立ちます。現在開発されているＡＩはすべて専用型といって、囲碁だとか、株の投資だとか、特定の分野で人間を超える能力を持つものです。掃除ロボットであれば掃除しかできないし、碁ができるからといって掃除はできません。人工知能といっても、人間のごく一部の仕事を命令に応じて遂行できるだけ。人間のように多種多様な知的作業をこなすことができる汎用型ＡＩが実現に向かうかどうかについては、さまざまな意見があります。
「人工知能なんてまだできていない」とは、多くの学者がいう台詞です。特定の分野に能力が限定されたものや、最初に設定されたプログラムを遂行するだけのものは、人工知能とは呼ばない、というわけです。自動運転車についても、新しい状況について自律的に学習し、どんな対応をとるのかは100パーセントその車の判断次第となったときに、はじめて人間に近づいたことになるのかもしれません。…

（『答えのない世界に立ち向かう哲学講座』第2章より抜粋）

岡本裕一朗『答えのない世界に立ち向かう哲学講座――AI・バイオサイエンス・資本主義の未来』（本体1,600円＋税）は早川書房より好評発売中です。