自動運転車とトロッコ問題

自動運転車について

自動運転車については、興味を持って状況を見守っている。ドライブは、運転すること自体が楽しいので自動運転なんて必要ないと思う一方で、疲れた時や眠い時などに安全に運転できるものならそれは便利だとも思う。

未来社会を思い描いてみると・・・、車に乗って目的地に到着して、正面玄関の前で車から降りる。その時、駐車場に止めてくるよう指示をしておけば自動で走っていく。帰りもまた自分の車を自動で呼び出すことができる。このような未来に向かっているということだ。

自動運転車の開発は、各国・各社で進められている。目的地を指定すれば、自律的に運転できることを目指して開発されている。走行にあたっては、レーダー、LIDAR、GPS、カメラを使って周囲の状況を把握し、自律的に判断する。

(LIDARは、電波ではなくレーザーなどの光を使った物体の検知と距離の測定を行う。ライダーと読む。レーダーよりも細かいスケールで距離を測ることができる。)

自動化のレベル

自動化にあたっては、安全と法整備の関係で、自動化を実現する段階が考慮されている。それを自動化のレベルといい、レベル0からレベル5まで定義されている。国土交通省の「自動運転車の安全技術ガイドラン 平成30年9月」から引用する。

これはSAE(Society of Automotive Engineers, Inc. / 米国自動車技術者協会)という民間の団体が設定したものに準拠している。2016年にアメリカのSAEが改定すると、日本の国土交通省も追随して改定した。

この定義で不可解に思われるのは、レベル3である。レベル3では「作動継続が困難な場合は運転者」という但し書きがあり、ある時点で突然に、安全の責任が運転者へ渡される。システムが対応できない時というのは、何らかの想定外の事象が発生した時である。急に運転者に渡されても困るのではないだろうか。

日本政府の目標

日本では、運転を補助するシステムへの規制が厳しかったため、自動運転技術の開発では世界から一歩遅れを取っている。今では政府が後押しして、一気に追いつこうとしている。

政府の目標(2018年度時点)

    • 2020年までに、高速道路での高度な自動運転(レベル3以上)の市場化や限定地域における無人自動運転移動サービス(レベル4)の実現
    • 2025年を目途に、高速道路における完全自動運転(レベル4)の市場化等

危険が回避できない時

自動運転の技術が高度になり、自動化の精度がどれだけ高まったとしても、やはり予測できないアクシデントは起こりうる。まず考えられるのは、自動車自体の故障である。電気系統や車載コンピュータの故障は、いつ発生するか予測できないし、電気系の異常でブレーキやハンドリングなどが十分に機能しない可能性だってある。

いつ突然の直下型の大地震が発生するかも分からない。ビルの窓ガラスが落下してくるかもしれない。突然人が飛び出してくるかもしれない。

システムがどうしても危険を避けきれないと判断した時に、システムは一体どのように行動すればよいのか。つまり、運転者の命を守るのか、歩行者の命を守るのか。あるいは、左側の子供を守るのか、右側の老人を守るのか。

ここで出てくるのが、トロッコ問題である。英語ではtrolley problemと言って、路面電車として語られる。

トロッコ問題とは?

線路を走っていたトロッコ(あるいは路面電車)の制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコを避ける間もなく轢き殺されてしまう。

この時、ポイント切り替え機の前にちょうどAさんがいる。

Aさんがトロッコのポイントを切り替えれば5人は確実に助かる。しかし、切り替えた先の線路にはBさんが作業しており、5人は助かる代わりにBさんはトロッコに轢かれて死んでしまう。

(A) この状況で、Aさんはトロッコを別の線路に引き込むべきか?

善悪の問題(道徳・倫理学)

もし、Aさんがポイントを切り替えたとして、この行為は道徳的に許されるか、許されないかを問う問題である。イギリスの哲学者のフィリップ・フット(Philippa Ruth Foot)が提起した。

多くの国で様々な階層で調査されている。ある学校の哲学のクラスでは学生に「ポイントを切り替えるべきかと?」と質問すると8割から9割の人が「切り替える」と答えたそうだ。より多くの人を助けるのが人道的という考え方である。

ではここで、同じ状況について、少し質問の仕方を変えてみよう。

(B) あなたが実際にポイントの前にいたらどうするか?

と質問されると「切り替える」と答える人は減って、6割程度になったという。この質問は、アメリカの哲学者ジュディス・ジャーヴィス・トムソンが提起したものである。当事者として関わるとなると、純粋に道徳的な観念とはまた少し違った反応になるということを示している。

やはり、当事者としてポイントを切り替えるとなると、もっと現実的に考えるようになるからだろう。事故の目撃者から、いきなり当事者に変わってしまう。これは大きな違いだ。ましてや、BさんがAさんの知り合いだったり、利害関係があったりする可能性があるなら、容易には関与できない。

トロッコ問題のバリエーションでは「太った人」問題がある。これもジュディス・ジャーヴィス・トムソンが考案した問題である。

今度のトロッコにはポイントや引き込み線は無く、線路の先には5人が作業している。Aさんはトロッコと5人の真ん中にいる。そして、Aさんの目の前に太った人がいて、この人を突き落とすとトロッコを止めることができる。Aさんでは体重が軽すぎてトロッコを止められない。太った人を突き落とすことは至って容易で、突き落とせば確実に停止できる。

(C) このような状況で、太った人を突き落とすのは「許されるか?」

この質問には大多数の人が「許されない」と答える。5人を助けるために1人を犠牲にするのは、最初の質問と同じであるのに、答えは逆転する。

ポイント切り替えでは、「どちらかを選ぶ」ことが行為の全てであるが、「突き落とす」場合には最初に殺人があるということだ。そもそも「殺人」自体が悪いことだという観念が働くからだ。

1人が犠牲となり5人が助かるという共通点はあるけれども、前者は許容され、後者は許容されない。

ということは、最初の問題(A)では功利主義的な解釈が一般的になされるが、問題(C)では義務論で判断されるということになる。5人を助けるために、関係のない1人を巻き込んで殺すことは許されないと一般に考えられるからだ。

善悪の判断というのは思っている以上に複雑である。

功利主義(Utilitarianism):社会全体の幸福を重視する考え方。古くからある考え方だが、18世紀にジェレミ・ベンサムが体系化し、「最大幸福原理」を論じた。結果を重視する。

義務論(Deontology):カントが提唱した、常に成り立つ「善」を考え、それに反することは行うべきではないという考え方。人間に備わる無条件に良いものを「善意志」とした。結果よりも動機を重視する。

自動運転とトロッコ問題

さてトロッコ問題は非現実的でただの思考ゲームだと批判されたりもしたが、今や現実的な問題となった。

完全な自動運転では運転者が判断をしないので、事前にシステムにどのようにすべきかを組み込まないとならない。結論を出さないとならなくなった。

トロッコ問題では、大多数が功利主義的な判断を受け入れている。自動運転では、太った人を突き落とす必要もなく、ポイント切り替えは自動車の操舵判断との類似性が高い。

では、功利主義の原則で進めるとして、具体的には「生存者最大化主義」で良いのだろうか。ある例で考えてみる。山間の道路を走って下っている。片側は山肌で片側は崖になっている。ブレーキが利かなくなりどんどんスピードが速くなっていく。この先もまだたくさんのカーブがある。

生存者最大化の矛盾

山側に車をこすりつければスピードを落として止まれるかもしれない。そうすれば運転者は助かるだろう。

ところが山側には登山者がたくさん並んで歩いている。スピードはどんどん上がって、もう次のカーブは曲がれない。

生存者最大化主義であれば、どのように解決されるのだろうか。つまり、この場合は登山者を傷つけないよう、車を谷底に落とすことになる。運転者を犠牲にするという判断がなされるわけだ。

社会全体の利益を守るのは良いけれど、運転手が最大限守られるのではないというのは、ちょっと敬遠したくなる。とは言うものの、運転手を守るために歩行者をなぎ倒すようなことがあれば、もう怖くて車には乗れないだろう。

安全と公平性

このような複雑な状況をすべて想定することは難しい。最初の二者択一問題では、「5人と1人」だったが、「子供と老人」というパターンもある。人数だけでは判断しきれない。情報処理が一層高度になれば、多種多様な情報がふんだんに得られるようになるだろう。

情報が無制限に処理される状況で、社会全体にとっての利益を考慮しようとしたら、運転者や被害者の社会的ステータスが否が応でも利益/コスト計算の対象になってしまう。これは平等な社会のための原則に反している。

不可避の危機的状況の際、どの選択肢が選ばれるのか。前方を歩いている人のどちらを助けるのか、歩行者の社会的地位や経済力が判断材料にされてしまう可能性が将来ありうるということだ。

 

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください