トロッコ問題という古典的な思考実験がある。典型的なものは、制御不能になったトロッコを分岐器で進路を変えられる立場にある人が、そのままにしておくと5人轢き殺してしまい、進路を変えると1人轢き殺してしまうといった問題である。どうすべきかに明確な正解は無く、功利主義的なのか義務論的なのか等によって考え方は分かれる。これ自体は非常に面白い。
この問題は自動運転車でも盛んに議論されており、第一生命経済研究所の柏村祐主席研究員は、MITのモラル・マシンを紹介した上で、
「私たちはＡＩが万能と考えるのではなく、どのような倫理観をＡＩに学習させて、 社会に還元するのか、またＡＩと人間が共生していくためにどのような倫理観を最も優先させるのか真剣に考えなくてはならない。」
柏村祐「『モラル・マシン』の衝撃 ― あなたの倫理観を見える化する ―」『 柏村祐の「テクノロジー・シャングリラ」』第一生命経済研究所、2019年11月6日
と提言しているが、筆者からすればトロッコ問題と自動運転車を結びつける典型的な議論はナンセンスである。
モラル・マシン
モラル・マシンはMITメディアラボが公開しているプラットフォームで、自動運転車を用いた人工知能の道徳的な意思決定に関して、人間の視点を収集するためのものである。
参考：モラル・マシン
以下のような2枚の画像が順々に表示され、ブレーキが故障した場合に、自動運転車がそのまま進むべきか、進路を変更すべきかを選択していく。
出典：モラル・マシン
生成される画像は毎回ランダムで、
- 乗客の有無や人数
- 結果的に出る死者の人数やパターン
- 歩行者の属性（性別、ホームレス、乳幼児、犬など）
など様々なパターンで13問答えることになる。上の画像の場合だと、
- 左側の場合の死者：1人の女性、1人の少女。こちらは信号を守っている。
- 右側の場合の死者：1人の女性、1人のアスリート体型女性、1人の少女、1人の乳児、1人のホームレス。こちらは信号無視をしている。
のように微妙なケースが多い。13問答えると、
- 人命の数
- 乗客の命を優先する傾向
- 交通規則を遵守する傾向
- 能動的操作を避け、現状に介入しない傾向
- 助かる人の年齢の傾向
- 助かる人の体型の傾向
- 助かる人の社会的価値の傾向
が平均とともに表示される。自分の倫理観を視覚化できるので、これはこれで面白い。しかし、この種の倫理観の集合知を自動運転車に活かすべきだろうか。
AIは万能ではないからこそナンセンス
柏村氏だけに限らず「AIは万能ではない」と指摘する。これは当然だ。では、なぜ万能ではないAIを使った自動運転車に究極の判断を求めるのかという疑問が浮かぶ。
ブレーキが故障している時点で自動運転車の状態は正常ではない。仮にモラル・マシンで何らかの望ましい倫理観が得られたとして、とっさに歩行者の人数や属性、交通法規を守っているかなどを判断し、ハンドルを切る操作をさせようという想定自体がナンセンスである。
仮に人の年齢や社会的価値などからハンドルを切るべきかの判断基準があったとしても、今の所、とっさに外部情報から判断できる自動運転車は存在しないし、そんなものを開発するには莫大なコストがかかる。そんな技術の登場を待っていたら、いつまで経っても自動運転車の「まともな実用化」は不可能である。
自動運転車の実用性の判断基準は、徹頭徹尾「人間が運転するよりも安全かどうか」であるべきだと筆者は考える。完璧な技術は存在しないので、自動運転車の技術が成長していっても交通事故がゼロになることはないだろう。それでも、人間が運転するよりも有意に事故率が低いのであれば、自動運転車を採用した方が良い。
アメリカ同時多発テロ事件（9.11）の後、米国では暫く、飛行機での旅行を控えて自家用車を利用し、逆に死亡事故が増えたという事実がある。人間はどうしても感情で動いてしまうので、このような非合理的な行動を取ってしまいやすい。
筆者としては、自動運転車のアルゴリズムに倫理観は求めず、ブレーキの故障時でも真っ直ぐに進む車であってほしい。それでも人間が運転するよりもトータルで多くの人命が助かるのであれば自動運転車の性能は十分である。
思考実験の面白さをそのまま現実に持ち込んではいけない
冒頭でも述べた通り、トロッコ問題は思考実験としては面白い。しかし、当然条件には色々と制約があり、現実にそのまま適用することはできない。例えば、「なぜ相手の社会的価値が分かるのか」とか「なぜ両方のケースの死者が分かるのか」とか思考実験ならではの制約がある。思考実験は現実を考える上で議論の材料にはなるが、そのまま現実に適用するものではない。
まず、モラル・マシンで見られるような運転時の究極の判断は、人間であれば恐らくできない。冷静に判断できたとしても壁に車体を擦付けるようにして静止しようとするくらいで、大抵はパニックになってブレーキが壊れているのにブレーキを踏み続けてしまうのが関の山だろう。
殆どの人間にできないことを自動運転車にだけ求めてもフェアではない。そこまで出来ないと人間の運転能力を超えられないのであれば、その部分での技術革新が必要だ。しかし、多くの公表されている走行実験の状況を見る限りでは、そんな事ができなくても人間が運転するよりも安全な自動運転車の出現は時間の問題である。（既にあるという主張もある。）
まずは人間の事故率よりも低い自動運転車を開発し、それを出来る限り早く市場に普及させることが多くの人命を救う上で重要である。答えが出るかも分からない倫理上の問題を人工知能開発者に押し付けて法整備や市場への普及を阻害する方が、よほど多くの人命を失うことに繋がりかねない。
遠い将来においては瞬時にハンドルを切るべきか判断できる自動運転車も登場するかもしれないが、その時になってからこの問題を考えても遅くはない。もっとも、その頃はもっと高性能で高耐久なブレーキを搭載しているだろうが。
