ディープフェイクとウーバーと確証バイアス

Channel NewsAsiaがディープフェイクについての特集を掲載していた。ポルノや政治などへの利用例やそれに対する企業の対策などが整理された長文記事である。

参考:Channel NewsAsia, “Deepfakes, nudes and the threat to national security”, 14 Dec 2019

その中で興味深いのが、深いパリ協定から離脱したトランプ大統領がベルギー国民を嘲笑うディープフェイク動画について、「 なぜあれだけ多くの人が騙されたか」についてシンガポール工科大学のリム・サン・サン教授が指摘した以下の部分である。

リム・サン・サンは、個人や問題について人が事前に信念と一致する情報や見解を好む傾向、確証バイアスのせいであると説明している。彼女は、トランプのディープフェイク動画はソーシャルエンジニアリングの成功例と指摘している。

なぜなら「(彼が)気候変動の否定者であるという事についての人々の信念を利用しているからである。」

Channel NewsAsiaより筆者訳

ここで出てくる確証バイアスは認知心理学の用語である。仮説を検証する際に、仮説と一致する情報ばかり集めてしまい、仮説と異なる情報を無視してしまう認知バイアスである。

以下がそのディープフェイク動画であるが、これは2018年ということもあって、今のディープフェイク動画の技術から比べればまだまだ出来が良くない。動画をよく見れば、トランプ大統領の表情は不自然に変わらないし、口元も歪んでおかしいことが分かる。

しかし、

  • 当時は今ほどディープフェイクは有名でない
  • トランプ大統領がパリ協定に否定的であることは周知の事実
  • トランプ大統領に過激な発言は多く、実際の発言だったとしても不思議ではない

というところから、瞬く間に世界中に動画が拡散されてしまった。ましてや、殆どの人は動画を見ずにSNSで拡散する文言だけを見て更に拡散してしまうのであり、検証もされなくなる。

また、確証バイアスは非常に発生確率が稀な事象を過大評価してしまう結果にも繋がりやすい。これはリスク認知バイアスとも言われるが、以前も指摘したウーバーの安全性に対する懸念もそうである。

関連記事:ウーバーは既存のタクシーより安全かもしれない

多くの人々は新しいサービスに対する不安が強い。既存のタクシー会社と違って、登録すれば誰でもタクシードライバーになれるウーバー(Uber)のような新しいサービスは危険という仮説をもちやすい。その時に「英国でウーバーのドライバーによる性的暴行が3,045件発生」と批判的に報道されれば、瞬く間に危険なものとして確信してしまう。

この種の確証バイアスは投資においても起こりやすい。筆者の主観では、特定の分野に(肯定的に)興味を持ち、それに関する銘柄を調べている際に生じやすいと思われる。肯定的に興味を持っている時点でそれに関連する情報を高く評価しやすく、企業の成長性などを阻害するような要因を無視してしまうことはどんな人にでもあり得る。

これに対策するのは、事前に投資を行うか否かについて必ず明確な評価基準を持ち、その中に必ず批判的に検討する基準を多く入れることである。信念を持つのであれば事前に決めた評価基準であるべきであり、評価対象を結論ありきで分析してはならない。(勿論、その結果投資に失敗したらならば、評価基準の再検討が必要である。)

       

この記事の著者 HAL について

金融・マーケティング分野の機械学習システム開発や導入支援が専門。SlofiAでは主に海外情勢に関する記事、金融工学や機械学習に関する記事を担当。

HAL の記事一覧 SlofiAのtwitterアカウント@slofia_finance