第3次AIブームの終わり:AIの「冬の時代」

2010年代は一般的に「第3次AIブーム」と言われる。しかし、この第3次ブームが終わりを迎えようとしているのではないかという論調が増えつつある。筆者も概ね同意であり、ブームと冬の時代について解説した上で、今後どのようになるかについての筆者の予想を述べる。

繰り返す「AIブーム」と「冬の時代」

多くの文献で、人工知能(AI)研究の歴史ではブームと「冬の時代」が交互に訪れ、現在は3回目のブームだとされる。AI研究のバブルとその崩壊と思えば良い。

例えば、日本ディープラーニング協会(JDLA)によれば、

  • 第1次AIブーム(推論・探索の時代):1950年代後半~1960年代
  • 第2次AIブーム(知識の時代):1980年代
  • 第3次AIブーム(機械学習・特徴表現学習の時代):2010年~

という風に位置づけている。総務省「平成28年版情報通信白書」では第3次AIブームを2000年代からと位置づけるなど年代には文献によって差があるが、3次に分けるという観点では同じである。

ブームと冬の時代の移り変わりに関しては同協会のテキストが簡潔で分かりやすい。

■第1次AIブーム(推論・探索の時代: 1950年代後半~1960年代 )

コンピュータによる「推論」や「探索」の研究が進み、特定の問題に対して解を提示できるようになったことがブームの要因です。東西冷戦下のアメリカでは、特に英語ーロシア語の機械翻訳が注目されました。しかし、迷路や数学の定理の証明のような簡単な問題(「トイ・プロブレム(おもちゃの問題)」)は解けても、複雑な現実の問題は解けないことが明らかになった結果、ブームは急速に冷め、1970年代には人工知能研究は冬の時代を迎えます。

浅川ほか(2018: 9)

■第2次AIブーム(知識の時代: 1980年代)

コンピュータに「知識」を入れると賢くなるというアプローチが全盛を迎え、データベースに大量の専門知識を溜め込んだエキスパートシステムと呼ばれる実用的なシステムがたくさん作られました。日本では、政府によって「第五世代コンピュータ」と名付けられた大型プロジェクトが推進されました。しかし、知識を蓄積・管理することの大変さが明らかになってくると、1995年ごろからAIは冬の時代に突入します。

同上(p. 9)

■第3次AIブーム(機械学習・特徴表現学習の時代: 2010年~)

ビッグデータと呼ばれる大量のデータを用いることで、人工知能が自ら知識を獲得する機械学習が実用化されました。また、知識を定義する要素(特徴量と呼ばれる対象を認識する際に注目すべき特徴を定量的に表したもの)を人工知能が自ら習得するディープラーニング(深層学習)が登場したことが、ブームの背景にあります。ディープラーニングを用いたチームが画像認識競技で圧勝したことやALphaGoの勝利など、象徴的な出来事が重なり、またレイ・カーツワイルのシンギュラリティーに対する懸念などが広まったことで、期待値がさらに高くなっています。

同上(p. 10)

第1次ブームの終わりの象徴的な出来事がフレーム問題である。第2次ブームについて「第五世代コンピュータ」が出てくることや、第3次ブームで「自ら知識を獲得」「人工知能が自ら習得」といった誤解を招きやすい表現があるのは気になるが、概ねこの通りである。

「冬の時代」が発生するのには、技術的な事がネックになることも大きく関係するが、何よりも経済の低迷により十分な研究究資金が得られなくなるのが問題であり、時期を見て分かる通り世界経済の状況と強く相関しているのが特徴である。

ディープラーニングの限界

ディープラーニングを万能とするような論考は以前に比べれば減ったが、それでも過剰評価している人は多い。そもそもディープラーニングは万能ではないし、成長に限界が来ているのではないかという意見も増えてきた。

例えば人工知能研究者Filip Piekniewski氏は、自身のブログで2018年5月の時点でAIが冬の時代を迎えつつある事を述べている。2018年時点ではまだ時期尚早だったと思われるが、その中で「ディープラーニングはスケールしない」という指摘は非常に重要である。

氏は、ディープラーニングが注目されるに至った2012年の画像認識コンペILSVRCで優勝したAlexNetから、囲碁ソフトAlphaGo Zeroに至るまで、主要な機械学習モデルについて、学習にかかる計算コストを掲載している。縦軸は対数グラフであり、指数関数的に計算コストが高まっているということが分かる。図の表題の通り、AlexNetからAlphaGo Zeroでは計算量が30万倍である。

主要機械学習モデルの計算コスト
出典: Piekniewski’s blog , “AI Winter Is Well On Its Way”

計算コストが100倍1000倍となっているが、精度はそれに見合った上昇を遂げているのかという視点である。

上の図は画像から音声、囲碁まで様々なモデルが混在しているので少し分かりにくい。そこで、ILSVRCにしぼり、AlexNetが優勝した2012年から2017年までの優勝モデルの誤認識率(左軸・反転)とディープニューラルネットワークのレイヤー数(右軸・対数)で示したのが下図である。

ILSVRCの優勝モデルの誤認識率とレイヤー数
出典:ImageNetより筆者作成

見て分かる通り、ディープラーニングの時代に入ってからは精度は直線的に成長しているが、レイヤー数は指数関数的に上昇している。各レイヤーの作り方が異なるので、レイヤー数が指数関数的に増えたからと言って、計算量が即同じだけ増えるわけではないが、モデルが指数関数的に複雑担っていることは間違いない。

様々なモデルが開発され、その精度は日々上昇しているが、力まかせであることには変わりがなく、僅かに精度を高めるのに莫大な計算コストがかかる状況であり、ビジネスとしてスケールしにくくなるという氏の指摘と一致する。

「冬の時代」が近いという声は多い

BBCは先日、AI研究が「冬の時代」を迎えつつあるのではないかという多くの研究者の声を紹介した。例えば、

  • AIができることとできないことが明確化した
  • 全体的にプラトーの状態にある
  • 業界のさらなる進歩には「真のイノベーション」が必要
  • AIについて「不吉な技術」だと考える人が増えている

といったものである。技術的には前節の通りだが、最後の「不吉な技術」についてはディープフェイクなどの登場が原因と思われる。DeepMindのように楽観的な見方を示す企業があるとも指摘しているが、2010年代で一つのAIブームが終わりつつあるという論調が増えているのは確かだ。

最初に述べた通り、AI研究ブームと言っても、研究資金が前提となるので、結局は経済状況次第である。技術的なブレークスルーが起こらない限りは、新たなディープラーニングモデルが開発されようと、それは既存技術の延長に過ぎず、力まかせによる成長はどこかで限界がくる。

そうでなくとも、景気後退によってAI投資が落ち込めば自ずと「冬の時代」がやってくるのではないかと考えられる。

参考文献

[1] Piekniewski’s blog , “AI Winter Is Well On Its Way”, 28 May 2018

[2]BBC, “Researchers: Are we on the cusp of an ‘AI winter’?”, 12 Jan 2020

[3]浅川伸一ら(2018)「 深層学習教科書 ディープラーニング G検定(ジェネラリスト) 公式テキスト」翔泳社

       

この記事の著者 HAL について

金融・マーケティング分野の機械学習システム開発や導入支援が専門。SlofiAでは主に海外情勢に関する記事、金融工学や機械学習に関する記事を担当。

HAL の記事一覧 SlofiAのtwitterアカウント@slofia_finance