ディープラーニング(深層学習)の研究では国内トップレベルの東京大学・松尾研究室のメンバーが毎週開催する最新論文の輪読会から、話題の論文を紹介する本連載の第2回。ディープラーニングの学習には時間がかかる。その過程は誤解を恐れずに言えば、目隠しをしながら山登りするようなものだ。しかし、それを解決する手法が発見されつつある。その1つが「フィッシャー情報行列」である。

ディープラーニングの学習には時間がかかる。誤解を恐れずに言うと、これは、目隠しをしながら山登りするようなものである(c)Shutterstock
ディープラーニングの学習には時間がかかる。誤解を恐れずに言うと、これは、目隠しをしながら山登りするようなものである(c)Shutterstock

 AI(人工知能)技術は3度目の春を迎えている。過去に2回、単純パーセプトロンとエキスパートシステムで盛り上がりを迎えたAI技術であるが、どちらも冬の時代に陥ってしまったらしい(筆者は大学院を修了したばかりの年齢のため、伝聞でしか把握していない)。

 主にディープラーニング(深層学習)によってけん引された今回のブームがどのような結末を迎えるのか正確に予測することは難しいが、ブームの最中にいる人間は「今回は違う」と思いたがるものである。しかし、その点を差し引いて客観的に見ても、今回のブームが過去2回のブームと大きく異なっている点がある。それは膨大なマシンパワーがその背景にあるという点である。米グーグル、米フェイスブックをはじめとした巨大テック企業が計算資源へ莫大な投資をし続けて、ブームをけん引している。