作って学ぶニューラルネットワーク

質のよい人工知能を構築するには，その構造・メカニズムを深く理解することが重要である。そのために必要なのは，その数理的な知識のみならず，実際にプログラミングをしてニューラルネットワークを構築する経験であろう。この観点から，本書では2章に「機械学習の基礎」を配置し，機械学習の基本的な意味理解と応用を行うにあたって，最低限理解しておく必要があるパターン認識の数学的な意味について解説した。また，その理解の助けとなるよう，確率密度関数やベクトル，テンソルについては「学び直しコラム」を用意した。さらに，この章で得た知識をもとに理解が深まるよう，3章に「ニューラルネットワーク」を配置した。ニューラルネットワークのメカニズムを説明する過程では，それを理解するのに必要な数学的知識をその場で学べるように配慮した。また，Pythonのプログラムをニューラルネットワーク専用のライブラリを使用せずに構築することで，理論と実際の動作とを結びつけられるようにした。 以上を踏まえたうえで，4章の「追加学習」ではその理論を解説するとともに，これをPyTorchを使って記述し，これまで学んできた内容をどのようにライブラリで記述できるのかを学べるようにした。 【読者へのメッセージ】 小学校の頃を思い出してほしい。私たちは新しい数字や漢字を毎日少しずつ追加的に覚えていった。これはごく自然な学習スタイルなので，現在の人工知能ブームの主役に躍り出た学習マシン：ニューラルネットワークについても，私たち人間と同じような追加的な学習ができるものだと思っている人がほとんどであろう。だが，なんとこれがニューラルネットワークには難しいのである！仮に6年生までの知識をマスターしたニューラルネットワークがあったとしたら，これに新しい1文字の漢字を追加的に学習させると，過去の記憶をほぼ全て喪失する「破滅的忘却」が起きてしまうのである。つまりこのような新しい知識をニューラルネットワークに記憶させるには，再度6年生までの漢字と新しい1文字の漢字とを学習させ直す必要がある。このような状況でニューラルネットワークを人のように日々学習して賢く成長しながら与えられた課題を解決できるようにするには，膨大な手間がかかることは言うまでもない。この問題を解決するべく，近年新しい学習手法が開発されつつある。それが「追加学習法」である。実のところその歴史は古く，現在に至るまで著者も含めて多くの研究者が様々なアプローチでこの問題の解決に努めてきた。この最新手法を学ぶべく，本書は基礎からプログラミングしながら学べるようにしてある。 ところで皆さんは，教科書を読んで「理解できた！」と感じていたにも関わらず，いざプログラミングしてシステムを構築しようとすると途端に良く分からない事柄が沢山あることに気が付いたご経験はないだろうか？本書は理論を学び，手を動かしてプログラミングすることを両輪のように進めて確実に理解できるようにすることを目指した。本書を活用した皆さんの中から更なる新しい学習理論を提唱する人が現れることを願ってやまない。