ニューラルネットワークの学習でしていること：作って試そう！ ディープラーニング工作室（2/2 ページ）

シンプルな関数をニューラルネットワークに見立てて、その係数を学習させながら、その過程でどんなことが行われているかを見ていきます。

[かわさきしんじ，Deep Insider編集部]

重みの更新の過程

　「重みを更新」するといっても、どうすればよいでしょう。ここではゴールは見えています。1.95という重みを2.0に近づけていくことです。

　ここで、先ほどの損失関数について少し考えてみましょう。MSELossクラスを使って作成した損失関数は、出力値を含むベクトルと正解ラベルを含むベクトルを受け取り、対応する2つの値を減算して二乗した値の平均を損失としていました。ただし、ここでは1つの計算値と対応する正解ラベルの誤差を求めているだけであることには注意してください。よって、出力値をoutput、正解ラベルをlabelとしたときに損失関数で行っている処理は「（output - label) ** 2」と同じと考えられます（「平均」の概念が抜け落ちていますが、これは話をシンプルにするためです）。

　この値が最小（理想的には0）となるような重みを見つけることがここで行っている学習の目的です。一方の比較対象（正解ラベル）はシンプルに2です。そこで、「(output - label) ** 2」（label＝2）という式（関数）を最小化するoutputの値（さらには重みwの値）が何かを考えます（もちろん、output＝2.0ですし、w＝2.0です)。

　以下のコードでは、今述べた形で損失を返す関数「calc_loss」を定義して、変数outputには「重みが1.9〜2.1の範囲で変化したときの、f(x)＝w × x（x＝1）の計算結果（をエミュレートしたもの）」を、定数LABELには正解ラベルの値である2を代入しています。そして、calc_loss関数が計算した損失（myloss）をグラフにプロットしています。

import matplotlib.pyplot as plt

def calc_loss(output, label):
    return (output - label) ** 2

# 1.9〜2.1の範囲の重みwに対し、関数f(x)にx＝1を与えたときの計算結果
output = torch.arange(1.9, 2.1, 0.005)

LABEL = 2

myloss = calc_loss(output, LABEL)
plt.plot(output, myloss)
plt.plot(1.95, calc_loss(1.95, LABEL), marker='o')
plt.hlines(0, 1.9, 2.1, linestyle=':')
plt.hlines(0.0025, 1.9, 1.95, linestyle=':')
plt.vlines(1.95, 0, 0.0025, linestyle=':')
plt.show()

損失を計算する関数

　現在のところ、重みは1.95、xの値は1であることから、関数f(x)の計算値である1.95とそのときに得られる誤差も図にプロットするようにしました（横軸の値は関数f(x)に対してx＝1としたときの計算結果に対応します）。これを実行した結果が以下です（グラフ描画のコードについての説明は省略します）。

実行結果

　これを見れば分かる通り、損失が最小になるのは、関数f(x)にx＝1を与えたときの計算結果が2.0となったときで、現在の重みの値「1.95」をこれに近づけるように更新していけばよいということになります。

　人がグラフを見れば、「現在の横軸（output＝f(x)の値）が2.0に近づくように、wを増加させていけばよいだろう」ということは一目瞭然です。しかし、コンピューターにはなかなかそうはいきません。そこで重要なのが、重みを増加させるのか、減少させるのかの判断です。例えば、重みwが2.05まで増加したらどうなるでしょうか。

重みを2.05まで増やすと、その計算結果（2.05×1）は2.05となる

　もちろん、今度は関数f(x)の計算結果は2.05となり（x＝1）、損失を最小とする値を超えてしまいました。となると、重みを減らす方向に戻る必要があります。

　ここで重みを増加させるのか、減少させるのかの判断に役立つ指標があります。それは「勾配」と呼ばれるものです。あるいは、「グラフの（接線の）傾き」といってもよいでしょう。今の例では、横軸の値となるoutput＝関数f(x)の値が2.0になるまではグラフは右肩下がりでその勾配はマイナスです。一方、2.0を越えればグラフは右肩上がりでその勾配はプラスになります。損失を最小にする箇所（関数f(x)の計算結果が2.0）では勾配はゼロとなります。

　つまり、勾配がマイナスなら重みを増加させて、プラスなら減少させていけばよいということです。そして、勾配がゼロとなる地点が見つかれば、そこで最適な重みが見つかったことになります（実際には、これほど簡単な話ではありません。グラフの頂点が複数あるような場合には、実は最適な値ではないところで勾配がゼロとなってしまう可能性もあります。こうした問題を解決する方法も考えられています。が、ここでは損失を求めるグラフが単純な2次曲線であるため、傾きがゼロとなる重みを求めるだけでよしとします）。

　なお、勾配を表す英単語は「gradient」であることから、それを省略した「grad」などが勾配に関連する属性や変数、関数などの名前ではよく使われることも覚えておきましょう（以下のコードでは、勾配を求める関数に「calc_grad」と名前を付けてあります）。

　その勾配（傾き）を求めるには幾つかの方法があります。一つは損失関数の微分です。数学の難しい話を抜きにして、ざっくりとした話をするので、難しいという方は流して読んでもらってもかまいません。

　上のグラフを描画するコードでは損失は「(output - label) ** 2」として求めていました。この式において、output＝f(x)であることを思い出してください。さらに、f(x)は重みwと入力値xの乗算でもありました。

　つまり、この関数では「(w * x -label) ** 2」と同じ計算をしているということです。これを展開したものを、やはりPythonのコードで表現すると「w ** 2 * x ** 2 - 2 * w * x * label + label ** 2」となります。ここではwが変化することで、損失関数の勾配がどう変化するかに着目しているので、上記の式を「w」で微分（偏微分）します。その結果は「2 * x ** 2 * w - 2 * x * label」です。そして、ここではw＝1.95、x＝1、label＝2でしたから、これらの値をこの式に代入することで、勾配が得られます（式からはoutputが消えて、w、x、labelに関するものになっていることに注意してください）。

　なお、数学的な深い話は「AI・機械学習の数学入門 ― 中学・高校数学のキホンから学べる」をご覧ください（ただし、2020年4月23日時点では微分の話はまだ取り上げていません）。

　これを実際に行うコードを以下に示します。

def calc_grad(w, x, label):
    return 2 * x ** 2 * w - 2 * x * label

grad = calc_grad(w, x, LABEL)
print('grad:', grad)

重みが1.95の関数f(x)に1を与えた場合の損失関数の傾き

　実行結果を以下に示します。

実行結果

　これにより、重みを1.95、x＝1、label＝2としたときの損失関数の傾きは「-0.1000」になったことが分かりました。

　関数の最小値（あるいは最大値）を求めることを「最適化問題」と呼ぶことがよくあります。そして、今見たような勾配を手がかりとして、その値を探すことを一般に「勾配法」と呼びます。機械学習やニューラルネットワークの世界では、この手法を用いて、損失関数の最小値を求める値を探すことがよくありますが、これを「降下勾配法」と呼びます。降下勾配法のアルゴリズムにも幾つかの種類があり、冒頭で紹介したコードに含まれていた「torch.optim.SGDクラス」はそうした最適化アルゴリズムの1つを表すクラスです（この後も使用しますが、この例ではオーバースペックなものでもあります）。

　ここでは、損失関数の微分によって、重みを更新するための手がかりである勾配を求めましたが、現在ではより効率的に勾配を求める方法として、「誤差逆伝播法」（backpropagation、バックプロパゲーション）が使われています。この詳細については後続の回に譲りますが、これを実際に行っているのが、以下のコード（本稿冒頭で示したコード）で、強調書体とした行です。

outputs = net(X_train)  # 手順1：ニューラルネットワークにデータを入力
loss = criterion(outputs, y_train)  # 手順2：正解ラベルとの比較
loss.backward()  # 手順3：誤差逆伝播
optimizer.step()  # 手順4：重みとバイアスの更新

誤差逆伝播を行っているコードの例

　実はPyTorchでは、テンソルに対して、どのような操作が行われたかを記録できるようになっています。このことを利用して、あるノードから別のノードへ渡される値を計算するときに、「ここでは何と何を乗算した」「ここではアレとコレを加算した」など、何が行われたかの情報がそのテンソルに記録されます。そして、勾配を計算する際には、計算した結果からその情報を遡りながら、各ノードにおける勾配を効率よく計算できるようになっているのです。この情報を保存するためには、テンソルを作成する際に、「requires_grad」キーワード引数にTrueを指定する必要があります。

　そのため、先ほどの重みを格納する1行1列の行列の定義では、次のようにして、テンソルを生成していたのです。

w = torch.tensor([[1.95]], requires_grad=True)

テンソルに対する操作を記録するには「requires_grad=True」を指定する

　というわけで、ここでbackwardメソッドを呼び出して、実際に誤差逆伝播を実行してみましょう。ここでは、criterion呼び出しによって返された値（変数loss）に対して、これを行ってみます。なお、勾配はテンソルのgrad属性に保存されるので、backwardメソッドの呼び出しの前後で、これが本当に変化するかも確認します。

print('before w.grad:', w.grad)
loss.backward()
print('after w.grad:', w.grad)

誤差逆伝播を行い、勾配が計算されたかを確認

　実行結果を以下に示します。

実行結果

　どうでしょう。呼び出し前のw.grad属性の値は「None」でしたが、呼び出し後は「-0.1000」になっています。先ほど手作業で実行した勾配も「-0.1000」だったので、どちらの方法でも同じ勾配が得られたと考えてよいでしょう。ここまでの話が冒頭に示したコードにおける手順3に相当します。