【CS231n】Neural Networks Part 3: Learning and Evaluation

Stanford大の教材CS231nを使ってNNやCNNを学んでいる. 前回の記事では、層の結合やデータやloss functionなどNNの静的構造について確認した。 本記事では、NNのダイナミクス(パラメータを学習するプロセスやハイパーパラメータの決定方法)について学ぶ。 Gradient checks gradient checkは解析的勾配を数値的勾配を比較…