モーグルとカバとパウダーの日記

モーグルやカバ(EXカービング)山スキー(BC)などがメインの日記でした。今は仕事のコンピュータ系のネタが主になっています。以前はスパム対策関連が多かったのですが最近はディープラーニング関連が多めです。

長野ディープラーニングハンズオン

glnagano.connpass.com

5/20(土)に第1回
5/27(土)に第2回

と2週連続で2回にわたってニューラルネットディープラーニングについて学ぶためのハンズオンを以下の内容で開催しました。

ハンズオン内容
ハンズオンに先立って9回にわたりハンズオンの準備会を行なっています。
以下がその時にやった内容で、基本的にこれに沿った内容になります。

1回 ニューラルネットワークとは
ニューラルネットワークディープラーニングの概要
人力ニューロンになってニューロンの学習方法を学ぶ
Pythonの環境を整える
http://glnagano.connpass.com/event/43820/

2回 パーセプトロン
Pythonニューロンの出力と学習を実装
パーセプトロンを実装
数字(MNIST)をパーセプトロンで学習させる
http://glnagano.connpass.com/event/44785/

3回 バックプロパゲーション
学習を一般化し誤差関数から学習を行なう説明
バックプロパゲーションの多層での学習方法の説明
http://connpass.com/event/45339/

4回 バックプロパゲーションの実装
アナログ値に拡張
バックプロパゲーションの実装
数字(MNIST)をバックプロパゲーションで学習させる
活性化関数を変えて試す
層を増やして試す
https://glnagano.connpass.com/event/46210/

5回 ディープラーニングで使われる技術
層を増やして試す
学習の効率化(モーメント、Adamなど)
活性化関数の変更(tanh、ReLUの意味と効果)
ローカルミニマムに陥らないための方法(事前学習、Dropout、バッチ正規化)
https://glnagano.connpass.com/event/46887/

6回 畳み込みニューラルネットワーク(CNN) 1
ネオコグニトロンの概要
ネオコグニトロンとCNNについて色々説明
https://glnagano.connpass.com/event/48317/

7回 畳み込みニューラルネットワーク(CNN) 2
CNNの構造説明
ConvolutionとPoolingの説明
ConvolutionとPoolingの順方向実装
https://glnagano.connpass.com/event/49653/

8回 畳み込みニューラルネットワーク(CNN) 3
ConvolutionとPoolingの逆方向実装
CNN実装
文字認識のテスト
重み可視化して観察など
https://glnagano.connpass.com/event/50147/

9回 (おまけ)ディープラーニングフレームワークの利用
Tensorflow/Kerasを利用してCNNの実装
Cloud ML利用してGPU利用した学習
https://glnagano.connpass.com/event/51399/

みなさんから非常に良い反応をいただきました。