問題文を読んで分からなかったのでVIDEOを再度見てみました。
- Video① Non linear Hypotheses
- Video② Neurons and Brain
- Video③ Model RepresentationI
- Video④ Model RepresentationII
- Video⑤ Examples and IntuitionsI
- Video⑥ Examples and IntutionsII
- Video⑦ Mutliclass Classification
Video① Non linear Hypotheses
Week2やWeek3で行ったLinear Regressionや
Logistic Regressionではfeature(変数)が多くなった時に対応しきれない。
だからNeural Networkを勉強すべきという説明です。
Video② Neurons and Brain
Neural Networkの由来・仕組みである脳と神経の説明でした。
Video③ Model RepresentationI
ついに脳と神経の仕組みがプログラミング上で
どう計算されているかという説明です。
Input Layer--＞Hidden Layer-->Output Layerと
まさに脳と神経の仕組みのように構造を作るという説明です↓
ポイントはHidden LayerとOutput Layerは0と1の間の数字にさせるということ
だと思いました。
1周目の時は分かりませんでしたが、2周目の今回は
Hidden LayerとOutput LayerにSigmoid関数をかまして
0と1の数字の間にさせていることに気づきました。
それはこのスライド↓に表れています。
a1もa2もa3もgのSigmoid関数に入っているので、0か1になっています。
ところでこのスライド↑のaもθも数字が多すぎて
何を示しているか分からないのでまとめてみたいと思います。
まずaです。
右肩はLayer
右下はlayerの中の位置
↑を言い換えているだけですが、自分としては自分の表現の方が
分かりやすいです笑
次にθです。
θはややこしいと思ったので図にします。
↑がVIDEOにありますが、a1だけにしてみます↓
a1はX0,X1,X2,X3から計算されるので図として↑になるはずです。
X0,X1,X2,X3はそれぞれθとかけます↓
図だと↓になります。
なのでθの右肩、右下を 図でまとまると↓になります
x (or a)は今回の図の例のようにInput Layerがスタートの場合はｘで、
Hidden Layerがスタートの場合はaになります。
次にこのポイントがわかりづらかったです。
さらっとθは3X4です、とVIDEOで言われて、
一般的には↑のようになるという解説でしたがわからなかったので
考えてみます。
θが3X4というのは、無理やりスライドの絵を拾い集めて
図にすれば分からないこともないです↓
Sjなどの方は絵にするとこういうことかと思います↓
θはLayerｊとLayer j+1の間に挟まれるので、
Sj+1（右の出力されるLayer） X Sj ̟ ＋ 1（左のBiasを足して1増えた左のLayer）
だと思います。
こう考えるとθが3X4も
右の出力されるLayerが『3』で、
左のBiasを足して1増えた左のLayerが『4』なので
3X4だと思いました。
余談ですが前の日記で取り組んだOne VSAllで
私はθを401X10で答えを考えていたのですが、
問題文詳細は10X401に誘導してきていました。
この誘導はこの考えからではないかと思います。
Video④ Model RepresentationII
Vecotorozationをした瞬間に右下のlayerの中の位置の数字が消えています。
θXでlayerの全てを計算しているのでそうなっていると思います。
右下の数字はLayerの中の位置だったんですが、
VectorizationですべてのLayerの中の位置を計算しているので
消えたのだと思います。
Video⑤ Examples and IntuitionsI
いきなりXORやXNORという見慣れない単語が出てきて戸惑うが、
このVideoで説明されているのはANDとORだけということに気づきました。
という↑の内容を↓のように説明していると思います。
このVIDEOはここで終わって、XORやXNORは何かわからないままでした。
Video⑥ Examples and IntutionsII
まず『NOT X1』の説明がありました↓
シンプルにX1が0のときは1で、X1が1の時は0になるということです。
次に『（Not X1) AND (NOT X2）』の説明でした↓
なので↓になります。
次にXNORの説明でした↓
これはこうなるということですね↓
XORは出てこないまま終わりました
『（Not X1) AND (NOT X2）』がXORだったんでしょうか。。。
全部まとめるとこういう感じですね↓
Hidden LayerとOutput Layerが0か1になるのでこういう論理式の
説明があったのかなと思います。
Video⑦ Mutliclass Classification
これを作るのがまさに場合分けという説明でした。
課題ではこれが手書きの数字0から9で10種類で解くことになっていました。
VIDEOの振り返りはここまでにして、次回課題に戻りたいと思います。