暇人日記

アラフォーおっさんのコーセラの機械学習の課題を解こうと頑張っています!

Week2の課題(家の値段)をNeural Networkで解いてみる-後編④-

前回の続きです。

 

λを1の-15乗にしたら安定するかどうか実験してみます。

 

1回目です。

f:id:omoshiroamericanews:20200712221904p:plain

2回目です。

f:id:omoshiroamericanews:20200713212541p:plain

3回目です。

f:id:omoshiroamericanews:20200713212937p:plain

4回目です。

f:id:omoshiroamericanews:20200713214259p:plain

 

5回目です。

f:id:omoshiroamericanews:20200713214803p:plain

 

確率は20%ですね。

 

 

そういえばλ=0で5回トライしてみます。

そもそもλ=0でθの2乗部分はないことにしているので、

λ=0で予測が6桁にならないのは謎です。

 

 

1回目です。

 

f:id:omoshiroamericanews:20200715210608p:plain

Jも同時にとっていくことにします。

f:id:omoshiroamericanews:20200715210638p:plain

655億の誤差です。


 

 

2回目です。

f:id:omoshiroamericanews:20200715211106p:plain

f:id:omoshiroamericanews:20200715211127p:plain

やはり655憶の誤差です。


 

3回目です。

f:id:omoshiroamericanews:20200715211429p:plain

f:id:omoshiroamericanews:20200715211459p:plain

誤差が41憶になりました!
この方が1桁誤差が少ないのになぜ1回目と2回目はこちらを選べないのだろう。

 

 

 

4回目です。

f:id:omoshiroamericanews:20200715211821p:plain

f:id:omoshiroamericanews:20200715211843p:plain

誤差が655憶パターンです。


 

5回目です。

f:id:omoshiroamericanews:20200715212258p:plain

誤差が655億です。

f:id:omoshiroamericanews:20200715212235p:plain

 

確率20%です。

 

 

やはり謎が解けないです。

なぜ、λ=0でθの2乗を無効化しているのに百発百中で6桁の予測にならないのか。

 

『MaxIter』を増やしてみます。

これが多い方が結果は安定するはずです。

これでだめなら、fmincgを今回使っていますが、fmincgはLogistic Regression用で

fminuncの方が良いかもしれませんのでそちらでトライしてみます。

 

『MaxIter』を150にした1回目です。

f:id:omoshiroamericanews:20200715213314p:plain

f:id:omoshiroamericanews:20200715213355p:plain

誤差は655憶です。

 

2回目です。

f:id:omoshiroamericanews:20200715214538p:plain

f:id:omoshiroamericanews:20200715214611p:plain

誤差が655億パターンです。

 

3回目です。

f:id:omoshiroamericanews:20200715215503p:plain

f:id:omoshiroamericanews:20200715215527p:plain

予測が6桁で、誤差が28憶です。

なぜ全部の予測がこの近辺にならないのでしょうか。。。。

 

4回目です。

 

f:id:omoshiroamericanews:20200719222325p:plain

f:id:omoshiroamericanews:20200719222401p:plain

InitiaThetaの差で差が出ているのかもしれません。

なので、ログをとることにします。

f:id:omoshiroamericanews:20200719222455p:plain

 

 

5回目です。

 

f:id:omoshiroamericanews:20200719222759p:plain

 

f:id:omoshiroamericanews:20200719222839p:plain

f:id:omoshiroamericanews:20200719222911p:plain

 

確率40%になりました。

 

それでもやはり40%です。。。。

 

やはりfmincgでもなぜ答えがバラバラになるか疑問です。

InitialThetaが原因なのでしょうか。

しかしInitialThetaがバラバラだと答えがバラバラになるのでは困ります。

 

うーん、どう考えればいいんだろう。

 

また考えてみます。