暇人日記

アラフォーおっさんのコーセラの機械学習の課題を解こうと頑張っています!

Coursera Machine Learning Week5 課題 2周目⑱ 予測精度向上

Week5の課題ではλ=1、MaxIter=50で的中率95.2%でした。

同じ課題をWeek4では与えられたθでの的中率は97.5でした。

 

オプションではNeural Networkは複雑な予測線を描ける強力なツールなので、

λを小さくしてある程度regularizedの力を弱めて精度100%に近づけなさいというのが

課題です。

意図的にoverfitさせてくださいとかいてあります。

 

f:id:omoshiroamericanews:20200620160108p:plain

 

的中率100%見てみたいです!

なんでやってみます。

 

ということでλ=0.1、MaxIter=200にしてみました。

しかし圧倒的な計算コストです30分経ってもおわりません。

 

前回の日記でやったようにまずは一番良いλを探すことにします。

λ=0.1、MaxIter=50にしてみます。

 

96.78%です!

 

たっぷり45分くらいかかりました。

 

λ=0.01で96.9%です。

f:id:omoshiroamericanews:20200624202319p:plain

 

λ=0.001で96.62%です。

f:id:omoshiroamericanews:20200624213947p:plain

 

λ=0.05でトライしてみます。

96.56%でした。

f:id:omoshiroamericanews:20200624224836p:plain

 

λ=0.005でトライしてみます。

95.80%

f:id:omoshiroamericanews:20200626090451p:plain

 

 

λ=0.015でトライしてみます。

f:id:omoshiroamericanews:20200627140606p:plain

 

ここまでのをサマリーしてみます。

 

1.000 95.20%
0.100 96.78%
0.050 96.56%
0.015 95.54%
0.010 96.90%
0.005 95.80%
0.001 96.62%

 

一番良いのは0.010ですが、あんまり規則的になってないですね。。。

 

今まで一番結果の良かったλ=0.01でMaxIterを増やしてみます。

λ==0.01でIterationを150にしてみます。

 

出ました!

100%です!

f:id:omoshiroamericanews:20200627222943p:plain

 

本当に100%って出るんだってNeural Networkのすごさを実感できました。

 

この課題は5000セットに対しての予測なので、5000/5000ですね。

 

Week3の課題は100%いかなかったのはlayerを変えたら100%になるのかなぁと

思いました。

 

次はWeekのLinear Regressionの課題をNeural Networkで解いてみたいと思います!