機械学習の代表的な手法(回帰問題編part2)

GWが終わり5月病になりそうな時期ですが今回も元気よく機械学習についての記事です。
前回までは回帰問題に書いていきました。今回はその続きからです。

回帰問題ですが前回までは線形回帰モデルを使って学習させていました。しかし回帰を学習させるモデルは線形回帰のみではありません。
特に非線形回帰で用いられるケースが多いです。非線形問題とは文字通りあるデータの集合体が非線形の式ようは線形以外の式を想定した場合の問題です。
非線形であるため前回まで用いていた線形では当然対応できるわけがありません。
今回は回帰モデルの種類についていくつかご紹介していきます

①SVM(サポートベクトルマシーン)
分類問題のときにも登場したSVMですが回帰モデルにも使うことができます。

表示されるグラフを見るといびつな形ですが正弦カーブぽくなっているように思えます。R2決定係数は約0.38。

②Random Forest
同じく分類問題で出てきたRandom Forestも回帰問題で使用することができます。

正弦カーブにきれいに沿っていますね。R2決定係数も0.84となかなかの結果です

③k-近傍法
k-近傍法はデータの近傍性に基づき手法をいいます。未知のデータに対して最も近いk個の学習データを選び出す方法のことです。

こちらもクラス分類で用いることもできますが値の平均を使うことで回帰問題にも使用できます

こちらも正弦カーブにそっていますね。R2決定係数は0.42と可もなく不可もなく。。。

今回は回帰問題モデルで使用できるモデルについて3つ紹介していきました。次は機械学習を使った作成中アプリについてご紹介できればと思います。