機械学習

[機械学習] sklearnのグリッドサーチ(Grid Search)について

投稿日:2019年1月24日 更新日:

こちらを読むと

  • 機械学習のグリッドサーチ(Grid Search)の概要が分かります
  • sklearnのグリッドサーチ使用方法が分かります

グリッドサーチとは

機械学習のモデルを作成するとき、”ハイパーパラメータ”という、本来は人が試行錯誤で決める値があります。このパラメータにより、モデルの予測性能が変わってきます。
グリッドサーチは、あらかじめ決めたパラメータの候補を順番に試していき、一番良いパラメータを見つける手法です。

グリッドサーチの概念図:予めパラメータの候補を決めておく

例えば、scikit-learnのロジスティック回帰では、以下のようなハイパーパラメータがあります(一部を抜粋)。
これらのパラメータについて、候補値を試していくわけです。

  • penalty : str, ‘l1’ or ‘l2’, default: ‘l2’
  • tol : float, default: 1e-4
  • C : float, default: 1.0

https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html

グリッドサーチの使い方

scikit-learnのGridSearchCVを使います。

# グリッドサーチ作成
gs = GridSearchCV(estimator=’分析器’,param_grid=’ハイパーパラメータ候補値’,scoring=’評価指標’,)
# フィッティング
gs.fit(X, y)
# 予測
gs.predict(X)

https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html

まとめ

  • 機械学習のグリッドサーチ(Grid Search)の概要が分かりました
  • sklearnのグリッドサーチ使用方法が分かりました

実際の実行例は、以下をご参照ください。
http://sumikitch.com/grid-search/



-機械学習

執筆者:


  1. […] 前回、グリッドサーチの概要について説明しました。http://sumikitch.com/sklearn-grid-search/今回は、実装例を見て、理解を深めたいと思います。 […]

comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

Kaggle Kernelでライブラリをpip installでインストールする方法

Table of Contents こちらを読むとはじめにKaggle Kernel画面外部ライブラリのインストールまとめ こちらを読むと Kaggle Kernelでライブラリをpip instal …

ロジスティック回帰④ 勾配法その2

Table of Contents こちらを読むと勾配法の式のおさらい勾配法の式変形シグモイド関数の微分を用いて式変形パラメータの更新式まとめReference こちらを読むと ロジスティック回帰の勾 …

単純パーセプトロン③

Table of Contents こちらを読むと数式おさらい実装まとめReference こちらを読むと 単純パーセプトロンの実装方法が分かります 数式おさらい 前回のブログで、単純パーセプトロンの …

ロジスティック回帰③ 勾配法

Table of Contents こちらを読むと交差エントロピー誤差関数のおさらい勾配法(勾配降下法)まとめReference こちらを読むと ロジスティック回帰の勾配法でパラメータを決定する手法を …

機械学習初心者のための入門本ランキング

Table of Contents こちらを読むと評価基準第1位:ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装第2位:Pythonで動かして学ぶ! あたら …