機械学習

[機械学習] sklearnのグリッドサーチ(Grid Search)について

投稿日:2019年1月24日 更新日:

こちらを読むと

  • 機械学習のグリッドサーチ(Grid Search)の概要が分かります
  • sklearnのグリッドサーチ使用方法が分かります

グリッドサーチとは

機械学習のモデルを作成するとき、”ハイパーパラメータ”という、本来は人が試行錯誤で決める値があります。このパラメータにより、モデルの予測性能が変わってきます。
グリッドサーチは、あらかじめ決めたパラメータの候補を順番に試していき、一番良いパラメータを見つける手法です。

グリッドサーチの概念図:予めパラメータの候補を決めておく

例えば、scikit-learnのロジスティック回帰では、以下のようなハイパーパラメータがあります(一部を抜粋)。
これらのパラメータについて、候補値を試していくわけです。

  • penalty : str, ‘l1’ or ‘l2’, default: ‘l2’
  • tol : float, default: 1e-4
  • C : float, default: 1.0

https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html

グリッドサーチの使い方

scikit-learnのGridSearchCVを使います。

# グリッドサーチ作成
gs = GridSearchCV(estimator=’分析器’,param_grid=’ハイパーパラメータ候補値’,scoring=’評価指標’,)
# フィッティング
gs.fit(X, y)
# 予測
gs.predict(X)

https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html

まとめ

  • 機械学習のグリッドサーチ(Grid Search)の概要が分かりました
  • sklearnのグリッドサーチ使用方法が分かりました

実際の実行例は、以下をご参照ください。
http://sumikitch.com/grid-search/



-機械学習

執筆者:


  1. […] 前回、グリッドサーチの概要について説明しました。http://sumikitch.com/sklearn-grid-search/今回は、実装例を見て、理解を深めたいと思います。 […]

comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

単純パーセプトロン③

Table of Contents こちらを読むと数式おさらい実装まとめReference こちらを読むと 単純パーセプトロンの実装方法が分かります 数式おさらい 前回のブログで、単純パーセプトロンの …

scikit-learn load_iris datasetのデータ観察

Table of Contents こちらを読むとデータ観察のソースコード散布図マトリクスの解説散布図の解説まとめReference こちらを読むと scikit-learnのload_iris da …

ロジスティック回帰③ 勾配法

Table of Contents こちらを読むと交差エントロピー誤差関数のおさらい勾配法(勾配降下法)まとめReference こちらを読むと ロジスティック回帰の勾配法でパラメータを決定する手法を …

[機械学習] sklearnのグリッドサーチ(Grid Search)実装

Table of Contents こちらを読むとやりたいこと実装例まとめReference こちらを読むと sklearnのグリッドサーチ実装例が分かりますグリッドサーチしたベストパラメータの見方が …

多クラスロジスティック回帰② ソフトマックス関数の微分

Table of Contents こちらを読むとソフトマックス関数のおさらいソフトマックス関数の微分まとめReference こちらを読むと 多クラスロジスティック回帰のソフトマックス関数の微分の導 …

Twitterフォロー

Twitterタイムライン