機械学習

[機械学習] sklearnのグリッドサーチ(Grid Search)について

投稿日:2019年1月24日 更新日:

こちらを読むと

  • 機械学習のグリッドサーチ(Grid Search)の概要が分かります
  • sklearnのグリッドサーチ使用方法が分かります

グリッドサーチとは

機械学習のモデルを作成するとき、”ハイパーパラメータ”という、本来は人が試行錯誤で決める値があります。このパラメータにより、モデルの予測性能が変わってきます。
グリッドサーチは、あらかじめ決めたパラメータの候補を順番に試していき、一番良いパラメータを見つける手法です。

グリッドサーチの概念図:予めパラメータの候補を決めておく

例えば、scikit-learnのロジスティック回帰では、以下のようなハイパーパラメータがあります(一部を抜粋)。
これらのパラメータについて、候補値を試していくわけです。

  • penalty : str, ‘l1’ or ‘l2’, default: ‘l2’
  • tol : float, default: 1e-4
  • C : float, default: 1.0

https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html

グリッドサーチの使い方

scikit-learnのGridSearchCVを使います。

# グリッドサーチ作成
gs = GridSearchCV(estimator=’分析器’,param_grid=’ハイパーパラメータ候補値’,scoring=’評価指標’,)
# フィッティング
gs.fit(X, y)
# 予測
gs.predict(X)

https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html

まとめ

  • 機械学習のグリッドサーチ(Grid Search)の概要が分かりました
  • sklearnのグリッドサーチ使用方法が分かりました

実際の実行例は、以下をご参照ください。
http://sumikitch.com/grid-search/



-機械学習

執筆者:


  1. […] 前回、グリッドサーチの概要について説明しました。http://sumikitch.com/sklearn-grid-search/今回は、実装例を見て、理解を深めたいと思います。 […]

comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

scikit-learn load_iris datasetのデータ観察

Table of Contents こちらを読むとデータ観察のソースコード散布図マトリクスの解説散布図の解説まとめReference こちらを読むと scikit-learnのload_iris da …

カテゴリ特徴量の変換方法

Table of Contents こちらを読むとデータ例One-HotエンコーディングダミーコーディングEffectコーディング変換方法のまとめまとめReference こちらを読むと カテゴリ特徴 …

ロジスティック回帰③ 勾配法

Table of Contents こちらを読むと交差エントロピー誤差関数のおさらい勾配法(勾配降下法)まとめReference こちらを読むと ロジスティック回帰の勾配法でパラメータを決定する手法を …

単純パーセプトロン②

Table of Contents こちらを読むとモデルの数式誤り訂正学習法の更新式まとめ こちらを読むと 単純パーセプトロンのモデルの数式での表し方が分かります モデルの数式 前回のブログで、以下の …

多クラスロジスティック回帰①

Table of Contents こちらを読むと多クラスロジスティック回帰とは何が嬉しいか多クラス分類モデルソフトマックス関数まとめReference こちらを読むと 機械学習多クラスロジスティック …

Twitterフォロー

Twitterタイムライン