‫お帰りなさい｡
‫前回のビデオでは､ 機械学習モデルの1つ､ 特にK近傍分類器を手動で調整する方法を紹介しましたが､ 今回は､ K近傍分類器を手動で調整する方法を紹介します｡
‫さて､ これがハイパーパラメーターチューニングです｡
‫この小さなタイトルを調整し､ ハイブリッドパラメーターチューニングを手作業で行うということにしました｡
‫しかし､ 想像通り､ 複数のパラメータやハイパーパラメータがある場合､ 我々の場合はネイバーだけをチューニングしています｡
‫CANIはクラシファイドに上がりますね｡
‫この1つのパラメーターだけをチューニングしました｡
‫少し面倒になるこれらをすべてチューニングしたかったのです｡
‫何日もかけてループのために書き直しました｡
‫そこで､ 私たちは何をするかというと､ 「最も近い隣人」である「K」を見送ったことを思い出してください｡
‫より良い結果を求めてのことです｡
‫そこで､ ロジスティック回帰とランダムフォレスト分類器の方が性能が良いので､ K最近傍モデルを実験から除外することにしました｡
‫そこで､ 今度はランダムサーチCVによるハイパーパラメーターチューニングを行います｡
‫で､ これが2行目のセクションで見たものです｡
‫そして､ ランダム検索CV,learnで検索すると､ ここにあるはずです｡
‫美しい｡
‫そこにドキュメントがあるわけです｡
‫それは各自で読み流していただいて結構ですが､ 私たちはそれを実装しているところを見たいと思っています｡
‫また､ ある機械学習モデルをチューニングするためのパラメータをどうやって探せばいいのかというと､
‫ロジスティック回帰の場合はこんな感じです｡
‫では､ Pythonでロジスティック回帰の機械学習モデルをチューニングするにはどうすればよいのでしょうか｡
‫そんな感じで､ 検索すると出てきますね｡
‫ロジスティック回帰モデル学習 with cyclone beautiful ロジスティック回帰 using python cyclone
‫high パラメータ最適化と機械学習モデル ロジスティック回帰のパラメータをチューニング｡
‫もし､ これらを調べて､ 自分たちで実験をして､ いろいろと解明し､ さらに質問をしていくとしたら｡
‫でも今は､ このステップを踏んで､ ランダム化検索KVが使えること､
‫さまざまなパラメータを調整できることを理解したことにしておきましょう｡
‫そうしよう｡
‫チューニングするんです｡
‫ロジスティック回帰は､ ランダムフォレスト分類器と組み合わせることで､ ロジスティック回帰モデルを構築します｡
‫ランダム化検索を使用｡
‫CV そしてまた､ ロジスティック回帰に使えるパラメータについての情報が必要なら､ そのスペルすら間違っているのです｡
‫代表的なダニエル・ロジスティック回帰とランダムフォレスト分類器｡
‫ここに上がって､ 一人でロジスティック回帰を聞いてみてください｡
‫そこで､ ここを見ると｡
‫これは､ さまざまなパラメータのリストを与えてくれるもので､ ドキュメントを読むとよいでしょう｡
‫そして､ 信じてください､ 私はこれを初めてやったのです｡
‫ドキュメントを読むと､ これはエラスティックネットL2ペナルティのような用語のすべてを意味するんだ､ と｡
‫ブルです｡
‫実は､ ブルの意味は分かっている｡
‫真偽はともかくとして､ ね｡
‫これらのことは､ 私にとってあまり意味のないことでした｡
‫いろいろなパラメーターの意味を調べて､ 初めて理解できるようになったんです｡
‫また､ ランダムフォレスト分類器も同様です｡
‫同じことをスケールローンのドキュメントに書いてもいいし､ これをランダムフォレストのチューニングの仕方に変えてもいいでしょう｡
‫Pythonによる機械学習モデル｡
‫これらは､ 機械学習エンジニアやデータサイエンティストのような人々が､ 日々､ モデルを改善する方法を考えるために行っていることです｡
‫最初のうちは､ 誰もこのやり方を暗記していない｡
‫何度やっても｡
‫やっぱりこういうのは調べないとダメですね｡
‫だから､ ここに行くんです｡
‫彼ならどうするのか､ 見てみましょう｡
‫CVSは何の略かというと､ クロスバリデーションの略です｡
‫それをセカンドライン､ もっと言えばクロスバリデーションで見たのです｡
‫これは､ 今までのようにトレーニングとテストのスプリットを行うのではなく､ トレーニングのスプリットとテストのスプリットを作成することで､
‫トレーニングのスプリットとテストのスプリットを行います｡ k. トレーニングの分割が80％､ テストの分割が20％で､ 作成されます｡
‫本当はKにすべきなのですが､ ここがいい感じなので5にしています｡
‫これはKフォールドクロスバリデーションでもよい｡
‫だから､ 最新版ではサイキックラインは5本がデフォルトになっています｡
‫でも､ これは本当に調整できるんです｡
‫そして､ 5種類のトレーニングデータと5種類のテストデータを作成し､
‫さまざまなパラメータを評価することになるのです｡
‫ハイパーパラメータ探索を行うので､ 学習データとテストデータの異なるセットすべてについて､
‫異なるタイプのパラメータを評価し､ どのパラメータセットまたはハイパーパラメータが､
‫1つの分割ではなく､ 5つの分割で最適かを調べます｡
‫だから､ ここに行けば､ やってみよう｡
‫そこで必要なのは､ ロジスティック用のハイパーパラメータグリッドを作ることです｡
‫回帰のドキュメントを読み､ ロジスティック回帰を検索すると､
‫調整可能ないくつかの高いパラメータがあることがわかります｡
‫繰り返しになりますが､ あなたはドキュメントがこれらの言葉のいずれかの意味を行く最初の時間､ これを読むことができます｡
‫だからこそ､ それをチェックするためのリサーチが必要なのです｡
‫そしてもうひとつ､ ソルバーというものがあります｡
‫だから､ ここに行きます｡
‫パラメータグリッドがどのようなものかを見てみましょう｡
‫ほらね｡
‫そしてまた､ 他にもあります｡
‫ここでは2つしか使っていないので､ Cとsolverだけです｡
‫調べてみると､ ペナルティを調整できることがわかるかもしれません｡
‫フィットのインターセプトを調整することができました｡
‫高いパラメータを一通り調整することができました｡
‫しかし､ パラメーターを調整するという全体的なコンセプトは､ 私たちが重視しているところです｡
‫ということで､ 調査後に設定することになりました｡
‫NPログ空間マイナス4が良い値であることがわかっています｡
‫また､ 私は比較的早くこのようなことを投げかけているので､ ログスペースは何だろうと思われるかもしれませんね｡
‫ログスペースはそうです｡
‫ここに行けば｡
‫対数目盛りに沿って等間隔に並んだ数字を返します｡
‫つまり､ スタート・ストップ番号です｡
‫つまり､ これはマイナス4個､ 4個から50個の間になるんですね｡
‫そして､ ログスペースってなんだろうと思ったら､ こういう方法もあるんですね｡
‫さあ､ 行こう｡
‫ログスペースとは何ですか？
‫長時間の空間削減､ 私たちの複雑さ｡
‫ロックド・スペース・リダクションとは何か､ わかりやすく説明してください｡
‫だから､ それをもう一度読むことができたんです｡
‫かなり複雑な単語が並んでいますが､ 少し頑張れば理解できるようになりますよ｡
‫だから､ ここに行くんです｡
‫ここで使えるソルバーは1つだけです｡ というのも､ 実際に調査して､ どのような高いパラメータを調整すべきかを見つけた結果､ ロジスティック回帰ではおそらくCが最も価値のあるソルバーであることがわかったからです｡
‫だから､ ソルバーには1つの値しか使わないことにしているんだ｡
‫つまり､ マイナス4と4の間の対数空間上に数字のグリッドを作ってテストしているのです｡
‫そうそう､ そうなんです｡
‫あ､ すみません｡
‫ログ空間だからです｡
‫マイナス4の1乗､ 10の1乗までです｡
‫だから､ かなり大きなスペースがあるんです｡
‫この数字はかなり分離していますね｡
‫だから､ それを解消しよう｡
‫そして､ 今度はパラメータを作成します｡
‫ランダムへの貪欲さ｡
‫森林分類器｡
‫素晴らしい｡
‫また､ 研究を通じて､ ランダムフォレストを使って推定する場合の最適なパラメータは､ フォレストの中に何本の木があるかということだとわかりました｡
‫なぜレンジを使うのか不思議に思われるかもしれませんが､ NTPはレンジです｡
‫その理由は､ ドキュメントを調べると､ 以前のビデオでは明示的にrangeを使っていなかったからです｡
‫レンジの役割を再確認するために､ リストを使ってみました｡
‫これを見てみよう｡
‫だから､ 基本的には数値の範囲を作るだけです｡
‫10と1000の間に50があるので､ 50の間隔をあける｡
‫だから､ ランダム化を調べれば､ すでにあると思うんです｡
‫たぶん､ ここです｡
‫これでよしとしよう｡
‫ここには､ どこか対照的なものがあります｡
‫放してください｡
‫連続的なパラメータには連続分布を使うことが強く推奨されるので､ そのためにさまざまな値の範囲を作るのです｡
‫というところから読み取れます｡
‫単なる明示的なリストではなく､ ランダム化検索のためのハイパーパラメータの連続分布の範囲を作成しているのです｡
‫CV でも､ それはあくまでドキュメントの中での話です｡
‫だから､ ここに行くんです｡
‫リストだけでもいいのですが､ ロビーでスケールを書いている人たちのドキュメントでは､ 値の範囲を使うことを推奨しています｡
‫これは､ 私たちが独自に調査した､ チューニング可能なハイパーパラメータのひとつです｡
‫どんな機械学習モデルでも､ 「このモデルを使っているんだけど」と検索すれば､ すぐに出てくることを思い出してください｡
‫私はそれを理解しました｡
‫サイキックラインをたどりました｡
‫地図がないんですよね？
‫ええ､ そうです｡
‫マップに従って､ ランダムフォレスト分類器を使うことにしたんだ｡
‫ハイパーパラメーターチューニングはどのようにすればよいですか？
‫まあ､ そこでこういうものを検索することになるんでしょうけど｡
‫そこで､ ここに行ってみると､ もう1つはminサンプルの分割であることがわかります｡
‫では､ ここに行ってみましょう｡
‫レンジを使用しています｡
‫実は､ 分布を使うと言いましたが､ ここではmax depth､ 分布は使っていません､
‫明示的なリストを使っただけです､ しかし､ ここで別の範囲を使います､ そして､ ここに行って､
‫min samples, leaf and p a rangeも使ってみましょう｡
‫122 美しい｡
‫これで､ 2つのモデルのハイパーパラメータグリッドができましたので､ ランダム化探索XXVを使ってハイパーパラメータチューニングを試みようと思っています｡
‫そこで､ このビデオをここで終了して､ また戻ってきたら､ この2つのグリッドとランダム化探索XXVを使って､
‫ロジスティック回帰モデルとランダムフォレスト分類器の結果を､ 最初に得たものよりも改善することを試みます｡
‫キーノートでクロスバリデーションを行う場合､ オリジナルのスコアを得るために使用したのは単一の訓練とテストスプリットですが､
‫クロスバリデーションでは複数の訓練とテストスプリットを使用することになります｡
‫2行目のセクションで､ モデルがどのように動作しているかの指標を提供する場合､ おそらくクロスバリデーションの指標を使用するのが最善であることを説明したのを覚えています｡
‫特に分類の問題で｡
‫それでは､ 次のビデオでは､ ランダムフォレストとロジスティック回帰をランダムサーチCVでチューニングすることについて再確認しましょう｡