‫OC.
‫最後のビデオでは､ データのサブセットaでモデルを学習させます｡ k. a. これにより､ 100人の推定者が､
‫40万件のデータポイントすべてではなく､ 1万件の異なるデータポイントを見ることができるようになります｡
‫そして､ かなり大きな計算時間の短縮が見られました｡
‫そのため､ モデルの学習が速くなりました｡
‫ランダムフォレストのリグレス・アグレッサーがデフォルトで使用するパラメータよりも､ もう少し優れた理想的なハイパーパラメータを見つけることができるかもしれません｡
‫では､ 見てみましょう｡
‫そして､ もしあなたがそれを考える必要があるなら､ 以前のプロジェクトや他のビデオで見た､ ランダム検索によるチューニング､
‫ハイパーパラメータチューニングのアイデアに出くわしたり､ 考えたりしたことがあるかもしれません｡
‫ということで､ 見てもらうことにしました｡
‫もし､ ランダム検索カーブが気になるようでしたら､ いつでもドキュメントで調べることができることを思い出してください｡
‫しかし､ 私たちが行うのは､ 実は細胞を作ることだけかもしれません｡
‫まず､ SRCのコードを見て､ どのようにインポートするのかを学びましょう｡
‫モデル選択ランダム探索CVと覚える｡
‫どのような機械学習モデルであっても､ 常にモデル名を挿入して行くことができます｡
‫つまり､ この場合､ ランダムフォレスト回帰はハイパーパラメータチューニングである｡
‫そして､ これはランダムフォレスト回帰や一般的なランダムフォレストの回し方についての情報を与えてくれるでしょう｡
‫そういう方法もあるんですね｡
‫もうひとつは､ これまで見てきたような方法から､ ランダム検索を行う方法です｡
‫CV ああ......実は......ここで現実を見ましょう｡
‫いろいろなやり方がありますが､ ランダム検索CVが何をするか覚えていれば､ 覚えていなくても大丈夫です｡
‫無作為抽出の検索｡
‫CV.
‫ドキュメントを手にする｡
‫そこで､ ハイパーパラメータを用いたランダム検索を行う｡
‫基本的には､ 辞書のようなパラメータ分布を作り､ ランダムな検索を行います｡
‫CVは, 我々のモデルや推定値, あるいはサイキックローンの用語でいうところのパラメータ分布や辞書を横断的に検索し,
‫我々のモデルに最適なハイパーパラメータを求めようとします．
‫だから､ そういうものを作るんです｡
‫ランダムフォレスト回帰とハイパーパラメータが違うので､ ここに行きます｡
‫RF Gridは､ 辞書としてはシンプルで良いですね｡
‫これは､ 私が話していたパラメータ分布で､ 私たちは私たちを推定して行くかもしれません｡
‫もしこれがどこから来たのか不思議に思ったら､ いつでもここでランダム・フォレスト､
‫リグレス､ 高さ､ パラメータ・チューニングを検索できることを忘れないでください｡
‫なぜなら､ 繰り返しになりますが､ これは完璧な科学ではないのです｡
‫これは､ 全体の状況を把握するための試行錯誤の積み重ねなんです｡
‫ここでやっているのは､ ランダム検索が通過するさまざまな値を設定し､
‫一定の数の計算や組み合わせを試し､ どの値が最良の結果をもたらすかを見極めることです｡
‫だって､ それが目的なんですものね｡
‫私たちは､ Kaggleのリーダーボードで私たちを後押ししてくれるモデルを求めています｡
‫これが､ チャーンタイプのパラメータを持たないデフォルトのモデルで行おうとしていることです｡
‫座っているだけで1万例しかない｡
‫気をつけたいのは､ そちらの方が大きいということです｡
‫今､ 8時くらいだから､ まあまあかな｡
‫では､ ここで他に何をチャージしているのでしょうか？
‫エスティメーターの数､ 最大深度もあります｡
‫これらはすべてランダムフォレストの異なるパラメータで､ samples､ split min､ samples leaf､ そしてmax
‫featuresになります｡
‫これもまた良い10点ですね｡ 51平方根の順｡
‫それから､ 最大限のサンプルも行くかもしれません｡
‫最大サンプルの前に､ 400,000よりも10,000のランダムな例だけを見るので､ モデルがデータのパターンを見つける速度が上がることを見たので､
‫これを10,000に設定することもあります｡
‫それがトレーニングセットに含まれているのです｡
‫そこで､ 実験間の時間を短縮しようとする精神から､ ランダム化探索CVモデルをインスタンス化するように設定することにします｡
‫このRSモデルを「創造的ランダム化探索CV」と呼び､ ランダムフォレスト回帰に､ エンドジョブを負の1に､
‫ランダムステートを42に等しくして､ 一貫性を持たせることにします｡
‫これはNPランダムシードの設定と似ていることを覚えておいてください｡ それから､ パラメータ分布であるRFグリッド､
‫つまり今ここでインスタンス化したものとエディタを渡します｡ 通常は20程度にしますが､ 私は初めて使うときは20程度にするのが好きですね｡
‫しかし､ 私たちはそれを変えるかもしれません｡
‫なぜ､ CVが5になるのかが分かるかもしれません｡
‫それは､ 両方のイコールでのクロスバリデーションであることを忘れないでください｡
‫本当です｡
‫そして､ これを減らす理由は､ おそらくそれしかないでしょう｡
‫時間はどのくらいあるのだろう？
‫その理由は､ 皆さんもご存知のように､ ここで何が起こったか､ だけかもしれません｡
‫もしかしたら､ そのレンタルは本当に早いかもしれませんね｡
‫理由はよくわからない｡
‫すぐに確認します｡
‫でも､ それでいいんです｡
‫もうこの作業は終わったので､ 5回で十分かもしれません｡
‫でも､ ETAは100に設定しました｡
‫でも､ 私のマシンでは2時間半くらいかかりましたよ｡
‫だから､ これを好きなように､ 時間のあるときに設定すればいいんです｡
‫でも､ 低いところから始めてください｡
‫というのも､ これを100に設定すると､ この細胞は2､ 3時間稼働して､ まあ､ 家に帰るなら100にして一晩稼働するとか､
‫そういうことをするかもしれません｡
‫あるいは､ 昼休みがあれば､ 昼休みに実行するように設定することもありました｡
‫私が市内の技術系企業に勤めていたころは､ そうしていました｡
‫昼休みにモデルを走らせて､ ご飯を食べている間に､ コンピュータがひたすら計算して､
‫私たちの場合はこれを5個に設定して､ どうするかということです｡
‫ああ､ だからあんなに長く続いたんだ､ 合わせもしなかったから｡
‫だから､ この時間はとても短いんです｡
‫私たちのモデルはフィットしました｡
‫これはどうするかというと､ 実は2つで十分なんです｡ なぜなら､ 私はこれで混乱したと思ったのですが､ 何も合っていないことに気づいたんです｡
‫だから､ あっという間だったんですね｡
‫すみません｡
‫これが私たちにできることです｡
‫ランダムサーチCBモデルを当てはめて行く｡
‫これは何をするかというと､ 2つのイテレーションに合わせるのです｡
‫そこで､ ランダム化探索は､ ここから2つの異なるパラメータの組み合わせを選び､ ランダムフォレストまたはアグレッサーに割り当て､
‫それをトレーニングデータに適合させます｡
‫また､ 最大でも1万サンプルしかないので､ どのパラメータが最適かはすぐにわかると思います｡
‫つまり､ 2回の繰り返しで､ CV値を5にしているので､ まだ10通りの適合があることになります｡
‫そのため､ 1分ほど時間がかかるかもしれません｡
‫だから､ またタイムトラベルするかもしれない｡
‫タイムトラベルは頻繁にしかできないと言いましたが､ 私たちはこのプロジェクトを通して超能力を解き放ち､
‫とてもうまくいっているので､ この細胞が完成して戻ってくるまでタイムトラベルしましょう｡
‫それで､ 私のMacBook Proは2分弱かかりました｡
‫そうですね､ ハイパーパラメータを変えて､ 5重クロスバリデーションで2種類の反復計算を試してみることです｡
‫そして今､ 約2分かかったとしても､ 最初に行った7分のモデルトライアルに比べれば､ はるかに少ない｡
‫そうですね｡
‫そして､ 数本前の動画は､ 最大サンプル数を10,000に等しく設定しているからです｡
‫そして今､ ランダム化探索CVの学習済みモデルがあるので､ ランダム化探索が発見したパラメータの最適なモデルタイプを見つけることができるのです｡
‫そして､ これを2つだけ設定したことを忘れないでください｡
‫ですから､ もっと時間や計算能力があれば､ これを100などに設定して､ その中から最適なパラメータを見つけることもできます｡
‫でも､ 今回は2つだけなので､ ここに行きます｡
‫RSモデルドットベースパラメータ｡
‫また､ 2種類の組み合わせしか検索していないので､
‫これらが最適なモデルの高いパラメータではないかもしれませんが､ とりあえずこれで作業してみます｡
‫ランダムサーチモデルショースコアを評価する｡
‫私たちの美しいショー・スコア・ファンクション｡
‫それをRSモデルで通す｡
‫さて､ ここで､ これまで使ってきた評価指標に改善が見られるかどうかです｡
‫そうですね｡
‫だから､ 実際に悪化していることがわかります｡
‫それでいいんですよね｡
‫というのも､ 先ほども言ったように､ まだ2種類の組み合わせしか試していないんです｡
‫そして今､ 過去のノートブックで､ 過去のプロジェクトで､ このプロジェクトのためにセットアップしていたとき､ 私は実際に､
‫私が言ったように､ ETAが100に等しいと試したことがあります｡
‫そして､ パソコンに2時間強かかったので､ ちょっと休憩して､ ご飯を食べに行ったんです｡
‫というわけで､ 最適なパラメータの種類をご紹介します｡
‫私のパソコンでは2時間の検索で見つかりましたが､ その様子は次回の動画でご紹介します｡