‫原币
‫在上一个视频中, 我们在数据的子集a上训练模型｡ k､ a.一个
‫从而允许每个估计器100估计看到10, 000个不同的数据点而不是所有的400, 000个左右｡
‫我们看到计算时间有了相当大的减少｡
‫所以我们的模型训练得更快了｡
‫我们可能要做的是, 因为我们现在可以更快地进行实验, 尝试找到一些理想的超参数,
‫这些参数比随机森林回归攻击者默认的参数好一点｡
‫让我们来看看｡
‫如果你不得不考虑一下,
‫你可能会遇到或想到调优的想法, 通过随机搜索我们在以前的项目和其他一些视频中看到的东西来进行超参数调优｡
‫这就是我们要看的｡
‫所以如果你想知道随机搜索曲线是什么, 记住, 我们可以随时查找文档｡
‫但我们要做的实际上可能只是创建一个细胞｡
‫让我们先看看SRC中的代码, 了解如何导入它？
‫选择随机化检索简历并记住模型｡
‫无论您使用的是什么机器学习模型, 您都可以插入模型名称｡
‫所以在我们的例子中, 随机森林回归是超参数调整｡
‫这将给予你一些关于如何把你的随机森林回归或者你的随机森林一般化的信息｡
‫所以这是一种方法｡
‫另一种方法是我们已经看到的随机搜索｡
‫简历哦, 事实上, 让我们在这里是真实的的｡
‫有很多不同的方法可以做到这一点, 但如果你记得随机搜索CV的作用, 如果不记得, 也没关系｡
‫随机检索｡
‫简历
‫把文件拿来｡
‫所以随机搜索超参数｡
‫基本上, 我们创建了一个参数分布, 它看起来像一个字典和随机搜索｡
‫CV将采用我们的模型或估计值, 或以心理贷款的术语,
‫并在参数分布或字典中搜索我们模型的最佳超参数｡
‫这就是我们要创造的东西｡
‫所以不同的随机森林回归, 超参数, 我们会在这里｡
‫RF网格漂亮而简单的字典｡
‫这就是我刚才说的参数分布, 我们可以继续估计一下.
‫记住, 如果你想知道这些是从哪里来的, 别忘了你可以随时在这里搜索随机森林,
‫回归, 高度, 参数调整,
‫你会发现几乎所有你能想到的机器学习模型的相当多的信息, 以及如何调整高度参数的不同方法｡
‫因为, 再一次, 这不是一门完美的科学｡
‫这是一大堆的试验和错误试图弄清楚事情是如何进行的｡
‫我在这里所做的就是设置一些不同的值,
‫随机搜索将通过这些值, 尝试一定数量的计算或它们的组合, 然后找出哪一个能获得最好的结果｡
‫因为这就是我们要找的, 对吧？
‫我们在寻找一个能让我们在Kaggle排行榜上排名靠前的模特｡
‫这就是我们试图用没有churn类型参数的默认模型来做的｡
‫我们坐着, 只有一万个例子｡
‫提醒你一下, 这是一个更大的在那里｡
‫我们现在大概八点, 所以还不错｡
‫那我们还在搅拌什么？
‫我们有很多估计器, 最大深度｡
‫这些都是随机森林的不同参数, 平均样本, 最小分裂, 样本叶,
‫然后我们将去最大特征｡
‫又是10分｡ 51平方根阶｡
‫然后我们也可能去最大样本｡
‫我们也可以将其设置为10, 000, 因为我们看到, 在最大样本数增加之前, 我们的模型可以多快地在数据中找到模式, 因为它只考虑10,
‫000个随机样本, 而不是400, 000个｡
‫这是我们的训练集｡
‫因此, 本着减少实验之间的时间的精神, 我们将把它设置为实例化随机搜索CV模型｡
‫我们创造性地把这个RS模型称为随机搜索CV, 我们把它作为一个随机森林回归, 最终作业数等于-1,
‫随机状态数等于42, 以保持一致性｡
‫记住, 这类似于设置NP随机种子,
‫然后我们将传递给它我们的参数分布, 也就是RF网格, 这是我们刚刚在这里实例化的, 我们通常做大约20,
‫而我第一次做大约20｡
‫但我们可能会改变这一点｡
‫我们也许会明白为什么CV等于5｡
‫请记住, 这是对两个相等项的交叉验证｡
‫是的｡
‫我们之所以要减少这一点, 可能只会做到这一点｡
‫我们还有多少时间？
‫也许只是因为, 你可能知道, 这里发生了什么｡
‫也许那房租真的很快｡
‫我不知道为什么｡
‫我们等一下再检查｡
‫不过没关系｡
‫也许五个五个就够了因为我已经经历过这个过程了｡
‫但我已经把预计到达时间设为100｡
‫但我用了两个半小时｡
‫所以你可以把它设置成任何你想做的, 任何你有时间做的｡
‫但要从低处开始｡
‫因为如果我们将其设置为100, 这个单元格可能会运行几个小时, 然后说, 如果我们要回家,
‫我们可能会将其设置为运行100, 并运行一夜或类似的东西｡
‫或者, 如果我们有一个午休时间, 我们可能会设置它运行超过午休时间｡
‫这是我在我所在城市的一家科技公司工作时经常做的事情｡
‫我会在午休时间运行模型, 当我在吃东西的时候,
‫电脑在计算, 在我们的例子中, 我们把它设为5, 然后我们会做什么｡
‫哦, 这就是为什么它跑了这么久, 因为我们甚至没有适合它｡
‫这就是为什么这一次是如此之小｡
‫我们的模特身材很好｡
‫所以这是要做什么, 实际上两个就足够了, 因为我觉得这让我很困惑, 但我意识到我们什么都不适合｡
‫所以才进展得这么快｡
‫对不起, 我不知道
‫这是我们能做的｡
‫我们去拟合随机搜索CB模型｡
‫这将做什么, 它将适合两个迭代｡
‫随机搜索将从这里选择两个不同的参数组合, 将它们分配给我们的随机森林或攻击者,
‫然后将其拟合到训练数据｡
‫请记住, 它只对10, 000个样本进行最大值计算, 它会告诉我们,
‫我们很快就能找出最佳参数｡
‫因为我们做了两次迭代, CV值为5, 所以仍然会有10个不同的拟合｡
‫所以这可能需要一分钟左右｡
‫所以我们可能会再次进行时间旅行｡
‫我知道我们说过我们只能偶尔进行时间旅行, 但我们在这个项目中释放了一种超能力, 因为我们做得很好,
‫很好, 时间旅行, 直到这个细胞完成, 我们回来｡
‫所以我的MacBook Pro只花了不到2分钟｡
‫对, 尝试两个不同的迭代, 在一堆不同的超参数上进行五重交叉验证｡
‫现在, 虽然这花了大约2分钟, 但仍然远远少于我们最初的7分钟模型试验｡
‫好吧, 我知道了
‫在几个视频之前, 因为我们已经将最大样本数设置为10, 000｡
‫现在, 因为我们有了一个具有随机搜索CV的训练模型, 我们可以找到随机搜索为我们找到的参数的最佳模型类型｡
‫请记住, 我们只将其设置为2｡
‫因此, 如果您有更多的时间或更多的计算能力, 您可以将其设置为100, 并从中找到最佳参数｡
‫但这个案子我们只做两个, 我们去这里｡
‫RS模型基于点的参数｡
‫它会告诉我们, 好的, 这是它找到的最佳参数, 不仅估计是最小样本分割,
‫16个最小样本, 剩下10, 000个最大样本, 因为这只是一个值, 最大特征,
‫自动, 最大深度, 10,
‫现在请记住, 这些可能不是最佳模型高参数, 因为我们只搜索了两种不同的组合, 但我们现在要使用它们｡
‫评估随机检索模型显示评分｡
‫我们美丽的表演分数函数｡
‫我们将把RS模型传递给它｡
‫现在, 我们可能会也可能不会看到我们之前使用的评估指标有所改进｡
‫是的, 我知道
‫所以我们实际上看到情况恶化了｡
‫没关系, 对｡
‫因为正如我所说, 我们只试了两种不同的组合｡
‫现在在过去的笔记本上, 在过去的项目中, 当我为这个项目做准备时, 我实际上, 正如我所说,
‫尝试了, ETA等于100｡
‫我休息了一下, 去吃了点东西, 因为我的电脑只花了两个多小时｡
‫我们来看看最佳的参数类型｡
‫我的电脑在2个小时的搜索中找到了, 我们将在下一个视频中看看它们是如何运行的｡