‫Welkom terug en de laatste video die we zagen had een deuntje, de hyperparameters van een model met gerandomiseerde zoekopdracht
‫c. v.
‫En wat dat deed, was dat we een ruimte of woordenboek met verschillende soorten parameterwaarden definieerden.
‫We willen proberen en vervolgens willekeurig zoeken.
‫We combineren deze parameters willekeurig en bouwden een classificatie met verschillende instellingen, verschillende soorten parameters,
‫en evalueerden ze vervolgens allemaal met behulp van kruisvalidatie.
‫Of we veranderen dit terug naar tien.
‫We willen niet dat 50 modellen er vandoor gaan.
‫En na 10 verschillende combinaties te hebben geprobeerd, vond het de beste parameters om deze reeks waarden hier te zijn.
‫Na ze te hebben geëvalueerd, deden we het niet zo goed als ons vorige model hier, waar we gewoon
‫met de hand afstemden.
‫En dus tot slot, een workflow waarmee je zou kunnen eindigen als je harde parameters traint, begint met de hand en
‫gebruikt vervolgens gerandomiseerde zoekopdracht S. V. over een ruimte met hoge parameters.
‫En als je eenmaal een aantal behoorlijk goede hybride parameters hebt gevonden, zul je waarschijnlijk eindigen met zoeken naar
‫rasters c. v.
‫Laten we dat hier in actie zien.
‫Dus vijf punt drie, hyperparameterafstemming met rasterzoekopdracht S. v..
‫Mooi.
‫En laten we eens kijken naar ons raster, dus ons raster op dit moment is dat u misschien opmerkt dat de rasterzoek-tv het woord raster bevat en
‫dat ons raster met de helft van de parameters op dit moment deze waarden hier zijn.
‫En het belangrijkste verschil tussen willekeurig zoeken en rasterzoek-tv is dat het willekeurig zoeken van tv een parameter heeft
‫met de naam Anytown, wat we hierboven hebben gezien.
‫Die we kunnen instellen om het aantal te proberen modellen te beperken.
‫Dus in ons geval gebruikten we 10, dus als we hier terugkijken, past de bovenkant van deze code vijf keer voor elk van
‫de 10 kandidaten, in totaal 50 past.
‫Het belangrijkste verschil tussen gerandomiseerde tv en rasterzoek-tv is dat rasterzoek-tv een soort brute
‫force-zoekopdracht is.
‫Het betekent dat het elke combinatie zal doorlopen die hier beschikbaar is.
‫Dus als we kijken, hebben we daar zes waarden.
‫Dus zes keer, vijf keer, twee keer, drie keer drie.
‫Dus de zes parameters hier, er zijn er vijf hier, twee hier, drie drie in totaal, 540 verschillende parameters die het zou proberen
‫of combinaties van parameters.
‫En dat is veel dat is en dan vijf keer zo vaak gevalideerd.
‫Dus tweeduizend zevenhonderd model.
‫Dat is veel.
‫Rechts.
‫Dat zal veel rekenkrachttraining vergen.
‫Eén model kan lang genoeg duren, maar training.
‫Zevenentwintighonderd daarvan, zeker als je met een grote dataset werkt, zullen waarschijnlijk niet geschikt zijn
‫voor je laptop.
‫U heeft misschien een grote computer nodig of we kunnen de zoekruimte verkleinen.
‫Dus laten we dat in actie zien.
‫Dus wat ik daarmee bedoel, is een raster creëren om een beetje meer van een beperkte hyperparameterruimte te
‫gebruiken.
‫Dus in wezen, alleen het verminderen van het aantal hyperparameters dat op het raster moet worden gezocht.
‫Dus laten we dit in actie zien.
‫Wat we kunnen doen is dit gewoon kopiëren.
‫En hoe zou je nu in de praktijk een raster maken, we kunnen het gewoon kopiëren en plakken, wat we hebben gedaan.
‫Ik wil deze op een rij zetten, zodat het er allemaal Pythonisch uitziet.
‫Daar gaan we, en we kunnen het gewoon kopiëren en plakken en deze vervolgens willekeurig verwijderen, verwijderen, verwijderen.
‫Dat doen we misschien niet.
‫Dus we hebben gerandomiseerd zoeken gedaan c. v en het is doorgegaan, laten we zeggen dat we dit hebben verhoogd tot
‫50 verschillende modellen zoals we eerder hadden, maar in ons geval hebben we er eigenlijk maar 10 gedaan.
‫We kunnen deze parameters, de beste programma's, uit onze gerandomiseerde zoekopdracht KVI nemen.
‫En gebruik ze om te beïnvloeden waar we willen zoeken naar rasters, opslaan om uit te voeren.
‫Dus laten we dat doen.
‫Onze beste parameters zijn 206 twee vierkantswortels.
‫Dus wat we zouden kunnen doen is 10 verwijderen, 500 behouden en dan deze twee verwijderen.
‫Ja, Max, diepte is er niet.
‫Dus misschien houden we dat gewoon als geen.
‫Dus het heeft maar één optie daar en dan voor vierkantswortel, we zouden dat eigenlijk kunnen houden als vierkantswortel voor
‫automatisch aanvullen en wat hebben we dan nog meer, de steekproefsplitsing is zes.
‫We kunnen misschien vier en twee kwijtraken.
‫En wat we dan zouden kunnen doen, zijn monsters blad.
‫Dus we kunnen dat als één en twee houden.
‫Dus wat hebben we hier gedaan?
‫Wat we hebben gedaan, is dat we onze zoekruimte met hyperparameters hebben verkleind.
‫Dus nu.
‫Weet je nog dat we daar 540 verschillende combinaties hadden.
‫Wat hebben we dus we hebben drie keer, één keer, twee keer één keer twee.
‫Dus 12 en dan is het vijf keer kruisvalidatie, dus we kunnen dit aanpassen met
‫de KVI-parameter, dus 60 versus tweeduizend zevenhonderd.
‫Dat zijn dus een stuk minder parameters.
‫Dus hoe zouden we dit in de praktijk doen?
‫Hoe zouden we raster zoeken S. V. om het beste type parameters in deze ruimte te vinden?
‫Nou, zoals altijd, laten we het in actie zien vanuit Escalon, de modelselectie importraster zoeken c. v.
‫En we willen ook importeren, proberen te splitsen.
‫Dat hebben we waarschijnlijk al.
‫We kunnen dat in de buurt van het willekeurige zaad plaatsen.
‫Prachtig.
‫Split, wat we eigenlijk zouden kunnen doen, is deze code hier naar voren brengen, omdat het exact dezelfde
‫code is die we eerder willen gebruiken.
‫Dus we nemen dit gewoon.
‫Dus we gaan één ding veranderen.
‫Kom naar beneden.
‫Prachtig.
‫Dus we gebruiken dezelfde dataset als onze gerandomiseerde zoek-cv, maken dezelfde splitsing, we instantiëren een algoritme voor
‫onze classificatie, maar deze keer gaan we het opzetten.
‫Raster zoeken S. v..
‫Onderzoek sparen een prachtige onderzoeksbesparing.
‫En dan gaan we de rasterzoekfunctie hier en nu aanpassen.
‫Er is hier een andere parameter, dus dit wordt Perram Grid, ik geloof dat het
‫geen ETA zal hebben omdat zoeken naar een raster brute kracht is.
‫Het probeert elke combinatie.
‫En we willen dat het raster uitprobeert in plaats van raster één, omdat het daar een paar minder opties heeft in raster twee, zoals
‫we eerder zagen.
‫Dus we komen hierheen, houden de kruisvalidatie.
‫Is Five-fold the Boese gelijk aan dat, oké?
‫Laten we nu eens doornemen wat er gebeurt.
‫Dus we importeren rasterzoekopdracht Stephy.
‫We hebben Grid twee gemaakt, een verfijnde zoekbasis met verschillende soorten parameters.
‫Zo verschillende instellingen, zo veel alsof je aan je favoriete maaltijd werkt, je oven aanpast, als je
‫de temperatuur op 400 graden zet, dat is veel te hoog.
‫Dus als het begint op 180 graden en dat doet het, oké, waarom zou ik dan meteen naar 500 of 400
‫graden gaan als ik een kleine sprong naar 400 kan maken?
‫Daarom hebben we raster twee gemaakt.
‫We hebben het gebaseerd op de beste parameters of de beste hyperparameters die onze willekeurig doorzochte KVI of willekeurig
‫doorzochte CDV heeft gevonden.
‫Dus laten we het doen, laten we een willekeurige bosclassificatie bouwen met behulp van rasterzoekopdracht S. v..
‫Dus hier is hoe het weer gaat, weer hetzelfde, vijf plooien passen voor elk van de 12 kandidaten,
‫in totaal 60 passen.
‫Nu, welk raster zoeken c. v gaat doen, net als willekeurig zoeken ECV?
‫Het gaat door al deze verschillende Highbaugh-parameters en geeft ze door aan onze willekeurige
‫bosclassificatie, waarbij elke verschillende combinatie wordt geprobeerd en uiteindelijk wanneer het klaar is.
‫We kunnen gaan, jeetje, beste gram.
‫Prachtig.
‫Dus het kan even duren met rasterzoek-tv, dit is iets om in gedachten te houden,
‫hoe meer hyperparameters je hier hebt, hoe langer het duurt om rasterzoek-tv te draaien omdat het elke combinatie
‫van harde parameters in hier.
‫Dus nu, zoals we eerder deden, kunnen we onze rasterzoekclassificatie evalueren door er voorspellingen mee te doen en
‫vervolgens onze evaluatiefunctie te gebruiken om erachter te komen hoe het deed.
‫Dus laten we dat doen.
‫GCF Nou, eigenlijk gaan we raden waarom Prendes gelijk is aan G. S..
‫CFF niet voorspellen zal ook voorspellen op de testgegevens X-test en dan gaan we de voorspellingen evalueren.
‫Guess-statistieken zijn gelijk aan Freds evalueren, onze functie, een functie die we in een paar video's geleden
‫hebben gedefinieerd en ik denk waarom Freds?
‫Prachtig.
‫En nu zien we opnieuw een lichte afname in nauwkeurigheid.
‫Hm.
‫En dat laat maar weer eens zien hoeveel van een proces dat hyperparameters karn kan zijn.
‫Rechts.
‫Het draait allemaal om dat vallen en opstaan.
‫Wat je zou kunnen doen om dit op te lossen, is een back-up maken.
‫Uw workflow zou waarschijnlijk een paar instellingen met de hand zijn, zoals we hier meteen deden.
‫Wijzig uw parameters met de hand.
‫Dit is een workflow die je waarschijnlijk zou doen, probeer er een paar met de hand,
‫kijk of je iets kunt bedenken met een validatieset zoals we hebben gedaan, en probeer dan wat afstemming van hoge parameters met behulp van willekeurig zoeken
‫S. v..
‫U kunt in dit geval dit aantal verhogen tot 20 of 50 of zo of welk willekeurig nummer u ook vindt.
‫Nogmaals, dit is allemaal experimenteren om erachter te komen welk type parameters beter zijn.
‫En u kunt zelfs het raster waarin u zoekt wijzigen op basis van het type parameters dat
‫u vindt in de documentatie van het cycloonmodel voor het model dat u gebruikt.
‫En als je eenmaal een goed type parameters hebt gevonden met behulp van willekeurig zoeken c. v, je zou dat soort parameters kunnen nemen,
‫deze hier, de beste programma's, en dan een ander raster maken om het raster te doorzoeken zoals
‫we hier hebben gedaan.
‫In ons geval heeft het onze modelstatistieken niet verbeterd, maar dit is waar we waarschijnlijk wat meer zouden gaan experimenteren, een paar
‫andere andere metrieken zouden proberen, een paar verschillende andere hybride parameters zouden proberen.
‫Maar voor de volledigheid, wat je waarschijnlijk zou doen nadat je een paar verschillende parameters hebt geprobeerd, je
‫hebt een basislijnmodel gemaakt met de standaardinstellingen.
‫Je hebt geprobeerd ze met de hand af te stellen.
‫Je hebt geprobeerd ze aan te passen door willekeurig te maken, zei schijf, en je hebt geprobeerd ze aan te passen door te zoeken in een raster.
‫U wilt uw modellen vergelijken.
‫Dus laten we vergelijken.
‫Onze verschillende modellen, statistieken.
‫Prachtig.
‫En om dit te doen, gaan we een dataframe maken, dus alsjeblieft, dit is de reden waarom we woordenboeken
‫hebben geretourneerd van al onze al onze modellen en onze waardevolle Aprils-functie.
‫Dus baseline wordt baseline-statistieken en kijk dan wie er overgelaten wordt aan metrische gegevens.
‫Toernooi eindigt hier als we ze niet nodig hebben, willekeurig zoeken wordt onze statistieken en vervolgens zoeken in het
‫raster.
‫Wordt Gas Metrix.
‫Prachtig.
‫En om het in actie te zien, gaan we Matrix vergelijken, wat alleen dat dataframe is dat
‫we hier hebben geïnstantieerd.
‫Oké, misschien moet je verhuizen.
‫Hij is daarboven.
‫Het zal daar een tijdperk zijn dat eigenlijk een kronkelige beugel is die we niet nodig hadden.
‫Dot plot, Delbar groot formaat is gelijk aan 10 act.
‫Laten we eens kijken.
‫Prachtig.
‫Dit gaat dus al onze verschillende classificatiemodellen vergelijken, metrieken in de ene ruimte, zodat
‫we kunnen zien dat ons basislijnmodel blauw is.
‫Dus bij deze werd het hier niet optimaal.
‫Het was meer een gelijkspel tussen twee en willekeurig zoeken op precisie, CFF twee staat voorop bij
‫terugroepen, baseline staat voorop en op EF1.
‫Het is een gelijkspel tussen baseline en CLF twee.
‫En nogmaals, u kunt deze grafiek aanpassen om deze beter zichtbaar te maken.
‫Dit is alleen om verschillende statistieken aan te tonen.
‫Dus dit is een soort communicatie die je niet alleen voor jezelf doet, maar ook voor je teamgenoten
‫of als je rapporteert aan iemand in een project, is om hen de verschillende modellen te laten zien die je
‫hebt geprobeerd en hoe ze anders presteren op verschillende classificaties statistieken.
‫Als je aan een classificatieprobleem werkt, kun je natuurlijk hetzelfde soort proces doen
‫met een regressieprobleem.
‫En nu, afhankelijk van wat u nodig heeft voor het project, hangt af van welk model.
‫Stel dat u een model wilde dat de terugroepactie optimaliseert.
‫In dit geval kunt u het basismodel gebruiken.
‫Als u een model wilde met geoptimaliseerde precisie, zou u de CLF kunnen kiezen om te modelleren.
‫En als geen van deze statistieken echt voor u werkte, zou u kunnen blijven proberen om betere te vinden
‫via willekeurig zoeken of raster zoeken.
‫En nu zijn we eindelijk aan het einde gekomen van hoe je een model kunt verbeteren via hyperparameterafstemming.
‫En nogmaals, er is hier veel om in je op te nemen.
‫Het belangrijkste is om te onthouden dat het een experimenteel proces is.
‫Het verbeteren van een model door middel van hyperparameterafstemming is dat er geen geschreven wet is over hoe je het doet,
‫maar.
‫Het punt is om gewoon te blijven proberen, kijken of je iets kunt bedenken.
‫Kijk of u vertrouwd kunt raken met verschillende soorten parameters die verschillende modellen hebben,
‫zoals een willekeurige valse classificatie.
‫En herinner jezelf eraan dat het eerste model dat je maakt meer dan waarschijnlijk niet het beste model is dat
‫je hebt.
‫Het is een basismodel en het kan worden verbeterd en zo een model worden gebouwd.
‫We hebben geprobeerd het te verbeteren.
‫Laten we zeggen dat je hebt besloten dat je je gaat concentreren op herinneren of iets dergelijks.
‫Misschien wilt u uw model exporteren, zodat u het kunt delen of gebruiken in een soort implementatie-configuratie.
‫Dus in de volgende sectie gaan we kijken naar onze lijst hier, wat we behandelen, we
‫gaan kijken hoe we een model kunnen opslaan, delen en laden.
‫Dus sla een getraind model op en laad het.
‫Het voordeel hiervan is dat u een model niet opnieuw hoeft te trainen zoals we in de afgelopen paragrafen hebben gedaan.
‫Dus ga terug door, bekijk wat we hebben behandeld met eerdere parametertraining, hoe u de
‫hybride modelparameter kunt verbeteren met rasterzoekopdracht.
‫Kijk, we hebben het uitgeprobeerd met willekeurig zoeken.
‫Probeer het met de hand en ik zie je in de volgende video.