‫ยินดีต้อนรับกลับ.
‫และวิดีโอสุดท้ายที่เราเห็น วิธีปรับแต่งไฮเปอร์พารามิเตอร์ของโมเดลโดยใช้การค้นหาแบบสุ่ม
‫CV และสิ่งที่เราทำคือเรากำหนดช่องว่างหรือพจนานุกรมของค่าพารามิเตอร์ไฮเปอร์ที่แตกต่างกัน
‫เราต้องการลองแล้วสุ่มค้นหา
‫CV รวมพารามิเตอร์เหล่านี้แบบสุ่มและสร้างตัวแยกประเภทด้วยการตั้งค่าที่แตกต่างกัน พารามิเตอร์ไฮเปอร์ที่แตกต่างกัน
‫แล้วประเมินทั้งหมดโดยใช้การตรวจสอบความถูกต้อง
‫หรือเราอาจเปลี่ยนกลับเป็นสิบ
‫เราไม่ต้องการให้ 50 รุ่นหมด
‫และหลังจากลองใช้ชุดค่าผสมที่แตกต่างกันสิบชุด ก็พบว่าพารามิเตอร์ที่ดีที่สุดคือชุดของค่านี้ที่นี่
‫หลังจากประเมินแล้ว เราก็เห็นว่ามันไม่ได้ดีเท่ารุ่นก่อนของเราที่นี่
‫ที่เราปั่นด้วยมือ
‫และสุดท้าย เวิร์กโฟลว์ที่คุณอาจลงเอยด้วยเมื่อคุณกำลังปรับแต่งพารามิเตอร์สูงนั้นเริ่มต้นด้วยมือ
‫จากนั้นจึงใช้ CV การค้นหาแบบสุ่มในพื้นที่ที่มีพารามิเตอร์สูง
‫และเมื่อคุณพบไฮเปอร์พารามิเตอร์ที่ค่อนข้างดีแล้ว คุณก็อาจจะจบด้วยการค้นหากริด
‫CV เรามาดูกันว่าในการดำเนินการที่นี่
‫ดังนั้น 5. การปรับแต่งไฮเปอร์พารามิเตอร์ 3 รายการพร้อม CV ค้นหากริด
‫สวยงาม.
‫และมาดูตารางของเรากัน
‫ดังนั้นกริดของเราในขณะนี้คือ คุณอาจสังเกตเห็นว่าเส้นโค้งการค้นหาแบบกริดมีคำว่า grid อยู่ในนั้น
‫และตารางไฮเปอร์พารามิเตอร์ของเราในขณะนี้คือค่าเหล่านี้ที่นี่
‫และความแตกต่างที่สำคัญที่นี่ระหว่างการค้นหาแบบสุ่มและการค้นหาแบบกริดคือการค้นหาแบบสุ่มมีพารามิเตอร์ที่เรียกว่า
‫NITTA ซึ่งเป็นสิ่งที่เราเห็นที่นี่
‫ซึ่งเราสามารถตั้งค่าให้จำกัดจำนวนรุ่นให้ลองได้
‫ในกรณีของเรา เราใช้สิบ
‫ดังนั้นหากเรามองย้อนกลับไปที่นี่ โค้ดบนสุดจะพับห้าเท่าสำหรับผู้สมัครแต่ละคนจากทั้งหมด 10 คน
‫รวมเป็น 50/5
‫ความแตกต่างที่สำคัญระหว่าง CV การค้นหาแบบสุ่มและ CV การค้นหาแบบกริดคือ CV การค้นหาแบบกริดนั้นเหมือนกับการค้นหาแบบเดรัจฉาน
‫หมายความว่าจะผ่านทุกชุดค่าผสมที่มีให้ที่นี่
‫ถ้าเราลองดู, เรามีค่าหกค่าอยู่ที่นั่น
‫มันจะเป็นหกครั้ง ห้าคูณสอง สามคูณสาม
‫มีพารามิเตอร์หกตัวตรงนี้
‫มีห้าที่นี่, สองที่นี่, สาม, สามรวม 540 พารามิเตอร์ที่แตกต่างกันที่จะลองหรือการรวมกันของพารามิเตอร์
‫และนั่นเป็นจำนวนมากที่ผ่านการตรวจสอบแล้ว
‫เวลาหมดลง 5 รุ่น ดังนั้น 2700 รุ่นจึงมากใช่มั้ย?
‫นั่นจะต้องใช้เวลามากในการฝึกกำลังประมวลผล
‫รุ่นหนึ่งอาจใช้เวลานานพอสมควร แต่การฝึก 2700 รุ่น โดยเฉพาะอย่างยิ่ง หากคุณกำลังทำงานกับชุดข้อมูลขนาดใหญ่
‫อาจจะไม่เหมาะกับแล็ปท็อปของคุณ
‫คุณอาจต้องใช้คอมพิวเตอร์ขนาดใหญ่หรือเราอาจลดพื้นที่ในการค้นหา
‫ลองดูว่าในการดำเนินการ
‫สิ่งที่ฉันหมายถึงคือเราจะสร้างกริดด้วย โดยใช้พื้นที่พารามิเตอร์ไฮเปอร์จำกัดเพิ่มเติมอีกเล็กน้อย
‫ดังนั้นในสาระสำคัญเพียงแค่ลดจำนวนการค้นหาตารางพารามิเตอร์ไฮเปอร์จะต้องผ่าน
‫ลองดูสิ่งนี้ในการดำเนินการ
‫สิ่งที่เราสามารถทำได้คือคัดลอกสิ่งนี้
‫และตอนนี้คุณจะสร้าง Grid two ในทางปฏิบัติได้อย่างไร?
‫เราก็แค่คัดลอกและวาง ซึ่งเราทำเสร็จแล้ว
‫ฉันต้องการจัดเรียงสิ่งเหล่านี้เพื่อให้ดูเหมือนโพลีโฟนิกทั้งหมด
‫เราจะไปที่นั่น.
‫ตอนนี้เราสามารถคัดลอกและวางแล้วลบออกแบบสุ่ม
‫ลบ.
‫เราอาจจะไม่ทำอย่างนั้น
‫เราจึงได้ผ่าน Randomized Search XXV และผ่านพ้นไปแล้ว
‫สมมติว่าเราเพิ่มรูปแบบต่างๆ ขึ้นเป็น 50 แบบเหมือนเมื่อก่อน แต่ในกรณีของเรา เราทำได้เพียง
‫10 แบบเท่านั้น
‫เราอาจใช้พารามิเตอร์เหล่านี้
‫Params ที่ดีที่สุดจาก CV การค้นหาแบบสุ่มของเรา
‫และใช้สิ่งเหล่านี้เพื่อกำหนดตำแหน่งที่เราต้องการให้การค้นหาแบบกริดทำงาน
‫มาทำกัน
‫พารามิเตอร์ที่ดีที่สุดของเราคือ 262 สแควร์รูท
‫แล้วเราจะทำอย่างไร?
‫ลบสิบ.
‫เก็บ 500 ไว้ตรงนั้น แล้วเอาสองตัวนี้ออก
‫ใช่.
‫ความลึกสูงสุดไม่มี ดังนั้นเราอาจเก็บสิ่งนั้นเป็นไม่มีก็ได้
‫ดังนั้นจึงมีทางเลือกเดียวเท่านั้น
‫แล้วสำหรับสแควร์รูทเราอาจ ah เก็บไว้เป็น auto หรือ square root
‫แล้วเรามีอะไรอีก
‫ค่าเฉลี่ยการแบ่งตัวอย่างคือหก
‫เราอาจกำจัดสี่และสอง และจากนั้นสิ่งที่เราจะทำได้น้อยที่สุด ตัวอย่าง ใบไม้
‫ดังนั้นเราอาจเก็บมันไว้เป็นหนึ่งและสอง
‫แล้วเรามาทำอะไรที่นี่?
‫สิ่งที่เราทำคือลดพื้นที่การค้นหาของพารามิเตอร์ไฮเปอร์
‫ดังนั้นตอนนี้
‫จำไว้ว่าเรามีชุดค่าผสมที่แตกต่างกัน 540 ชุดที่นั่น
‫เรามีอะไร?
‫เรามีสามครั้ง
‫หนึ่งครั้ง สองครั้ง หนึ่งครั้ง สองครั้ง
‫ดังนั้น 12 แล้วมันจะผ่านการตรวจสอบความถูกต้องห้าครั้ง เพื่อให้เราสามารถปรับเปลี่ยนได้โดยใช้พารามิเตอร์ KV
‫ดังนั้น 60 กับ 2700
‫นั่นเป็นพารามิเตอร์ที่น้อยกว่ามาก
‫แล้วเราจะทำสิ่งนี้ได้อย่างไรในทางปฏิบัติ?
‫เราจะใช้ CV การค้นหาแบบกริดเพื่อค้นหาไฮเปอร์พารามิเตอร์ที่ดีที่สุดในพื้นที่นี้ได้อย่างไร
‫เช่นเคย มาดูการใช้งานจริงจาก Skyline DOT Model Selection, Import Grid, Search CV และเราต้องการนำเข้าเช่นกัน
‫เราน่าจะมีอยู่แล้ว
‫เราสามารถใส่สิ่งนั้นได้
‫สุ่มเมล็ด.
‫มหัศจรรย์.
‫แยก.
‫แก้ไข สิ่งที่เราอาจทำได้จริงคือนำโค้ดนี้ขึ้นมาที่นี่ เพราะเป็นโค้ดเดียวกันกับที่เราต้องการใช้ก่อนหน้านี้
‫เราจะเอาแค่นี้
‫ดังนั้นเราจะเปลี่ยนแปลงสิ่งหนึ่ง
‫ลงมา.
‫มหัศจรรย์.
‫ดังนั้นเราจึงใช้ชุดข้อมูลเดียวกันกับ CV การค้นหาแบบสุ่มของเรา ทำให้แยกเป็นชุดเดียวกัน
‫เรากำลังสร้างตัวแยกประเภทไวรัสแบบสุ่ม แต่คราวนี้เราจะตั้งค่า
‫ประวัติการค้นหาแบบกริด
‫CV ค้นหากริดที่ยอดเยี่ยม
‫แล้วเราจะมาฟิตกัน
‫การค้นหาตาราง
‫บันทึกไว้ที่นี่และเดี๋ยวนี้
‫มีพารามิเตอร์อื่นที่นี่
‫ดังนั้นอันนี้จะเป็น param grid ฉันเชื่อ
‫จะไม่มี ETA เพราะการค้นหากริดเป็นเหมือนกำลังดุร้าย
‫มันลองทุกชุดรวมกันและเราต้องการให้มันลองใช้กริดของเราไม่ใช่กริดหนึ่งเพราะมันมีตัวเลือกน้อยกว่าสองสามตัวในตารางที่สองอย่างที่เราเห็นก่อนหน้านี้
‫เราจะลงมาข้างล่างนี้ ให้การตรวจสอบข้ามเป็นห้าเท่าของ BOEs เท่ากับว่าโอเค ตอนนี้เรามาดูสิ่งที่เกิดขึ้นกัน
‫เรากำลังนำเข้า CV การค้นหาแบบกริด
‫เราได้สร้างตารางที่สอง ซึ่งเป็นฐานการค้นหาที่ปรับปรุงแล้วของพารามิเตอร์ไฮเปอร์ที่แตกต่างกัน
‫การตั้งค่าต่างๆ มากมาย เช่น หากคุณกำลังทำอาหารจานโปรด กำลังปรับเตาอบ หากคุณตั้งอุณหภูมิไว้ที่
‫400 องศา นั่นถือว่าสูงเกินไป
‫ถ้ามันเริ่มต้นที่ 180 องศา และมันก็ใช่ คุณอาจจะไป ทำไมผมต้องไปทางขวาที่ 500 หรือ 400 องศา
‫ในเมื่อผมสามารถกระโดดไปที่ 400 ได้นิดหน่อย
‫นั่นคือเหตุผลที่เราสร้างกริดสองขึ้นมา
‫เราได้อ้างอิงจากพารามิเตอร์ที่ดีที่สุดหรือไฮเปอร์พารามิเตอร์ที่ดีที่สุดที่ CV สุ่มค้นหาของเราหรือ
‫CV การค้นหาแบบสุ่มพบ
‫มาทำกัน
‫มาสร้างตัวแยกประเภทฟอเรสต์แบบสุ่มโดยใช้ CV การค้นหาแบบกริด
‫นี่เป็นวิธีที่จะไปอีกครั้ง
‫สิ่งเดียวกัน
‫และพอดีห้าเท่าสำหรับผู้สมัคร 12 คนแต่ละคนรวม 60 คน
‫ตอนนี้การค้นหาแบบกริดของ Seavey จะทำอะไร เหมือนกับการค้นหาแบบสุ่ม
‫CV มันจะผ่านไฮเปอร์พารามิเตอร์ที่แตกต่างกันทั้งหมดเหล่านี้ และส่งผ่านไปยังตัวแยกประเภทฟอเรสต์แบบสุ่ม
‫ลองใช้ชุดค่าผสมที่ต่างกัน
‫และสุดท้ายเมื่อเสร็จแล้ว เราก็ไปกันได้ Jeez, CLF best params
‫มหัศจรรย์.
‫ดังนั้นอาจใช้เวลาสักครู่ในการค้นหาตาราง
‫CV นี่คือสิ่งที่ควรคำนึงถึง
‫ยิ่งคุณมีพารามิเตอร์ไฮเปอร์ที่นี่มากเท่าใด การค้นหากริดก็จะยิ่งนานขึ้นเท่านั้น
‫CV เพื่อรันเพราะมันต้องลองทุก ๆ พารามิเตอร์ไฮเปอร์รวมกันที่นี่
‫ตอนนี้ อย่างที่เราทำก่อนหน้านี้ เราสามารถประเมินตัวแยกประเภทการค้นหากริดของเราโดยทำการคาดคะเน
‫จากนั้นใช้ฟังก์ชันการประเมินเพื่อดูว่ามันทำงานอย่างไร
‫มาทำกัน
‫Clf ฉันจะไปจริงๆ
‫เจส ทำไม?
‫Preds เท่ากับ gs
‫การทำนาย CLF จะทำนายข้อมูลการทดสอบเช่นกัน
‫ทดสอบ X แล้วเราจะไปประเมินการคาดการณ์
‫ตัวชี้วัด GPS เท่ากับประเมินสเปรด
‫ฟังก์ชั่นของเรา ที่เรากำหนดไว้ในวิดีโอสองสามวิดีโอที่แล้ว และจากนั้นเราจะไป geez ทำไม Preds?
‫มหัศจรรย์.
‫และตอนนี้อีกครั้ง เราเห็นความแม่นยำลดลงเล็กน้อย
‫อืม.
‫และนั่นก็แสดงให้เห็นว่าไฮเปอร์พารามิเตอร์การปรับแต่งกระบวนการสามารถเป็นได้มากเพียงใด
‫ถูกต้อง.
‫มันคือทั้งหมดที่เกี่ยวกับการลองผิดลองถูก
‫สิ่งที่คุณสามารถทำได้เพื่อแก้ไขปัญหานี้คือย้อนกลับ
‫เวิร์กโฟลว์ของคุณอาจลองใช้การตั้งค่าบางอย่างด้วยตนเองเหมือนที่เราได้สำรองข้อมูลไว้ที่นี่
‫ปรับค่าพารามิเตอร์สูงด้วยมือ
‫นี่คือเวิร์กโฟลว์ที่คุณน่าจะทำ
‫ลองใช้เพียงไม่กี่สิ่งเหล่านี้ด้วยมือ
‫ดูว่าคุณสามารถคิดออกด้วยชุดการตรวจสอบเหมือนที่เราทำแล้วหรือไม่ จากนั้นลองใช้การปรับค่าพารามิเตอร์สูงโดยใช้การค้นหาแบบสุ่ม
‫ปวส.
‫ในกรณีนี้ คุณอาจเพิ่มตัวเลขนี้เป็น 20 หรือ 50 หรือมากกว่านั้น หรือเลขอะไรก็ได้ที่คุณพบ
‫อีกครั้ง นี่คือการทดลองทั้งหมดเพื่อลองค้นหาว่าพารามิเตอร์ประเภทใดดีกว่ากัน
‫และคุณอาจเปลี่ยนกริดที่คุณกำลังค้นหาตามพารามิเตอร์ไฮเปอร์ที่คุณพบในเอกสารแบบจำลองพายุหมุนสำหรับแบบจำลองที่คุณใช้อยู่
‫จากนั้นเมื่อคุณพบไฮเปอร์พารามิเตอร์ที่ดีโดยใช้ KV การค้นหาแบบสุ่ม คุณอาจนำไฮเปอร์พารามิเตอร์เหล่านั้นมา
‫พารามิเตอร์เหล่านี้ดีที่สุดแล้วสร้างกริดอื่นเพื่อกริดการค้นหาเหมือนที่เราทำที่นี่
‫ในกรณีของเรา มันไม่ได้ปรับปรุงเมตริกของโมเดลของเรา แต่นี่คือจุดที่เราอาจเริ่มทำการทดสอบเพิ่มเติมอีกเล็กน้อย
‫ลองใช้เมตริกอื่นๆ สองสามตัว ลองใช้พารามิเตอร์ไฮบริดอื่นๆ สองสามตัว
‫แต่เพื่อความสมบูรณ์ สิ่งที่คุณน่าจะทำในตอนนั้น หลังจากที่คุณได้ลองใช้พารามิเตอร์ฮ็อพที่แตกต่างกันสองสามอย่าง
‫คุณได้สร้างโมเดลพื้นฐานด้วยการตั้งค่าเริ่มต้น
‫คุณได้พยายามปรับมันด้วยมือ คุณพยายามปรับมันโดยการสุ่มค้นหาทีวี และคุณได้พยายามปรับมันโดยการค้นหาตาราง
‫คุณจะต้องการเปรียบเทียบแบบจำลองของคุณ
‫ลองเปรียบเทียบกัน
‫เมตริกโมเดลต่างๆ ของเรา
‫มหัศจรรย์.
‫ในการทำเช่นนั้น เราจะสร้างดาต้าเฟรม
‫ดังนั้น.
‫PD นี่คือเหตุผลที่เราส่งคืนพจนานุกรมจากโมเดลทั้งหมดของเรา แบบจำลองทั้งหมดของเรา และฟังก์ชันการประเมิน
‫pred ของเรา
‫ดังนั้นเส้นฐานจะเป็นตัววัดพื้นฐาน จากนั้น CLF สองตัวจะเป็นตัววัดในตัวเอง
‫ฉันเคยมาที่นี่เมื่อเราไม่ต้องการพวกเขา
‫การค้นหาแบบสุ่มจะเป็นเมทริกซ์การแข่งขัน จากนั้นการค้นหากริดจะเป็นเมทริกซ์ GS
‫มหัศจรรย์.
‫จากนั้นเพื่อดูการใช้งานจริง เราจะไปเปรียบเทียบเมตริก ซึ่งเป็นกรอบข้อมูลที่เราสร้างอินสแตนซ์ไว้ที่นี่
‫ดี เราอาจต้องย้าย
‫มันอยู่บนนั้น
‫มันจะเป็นข้อผิดพลาดในนั้นที่มีวงเล็บปีกกาที่เราไม่ต้องการ
‫พล็อตดอทบาร์
‫ขนาดมะเดื่อเท่ากับสิบองก์
‫มาดูกันเลย
‫มหัศจรรย์.
‫นี่จะเปรียบเทียบเมตริกของโมเดลการจัดหมวดหมู่ต่างๆ ทั้งหมดของเราในที่เดียว
‫ดังนั้นเราจะเห็นโมเดลพื้นฐานของเราเป็นสีน้ำเงิน
‫ดังนั้นในที่นี้ มันไม่ได้ดีที่สุดที่นี่
‫เป็นการเสมอกันระหว่าง CLF two และการค้นหาแบบสุ่ม
‫สำหรับความแม่นยำ CLF สองอยู่ข้างหน้า
‫ในการเรียกคืน เส้นพื้นฐานอยู่ข้างหน้า และ F1 จะเสมอกันระหว่างเส้นพื้นฐานและโน๊ตสอง
‫และอีกครั้ง คุณสามารถปรับกราฟนี้เพื่อให้มองเห็นได้ชัดเจนขึ้น
‫นี่เป็นเพียงการแสดงเมตริกต่างๆ
‫ดังนั้นนี่คือการสื่อสารประเภทที่คุณทำเพื่อตัวคุณเอง ไม่เพียงแต่สำหรับเพื่อนร่วมทีมของคุณเท่านั้น
‫หรือหากคุณกำลังรายงานต่อบุคคลในโครงการ คือการแสดงโมเดลต่างๆ ที่คุณได้ลองแล้วให้พวกเขาดู
‫และจากนั้นพวกเขาทำงานอย่างไรในเมตริกการจัดหมวดหมู่ต่างๆ
‫หากคุณกำลังทำงานกับปัญหาการจำแนกประเภท แน่นอน คุณสามารถทำกระบวนการแบบเดียวกันกับปัญหาการถดถอยได้
‫และตอนนี้ขึ้นอยู่กับสิ่งที่คุณต้องการสำหรับโครงการจะขึ้นอยู่กับรุ่นใด
‫สมมติว่าคุณต้องการโมเดลที่ปรับการเรียกคืนให้เหมาะสมที่สุด
‫ในกรณีนี้ คุณอาจใช้โมเดลพื้นฐาน หรือหากคุณต้องการสร้างโมเดลที่ปรับความแม่นยำให้เหมาะสม
‫คุณอาจเลือกตัวเองเพื่อสร้างโมเดล
‫และถ้าเมตริกเหล่านี้ไม่ได้ผลสำหรับคุณจริงๆ คุณอาจพยายามค้นหาเมตริกที่ดีกว่าต่อไปผ่านการค้นหาแบบสุ่มหรือการค้นหาตาราง
‫และในที่สุด เราก็มาถึงจุดสิ้นสุดของวิธีการปรับปรุงโมเดลผ่านการปรับค่าพารามิเตอร์แบบไฮเปอร์
‫และอีกครั้ง มีหลายอย่างที่ต้องทำที่นี่
‫ประเด็นสำคัญคือต้องจำไว้ว่ามันเป็นกระบวนการทดลอง
‫การปรับปรุงโมเดลผ่านการปรับไฮเปอร์พารามิเตอร์นั้นไม่มีกฎหมายเป็นลายลักษณ์อักษรเกี่ยวกับวิธีการทำงานของคุณ
‫แต่
‫ประเด็นคือพยายามต่อไป
‫ดูว่าคุณสามารถคิดออกบางสิ่งบางอย่าง
‫ดูว่าคุณสามารถทำความคุ้นเคยกับพารามิเตอร์ไฮเปอร์ต่างๆ ที่มีโมเดลต่างกันได้หรือไม่
‫เช่น ตัวแยกประเภทฟอเรสต์แบบสุ่ม
‫และแค่เตือนตัวเองว่ารุ่นแรกที่คุณสร้างนั้นไม่น่าจะใช่รุ่นที่ดีที่สุดที่คุณจะมี
‫เป็นแบบจำลองพื้นฐานและสามารถปรับปรุงและสร้างแบบจำลองได้
‫เราได้พยายามปรับปรุงแล้ว
‫สมมติว่าคุณตัดสินใจว่าจะเน้นไปที่การเรียกคืนหรืออะไรทำนองนั้น
‫คุณอาจต้องการส่งออกโมเดลของคุณ เพื่อให้คุณสามารถแบ่งปันหรือใช้โมเดลในการตั้งค่าการปรับใช้บางประเภทได้
‫ดังนั้นในหัวข้อถัดไป เราจะมาดูว่า ถ้าเราดูรายชื่อของเราที่นี่ สิ่งที่เราพูดถึง
‫เราจะมาดูวิธีการบันทึก แชร์ และโหลดโมเดล
‫ดังนั้นให้บันทึกและโหลดแบบจำลองที่ผ่านการฝึกอบรม
‫ประโยชน์ของสิ่งนี้คือ คุณจะไม่ต้องฝึกแบบจำลองใหม่เหมือนที่เราเคยทำในหัวข้อที่ผ่านมา
‫เลยย้อนกลับมา
‫ตรวจสอบสิ่งที่เราครอบคลุมเกี่ยวกับการปรับแต่งไฮเปอร์พารามิเตอร์ วิธีปรับปรุงพารามิเตอร์ไฮเปอร์โมเดลด้วยการค้นหากริด
‫ลองใช้งานด้วยการสุ่มค้นหา ลองใช้ด้วยมือ แล้วพบกันใหม่ในวิดีโอหน้า