‫ยินดีต้อนรับกลับ.
‫วิดีโอที่แล้ว เราเห็นวิธีปรับแต่งหนึ่งในโมเดลการเรียนรู้ของเครื่อง โดยเฉพาะตัวแยกประเภทเพื่อนบ้านที่ใกล้ที่สุด
‫K ด้วยมือ
‫นี่คือการปรับแต่งไฮเปอร์พารามิเตอร์
‫สิ่งที่ฉันทำคือฉันเพิ่งปรับชื่อเล็กๆ นี้ที่นี่เพื่อบอกว่าการปรับพารามิเตอร์แบบไฮบริดด้วยมือ
‫แต่อย่างที่คุณจินตนาการได้ ถ้าคุณมีพารามิเตอร์หรือไฮเปอร์พารามิเตอร์มากกว่าหนึ่งตัว ในกรณีของเรา เราจะปรับเฉพาะเพื่อนบ้านเท่านั้น
‫เราจะขึ้นไปที่ CANI เป็นตัวแยกประเภท
‫เราปรับพารามิเตอร์นี้เพียงตัวเดียว
‫เราต้องการปรับแต่งสิ่งเหล่านี้ที่อาจดูน่าเบื่อเล็กน้อย
‫เราเขียนใหม่วนเป็นวัน
‫สิ่งที่เราจะทำที่นี่คือ และจำไว้ว่าเราได้ตัดบัญชีเพื่อนบ้านที่ใกล้ที่สุด K ของเราออกไปแล้ว
‫เรากำลังค้นหาผลลัพธ์ที่ดีกว่า
‫ดังนั้นเนื่องจากการถดถอยโลจิสติกและตัวแยกประเภทฟอเรสต์แบบสุ่มของเราทำงานได้ดีกว่า เราจะตัดแบบจำลองเพื่อนบ้านที่ใกล้ที่สุด
‫K ออกจากการทดลองของเรา
‫ตอนนี้เรากำลังจะไปปรับไฮเปอร์พารามิเตอร์ด้วย CV การค้นหาแบบสุ่ม
‫และนี่คือสิ่งที่เราเห็นในบรรทัดที่สอง
‫และถ้าเราค้นหาใน CV การค้นหาแบบสุ่ม เรียนรู้ เราจะพบที่นี่
‫สวยงาม.
‫มีเอกสารอยู่ที่นั่น
‫คุณสามารถอ่านข้อมูลนั้นในเวลาของคุณเอง แต่เราจะเห็นว่ามันถูกนำไปใช้จริง
‫และอีกครั้ง หากคุณสงสัยว่าคุณจะหาพารามิเตอร์เพื่อปรับแต่งโมเดลแมชชีนเลิร์นนิงได้อย่างไร
‫นี่คือสิ่งที่ฉันจะทำเพื่อการถดถอยโลจิสติก
‫ดังนั้นจะปรับแต่งโมเดลการเรียนรู้ของเครื่องการถดถอยโลจิสติกใน Python ได้อย่างไร
‫อะไรประมาณนั้น ถ้าเราค้นดู
‫การฝึกอบรมแบบจำลองการถดถอยโลจิสติกด้วยไซโคลน การถดถอยโลจิสติกที่สวยงามโดยใช้การเพิ่มประสิทธิภาพพารามิเตอร์สูงของไพ ธ
‫อนไซโคลนและพารามิเตอร์การปรับแต่งโมเดลการเรียนรู้ของเครื่องสำหรับการถดถอยโลจิสติก
‫หากเราต้องผ่านสิ่งเหล่านี้และค้นคว้า ทำการทดลองของเราเองและค้นหาสิ่งต่าง ๆ และถามคำถามเพิ่มเติม
‫คุณอาจพบคำตอบที่ค่อนข้างดี แต่สำหรับตอนนี้ เราจะแสร้งทำเป็นว่าเราได้ทำตามขั้นตอนเหล่านั้นแล้ว
‫และพบว่าเราสามารถใช้ KV การค้นหาแบบสุ่มและเราสามารถปรับแต่งพารามิเตอร์ต่างๆ ได้มากมาย
‫มาทำกัน
‫เราจะไปปรับแต่ง
‫การถดถอยโลจิสติก แบบจำลองการถดถอยโลจิสติกของเราซึ่งก็คือตัวแยกประเภทฟอเรสต์แบบสุ่ม
‫โดยใช้การค้นหาแบบสุ่ม
‫CV และอีกครั้ง ถ้าคุณต้องการข้อมูลเกี่ยวกับพารามิเตอร์ที่คุณสามารถใช้สำหรับการถดถอยโลจิสติก
‫ฉันก็สะกดผิดด้วย
‫การถดถอยโลจิสติกทั่วไปของแดเนียลและตัวแยกประเภทฟอเรสต์แบบสุ่ม
‫คุณสามารถขึ้นไปที่นี่ ถามการถดถอยโลจิสติกเพียงอย่างเดียว
‫ดังนั้นถ้าเราดูในนี้
‫นี่จะให้รายการพารามิเตอร์ต่างๆ แก่เรา และคุณอาจอ่านเอกสารประกอบ
‫และเชื่อฉันเถอะ ฉันทำสิ่งนี้ในครั้งแรกที่ฉันทำสิ่งนี้
‫ฉันอ่านเอกสารแล้วและแบบว่า นี่หมายถึงข้อกำหนดทั้งหมดเหล่านี้ เช่น บทลงโทษแบบยืดหยุ่นสุทธิ L2
‫วัว.
‫อันที่จริงฉันรู้ดีว่าวัวหมายถึงอะไร
‫จริงหรือเท็จ จริงไหม?
‫สิ่งเหล่านี้ไม่ได้มีความหมายกับฉันมากนัก
‫มันเป็นเพียงครั้งเดียวที่ฉันเริ่มทำการวิจัยและค้นหาและค้นหาว่าพารามิเตอร์ต่าง ๆ เหล่านี้หมายความว่าอย่างไรจริง
‫ๆ คือการที่ฉันเริ่มเข้าใจ
‫และเช่นเดียวกันสำหรับตัวแยกประเภทฟอเรสต์แบบสุ่ม
‫คุณสามารถทำสิ่งเดียวกัน ใส่ลงในเอกสารการกู้ยืมมาตราส่วน หรือเปลี่ยนสิ่งนี้เป็นวิธีการปรับแต่งฟอเรสต์แบบสุ่ม
‫โมเดลแมชชีนเลิร์นนิงใน Python
‫เหล่านี้เป็นขั้นตอนที่ผู้คนเช่นวิศวกรการเรียนรู้ของเครื่องและนักวิทยาศาสตร์ข้อมูลใช้ทุกวันเพื่อหาวิธีปรับปรุงแบบจำลองของพวกเขา
‫ในตอนเริ่มต้นไม่มีใครรู้วิธีการทำสิ่งนี้ด้วยใจ
‫ถึงแม้จะทำมาหลายครั้งแล้วก็ตาม
‫ฉันยังต้องดูสิ่งเหล่านี้
‫ดังนั้นเราจึงไปที่นี่
‫มาดูกันว่าเขาจะทำอย่างไร
‫ดังนั้น สิ่งแรกที่ต้องทำกับ CV การค้นหาแบบสุ่มคือ และหากคุณสงสัยว่า CVS ย่อมาจากอะไร มันหมายถึงการตรวจสอบข้าม
‫เราเห็นว่าในบรรทัดที่สองและโดยเฉพาะอย่างยิ่ง การตรวจสอบข้าม
‫สิ่งที่ทำคือแทนที่จะทำการฝึกแบบปกติและการแยกการทดสอบเหมือนที่เราเคยทำมาก่อน โดยการสร้างหนึ่งการแยกการฝึกและการแยกการทดสอบ
‫เค 80% ในการแบ่งการฝึกและ 20% ในการแบ่งการทดสอบที่สร้างขึ้น
‫นี่ควรเป็น K จริงๆ แต่ฉันทำไปห้าแล้วเพราะที่นี่ดูดี
‫สิ่งนี้สามารถเป็นการตรวจสอบความถูกต้องไขว้แบบ K ได้
‫ดังนั้นห้าเป็นค่าเริ่มต้นในแนวกายสิทธิ์ในเวอร์ชันล่าสุด
‫แต่คุณสามารถปรับสิ่งนี้ได้จริงๆ
‫และสิ่งที่จะทำคือจะสร้างข้อมูลการฝึก 5 เวอร์ชัน และข้อมูลการทดสอบ
‫5 เวอร์ชัน จากนั้นจึงประเมินพารามิเตอร์ต่างๆ
‫โปรดจำไว้ว่า เนื่องจากเรากำลังทำการค้นหาพารามิเตอร์แบบไฮเปอร์ ให้ประเมินพารามิเตอร์ประเภทต่าง
‫ๆ ในชุดต่าง ๆ ทั้งหมดของเวอร์ชันการฝึกอบรมทั้งหมดเหล่านี้ และทดสอบข้อมูล และหาว่าชุดพารามิเตอร์หรือพารามิเตอร์ไฮเปอร์ชุดใดดีที่สุดในห้าแยกที่แตกต่างกัน
‫มากกว่าที่จะเป็นแค่การแตกแยกเพียงครั้งเดียว
‫งั้นถ้าเราไปที่นี่กัน
‫สิ่งที่เราต้องทำคือสร้างตารางไฮเปอร์พารามิเตอร์สำหรับการขนส่ง
‫การถดถอยและการอ่านเอกสารการถดถอยโลจิสติก รวมทั้งการค้นหาการถดถอยโลจิสติกที่นี่ เราพบว่ามีพารามิเตอร์สูงสองสามตัวที่เราสามารถปรับแต่งได้
‫เช่น ค่าของ C ซึ่งถ้าเราดูที่นี่ ถ้าเราลงไปที่นี่ C ดังนั้นความผกผันของการทำให้เป็นมาตรฐานต้องเป็นกระแสบวก
‫อีกครั้ง คุณสามารถอ่านสิ่งนี้ได้ในครั้งแรกที่เอกสารระบุว่าคำเหล่านี้หมายถึงอะไร
‫นั่นเป็นเหตุผลที่ต้องมีการวิจัยเพื่อตรวจสอบ
‫แล้วก็มีอีกอันหนึ่งเรียกว่า Solver
‫ดังนั้นเราจะไปที่นี่
‫เราจะมาดูกันว่าตารางพารามิเตอร์ของเรามีหน้าตาเป็นอย่างไร
‫ดู?
‫และอีกครั้งมีมากขึ้น
‫เราใช้แค่สองตัวตรงนี้ เราเลยใช้ C และตัวแก้เท่านั้น
‫คุณอาจพบในงานวิจัยของคุณว่าคุณสามารถปรับโทษได้
‫คุณสามารถปรับการสกัดกั้นพอดี
‫คุณสามารถปรับพารามิเตอร์สูงทั้งหมดได้
‫แต่แนวคิดโดยรวมของการปรับพารามิเตอร์คือสิ่งที่เรามุ่งเน้น
‫เราจะตั้งค่านี้หลังจากการวิจัยของเรา
‫เรารู้ว่าค่าที่ดีคือ NP log space ลบสี่
‫และถ้าคุณสงสัยว่าพื้นที่บันทึกคืออะไรเพราะฉันทิ้งสิ่งเหล่านี้ออกไปค่อนข้างเร็ว
‫พื้นที่บันทึกไม่
‫ถ้าเราไปที่นี่
‫ส่งกลับตัวเลขที่เว้นระยะห่างเท่าๆ กันตามมาตราส่วนบันทึก
‫ดังนั้นหมายเลขหยุดเริ่มต้น
‫นี่จะอยู่ระหว่างลบ 4, ระหว่าง 4 ถึง 50 ตัว.
‫และหากคุณสงสัยว่าพื้นที่บันทึกคืออะไร นี่คือวิธีที่คุณสามารถทำได้
‫ไปกันเถอะ.
‫พื้นที่บันทึกคืออะไร?
‫ลดพื้นที่ยาว ความซับซ้อนของเรา
‫คุณช่วยอธิบายด้วยคำง่ายๆ ได้ไหมว่าอะไรคือการลดพื้นที่ล็อค?
‫เราจึงได้อ่านมันอีกครั้ง
‫มีคำที่ซับซ้อนอยู่สองสามคำ แต่หลังจากใช้ความพยายามเพียงเล็กน้อย คุณจะสามารถเข้าใจได้
‫ดังนั้นเราจึงไปที่นี่
‫เราสามารถใช้ตัวแก้ปัญหาได้เพียงตัวเดียวที่นี่ เพราะจริงๆ แล้วหลังจากการวิจัยและพบว่าพารามิเตอร์ใดสูงที่เราควรปรับ
‫เราพบว่า C น่าจะเป็นตัวที่มีค่าที่สุดสำหรับการถดถอยโลจิสติก
‫เราจะใช้ค่าเดียวสำหรับตัวแก้
‫ที่เรากำลังทดสอบที่นี่ เรากำลังสร้างตารางของตัวเลขบนพื้นที่บันทึกระหว่างลบสี่ถึงสี่
‫ดังนั้นเราจึงไป
‫โอ้ขอโทษ.
‫เพราะมันเป็นพื้นที่บันทึก
‫มันคือ 1 คูณ 10 ยกกำลังลบ 4, สูงสุด 1 คูณ 10 ยกกำลัง 4
‫พื้นที่ค่อนข้างใหญ่ที่นั่น
‫ตัวเลขเหล่านี้ค่อนข้างแยกจากกัน
‫มากำจัดมันกันเถอะ
‫และตอนนี้เราจะสร้างพารามิเตอร์
‫ความโลภในการสุ่ม
‫ลักษณนามของป่า
‫มหัศจรรย์.
‫และจากการวิจัยของเรา เราพบว่าพารามิเตอร์ที่ดีที่สุดบางตัวสำหรับตัวประมาณจำนวนป่าสุ่ม ซึ่งก็คือถ้าเราใช้ป่าสุ่มและประมาณค่าเรา
‫ก็คือจำนวนต้นไม้ที่เรามีในป่าของเรา
‫ดังนั้น NTP เป็นช่วง และคุณอาจสงสัยว่าทำไมฉันถึงใช้ช่วงที่นี่ เมื่อฉันกำลังทำสิ่งนี้
‫เหตุผลก็เพราะว่าถ้าเราค้นหาเอกสารประกอบ ฉันรู้ในวิดีโอก่อนหน้านี้ว่าเราไม่ได้ใช้ช่วงอย่างชัดเจน
‫เราใช้รายการเพียงเพื่อทบทวนว่าช่วงนั้นทำอะไร
‫ลองตรวจสอบนี้
‫โดยพื้นฐานแล้วมันก็แค่สร้างช่วงของตัวเลข
‫เว้นวรรค 50 เนื่องจาก 50 ที่นี่ระหว่างสิบถึง 1,000
‫ดังนั้นถ้าเราดูแบบสุ่ม ฉันคิดว่าเรามีอยู่แล้ว
‫บางทีที่นี่
‫เราจะไปที่นั่น.
‫มีบางอย่างที่นี่ตรงกันข้าม
‫ปล่อยฉันไป.
‫ขอแนะนำอย่างยิ่งให้ใช้การแจกแจงแบบต่อเนื่องสำหรับพารามิเตอร์ต่อเนื่อง เราจึงสร้างช่วงของค่าต่างๆ
‫ที่แตกต่างกัน
‫นี่คือที่ที่เราอ่านมาจาก
‫แทนที่จะเป็นเพียงรายการที่ชัดเจน เรากำลังสร้างช่วงของการแจกแจงแบบต่อเนื่องสำหรับพารามิเตอร์ไฮเปอร์ของเราสำหรับการค้นหาแบบสุ่ม
‫CV แต่นั่นเป็นเพียงในเอกสาร
‫ดังนั้นเราจึงไปที่นี่
‫คุณยังสามารถใช้รายการได้ แต่เอกสารของผู้ที่เขียนมาตราส่วนในล็อบบี้แนะนำให้เราใช้ช่วงของค่า
‫เราจะไปที่ Max Depth ที่นี่ ซึ่งเป็นอีกอันที่เราพบจากการวิจัยของเราเองเกี่ยวกับไฮเปอร์พารามิเตอร์ที่เราสามารถปรับแต่งได้
‫อย่าลืมว่าสำหรับโมเดลแมชชีนเลิร์นนิง ให้ค้นหาอย่างรวดเร็วว่าฉันกำลังใช้โมเดลนี้อยู่
‫ฉันคิดออกแล้ว
‫ฉันเดินตามสายจิต
‫ฉันไม่มีแผนที่ใช่ไหม
‫ใช่เราทำ
‫ฉันเดินตามแผนที่และตัดสินใจว่าจะใช้ตัวแยกประเภทป่าแบบสุ่ม
‫ฉันจะปรับแต่งไฮเปอร์พารามิเตอร์ได้อย่างไร
‫นั่นคือที่มาของการค้นหาสิ่งนี้ใช่ไหม
‫เราไปที่นี่, เราพบว่าอีกอันคือ การแยกตัวอย่างขั้นต่ำ
‫จากนั้นเราไปที่นี่และเรากำลังจะไป
‫เราใช้ช่วง
‫อันที่จริง ฉันเคยบอกว่าเราจะใช้การแจกแจง แต่ในที่นี้ความลึกสูงสุด เราไม่ได้ใช้การแจกแจง
‫เราเพิ่งใช้รายการที่ชัดเจน แต่เราจะใช้ช่วงอื่นที่นี่ แล้วเราจะ ไปที่นี่และเราจะใช้ตัวอย่างขั้นต่ำ
‫ใบไม้ และช่วงพี
‫122 สวย.
‫ตอนนี้เรามีตารางไฮเปอร์พารามิเตอร์สองกริดสำหรับสองรุ่นที่เรากำลังจะลองและปรับแต่งไฮเปอร์พารามิเตอร์โดยใช้การค้นหาแบบสุ่ม
‫XXV
‫สิ่งที่เราน่าจะทำคือ เราจะจบวิดีโอนี้ที่นี่ จากนั้นเราจะกลับมา เราจะใช้ตารางทั้งสองนี้ร่วมกับการค้นหาแบบสุ่ม
‫XXV เพื่อพยายามปรับปรุงผลลัพธ์ของแบบจำลองการถดถอยโลจิสติกของเรา และตัวแยกประเภทป่าแบบสุ่มของเรา
‫เกินกว่าที่เราได้รับในตอนแรก
‫นอกเหนือจากค่าเริ่มต้นที่เราได้รับและจดจำค่าเหล่านี้ได้มาโดยไม่ใช้การตรวจสอบความถูกต้อง
‫เพราะเราใช้เพียงรถไฟขบวนเดียวและการทดสอบแยก ส่วนหากเราเข้าสู่ประเด็นสำคัญและการตรวจสอบความถูกต้อง นี่คือสิ่งที่เราใช้เพื่อให้ได้คะแนนเดิม
‫, รถไฟขบวนเดียวและการแยกการทดสอบ ในขณะที่ในการตรวจสอบความถูกต้อง เราจะใช้รถไฟหลายขบวนและการแยกการทดสอบ
‫โปรดจำไว้ว่าในบรรทัดที่สอง เราได้พูดคุยกันว่า หากคุณกำลังจะระบุเมตริกในแง่ของประสิทธิภาพของโมเดล
‫อาจเป็นการดีที่สุดที่จะใช้เมตริกการตรวจสอบข้าม
‫โดยเฉพาะกับปัญหาการจำแนกประเภท
‫เรามาทบทวนกันอีกครั้งว่าในวิดีโอถัดไปของการปรับฟอเรสต์แบบสุ่มและการถดถอยโลจิสติกด้วย Randomized
‫Search CV