เทคนิคการลดความแปรปรวนสำหรับการจำลองแบบมอนติคาร์โล
- ผู้เสนอ
- Hammersley & Morton (antithetic variates, 1956); Lavenberg & Welch (control variates, 1981); importance sampling roots in Kahn & Marshall (1953)
- ปี
- 1950s–1980s (technique family)
- ประเภท
- Simulation variance-reduction technique family
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
เทคนิคการลดความแปรปรวนเป็นกลุ่มของวิธีการที่ช่วยเพิ่มประสิทธิภาพของการจำลองแบบมอนติคาร์โล โดยให้ความแม่นยำในการประมาณค่าเท่าเดิมด้วยจำนวนการสุ่มตัวอย่างที่น้อยลง พัฒนาขึ้นอย่างต่อเนื่องตั้งแต่ทศวรรษที่ 1950 เป็นต้นมา โดยเทคนิค antithetic variates มีที่มาจาก Hammersley และ Morton, เทคนิค control variates ที่ถูกทำให้เป็นระบบโดย Lavenberg และ Welch, และเทคนิค importance sampling ที่มีรากฐานมาจาก Kahn และ Marshall กลุ่มเทคนิคนี้ประกอบด้วย antithetic variates (AV), control variates (CV), importance sampling (IS), และ stratification ซึ่งแต่ละเทคนิคจะใช้ประโยชน์จากคุณสมบัติเชิงโครงสร้างที่แตกต่างกันของปริมาณที่ต้องการประมาณ เพื่อลดความแปรปรวนของตัวประมาณค่าโดยไม่ทำให้เกิดความเอนเอียง
แนวคิดเบื้องหลังวิธีการ
การจำลองแบบมอนติคาร์โลมาตรฐานทำงานโดยการหาค่าเฉลี่ยจากการสุ่มตัวอย่างอิสระจำนวนมาก จุดอ่อนคือการสุ่มตัวอย่างแบบสุ่มล้วนๆ อาจซ้ำซ้อนกัน — การสุ่มตัวอย่างจำนวนมากตกอยู่ในบริเวณที่ไม่ค่อยให้ข้อมูล และข้อผิดพลาดที่เป็นบวกและลบไม่สามารถหักล้างกันได้อย่างมีประสิทธิภาพ เทคนิคการลดความแปรปรวนแก้ไขปัญหานี้โดยการออกแบบการสุ่ม เทคนิค antithetic variates จับคู่การสุ่มแต่ละครั้งกับภาพสะท้อนของมัน เพื่อให้ข้อผิดพลาดมีแนวโน้มที่จะหักล้างกัน เทคนิค control variates ปรับการประมาณค่าโดยใช้ปริมาณที่มีความสัมพันธ์กันซึ่งมีค่าเฉลี่ยที่แท้จริงเป็นที่ทราบ เทคนิค importance sampling จะกระจุกตัวการสุ่มในบริเวณที่สำคัญที่สุด และเทคนิค stratification จะรับประกันว่าการสุ่มครอบคลุมปริภูมิอินพุตอย่างสม่ำเสมอ ผลลัพธ์ที่ได้คือความแม่นยำเท่าเดิมด้วยการประเมินฟังก์ชันที่น้อยลงอย่างมาก
ประวัติศาสตร์
รากฐานของการลดความแปรปรวนสำหรับการจำลองแบบมอนติคาร์โลถูกวางไว้ในทศวรรษที่ 1950 Kahn และ Marshall (1953) ได้นำเสนอ importance sampling ในบริบทของการขนส่งอนุภาคในนิวเคลียร์ Hammersley และ Morton (1956) ได้ทำให้เทคนิค antithetic variates เป็นระบบในฐานะวิธีการใช้ประโยชน์จากความสมมาตรในการสุ่มอินพุต Control variates ถูกทำให้เป็นระบบโดย Lavenberg และ Welch ในทศวรรษที่ 1980 สำหรับใช้ในการจำลองแบบสุ่ม หนังสือของ Paul Glasserman ในปี 2003 ได้รวบรวมทฤษฎีและการปฏิบัติของเทคนิคเหล่านี้สำหรับวิศวกรรมการเงิน และตำราเกี่ยวกับการจำลองของ Sheldon Ross ได้ทำให้เทคนิคเหล่านี้กลายเป็นส่วนมาตรฐานของการศึกษาการจำลองในระดับบัณฑิตศึกษา ปัจจุบันเทคนิคเหล่านี้มีความสำคัญอย่างยิ่งต่อการเงินเชิงคำนวณ วิศวกรรมความน่าเชื่อถือ และทุกสาขาที่การจำลองมีค่าใช้จ่ายสูง
ควรใช้เมื่อใด
ใช้เทคนิคการลดความแปรปรวนเมื่อการจำลองแบบมอนติคาร์โลมาตรฐานให้ความแม่นยำที่ยอมรับได้เฉพาะกับการจำลองจำนวนมากเกินกว่าที่จะปฏิบัติได้จริง เทคนิค AV เหมาะสำหรับอินทิแกรนด์ที่เรียบและมีลักษณะโมโนโทน เทคนิค CV เหมาะสำหรับปัญหาที่มีปริมาณเสริมที่มีความสัมพันธ์กันซึ่งมีค่าเฉลี่ยเป็นที่ทราบในเชิงวิเคราะห์ เทคนิค IS เหมาะสำหรับการประมาณค่าเหตุการณ์ที่เกิดขึ้นไม่บ่อยหรือการอินทิเกรตบนหางที่หนา เทคนิค stratification เหมาะสำหรับปริภูมิอินพุตที่มีมิติต่ำ เทคนิคทั้งหมดต้องการการทำซ้ำอย่างน้อยหลายร้อยครั้ง — หรือหลายพันครั้งจะดีที่สุด — ก่อนที่ประโยชน์ของการลดความแปรปรวนจะปรากฏให้เห็น เหมาะสำหรับปริมาณสุ่มแบบต่อเนื่องและสำหรับทุกโดเมนการใช้งานที่ต้นทุนการจำลองเป็นข้อจำกัด
ข้อจำกัดและข้อควรพิจารณา
- แต่ละเทคนิคต้องการความรู้เชิงโครงสร้างของปัญหา: AV ต้องการอินทิแกรนด์ที่มีลักษณะโมโนโทน, CV ต้องการค่าเฉลี่ยเสริมที่ทราบในเชิงวิเคราะห์, IS ต้องการการแจกแจงการเสนอที่ออกแบบมาอย่างดี, stratification ต้องการการครอบคลุมปริภูมิอินพุตอย่างสม่ำเสมอ
- การเลือกการแจกแจงการเสนอที่ไม่เหมาะสมสำหรับการทำ importance sampling อาจเพิ่มความแปรปรวนแทนที่จะลดลง
- การรวมเทคนิคหลายอย่างเข้าด้วยกันจะเพิ่มความซับซ้อนในการนำไปใช้ และอาจมีปฏิสัมพันธ์กันในลักษณะที่คาดไม่ถึง
- ประโยชน์ของการลดความแปรปรวนมีน้อยมากที่จำนวนรอบการทำซ้ำต่ำมาก (ต่ำกว่าประมาณ 1,000 รอบ)
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- ลดจำนวนรอบการจำลองที่จำเป็นเพื่อให้ได้ความแม่นยำตามเป้าหมายลงอย่างมาก ช่วยลดต้นทุนการคำนวณ
- สามารถรวมเทคนิคต่างๆ เข้าด้วยกันได้ (เช่น AV กับ CV) เพื่อการลดความแปรปรวนแบบทวีคูณ
- ไม่ก่อให้เกิดความเอนเอียง: เทคนิคมาตรฐานทั้งหมดผลิตตัวประมาณค่าที่ไม่เอนเอียง
- สามารถนำไปประยุกต์ใช้ได้อย่างกว้างขวางในหลากหลายโดเมน — การเงิน วิศวกรรม การดูแลสุขภาพ การวิจัยดำเนินงาน — ทุกที่ที่มีการใช้การอินทิเกรตแบบมอนติคาร์โล
การประยุกต์ใช้
- การกำหนดราคาออปชันในการเงินเชิงคำนวณ ซึ่ง importance sampling จะกระจุกตัวการสุ่มไปที่เส้นทางที่ให้ผลกำไร (in-the-money paths)
- การวิเคราะห์ความน่าเชื่อถือและความเสี่ยง ซึ่งความน่าจะเป็นของความล้มเหลวที่เกิดขึ้นไม่บ่อยจะถูกประมาณค่าโดยใช้จำนวนรอบการจำลองน้อยลงอย่างมากด้วย IS
- การวิเคราะห์ประสิทธิภาพของระบบคิวและบริการ โดยใช้ AV และ CV เพื่อลดความยาวของรอบการจำลอง
- การจำลองความคุ้มค่าทางเศรษฐกิจในการดูแลสุขภาพ ซึ่ง CV ใช้ประโยชน์จากการประมาณค่าเชิงวิเคราะห์ที่ทราบของแบบจำลองต้นทุน
- การออกแบบทางวิศวกรรมภายใต้ความไม่แน่นอน ซึ่งการสุ่มแบบแบ่งชั้น (stratified sampling) จะรับประกันการครอบคลุมทั่วทั้งปริภูมิพารามิเตอร์อินพุต
วิธีการทำงาน
วิธีการทำงาน
เริ่มต้นด้วยการแสดงปริมาณที่สนใจในรูปของค่าคาดหวัง — ตัวอย่างเช่น ค่าเฉลี่ยของฟังก์ชันที่ใช้กับอินพุตแบบสุ่ม การกำหนดกรอบนี้ทำให้ชัดเจนว่าการสุ่มมาจากห่วงจำลองความน่าจะเป็นใด และตัวประมาณค่ามอนติคาร์โลดิบมีลักษณะอย่างไรก่อนที่จะใช้การลดความแปรปรวนใดๆ
เลือกเทคนิคที่ตรงกับโครงสร้างของปัญหา เทคนิค antithetic variates ใช้ได้ผลเมื่ออินทิแกรนด์มีลักษณะโมโนโทนตามอินพุต ดังนั้นการจับคู่การสุ่มแบบเอกรูป u แต่ละครั้งกับค่าส่วนเติมเต็ม 1 − u จะรับประกันความสัมพันธ์เชิงลบและการหักล้างข้อผิดพลาด เทคนิค control variates ใช้ได้ผลเมื่อมีปริมาณที่มีความสัมพันธ์กันซึ่งมีค่าคาดหวังเชิงวิเคราะห์เป็นที่ทราบ ตัวประมาณค่าจะถูกปรับด้วยผลต่างระหว่างค่าเฉลี่ยจากการสุ่มของตัวควบคุมกับค่าเฉลี่ยที่ทราบ เทคนิค importance sampling ใช้ได้ผลเมื่อต้องการเพิ่มความน่าจะเป็นของเหตุการณ์ที่เกิดขึ้นไม่บ่อยหรือมีน้ำหนักสูง การแจกแจงการเสนอ (proposal distribution) ที่มีหางหนากว่าจะเข้ามาแทนที่การแจกแจงเดิม และการสุ่มแต่ละครั้งจะถูกถ่วงน้ำหนักใหม่ด้วยอัตราส่วนความน่าจะเป็น เทคนิค stratification จะแบ่งปริภูมิอินพุตออกเป็นชั้นๆ และจัดสรรการสุ่มตามสัดส่วน เพื่อให้แน่ใจว่าไม่มีบริเวณใดถูกสุ่มมากเกินไปหรือน้อยเกินไป สามารถรวมเทคนิคต่างๆ เข้าด้วยกันได้ — ตัวอย่างเช่น CV และ AV ร่วมกัน — เพื่อประหยัดทรัพยากรเพิ่มเติม
สุ่มตัวอย่างตามเทคนิคที่เลือก สำหรับ AV ให้สร้างคู่การสุ่ม (u, 1 − u); สำหรับ IS ให้สุ่มจากการแจกแจงการเสนอและบันทึกน้ำหนักความสำคัญ (importance weights); สำหรับ stratification ให้สุ่มภายในแต่ละชั้น จำนวนรอบการทำซ้ำควรมีอย่างน้อยหลายพันครั้งเพื่อให้เห็นประโยชน์ของการลดความแปรปรวน
รวมการสุ่มเข้าเป็นค่าประมาณจุด (point estimate) และค่าประมาณความแปรปรวน (variance estimate) สำหรับ AV ตัวประมาณค่าคือค่าเฉลี่ยของค่าฟังก์ชันที่จับคู่กัน สำหรับ CV ค่าเฉลี่ยดิบจะถูกปรับด้วยสัมประสิทธิ์ที่เหมาะสมที่สุดคูณด้วยค่าเบี่ยงเบนของค่าเฉลี่ยจากการสุ่มของตัวควบคุมจากค่าคาดหวังที่ทราบ สำหรับ IS การประเมินค่าฟังก์ชันแต่ละครั้งจะถูกคูณด้วยน้ำหนักความสำคัญก่อนทำการหาค่าเฉลี่ย
เปรียบเทียบความแปรปรวนของตัวประมาณค่าที่ลดความแปรปรวนแล้วกับความแปรปรวนของตัวประมาณค่ามอนติคาร์โลแบบธรรมดาด้วยจำนวนการสุ่มเท่ากัน อัตราส่วนของความแปรปรวนทั้งสอง — ปัจจัยการลดความแปรปรวน (variance reduction factor) — จะวัดปริมาณของผลกำไร หากปัจจัยใกล้เคียง 1 แสดงว่าเทคนิคไม่ได้ใช้ประโยชน์จากโครงสร้างของปัญหา และอาจจำเป็นต้องใช้วิธีการอื่นหรือเพิ่มจำนวนรอบการทำซ้ำ
ข้อผิดพลาดที่พบบ่อย
- การใช้ antithetic variates เมื่ออินทิแกรนด์ไม่มีลักษณะโมโนโทนตามอินพุต: ข้อสมมติฐานเรื่องความสัมพันธ์เชิงลบจะใช้ไม่ได้ผล และวิธีนี้อาจเพิ่มความแปรปรวนได้จริง
- การใช้การแจกแจงการเสนอ importance sampling ที่มีหางบางกว่าการแจกแจงเป้าหมาย: เหตุการณ์ที่เกิดขึ้นไม่บ่อยจะถูกสุ่มน้อยเกินไป และความแปรปรวนของตัวประมาณค่าอาจเพิ่มขึ้นอย่างมาก
- การประมาณค่าสัมประสิทธิ์ CV จากกลุ่มตัวอย่างเดียวกันที่ใช้สำหรับตัวประมาณค่าโดยไม่คำนึงถึงความเอนเอียงที่เกิดขึ้นในขนาดตัวอย่างที่เล็ก
- การดำเนินการรอบการทำซ้ำน้อยเกินไป (ต่ำกว่าประมาณ 1,000 รอบ): ไม่สามารถวัดปัจจัยการลดความแปรปรวนได้อย่างน่าเชื่อถือ และประโยชน์ที่เหนือกว่าการจำลองแบบมอนติคาร์โลธรรมดาจะมองไม่เห็น
- การรวม AV และ CV โดยไม่ตรวจสอบว่าการรวมกันนั้นยังคงรักษาความสัมพันธ์เชิงลบไว้ได้หรือไม่: ตัวประมาณค่าร่วมอาจไม่บรรลุผลการประหยัดที่คาดหวัง
คำถามที่พบบ่อย
ควรเลือกเทคนิคใด — AV, CV, IS, หรือ stratification?
เลือกตามโครงสร้างของปัญหา หากอินทิแกรนด์มีลักษณะโมโนโทนตามอินพุต AV จะตรงไปตรงมาและมีประสิทธิภาพ หากคุณมีปริมาณที่เกี่ยวข้องซึ่งคุณสามารถคำนวณค่าคาดหวังได้ในเชิงวิเคราะห์ CV มักจะเป็นตัวเลือกที่มีประสิทธิภาพมากที่สุด หากคุณต้องการประมาณค่าความน่าจะเป็นของเหตุการณ์ที่เกิดขึ้นไม่บ่อย หรือทำการอินทิเกรตบนหางที่หนา IS คือเครื่องมือที่เหมาะสม Stratification ทำงานได้ดีในมิติที่ต่ำถึงปานกลางเมื่อคุณต้องการการครอบคลุมปริภูมิอินพุตอย่างสม่ำเสมอ นอกจากนี้ยังสามารถรวมเทคนิคต่างๆ เข้าด้วยกันเพื่อเพิ่มผลกำไรได้
ฉันต้องการการจำลองแบบมอนติคาร์โลกี่รอบ?
ประโยชน์ของการลดความแปรปรวนจะสามารถวัดผลได้ก็ต่อเมื่อคุณมีรอบการจำลองอย่างน้อยหลายร้อยรอบ โดยมีหลายพันรอบเป็นเกณฑ์ที่น่าเชื่อถือมากกว่า ด้วยจำนวนรอบการทำซ้ำที่น้อยมาก ปัจจัยการลดความแปรปรวนจะไม่สามารถประมาณค่าได้อย่างเสถียร และตัวประมาณค่ามอนติคาร์โลธรรมดาอาจมีประสิทธิภาพเทียบเท่ากัน ในทางปฏิบัติ อย่าใช้เทคนิคเหล่านี้กับจำนวนรอบการทำซ้ำน้อยกว่า 1,000 รอบ
เทคนิคการลดความแปรปรวนสามารถก่อให้เกิดความเอนเอียงได้หรือไม่?
ไม่ — เทคนิคมาตรฐานทั้งสี่ (AV, CV, IS, stratification) สร้างตัวประมาณค่าที่ไม่เอนเอียงเมื่อนำไปใช้อย่างถูกต้อง ตัวประมาณค่า CV ต้องการการประมาณค่าสัมประสิทธิ์ที่เหมาะสมที่สุดที่แม่นยำ การประมาณค่าจากกลุ่มตัวอย่างนำร่องขนาดเล็กและนำกลุ่มตัวอย่างเดียวกันนั้นกลับมาใช้สำหรับการประมาณค่าหลักอาจก่อให้เกิดความเอนเอียงเล็กน้อยในตัวอย่างขนาดจำกัด ดังนั้นจึงเป็นแนวปฏิบัติที่ดีที่สุดในการใช้กลุ่มตัวอย่างนำร่องแยกต่างหาก หรือใช้สูตรสัมประสิทธิ์ที่ถูกต้องตามหลักอสมการ
จะเกิดอะไรขึ้นหากการแจกแจงการเสนอ (proposal distribution) สำหรับ importance sampling ของฉันถูกเลือกมาไม่ดี?
การแจกแจงการเสนอที่มีหางบางเกินไปเมื่อเทียบกับการแจกแจงเป้าหมาย อาจทำให้ความแปรปรวนเพิ่มขึ้นอย่างมาก ทำให้ IS แย่กว่าการจำลองแบบมอนติคาร์โลธรรมดา ควรตรวจสอบเสมอว่าการแจกแจงการเสนอมีหางที่หนากว่าการแจกแจงเป้าหมายในบริเวณที่เกี่ยวข้อง และตรวจสอบความแปรปรวนของน้ำหนักความสำคัญ (importance weights) เป็นการวินิจฉัย — ค่าของน้ำหนักที่สูงมากเกินไปบ่งชี้ถึงการแจกแจงการเสนอที่ไม่เหมาะสม
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Ross, S.M. (2012). Simulation (5th ed.). Academic Press.
ISBN: 978-0124158252คัดลอกแล้วGlasserman, P. (2003). Monte Carlo Methods in Financial Engineering. Springer.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้ว