Skip to content
Kembali ke hasil pencarian

Simulasi Bootstrap — Pengambilan Sampel Empiris untuk Inferensi Statistik

Diperkenalkan oleh
Bradley Efron
Tahun
1979
Jenis
Simulation-based nonparametric inference

Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris

Ukuran huruf

Apa fungsinya?

Simulasi bootstrap, diperkenalkan oleh Bradley Efron pada tahun 1979, adalah metode inferensi berbasis simulasi yang menurunkan distribusi pengambilan sampel dari hampir semua statistik dengan berulang kali mengambil sampel dengan penggantian dari data yang diamati.

Karena tidak memerlukan asumsi distribusi parametrik, metode ini menyediakan alternatif yang kuat dan serbaguna untuk interval kepercayaan analitis dan uji hipotesis parametrik pada data kontinu, ordinal, biner, dan hitungan.

Intuisi di balik metode

Biasanya, untuk memahami seberapa bervariasi suatu statistik seperti rata-rata atau median, Anda akan mengumpulkan banyak sampel independen dari populasi — tetapi Anda hanya memiliki satu sampel. Pengambilan sampel ulang bootstrap mengatasi ini dengan memperlakukan satu sampel Anda seolah-olah itu adalah populasi dan menarik ribuan sampel baru darinya dengan penggantian. Setiap penarikan baru sedikit berbeda, dan bersama-sama mereka membangun gambaran empiris tentang bagaimana statistik tersebut akan berperilaku di berbagai studi berulang — tanpa memerlukan formula distribusi.

Sejarah

Bradley Efron memperkenalkan bootstrap dalam makalah penting tahun 1979 dan memperluas kerangka kerja tersebut bersama Rob Tibshirani dalam buku teks mereka tahun 1993, yang tetap menjadi referensi definitif. Metode ini tumbuh dari ide pengambilan sampel ulang jackknife sebelumnya dan revolusioner karena menawarkan rute yang dapat dihitung secara layak untuk inferensi yang valid tanpa memerlukan distribusi pengambilan sampel bentuk tertutup. Monograf Cambridge Davison dan Hinkley tahun 1997 memperluas teori bootstrap ke model regresi, deret waktu, dan data yang disensor, mengkonsolidasikan metode ini sebagai landasan statistik terapan modern.

Kapan digunakan

Simulasi bootstrap sesuai kapan pun distribusi pengambilan sampel dari suatu statistik tidak dapat diturunkan secara analitis atau ketika asumsi parametrik (normalitas, homoskedastisitas) tidak dapat dibenarkan. Metode ini menangani variabel kontinu, ordinal, biner, dan hitungan serta bekerja dengan hampir semua estimator statistik — termasuk yang kompleks seperti koefisien regresi, perbedaan korelasi, atau metrik akurasi model. Sampel minimum sekitar 20 observasi umumnya diperlukan; dengan sampel yang sangat kecil, distribusi bootstrap mungkin tidak secara memadai mewakili populasi. Untuk data yang berkorelasi atau deret waktu, gunakan bootstrap blok daripada versi i.i.d. standar.

Batasan dan pertimbangan

  • Membutuhkan komputasi intensif ketika B besar (10.000+ pengambilan sampel ulang) atau statistik mahal untuk dihitung.
  • Tidak dapat mengoreksi sampel asli yang bias atau tidak representatif — bootstrap mewarisi setiap kesalahan sistematis dalam data.
  • Sampel asli yang kecil (n < 20) mungkin tidak memberikan distribusi pengambilan sampel empiris yang andal, bahkan dengan banyak pengambilan sampel ulang.
  • Bootstrap i.i.d. standar tidak valid untuk data dependen; bootstrap blok harus digunakan sebagai gantinya, dan pemilihan ukuran blok menambah kompleksitas.

Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.

Kelebihan

  • Tidak memerlukan asumsi distribusi parametrik — valid dalam kondisi luas di mana rumus klasik gagal.
  • Dapat diterapkan pada hampir semua statistik: rata-rata, median, korelasi, koefisien regresi, metrik kinerja model, dan estimator kustom.
  • Menyediakan interval kepercayaan dan uji hipotesis tanpa penurunan distribusi pengambilan sampel bentuk tertutup.
  • Mudah diperluas: bootstrap blok menangani data dependen; interval BCa menangani asimetri.

Penerapan

  • Membangun interval kepercayaan untuk estimator kompleks (median, rata-rata terpotong, akurasi model) di mana formula analitis tidak tersedia.
  • Pengujian hipotesis ketika asumsi parametrik tidak dapat diverifikasi — misalnya, membandingkan dua kelompok pada hasil kontinu yang miring.
  • Memperkirakan kesalahan prediksi dan stabilitas model dalam pembelajaran mesin melalui pengambilan sampel ulang bootstrap di luar kantong (out-of-bag).
  • Penelitian biomedis: menurunkan interval kepercayaan untuk kurva kelangsungan hidup, parameter dosis-respons, dan karakteristik tes diagnostik.
  • Penelitian ilmu sosial dan pendidikan: inferensi pada perbedaan korelasi, ukuran efek, dan skor skala komposit.

Cara kerjanya

Cara kerjanya

1

Mulai dengan kumpulan data yang diamati yang terdiri dari n observasi. Verifikasi bahwa sampel tersebut mewakili populasi target — bootstrap hanya dapat mereproduksi apa yang ada dalam data, sehingga sampel yang bias atau tidak representatif akan menghasilkan estimasi bootstrap yang bias.

2

Tarik B sampel acak berukuran n dari data asli, setiap kali mengambil sampel dengan penggantian. Efron dan Tibshirani (1993) merekomendasikan B ≥ 1.000 sebagai minimum; untuk interval kepercayaan, B = 10.000 adalah rekomendasi standar. Untuk data dependen (deret waktu, observasi berkluster) gunakan bootstrap blok untuk mempertahankan struktur ketergantungan.

3

Hitung statistik yang diminati — rata-rata, median, koefisien regresi, korelasi, atau estimator lainnya — pada setiap B sampel bootstrap. Ini menghasilkan distribusi bootstrap dari B nilai statistik.

4

Susun B nilai statistik bootstrap ke dalam distribusi pengambilan sampel empiris. Ringkas dengan kesalahan standar bootstrap dan interval kepercayaan bootstrap. Untuk distribusi yang miring, interval yang dikoreksi bias dipercepat (BCa) lebih disukai; interval persentil adalah alternatif yang paling sederhana.

5

Gunakan distribusi bootstrap yang diagregasi untuk membuat inferensi: laporkan interval kepercayaan untuk parameter yang diminati, atau hitung nilai p untuk uji hipotesis dengan membandingkan statistik yang diamati dengan distribusi nol bootstrap. Karena tidak ada asumsi parametrik yang diperlukan untuk mencapai titik ini, inferensi tersebut valid dalam kondisi yang luas.

Kesalahan umum

  • Menggunakan terlalu sedikit pengambilan sampel ulang (B < 1.000) menghasilkan interval kepercayaan yang tidak stabil — selalu gunakan setidaknya B = 1.000 dan B = 10.000 untuk CI yang dilaporkan.
  • Menerapkan bootstrap i.i.d. standar ke data deret waktu atau data berkluster melanggar asumsi independensi; gunakan bootstrap blok untuk observasi dependen.
  • Memperlakukan interval kepercayaan bootstrap sebagai setara tanpa memandang metode — interval persentil dapat bias ketika statistik miring; lebih pilih BCa dalam kasus tersebut.
  • Mencampuradukkan kesalahan standar bootstrap dengan simpangan baku populasi — SE bootstrap memperkirakan variabilitas estimator, bukan variabilitas data mentah.

Pertanyaan yang sering diajukan

Berapa banyak pengambilan sampel ulang bootstrap yang saya butuhkan?

Minimum B = 1.000 pengambilan sampel ulang diperlukan untuk kesalahan standar bootstrap dan interval kepercayaan kasar. Untuk interval kepercayaan yang dilaporkan, B = 10.000 adalah rekomendasi standar (Efron & Tibshirani, 1993). Kurang dari 1.000 pengambilan sampel ulang menghasilkan hasil yang tidak stabil dan seharusnya tidak dilaporkan.

Metode interval kepercayaan mana yang harus saya gunakan — persentil, BCa, atau dasar?

Interval BCa (bias-corrected accelerated) lebih disukai dalam banyak situasi, terutama ketika distribusi pengambilan sampel statistik miring atau estimatornya bias. Interval persentil lebih sederhana tetapi bisa tidak akurat di bawah kemiringan. BCa menyesuaikan untuk bias dan kemiringan, menjadikannya pilihan serbaguna yang paling andal.

Bisakah bootstrap digunakan dengan data deret waktu atau panel?

Ya, tetapi bootstrap i.i.d. standar (yang mengambil sampel ulang observasi individu) tidak valid untuk data dependen karena merusak struktur ketergantungan. Metode bootstrap blok, yang mengambil sampel ulang blok observasi yang berdekatan, mempertahankan ketergantungan serial dan harus digunakan kapan pun data berkorelasi dari waktu ke waktu atau dalam kluster.

Apakah bootstrap berfungsi dengan sampel kecil?

Inferensi bootstrap umumnya andal ketika n ≥ 20. Dengan sampel yang sangat kecil, data yang diamati mungkin tidak secara memadai mewakili populasi, sehingga distribusi bootstrap mewarisi keterbatasan ini — tidak ada jumlah pengambilan sampel ulang yang dapat mengkompensasi sampel yang terlalu kecil untuk menangkap bentuk populasi. Dalam kasus seperti itu, pertimbangkan uji permutasi eksak atau metode Bayesian.

Metode terkait

Sumber

  1. Efron, B. & Tibshirani, R.J. (1993). An Introduction to the Bootstrap. Chapman & Hall/CRC.

    Buka referensi DOI
    Disalin.
  2. Davison, A.C. & Hinkley, D.V. (1997). Bootstrap Methods and their Application. Cambridge University Press.

    Buka referensi DOI
    Disalin.