Regresi Logistik
- Diperkenalkan oleh
- David Roxbee Cox
- Tahun
- 1958
- Jenis
- Method
- Keluarga
- classification-prediction
Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris
Apa fungsinya?
Regresi logistik adalah metode statistik untuk memodelkan probabilitas hasil biner (penyakit ada/tidak ada, sukses/gagal) sebagai fungsi dari prediktor kontinu dan kategorikal. Dikembangkan oleh David Roxbee Cox (1958), metode ini memecahkan masalah prediksi hasil kategorikal dengan menerapkan transformasi logistik untuk membatasi prediksi pada interval probabilitas [0,1], memungkinkan stratifikasi risiko yang akurat, prediksi diagnostik, dan inferensi kausal dalam epidemiologi, kedokteran, dan ilmu sosial.
Intuisi di balik metode
Regresi linier standar memprediksi hasil kontinu yang tidak terbatas; menerapkannya pada hasil biner (0 atau 1) menghasilkan prediksi yang tidak mungkin (misalnya, probabilitas 1,5). Regresi logistik mengatasi ini dengan memodelkan log-odds (logit) dari hasil sebagai fungsi linier dari prediktor: logit(p) = ln[p/(1−p)] = β₀ + β₁X₁ + β₂X₂ + ... Transformasi logistik mengubah prediksi linier kembali menjadi probabilitas (0 hingga 1). Hal ini memungkinkan peneliti untuk memperkirakan probabilitas suatu hasil berdasarkan prediktor, mengukur asosiasi faktor risiko sebagai rasio odds, dan membuat klasifikasi biner dengan ketidakpastian terukur.
Sejarah
David Roxbee Cox memperkenalkan regresi logistik pada tahun 1958 sebagai perluasan alami dari regresi linier untuk hasil biner. Karya Jerome Cornfield (1962) mempopulerkan rasio odds dalam epidemiologi. Uji kebaikan kesesuaian Hosmer-Lemeshow (1980-an) menyediakan diagnostik untuk evaluasi model. Perluasan modern meliputi regresi logistik yang dihukum (ridge, lasso; Tibshirani, 1996), model linier umum (McCullagh & Nelder, 1989), dan perluasan multinomial/ordinal (Agresti, 2015). Metode intensif komputasi (bootstrap, validasi silang) sekarang memungkinkan inferensi yang kuat dan validasi eksternal.
Kapan digunakan
Gunakan regresi logistik saat memprediksi atau menjelaskan hasil biner. Aplikasi klinis: memprediksi diagnosis penyakit, respons pengobatan, mortalitas; menghitung skor risiko (misalnya, skor APACHE, keparahan pneumonia CURB-65). Studi epidemiologi: memperkirakan odds penyakit yang terkait dengan paparan sambil menyesuaikan perancu. Akurasi diagnostik: memvalidasi tes diagnostik (memprediksi penyakit dari temuan klinis). Penelitian survei: memodelkan respons ya/tidak terhadap pertanyaan kebijakan. Untuk hasil kontinu atau politomus (>2 kategori), gunakan regresi linier atau multinomial. Untuk data survival (waktu-ke-kejadian), gunakan regresi Cox.
Batasan dan pertimbangan
- Sensitif terhadap multikolinearitas: prediktor yang sangat berkorelasi menghasilkan standard error yang membengkak dan estimasi koefisien yang tidak stabil; periksa faktor inflasi varians.
- Mengasumsikan hubungan linier antara log-odds dan prediktor; melewatkan asosiasi nonlinier kecuali dimodelkan secara eksplisit (misalnya, transformasi polinomial, spline).
- Hasil yang tidak seimbang (kejadian langka): jika proporsi hasil ekstrem (misalnya, 5% positif), estimasi parameter bias dan interval kepercayaan lebar; pertimbangkan regresi yang dihukum atau pengambilan sampel kasus-kontrol.
- Mengasumsikan independensi observasi; data yang dikelompokkan (misalnya, pasien di rumah sakit) melanggar asumsi dan memerlukan regresi logistik multilevel.
- Kinerja klasifikasi sangat bergantung pada ambang probabilitas yang dipilih; ambang batas yang berbeda mengoptimalkan sensitivitas vs spesifisitas, dan tidak ada ambang batas tunggal yang cocok untuk semua konteks.
Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.
Kelebihan
- Secara langsung memperkirakan probabilitas hasil, memungkinkan stratifikasi risiko dan pengambilan keputusan yang terinformasi dalam konteks klinis dan kebijakan.
- Rasio odds intuitif bagi praktisi: ukuran asosiasi dikotomis yang mudah dikomunikasikan kepada dokter dan publik.
- Tahan terhadap pelanggaran normalitas (tidak seperti regresi linier); hanya membutuhkan distribusi kondisional yang binomial, bukan normal.
- Secara fleksibel menggabungkan prediktor kontinu dan kategorikal, interaksi, dan suku nonlinier (misalnya, polinomial, spline) untuk menangkap hubungan yang kompleks.
- Output probabilistik dan kurva ROC memungkinkan optimasi ambang batas: pilih ambang klasifikasi berdasarkan trade-off sensitivitas/spesifisitas yang sesuai dengan konteks aplikasi.
Penerapan
- Prediksi risiko klinis: mengembangkan skor risiko yang divalidasi (misalnya, risiko rawat inap ulang 30 hari, kemungkinan sepsis) untuk memandu alokasi sumber daya dan intervensi dini.
- Akurasi diagnostik: memprediksi diagnosis penyakit dari temuan klinis, nilai laboratorium, dan pencitraan; menilai sensitivitas dan spesifisitas algoritma diagnostik.
- Respons pengobatan: memodelkan probabilitas keberhasilan pengobatan (respons obat, hasil bedah) untuk menginformasikan pengobatan personalisasi dan pemilihan pengobatan.
- Studi asosiasi epidemiologi: memperkirakan odds penyakit yang terkait dengan paparan lingkungan atau perilaku (merokok, diet, bahaya pekerjaan) sambil menyesuaikan demografi.
- Peningkatan kualitas dan manufaktur: memprediksi probabilitas cacat produk dari parameter manufaktur; mengoptimalkan pengaturan proses untuk meminimalkan kegagalan.
Cara kerjanya
Cara kerjanya
Lakukan regresi logistik dengan mendefinisikan hasil biner (dikodekan 0/1) dan mengumpulkan variabel prediktor. Pastikan ukuran sampel yang memadai untuk estimasi yang stabil: setidaknya 10–20 kejadian per prediktor (di mana kejadian = jumlah kategori hasil yang lebih sedikit). Verifikasi independensi observasi; regresi logistik mengasumsikan tidak ada pengelompokan. Kode prediktor kategorikal menggunakan variabel dummy (k−1 indikator untuk k kategori). Opsional standarisasi prediktor kontinu untuk perbandingan skala bebas. Sebelum fitting, jelajahi asosiasi bivariat antara setiap prediktor dan hasil (plot regresi logistik, korelasi) untuk memandu spesifikasi model.
Estimasi koefisien regresi logistik menggunakan estimasi kemungkinan maksimum (MLE), bukan kuadrat terkecil biasa. Perangkat lunak menghitung estimasi parameter (koefisien β) yang memaksimalkan kemungkinan mengamati data aktual. Statistik utama: (1) Koefisien (β₀, β₁, ...): intersep dan kemiringan pada skala logit. (2) Rasio Odds (OR) = exp(β): perubahan odds per peningkatan satu unit prediktor. OR = 1 berarti tidak ada efek; OR = 2 berarti penggandaan odds; OR = 0,5 berarti setengahnya odds. (3) Standard error dan statistik z (z = β/SE): uji apakah koefisien berbeda dari nol. (4) Interval kepercayaan untuk OR (biasanya 95%): [exp(β − 1,96×SE), exp(β + 1,96×SE)]. (5) Uji kebaikan kesesuaian Hosmer-Lemeshow: uji χ² hasil yang diamati vs yang diprediksi di seluruh desil risiko (p > 0,05 menunjukkan kesesuaian yang baik). (6) Luas di Bawah Kurva Karakteristik Operasi Penerima (AUC): 0,5 = peluang acak, 0,7–0,8 = diskriminasi yang dapat diterima, >0,8 = baik, >0,9 = sangat baik.
Interpretasi berpusat pada rasio odds: OR 1,5 untuk prediktor berarti setiap peningkatan satu unit mengalikan odds hasil sebesar 1,5 (50% odds lebih tinggi), dengan menjaga prediktor lain tetap konstan. Jika interval kepercayaan mengecualikan 1, OR signifikan secara statistik (p < 0,05). Probabilitas prediksi untuk individu = 1 / [1 + exp(−(β₀ + β₁X₁ + ...))] di mana nilai X adalah skor prediktor individu. Hasilkan kurva ROC (tingkat positif benar vs tingkat positif salah) untuk menilai kinerja klasifikasi dan memilih ambang probabilitas optimal untuk klasifikasi biner. Bandingkan model (lengkap vs tereduksi) menggunakan uji rasio kemungkinan: −2 × (log-kemungkinan tereduksi − log-kemungkinan lengkap) mengikuti χ² dengan df = jumlah parameter yang dihapus. Periksa diagnostik: plot parsial, ukuran pengaruh (pengaruh Pregibon), dan residual Pearson untuk outlier atau kesalahan spesifikasi model.
Kesalahan umum
- Mencampuradukkan asosiasi dengan kausalitas: regresi logistik memperkirakan asosiasi yang disesuaikan; perancu yang tidak diketahui atau kausalitas terbalik masih mengancam interpretasi kausal.
- Menggunakan akurasi klasifikasi saja untuk mengevaluasi model: dengan hasil yang tidak seimbang, model yang memprediksi semua negatif dapat tampak akurat; gunakan AUC, sensitivitas, spesifisitas, dan nilai prediksi positif.
- Melaporkan nilai p tanpa interval kepercayaan atau ukuran efek; signifikansi statistik bukanlah signifikansi klinis. Selalu laporkan OR dengan CI 95%.
- Gagal memeriksa uji Hosmer-Lemeshow dan diagnostik residual; pelanggaran kebaikan kesesuaian menunjukkan kesalahan spesifikasi model.
- Overfitting model: memfitting terlalu banyak prediktor relatif terhadap ukuran sampel (terutama jumlah kejadian hasil) menghasilkan estimasi kinerja yang optimis; gunakan validasi silang.
- Mendikotomisasi prediktor kontinu (misalnya, usia > 65) menyebabkan hilangnya informasi dan estimasi koefisien yang tidak stabil; pertahankan bentuk kontinu atau gunakan spline kubik terbatas.
Pertanyaan yang sering diajukan
Bagaimana cara menginterpretasikan rasio odds 2,5 dengan CI 95% [1,8, 3,5]?
OR 2,5 berarti odds hasil 2,5 kali lebih tinggi untuk peningkatan 1 unit pada prediktor tersebut (atau untuk kategori terindeks vs referensi, jika kategorikal), setelah disesuaikan dengan prediktor lain. Interval kepercayaan 95% [1,8, 3,5] menunjukkan bahwa dengan kepercayaan 95%, OR populasi sebenarnya berada di antara 1,8 dan 3,5. Karena CI mengecualikan 1, asosiasi tersebut signifikan secara statistik (p < 0,05). Interpretasi besaran: OR 1–1,5 = efek kecil, 1,5–3 = sedang, >3 = besar. Dokter sering bertanya: apakah odds 2,5 kali lebih tinggi bermakna secara klinis untuk hasil ini? Konteks itu penting.
Apa yang diberitahukan oleh uji Hosmer-Lemeshow kepada saya, dan kapan saya harus khawatir tentang nilai p yang rendah?
Uji Hosmer-Lemeshow menilai apakah probabilitas yang diprediksi cocok dengan proporsi hasil yang diamati di seluruh desil risiko. p > 0,05 menunjukkan kalibrasi yang baik; p < 0,05 menunjukkan bahwa model salah memprediksi di beberapa kelompok risiko, menunjukkan potensi kesalahan spesifikasi. Nilai p yang rendah mendorong penyelidikan: periksa plot kalibrasi per desil, periksa hubungan nonlinier yang tidak tertangkap, jelajahi interaksi, atau selidiki outlier. Namun, dengan sampel yang sangat besar, penyimpangan sekecil apa pun dari kalibrasi sempurna dapat menghasilkan nilai p yang rendah; inspeksi visual plot kalibrasi seringkali lebih informatif daripada uji saja.
Bagaimana cara memilih ambang probabilitas untuk mengklasifikasikan individu sebagai berisiko atau tidak?
Pilihan tergantung pada konteks klinis atau kebijakan dan biaya positif palsu vs negatif palsu. Kurva ROC memplot sensitivitas (tingkat positif benar) vs 1-spesifisitas (tingkat positif salah) di semua ambang probabilitas. Ambang batas 0,5 adalah default tetapi jarang optimal. Jika melewatkan kasus positif mahal (misalnya, diagnosis kanker yang terlewat), pilih ambang batas yang lebih rendah (sensitivitas lebih tinggi). Jika alarm palsu mahal (misalnya, intervensi yang tidak perlu), pilih ambang batas yang lebih tinggi (spesifisitas lebih tinggi). Gunakan indeks Youden (sensitivitas + spesifisitas − 1) atau periksa nilai prediksi positif (PPV) dan nilai prediksi negatif (NPV) di populasi Anda untuk memutuskan.
Bagaimana regresi logistik berbeda dari regresi linier untuk memprediksi hasil biner?
Regresi linier yang diterapkan pada hasil biner menghasilkan nilai prediksi di luar [0, 1], melanggar asumsi normalitas, dan menghasilkan residual heteroskedastik. Regresi logistik membatasi prediksi ke probabilitas melalui transformasi logistik, mengasumsikan distribusi kondisional binomial, dan menghasilkan residual homoskedastik. Selain itu, standard error dari regresi linier bias; regresi logistik menggunakan kemungkinan maksimum, yang menghasilkan inferensi yang benar untuk data biner. Regresi logistik dirancang khusus untuk hasil biner dan harus selalu diutamakan; regresi linier pada hasil biner adalah kesalahan umum.
Metode terkait
Sumber
Cox, D. R. (1958). The regression analysis of binary sequences. Journal of the Royal Statistical Society, Series B, 20(2), 215–242.
Buka referensi DOIDisalin.Hosmer, D. W., Lemeshow, S., & Sturdivant, R. X. (2013). Applied Logistic Regression (3rd ed.). John Wiley & Sons.
Buka referensi DOIDisalin.