İçeriğe atla
Arama sonuçlarına dön

Çoklu Regresyon Analizi

Ortaya koyan
Carl Friedrich Gauss
Yıl
1801
Tür
Method
Aile
predictive-modeling

Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku

Yazı boyutu

Ne işe yarar?

Çoklu regresyon analizi, sürekli bir bağımlı değişken ile iki veya daha fazla bağımsız değişken (yordayıcı) arasındaki ilişkiyi modellemek için kullanılan istatistiksel bir yöntemdir. 19. yüzyılın başlarındaki Gauss'un çalışmalarından köken alan ve Draper ve Smith (1966) tarafından biçimlendirilen bu yöntem, birden fazla yordayıcıdan elde edilen sonuçları tahmin eden doğrusal denklemleri, karıştırıcı ilişkileri hesaba katarak tahmin eder ve bu da onu epidemiyoloji, ekonomi, psikoloji ve klinik araştırmalarda vazgeçilmez kılar.

Yöntemin mantığı

Çoklu regresyon, basit iki değişkenli korelasyonu, birden fazla yordayıcının bir sonucu nasıl etkilediğini eş zamanlı olarak incelemek üzere genişletir. Ham ilişkilere bakmak yerine, regresyon, diğerlerini sabit tutarak (deneysel kontrol gibi) her bir yordayıcının benzersiz katkısını izole eder. Doğrusal model, sonucun yordayıcıların ağırlıklı bir kombinasyonu olduğunu varsayar: Y = b₀ + b₁X₁ + b₂X₂ + ... + bₚXₚ + ε. Katsayılar (b), diğer yordayıcılar dikkate alındığında X'teki birim artış başına Y'deki değişimi temsil eder. Bu, araştırmacıların hangi yordayıcıların en önemli olduğunu belirlemelerine, karıştırıcı değişkenleri kontrol etmelerine ve yeni gözlemler için tahminler yapmalarına olanak tanır.

Tarih

Carl Friedrich Gauss, en küçük kareler yöntemini 1801'de astronomik tahmin için geliştirdi. Karl Pearson ve önceki istatistikçiler, doğrusal regresyonu biyolojik verilere uyguladılar (Francis Galton, 1886). Norman Draper ve Harry Smith'in 1966 tarihli Uygulamalı Regresyon Analizi ders kitabı, çoklu regresyon metodolojisini standartlaştırdı. 1980'ler-90'lardaki hesaplama devrimi, yazılımlarda yaygın erişim sağladı. Modern uzantılar arasında düzenlileştirme (ridge, lasso, elastic net; Tibshirani, 1996), sağlam yöntemler ve nedensel çıkarım çerçeveleri (eğilim puanları, araç değişkenler) bulunur.

Ne zaman kullanılır?

Sürekli bir sonuç ve birden fazla yordayıcınız olduğunda, karıştırıcıları dikkate alarak ilişkilerini anlamak için çoklu regresyon kullanın. Yaygın uygulamalar: klinik değişkenlerden hasta sonuçlarını tahmin etmek, ekonomik göstergeleri yönlendiren faktörleri anlamak, demografik özellikleri kontrol ederken tedavi etkisini tahmin etmek, öğrenci özelliklerinden eğitim başarısını modellemek. Regresyon, örneklem büyüklüklerinin deneysel rastgeleleştirmeyi (gözlemsel çalışmalar) engellediği durumlarda da idealdir. Kategorik sonuçlar için lojistik veya çok değişkenli regresyon kullanın. Kümelenmiş veriler için (okullardaki öğrenciler) çok düzeyli regresyon kullanın. Eksik veriler için önceden çoklu atama düşünün.

Sınırlar ve dikkat edilmesi gerekenler

  • Doğrusal ilişkileri varsayar; açıkça dönüşüm veya polinom terimleri aracılığıyla modellenmedikçe eğrisel veya eşik etkilerini kaçırır.
  • Çoklu doğrusallığa duyarlıdır: yüksek oranda ilişkili yordayıcılar kararsız, yorumlanması zor katsayılar üretir. VIF > 10 sorunludur; çözüm yordayıcıları, ana bileşenleri veya ridge regresyonunu kaldırmayı içerir.
  • Aykırı değerler ve etkili noktalar tahminleri ve uyumu orantısız şekilde etkileyebilir; sağlam regresyon yöntemleri (Huber, M-tahmincileri) bunu ele alır.
  • Sabit varyansı (homoskedastisite) varsayar; heteroskedastik veriler ağırlıklı en küçük kareler veya sağlam standart hata ayarlamaları gerektirir.
  • İstatistiksel anlamlılık nedensel değildir: ilişkinin gerçek etkiyi mi yoksa ölçülmemiş karıştırıcıları mı yansıttığını ayırt edemez; güçlü teorik gerekçelendirme gerektirir.

Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.

Güçlü yönleri

  • Karmaşık ilişkileri ayırmada güçlüdür: gözlemsel verilerde deneysel kontrolü simüle ederek, diğerlerini kontrol ederken her bir yordayıcının benzersiz etkisini tahmin eder.
  • Esnektir: sürekli ve kategorik yordayıcıları, etkileşimleri, polinom terimlerini barındırır ve doğrusal olmayan ilişkilere genişletilebilir.
  • Yorumlanabilirdir: katsayılar, sonuçtaki birim değişimi doğrudan temsil eder, bu da sonuçları klinisyenler ve politika yapıcılar için eyleme geçirilebilir hale getirir.
  • Tahmin: uyumlandırılmış model, güven aralıklarıyla yeni gözlemler için tahminler üretir, bu da pratik uygulamalara (risk sınıflandırması, tahmin) olanak tanır.
  • Kapsamlı tanı araçları mevcuttur: standartlaştırılmış artıklar, kaldıraç grafikleri ve etki ölçümleri model ihlallerini belirlemeye ve ele almaya yardımcı olur.

Uygulama alanları

  • Klinik tahmin: hasta demografisi, komorbiditeler ve tedavi faktörlerinden hastaneye yeniden yatış riskini modelleme; taburculuk planlaması ve müdahaleleri bilgilendirme.
  • Epidemiyolojik çalışmalar: yaş, cinsiyet, sosyoekonomik durum karıştırıcılarını dikkate alarak hastalıkların maruziyetlerle (sigara, diyet) ilişkilerini tahmin etme.
  • Eğitim araştırmaları: lise GPA, test puanları ve sosyoekonomik değişkenlerden üniversite mezuniyetini tahmin etme; hangi faktörlerin en önemli olduğunu belirleme.
  • Emlak ve ekonomi: metrekare, konum, yaş, mahalle özelliklerinden emlak fiyatlarını tahmin etme; konut piyasası trendlerini analiz etme.
  • Kalite iyileştirme ve üretim: operasyonları optimize etmek için süreç parametrelerinden (sıcaklık, basınç, malzemeler) ürün arıza oranlarını modelleme.

Nasıl çalışır?

Nasıl çalışır?

1

Çoklu regresyonu uygulamak için öncelikle, tüm parametreleri tahmin etmek için yeterince büyük bir örneklemden (genellikle n > 10p, burada p yordayıcı sayısıdır; yeterli güç için ideal olarak n > 50) sürekli sonuç verisi ve sürekli veya kategorik yordayıcı değişkenler toplayın. Tüm değişkenleri minimum eksik veriyle kaydedin (eksikliğin rastgele olduğunu doğrulayın). Veri odaklı model seçiminden kaçınmak için analizden önce sonucunuzu (bağımlı değişken) ve yordayıcıları (bağımsız değişkenler) tanımlayın. Katsayıları ölçekler arasında karşılaştırmak istiyorsanız sürekli yordayıcıları standardize edin (ortalamayı çıkarın, SD'ye bölün); bu yorumlamayı kolaylaştırır ve çoklu doğrusallığı azaltır. Kategorik yordayıcıları kukla kodlama (k kategori için k−1 gösterge) veya karşılaştırma kodlaması kullanarak kodlayın.

2

Regresyon katsayılarını en küçük kareler (OLS) yöntemiyle tahmin edin: artıkların kareleri toplamını (SSE = Σ(y_i − ŷ_i)²) en aza indirin. Yazılımlar (R, Python, SPSS, SAS) katsayı vektörünü b = (X'X)⁻¹X'y hesaplar. Raporlayın: (1) Kesişim (b₀): tüm X=0 iken tahmin edilen Y. (2) Eğim katsayıları (b₁, b₂, ...): diğer yordayıcılar dikkate alındığında X başına Y'deki değişim. (3) Standart hatalar (SE) ve t-istatistikleri: t = b/SE, katsayının sıfırdan farklı olup olmadığını test eder. (4) Güven aralıkları (95% CI): tipik olarak b ± 1.96×SE. (5) R²: yordayıcılar tarafından açıklanan Y varyansının oranı (0 ila 1). (6) Ayarlanmış R²: model karmaşıklığını cezalandırır. (7) Varyans Büyütme Faktörü (VIF): çoklu doğrusallığı teşhis eder; VIF > 10 sorunlu yordayıcı korelasyonunu gösterir. (8) Durbin-Watson istatistiği: artık otokorelasyonu test eder.

3

Katsayıları şu şekilde yorumlayın: yordayıcı X_i'deki bir birimlik artış için, diğer tüm yordayıcılar sabit tutulduğunda, sonuç b_i birim artar. Katsayı p < 0.05 ise, yordayıcının istatistiksel olarak anlamlı olduğu sonucuna varın. R² ve Ayarlanmış R², genel model uyumunu özetler: daha muhafazakar bir tahmin için ayarlanmış R²'yi raporlayın. Artık grafiklerini inceleyerek varsayımları kontrol edin: (1) Doğrusallık: tahmin edilen değerlere karşı artıkların saçılım grafiği herhangi bir desen göstermemelidir. (2) Normallik: standartlaştırılmış artıkların Q-Q grafiği diyagonal çizgiyi takip etmelidir. (3) Homoskedastisite: artıklar, uyumlandırılmış değerler boyunca sabit bir varyansa sahip olmalıdır (Breusch-Pagan testi). (4) Bağımsızlık: Durbin-Watson ≈ 2, otokorelasyon olmadığını gösterir. İhlal desenlerinin varlığı, modelin yanlış belirtildiğini gösterir; dönüşüm (log Y), etkileşim ekleme veya polinom terimleri düşünün. Aykırı değerleri belirlemek için regresyon tanısal grafikleri ve kaldıraç/etki ölçümlerini (Cook'un mesafesi, DFFITS) kullanın.

Sık yapılan hatalar

  • Veri odaklı model seçimi (basamaklı, ileri, geri seçim): şans faktöründen yararlanır, Tip I hatayı artırır, kararsız katsayılar üretir. Teori odaklı model belirlemesini tercih edin.
  • Çoklu doğrusallığı göz ardı etme: korelasyon matrisini kontrol etmek yeterli değildir; her bir yordayıcı için VIF'yi hesaplayın. VIF > 5–10 eylem gerektirir.
  • Aşırı uyum: çok fazla yordayıcı eklemek genelleştirmeyi azaltır ve R²'yi artırır. Gerçek tahmin gücünü değerlendirmek için ayarlanmış R² veya çapraz doğrulama kullanın.
  • Rastgeleleştirme olmadan regresyon katsayılarını nedensel olarak yorumlama: karıştırma, ters nedensellik ve seçim yanlılığı geçerliliği tehdit eder.
  • Artık varsayımlarını kontrol etmeme: normal olmayan artıklar, heteroskedastisite ve otokorelasyon standart hataları artırır veya tahminleri yanlı hale getirir.
  • Kümelenmiş verilerle (örn. hastanelerdeki hastalar) ayarlanmamış standart hataları kullanmak, çok dar güven aralıklarına yol açar; çok düzeyli veya sandviç tahmincileri gerektirir.

Sık sorulan sorular

Yordayıcıları ne zaman standardize etmeliyim ve bu yorumlamayı nasıl etkiler?

Sürekli yordayıcıları (z-skoru: ortalamayı çıkarın, standart sapmaya bölün) şu durumlarda standardize edin: (1) yordayıcılar çok farklı ölçeklerdeyse ve katsayıların büyüklüğünü karşılaştırmak istiyorsanız veya (2) çoklu doğrusallığı azaltmanız gerekiyorsa. Standartlaştırılmış katsayılar standart sapma birimlerindedir: 0.5 katsayısı, yordayıcıdaki 1-SD'lik bir artışın sonuçta 0.5-SD'lik bir artış tahmin ettiği anlamına gelir. Ham (standartlaştırılmamış) katsayılar orijinal birimleri korur ve genellikle pratik yorumlamayı kolaylaştırır. Her zaman her ikisini de raporlayın ve hangisini raporladığınızı belirtin.

R² ile ayarlanmış R² arasındaki fark nedir?

R² = 1 − (SSE/SS_toplam), model tarafından açıklanan sonuç varyansının oranını temsil eder. Gerçek bir etkileri olmasa bile, yordayıcılar eklendiğinde her zaman artar. Ayarlanmış R² = 1 − [(1 − R²)(n − 1)/(n − p − 1)], serbestlik derecesi kaybını (p yordayıcı sayısı, n örneklem büyüklüğü) cezalandırarak model karmaşıklığını cezalandırır. Model seçimi ve gerçek tahmin gücünün değerlendirilmesi için ayarlanmış R²'yi kullanın; yeni bir yordayıcı maliyetinden (bir parametre) daha az bilgi eklerse azalır. Her ikisini de raporlayın.

Modelde başka değişkenler varken anlamlı olmayan bir katsayıyı nasıl yorumlarım?

Anlamlı olmayan bir katsayı (p > 0.05), diğer değişkenler sabit tutulduğunda bu yordayıcının sonuçla ilişkili olduğuna dair yeterli kanıt olmadığını gösterir. Bu, yordayıcının etkisi olmadığı, diğer yordayıcılar tarafından karıştırıldığı (çoklu doğrusallık) veya örneklem büyüklüğünün çok küçük olduğu anlamına gelebilir. Güven aralığını ve VIF'yi kontrol edin. Güven aralığı geniş ve VIF yüksekse, çoklu doğrusallık olasıdır. Yordayıcı teorik olarak önemliyse, hassasiyet analizi olarak %90 CI ile raporlamayı düşünün. Yalnızca p-değerlerine göre yordayıcıları düşürmeyin; alan bilgisini kullanın.

Artıklar normal dağılmıyorsa ne yapmalıyım?

Büyük örneklemlerde regresyonun sağlamlığı nedeniyle hafif normal olmama durumu genellikle kabul edilebilir; n < 30 olduğunda artıkların normalliği kritik hale gelir. Q-Q grafiğini görsel olarak kontrol edin ve Shapiro-Wilk testini yapın. Normal değilse, şunları düşünün: (1) sonucun logaritmik veya karekök dönüşümü, (2) eksik yordayıcılar veya etkileşimler ekleme, (3) sağlam regresyon (Huber, bisquare) uydurma veya (4) bootstrap güven aralıkları kullanma. Aşırı aykırı değerler araştırılmalıdır; veri giriş hatası nedeniyle ise kaldırın, aksi takdirde sonuçları aykırı değerlerle ve onlarsız raporlayın.

İlgili yöntemler

Kaynaklar

  1. Draper, N. R., & Smith, H. (1966). Applied Regression Analysis. John Wiley & Sons.

    Yayın kaynağını aç
    Kopyalandı.
  2. Cohen, J., Cohen, P., West, S. G., & Aiken, L. S. (1992). Applied Multiple Regression/Correlation Analysis for the Behavioral Sciences (2nd ed.). Lawrence Erlbaum.

    Yayın kaynağını aç
    Kopyalandı.
  3. Marquardt, D. W. (1980). You should standardize the independent variables in your regression models. Discussion of a paper by G. David Knottnerus. Journal of the American Statistical Association, 75(369), 87–91.

    Yayın kaynağını aç
    Kopyalandı.