Uzupełnianie wielokrotne — MICE
- Autor metody
- Donald B. Rubin
- Rok
- 1987
- Typ
- Missing-data handling procedure
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Uzupełnianie wielokrotne (MI), formalnie wprowadzone przez Donalda B. Rubina w 1987 roku, jest zasadniczą procedurą statystyczną do radzenia sobie z brakującymi danymi.
Zamiast zastępować każdą brakującą wartość jednokrotnie, MI wypełnia luki m razy — za każdym razem pobierając prawdopodobne wartości z posteriorowego rozkładu predykcyjnego brakujących danych — tworząc m kompletnych zbiorów danych. Każdy zbiór danych jest analizowany niezależnie, a wyniki są łączone w jeden zestaw estymatorów przy użyciu reguł łączenia Rubina. Wariant MICE (Multivariate Imputation by Chained Equations), spopularyzowany przez van Buurena i Groothuis-Oudshoorn (2011), rozszerza podejście na zmienne mieszanych typów poprzez uzupełnianie każdej zmiennej po kolei za pomocą sekwencji warunkowych modeli regresyjnych.
Intuicja stojąca za metodą
Proszę myśleć o brakujących wartościach jak o pustych polach w ankiecie. Zamiast zgadywać raz i mieć nadzieję na najlepsze, uzupełnianie wielokrotne dokonuje m wykształconych zgadywań — każde nieco inne, odzwierciedlające rzeczywistą niepewność co do tego, jaka mogła być prawdziwa wartość. Rozrzut tych zgadywań przenosi niepewność dalej do analizy, dzięki czemu ostateczne błędy standardowe są uczciwe, a nie sztucznie wąskie. Gdybyś zgadywał tylko raz, udawałbyś, że wiesz więcej, niż w rzeczywistości wiedziałeś; zgadując m razy i łącząc wyniki, niepewność wynikająca z braków danych jest zachowana w raportowanych estymatorach.
Historia
Formalne ramy statystyczne dla uzupełniania wielokrotnego zostały opracowane przez Donalda B. Rubina i zaprezentowane w jego monografii z 1987 roku Multiple Imputation for Nonresponse in Surveys. Rubin wyprowadził reguły łączenia — obecnie powszechnie nazywane regułami Rubina — które łączą estymatory z uzupełnionych zbiorów danych w sposób prawidłowo uwzględniający niepewność wprowadzoną przez braki danych. Podejście zyskało praktyczne znaczenie wraz z rozwojem algorytmu MICE, który rozszerza ramy Rubina na zbiory danych ze zmiennymi mieszanych typów poprzez uzupełnianie każdej zmiennej sekwencyjnie za pomocą łańcucha modeli warunkowych. Przełomowe oprogramowanie mice dla R, opublikowane przez van Buurena i Groothuis-Oudshoorn w Journal of Statistical Software w 2011 roku, udostępniło metodę stosującym ją badaczom z różnych dziedzin i ustanowiło MICE jako dominującą strategię implementacji.
Kiedy stosować
Uzupełnianie wielokrotne jest odpowiednie, gdy zbiór danych zawiera brakujące wartości, a mechanizm braków danych jest prawdopodobnie MAR lub MCAR. Ma zastosowanie do zmiennych ciągłych, kategorycznych, binarnych, porządkowych i mieszanych typów oraz pasuje do struktur danych przekrojowych, podłużnych i panelowych. Wymagany jest minimalny rozmiar próby około 30. Metoda nadaje się do celów badawczych opisowych, predykcyjnych i relacyjnych. Gdy braki danych są MNAR, standardowe uzupełnianie wielokrotne jest niewystarczające i musi być uzupełnione analizą wrażliwości lub modelem selekcji. Usunięcie listowe (analiza kompletnych przypadków) jest dopuszczalne tylko wtedy, gdy dane są MCAR, a odsetek brakujących danych jest bardzo mały; w przeciwnym razie MI jest preferowanym podejściem.
Ograniczenia i uwagi
- Wymaga założenia MAR lub MCAR; nie może skorygować braków MNAR bez dodatkowego modelowania.
- Bardziej wymagający obliczeniowo niż uzupełnianie pojedyncze lub usunięcie listowe, szczególnie przy dużym m lub dużych zbiorach danych.
- Jakość uzupełnionych wartości zależy od modelu uzupełniania — pominięcie silnych predyktorów braków danych z modelu uzupełniania obciąża wyniki.
- Przy wysokich odsetkach brakujących danych (powyżej ~50%), nawet poprawnie określone uzupełnianie wielokrotne może dawać szerokie przedziały ufności.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Generuje nieobciążone estymatory w warunkach MAR, w przeciwieństwie do usunięcia listowego, które wymaga silniejszego założenia MCAR.
- Propaguje niepewność wynikającą z braków danych do błędów standardowych i przedziałów ufności za pomocą reguł łączenia Rubina, unikając fałszywej precyzji uzupełniania pojedynczego.
- Obsługuje mieszane typy zmiennych — ciągłe, binarne, porządkowe, nominalne — w ramach tego samego frameworku MICE.
- Kompatybilny z praktycznie każdym modelem analizy końcowej, nie wymagając modyfikacji zamierzonej analizy.
- Dobrze wspierany w standardowym oprogramowaniu statystycznym (R mice, SPSS MULTIPLE IMPUTATION, Python IterativeImputer / miceforest).
Zastosowania
- Radzenie sobie z brakiem odpowiedzi na pozycje w dużych, wielkoskalowych zbiorach danych ankietowych w naukach społecznych i zdrowotnych.
- Przygotowanie danych z prób klinicznych do analizy, gdy brakuje pomiarów kontrolnych.
- Badania podłużne i panelowe, w których uczestnicy rezygnują z udziału w czasie.
- Modelowanie ekonometryczne z wykorzystaniem danych administracyjnych, które mają niekompletne pola.
- Krok wstępnego przetwarzania w dowolnym potoku analizy, gdzie modele końcowe wymagają kompletnych danych.
Jak to działa
Jak to działa
Przed uzupełnieniem analizuje się wzorzec braków danych, aby ocenić, czy mechanizm jest prawdopodobnie Brakujący Całkowicie Losowo (MCAR) czy Brakujący Losowo (MAR). MCAR oznacza, że prawdopodobieństwo braku danych nie zależy od żadnych obserwowanych ani nieobserwowanych danych. MAR oznacza, że może zależeć od obserwowanych wartości, ale nie od samych nieobserwowanych brakujących wartości. Jeśli mechanizm jest Brakujący Nie-Losowo (MNAR) — gdzie prawdopodobieństwo braku wartości zależy od samej tej wartości — proste uzupełnianie wielokrotne nie jest wystarczające i wymagana jest analiza wrażliwości. Odsetek brakujących danych informuje, ile uzupełnionych zbiorów danych m jest potrzebnych; powszechną wytyczną jest m ≥ 100 × (odsetek braków).
Algorytm MICE cyklicznie przechodzi przez każdą niekompletną zmienną i dopasowuje model regresyjny przewidujący tę zmienną na podstawie wszystkich innych (w tym wcześniej uzupełnionych wartości). Losowanie z posterioru tego modelu jest używane do wypełnienia brakujących wpisów. Cykl powtarza się dla wszystkich niekompletnych zmiennych i jest iterowany, aż rozkłady uzupełnione ustabilizują się — zazwyczaj 50 lub więcej iteracji. Tworzy to jeden kompletny zbiór danych. Cały proces jest powtarzany od zera m razy z różnymi ziarnami losowymi, dając m niezależnie uzupełnionych kompletnych zbiorów danych. Wybór modelu uzupełniania (dopasowanie średniej predykcyjnej, regresja logistyczna, drzewa klasyfikacyjne itp.) zależy od typu zmiennej: ciągłej, binarnej, porządkowej czy nominalnej.
Każdy z m kompletnych zbiorów danych jest analizowany za pomocą dowolnego modelu statystycznego, który badacz pierwotnie zamierzał — regresji, ANOVA, modelowania równań strukturalnych i tak dalej. Ten krok generuje m zestawów estymatorów parametrów i błędów standardowych, wszystkie nieco inne, ponieważ m zbiorów danych różni się sposobem wypełnienia brakujących wartości.
m zestawów estymatorów jest łączonych w jeden zestaw przy użyciu reguł Rubina. Połączony estymator punktowy jest średnią arytmetyczną m indywidualnych estymatorów. Połączona wariancja ma dwa składniki: średnią wariancję wewnątrzuzupełnieniową (którą dałaby analiza przy braku braków danych) i wariancję międzyuzupełnieniową (dodatkową niepewność wynikającą z nieznajomości brakujących wartości). Stosunek wariancji międzyuzupełnieniowej do całkowitej jest odsetkiem brakujących informacji, użytecznym diagnostykiem. Stopnie swobody są odpowiednio dostosowywane. Wynikiem jest pojedyncza tabela estymatorów i przedziałów ufności, która uczciwie odzwierciedla zarówno zmienność próby, jak i niepewność wynikającą z braków danych.
Częste pułapki
- Ustawienie m zbyt niskiego — powszechna zasada kciuka to m ≥ 5, ale przy nie-trywialnych odsetkach braków znacznie wyższe m (np. m ≥ 100 × odsetek braków) jest potrzebne do uzyskania stabilnych, powtarzalnych estymatorów.
- Pominięcie zmiennej zależnej lub innych ważnych predyktorów z modelu uzupełniania prowadzi do obciążonych uzupełnień; model uzupełniania musi być co najmniej tak bogaty jak model analizy.
- Zastosowanie uzupełniania wielokrotnego, gdy mechanizm jest MNAR, bez dodatkowej analizy wrażliwości daje wyniki, które wydają się poprawne, ale mogą być znacznie obciążone.
- Łączenie wyników za pomocą reguł Rubina zakłada, że model analizy jest taki sam dla wszystkich m zbiorów danych i że sprawdzono zbieżność algorytmu MICE — należy sprawdzić wykresy śledzenia średnich i wariancji uzupełnionych, aby zweryfikować zbieżność.
Najczęściej zadawane pytania
Ile uzupełnionych zbiorów danych (m) potrzebuję?
Tradycyjne minimum m = 5 jest często zbyt niskie. Szeroko cytowaną praktyczną wytyczną jest m ≥ 100 × (odsetek brakujących danych wyrażony w procentach), tak że 10% braków danych wymaga co najmniej m = 10, a 30% braków danych wymaga co najmniej m = 30. Wyższe m zmniejsza błąd Monte Carlo w połączonych estymatorach i jest szczególnie ważne dla powtarzalności.
Jaka jest różnica między MCAR, MAR i MNAR?
MCAR (Missing Completely At Random) oznacza, że prawdopodobieństwo braku wartości jest niezwiązane z żadnymi danymi, obserwowanymi lub nieobserwowanymi — dane brakuje z czystego przypadku. MAR (Missing At Random) oznacza, że prawdopodobieństwo braku danych może zależeć od obserwowanych wartości, ale nie od samej nieobserwowanej brakującej wartości — po uwarunkowaniu na to, co zaobserwowaliśmy, braki danych są losowe. MNAR (Missing Not At Random) oznacza, że prawdopodobieństwo braku danych zależy od samej brakującej wartości. Uzupełnianie wielokrotne jest poprawne w warunkach MCAR i MAR; w warunkach MNAR można je nadal stosować, ale musi być uzupełnione analizą wrażliwości.
Czy uzupełnianie wielokrotne tworzy prawdziwe dane?
Nie. Uzupełnianie wielokrotne tworzy prawdopodobne wartości pobrane z modelu rozkładu brakujących danych; nie są to prawdziwe brakujące wartości. Celem metody nie jest odzyskanie oryginalnych danych, ale wygenerowanie estymatorów i błędów standardowych dla modelu analizy, które prawidłowo uwzględniają niepewność wprowadzoną przez braki danych.
Czy mogę używać uzupełniania wielokrotnego ze zmiennymi kategorycznymi lub porządkowymi?
Tak. Framework MICE obsługuje mieszane typy zmiennych poprzez dopasowanie warunkowego modelu odpowiedniego dla danego typu dla każdej zmiennej: dopasowanie średniej predykcyjnej lub regresja liniowa dla zmiennych ciągłych, regresja logistyczna dla zmiennych binarnych, regresja logistyczna wielomianowa lub regresja porządkowa dla zmiennych nominalnych lub porządkowych, oraz drzewa klasyfikacyjne i regresyjne jako elastyczna opcja nieparametryczna. Każda zmienna jest uzupełniana po kolei przy użyciu modeli odpowiednich dla jej typu.
Pokrewne metody
Źródła
Rubin, D.B. (1987). Multiple Imputation for Nonresponse in Surveys. Wiley.
Otwórz odnośnik DOISkopiowano.van Buuren, S. & Groothuis-Oudshoorn, K. (2011). mice: Multivariate Imputation by Chained Equations in R. Journal of Statistical Software, 45(3), 1–67.
Otwórz odnośnik do publikacjiSkopiowano.