Przejdź do treści
Wróć do wyników wyszukiwania

Generowanie danych syntetycznych na potrzeby kontroli ujawnień

Autor metody
Donald Rubin
Rok
1993
Typ
Privacy-preserving data synthesis
Rodzina
Privacy-preserving analysis

Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku

Rozmiar czcionki

Do czego służy?

Generowanie danych syntetycznych jest techniką statystycznego ograniczania ujawnień, wprowadzoną przez Donalda Rubina w 1993 roku, w której wartości w poufnym zbiorze danych są zastępowane przez próbki z dopasowanego rozkładu predykcyjnego a posteriori, zamiast być udostępnianymi bezpośrednio.

Powstałe sztuczne rekordy zachowują łączną strukturę statystyczną oryginalnych danych, jednocześnie zapobiegając identyfikacji rzeczywistych osób, co umożliwia analitykom pracę z publicznie udostępnianym zbiorem danych, który dla większości celów wnioskowania zachowuje się podobnie jak oryginał.

Intuicja stojąca za metodą

Wyobraźmy sobie rzeźbiarza, który zamiast pożyczać nam bezcenną oryginalną rzeźbę, wręcza nam doskonały odlew gipsowy wykonany z tej samej formy. Możemy mierzyć każdy wymiar, badać rozkład ciężaru i analizować proporcje bez ryzyka dla oryginału. Dane syntetyczne działają w ten sam sposób: model uczy się „kształtu” rzeczywistych danych i generuje sztuczne rekordy o tym samym kształcie, dzięki czemu badacze otrzymują analitycznie użyteczny materiał, podczas gdy osoby stojące za rekordami pozostają ukryte.

Historia

Donald Rubin zaproponował generowanie danych syntetycznych w artykule dyskusyjnym z 1993 roku na temat statystycznego ograniczania ujawnień, adaptując ramy wielokrotnej imputacji, które opracował dla brakujących danych w latach 70. i 80. XX wieku. Roderick Little krótko po tym rozwinął teorię, rozróżniając podejścia w pełni syntetyczne i częściowo syntetyczne. W latach 2000. Biuro Spisu Ludności Stanów Zjednoczonych przeprowadziło pilotażowe udostępnianie syntetycznych plików publicznych dla kilku badań. Wzrost popularności generatywnych sieci przeciwstawnych (GAN) i autoenkoderów wariacyjnych po 2014 roku znacznie poszerzył zestaw narzędzi, czyniąc syntezatory głębokiego uczenia praktycznymi dla złożonych danych tabelarycznych i podłużnych.

Kiedy stosować

Należy stosować generowanie danych syntetycznych, gdy zbiór danych zawiera wrażliwe informacje osobiste lub poufne informacje handlowe, które z przyczyn prawnych lub etycznych nie mogą być udostępniane w oryginalnej formie, jednak udostępnienie pewnej wersji danych przyniosłoby korzyści badaniom lub analizie polityki. Jest to technika dobrze dopasowana do dużych, złożonych plików mikrodanych, gdzie proste techniki maskowania zniszczyłyby użyteczność analityczną. Kluczowe założenia to, że model syntezy uchwytuje istotny łączny rozkład danych, a zamierzone analizy są zgodne z tym, do czego syntezator został zaprojektowany. Jest to technika źle dopasowana, gdy pytanie badawcze zależy od autentyczności rekordów na poziomie indywidualnym, gdy model syntezy jest źle specyfikowany, lub gdy ataki polegające na ponownej identyfikacji, wykorzystujące subtelne artefakty rozkładu, stanowią poważne zmartwienie. Alternatywy obejmują prywatność różnicową, enklawy danych i systemy dostępu oparte na zapytaniach.

Ograniczenia i uwagi

  • Ważność wnioskowania krytycznie zależy od poprawnej specyfikacji modelu syntezy; źle specyfikowany model generuje dane syntetyczne o tendencyjnych rozkładach, które wprowadzają analityków w błąd.
  • Reguły łączenia wymagają wiedzy o tym, czy dane są w pełni czy częściowo syntetyczne i ile replik wyprodukowano, szczegóły te muszą towarzyszyć udostępnieniu danych.
  • Generowanie danych syntetycznych o wysokiej wierności dla zmiennych o ekstremalnym skośności, rzadkich kategoriach lub złożonych strukturach hierarchicznych pozostaje technicznie wymagające.
  • Ataki polegające na wnioskowaniu o przynależności i ujawnianiu atrybutów wykazały, że zbiory danych syntetycznych nie są bezwarunkowo prywatne; formalne gwarancje prywatności wymagają dodatkowych mechanizmów, takich jak prywatność różnicowa.

Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.

Mocne strony

  • Udostępnia w pełni samodzielny zbiór danych, który analitycy mogą wykorzystywać ze standardowym oprogramowaniem i przepływami pracy, bez potrzeby specjalnej infrastruktury.
  • Oparta na rygorystycznych bayesowskich ramach wielokrotnej imputacji, zapewniająca poprawne oszacowanie wariancji przy prawidłowym zastosowaniu reguł łączenia.
  • Może odtwarzać złożone zależności wielowymiarowe, rzadkie rozkłady podgrup i struktury podłużne, które proste metody maskowania zniekształcają.
  • Skaluje się naturalnie do mikro danych o wysokiej wymiarowości i może uwzględniać dodatkowe publiczne dane w celu poprawy wierności syntezatora.

Zastosowania

  • Krajowe agencje statystyczne udostępniające publiczne pliki mikro danych z spisów powszechnych i badań gospodarstw domowych, jednocześnie chroniąc tożsamość respondentów.
  • Systemy opieki zdrowotnej udostępniające dane pacjentów do badań epidemiologicznych bez ujawniania chronionych informacji zdrowotnych zgodnie z HIPAA lub RODO.
  • Instytucje finansowe tworzące syntetyczne zbiory danych transakcyjnych do opracowywania modeli wykrywania oszustw i ćwiczeń odpornościowych na potrzeby regulacyjne.
  • Archiwa danych nauk społecznych uzupełniające ograniczone badania podłużne o syntetyczne zbiory danych dydaktycznych do nauczania w klasie.
  • Firmy technologiczne generujące syntetyczne dzienniki zachowań użytkowników do trenowania i testowania modeli uczenia maszynowego, gdy rzeczywiste dzienniki są zbyt wrażliwe, aby ich użyć bezpośrednio.

Jak to działa

Jak to działa

1

Model generatywny – od parametrycznych modeli bayesowskich po regresję sekwencyjną lub głębokie sieci generatywne – jest dopasowywany do poufnego, oryginalnego zbioru danych. Celem jest uchwycenie pełnego łącznego rozkładu wszystkich zmiennych, w tym ich korelacji i charakterystyk brzegowych, tak aby syntezator kodował wszystko, czego analityk potrzebowałby do wnioskowania w dalszych etapach.

Wzór
p(X_{\text{synth}} \mid X_{\text{obs}}) = \int p(X_{\text{synth}} \mid \theta)\, p(\theta \mid X_{\text{obs}})\, d\theta
2

Zamiast używać pojedynczego oszacowania punktowego parametrów modelu, procedura syntezy pobiera nową próbkę wektora parametrów z rozkładu a posteriori, biorąc pod uwagę zaobserwowane dane. Ten bayesowski krok propaguje niepewność parametrów do każdej syntetycznej repliki, zapobiegając nadmiernie pewnym wnioskom i formalnie zgodny z teorią wielokrotnej imputacji Rubina.

Wzór
\theta^{*} \sim p(\theta \mid X_{\text{obs}})
3

Używając pobranego wektora parametrów, symulowany jest całkowicie nowy zbiór danych o tych samych wymiarach co oryginał. Krok ten jest powtarzany M razy (zazwyczaj M = 5–20), aby wygenerować M niezależnych syntetycznych replik, z których każda odzwierciedla inny losowy wybór z rozkładu a posteriori, a tym samym odzwierciedla pełną niepewność przypisywaną zarówno zmienności próbkowania, jak i estymacji parametrów.

Wzór
X_{\text{synth}}^{(m)} \sim p(X \mid \theta^{*}), \quad m = 1, \ldots, M
4

Analitycy uruchamiają swoją procedurę statystyczną na każdym z M syntetycznych zbiorów danych, uzyskując M oszacowań punktowych i oszacowań wariancji. Są one łączone za pomocą reguł łączenia Rubina: ogólne oszacowanie jest średnią z M oszacowań, a całkowita wariancja dodaje wariancję wewnątrz-replikacyjną do składnika między-replikacyjnego, skalowanego przez (M+1)/M, co daje poprawne przedziały ufności i testy hipotez w ujęciu częstościowym.

Wzór
\bar{Q} = \frac{1}{M} \sum_{m=1}^{M} \hat{Q}^{(m)}, \quad T = \frac{1}{M}\sum_{m=1}^{M} U^{(m)} + \frac{M+1}{M} B_M

Częste pułapki

  • Udostępnienie tylko jednej syntetycznej repliki (M = 1) unieważnia ramy reguł łączenia i prowadzi do nadmiernie pewnych błędów standardowych.
  • Dopasowanie modelu syntezy do niereprezentatywnej podpróbki, a następnie generowanie syntetycznych rekordów w skali populacji, wprowadza systematyczne błędy, których analitycy mogą nie wykryć.
  • Traktowanie danych syntetycznych jako doskonałego substytutu rzeczywistych danych w analizach wymagających indywidualnej autentyczności – takich jak powiązanie rekordów czy mikrotargetowanie geograficzne – prowadzi do zasadniczo błędnych wniosków.
  • Pominięcie rzadkich, ale analitycznie ważnych podgrup z modelu syntezy może spowodować, że te grupy będą nieobecne lub poważnie zniekształcone w wynikach syntetycznych.

Najczęściej zadawane pytania

Ile syntetycznych replik (M) potrzebuję?

Reguły łączenia Rubina wymagają co najmniej M = 2 replik do oszacowania wariancji między replikami. W praktyce standardem jest M = 5 do 20: mniejsze M zawyża oszacowania wariancji i zmniejsza moc statystyczną, podczas gdy bardzo duże M daje malejące korzyści. Optymalny wybór zależy od tego, jaka część całkowitej wariancji jest przypisywana niepewności syntezy w stosunku do zmienności próbkowania wewnątrz replik.

Czy dane syntetyczne to to samo co dane zanonimizowane zgodnie z RODO?

Regulatorzy generalnie podchodzą ostrożnie do danych syntetycznych. Jeśli model syntezy zapamięta lub blisko aproksymuje indywidualne rekordy, wynik może być nadal uważany za dane osobowe. Prawdziwa anonimizacja zgodnie z RODO wymaga, aby ponowna identyfikacja była rozsądnie niemożliwa; dane syntetyczne spełniają ten wymóg tylko wtedy, gdy wykazano udowodnione niskie ryzyko wnioskowania o przynależności, często poprzez formalne gwarancje prywatności różnicowej nałożone na procedurę syntezy.

Czy mogę używać głębokich modeli generatywnych zamiast bayesowskich syntezatorów regresyjnych?

Tak. GANy, VAE i modele dyfuzyjne zostały zastosowane jako syntezatory i mogą uchwycić wysoce nieliniowe zależności, których modele parametryczne nie są w stanie uchwycić. Brakuje im jednak zasadniczej interpretacji próbkowania a posteriori, która leży u podstaw reguł łączenia Rubina, dlatego potrzebna jest dodatkowa praca, aby skwantyfikować niepewność syntezy i zapewnić, że udostępnienie M replik z GAN daje poprawne wnioski, a nie M prawie identycznych kopii tego samego rozkładu generowanego.

Pokrewne metody

Źródła

  1. Rubin, D. B. (1993). Statistical disclosure limitation. Journal of Official Statistics, 9(2), 461–468.

    Otwórz odnośnik do publikacji
    Skopiowano.