Differenzielle Privatheit
- Eingeführt von
- Cynthia Dwork
- Jahr
- 2006
- Typ
- Privacy-preserving randomized mechanism
- Familie
- Privacy-preserving analysis
Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen
Was leistet sie?
Differenzielle Privatheit ist ein mathematischer Rahmen zur Veröffentlichung statistischer Informationen über einen Datensatz, während strenge Garantien gegeben werden, dass einzelne Datensätze nicht identifiziert oder abgeleitet werden können.
Eingeführt von Cynthia Dwork im Jahr 2006, formalisiert sie Privatheit als probabilistische Grenze: Die An- oder Abwesenheit eines einzelnen Individuums im Datensatz ändert die Ausgabeverteilung um höchstens einen multiplikativen Faktor von e^ε, wobei ε die Privatsphärebudget ist, das den Kompromiss zwischen Privatsphäre und Nutzbarkeit steuert.
Die Intuition hinter der Methode
Stellen Sie sich eine Umfrage vor, bei der jeder Befragte zuerst eine Münze wirft: Kopf bedeutet, ehrlich zu antworten, Zahl bedeutet, eine zufällige Antwort zu geben. Die aggregierten Statistiken bleiben aussagekräftig, da sich die zufälligen Antworten im Aggregat aufheben, aber keine einzelne Antwort eindeutig zugeordnet werden kann. Differenzielle Privatheit verallgemeinert diese Idee – sie injiziert sorgfältig kalibrierte Rauschen in Abfrageergebnisse, so dass die Ausgabe nahezu gleich aussieht, unabhängig davon, ob die Daten einer einzelnen Person enthalten sind oder nicht, was die Mitgliedschaftsinferenz im Wesentlichen unmöglich macht.
Geschichte
Cynthia Dwork, Frank McSherry, Kobbi Nissim und Adam Smith führten die differenzielle Privatheit auf der ICALP 2006 und TCC 2006 ein, motiviert durch Angriffe, die frühere Privatsphäre-Definitionen wie k-Anonymität besiegt hatten. Dworks Formulierung lieferte die erste zusammensetzbare, gegnerunabhängige Privatsphäre-Definition. Im folgenden Jahrzehnt wurde der Rahmen mit approximativer DP (ε, δ), Rényi-differenzieller Privatheit und DP-SGD für Deep Learning erweitert. Große Technologieunternehmen übernahmen DP in Produktionssystemen für aggregierte Statistiken und Modelltraining in den 2010er Jahren.
Wann wird sie eingesetzt?
Differenzielle Privatheit ist geeignet, wenn Statistiken veröffentlicht oder Modelle des maschinellen Lernens auf sensiblen persönlichen Daten trainiert werden – wie Gesundheitsakten, Standortspuren oder Finanztransaktionen –, wo eine formale, überprüfbare Privatsphäre-Garantie erforderlich ist. Sie geht davon aus, dass der Analyst die Abfrageempfindlichkeit begrenzen und einen gewissen Genauigkeitsverlust durch Rauschen tolerieren kann. Sie ist nicht geeignet, wenn nahezu exakte Ausgaben auf individueller Ebene benötigt werden, wenn ε sehr klein sein muss und der Datensatz winzig ist, oder wenn eine nicht-interaktive Datenveröffentlichung nicht erforderlich ist. Alternativen sind k-Anonymität (schwächere Garantie) und sichere Mehrparteienberechnung (wenn Daten verteilt bleiben müssen).
Grenzen und Hinweise
- Fügt Abfrageergebnissen Rauschen hinzu, was die statistische Genauigkeit verringert – der Kompromiss wird bei Abfragen mit hoher Sensitivität oder kleinen Datensätzen gravierend.
- Das Privatsphärebudget ε entbehrt einer intuitiven absoluten Skala; die Wahl eines sinnvollen ε-Wertes erfordert Fachkenntnisse und empirische Kalibrierung.
- Naive Zusammensetzung verschlechtert die Privatsphäre bei vielen Abfragen rapide; für ML-Workloads sind fortgeschrittene Buchhalter (Rényi DP, Moments Accountant) erforderlich.
- Schützt nicht vor allen Datenschutzverletzungen: Korrelierte Attribute oder zusätzliche Datenquellen können auch unter DP noch Schlussfolgerungen zulassen.
Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.
Stärken
- Bietet eine strenge, mathematisch beweisbare Worst-Case-Privatsphäre-Garantie, unabhängig vom Hintergrundwissen des Angreifers.
- Zusammensetzbar: Theoreme zur sequenziellen und parallelen Zusammensetzung ermöglichen die Verrechnung des Privatsphärebudgets über komplexe Analyse-Pipelines hinweg.
- Immun gegen Post-Processing: Jede Funktion, die auf eine differenziell private Ausgabe angewendet wird, bleibt differenziell privat.
- Anwendbar sowohl auf interaktive Abfragebeantwortung als auch auf nicht-interaktives maschinelles Lernen (z. B. DP-SGD für neuronale Netze).
Anwendungen
- Training von differenziell privaten Modellen des maschinellen Lernens unter Verwendung von DP-SGD (z. B. Klassifikatoren für neuronale Netze auf sensiblen Gesundheits- oder Finanzdaten).
- Veröffentlichung von Mikrodaten und aggregierten Statistiken von Volkszählungen mit formalen Privatsphäre-Garantien für nationale statistische Ämter.
- Erfassung von Telemetrie- und Nutzungsstatistiken von Benutzergeräten, ohne individuelle Verhaltensmuster preiszugeben.
- Veröffentlichung synthetischer Datensätze, die statistisch den ursprünglichen sensiblen Datensätzen ähneln und gleichzeitig eine formale DP-Grenze erfüllen.
- Federated-Learning-Systeme, bei denen lokale Modellaktualisierungen privatisiert werden, bevor sie über verteilte Clients aggregiert werden.
So funktioniert es
So funktioniert es
Bevor Rauschen hinzugefügt wird, berechnet der Analyst die globale Sensitivität der Abfragefunktion f – die maximale Änderung der Ausgabe von f, die durch das Hinzufügen oder Entfernen des Datensatzes eines einzelnen Individuums entstehen könnte. Abfragen mit hoher Sensitivität (z. B. die Berechnung einer Summe über eine unbeschränkte Domäne) erfordern mehr Rauschen; Abfragen mit geringer Sensitivität (z. B. Zählen mit begrenzten Beiträgen) erfordern weniger, was den Genauigkeits-Privatsphäre-Kompromiss direkt steuert.
Formel
\Delta f = \max_{D, D': \|D - D'\|_1 = 1} \|f(D) - f(D')\|_1Eine Laplace-Verteilung mit dem Skalenparameter b = Δf / ε wird konstruiert. Das Privatsphärebudget ε (Epsilon) steuert, wie viel Rauschen injiziert wird: ein kleines ε bedeutet starke Privatsphäre, aber großes Rauschen und reduzierte Genauigkeit, während ein großes ε weniger Rauschen, aber schwächere Privatsphäregarantien bedeutet. Der Laplace-Mechanismus ist optimal für Abfragen mit begrenzter L1-Sensitivität; der Gaußsche Mechanismus wird bevorzugt, wenn die L2-Sensitivität natürlicher ist.
Formel
\text{Lap}(x \mid \mu, b) = \frac{1}{2b} \exp\!\left(-\frac{|x - \mu|}{b}\right), \quad b = \frac{\Delta f}{\varepsilon}Die differenziell private Antwort wird erzeugt, indem die wahre Abfrage f(D) auf dem Datensatz D ausgewertet und dann eine unabhängige Stichprobe aus der kalibrierten Laplace- (oder Gaußschen) Verteilung hinzugefügt wird. Dieses verrauschte Ergebnis wird öffentlich veröffentlicht. Da das Rauschen für jede Abfrage unabhängig gezogen wird, verbrauchen die Zusammensetzung mehrerer differenziell privater Mechanismen das Privatsphärebudget additiv, was eine sorgfältige Verrechnung über die gesamte Analyse-Pipeline hinweg erfordert.
Formel
\mathcal{M}(D) = f(D) + \text{Lap}\!\left(0, \frac{\Delta f}{\varepsilon}\right)Die Kern-Garantie besagt, dass für zwei beliebige benachbarte Datensätze D und D', die sich in genau einem Datensatz unterscheiden, und für jede Ausgabeteilmenge S, das Wahrscheinlichkeitsverhältnis des Ergebnisses des Mechanismus, das in S fällt, durch e^ε begrenzt ist. Diese Grenze gilt unabhängig vom Hintergrundwissen des Angreifers und bietet eine Worst-Case-, semantisch sinnvolle Privatsphäre-Garantie, die zusammensetzbar, auf Gruppenebene erweiterbar und immun gegen Post-Processing-Angriffe ist.
Formel
\Pr[\mathcal{M}(D) \in S] \leq e^{\varepsilon} \cdot \Pr[\mathcal{M}(D') \in S] \quad \forall S \subseteq \text{Range}(\mathcal{M})Häufige Fallstricke
- Die Festlegung eines zu großen ε (z. B. ε > 10) bietet trotz eines formalen DP-Labels vernachlässigbare praktische Privatsphäre – interpretieren Sie ε immer im Kontext.
- Ignorieren der Unbeschränktheit der Sensitivität: Abfragen über unbeschränkte Domänen (Rohsummen ohne Clipping) ergeben eine unendliche Sensitivität und brechen den Mechanismus.
- Behandlung von DP als vollständige Privatsphäre-Lösung: Sie begrenzt das individuelle Offenlegungsrisiko, verhindert aber keine Schlussfolgerungen auf Gruppenebene oder aggregierte Schlussfolgerungen.
- Versäumnis, die Zusammensetzung über die gesamte Daten-Pipeline hinweg zu berücksichtigen; jeder Abfrage- oder Modelltrainingsschritt verbraucht Budget und muss verfolgt werden.
Häufig gestellte Fragen
Was ist ein guter Wert für das Privatsphärebudget ε?
Es gibt keine universelle Antwort. In der akademischen Literatur wird ε ≤ 1 als starke Privatsphäre betrachtet, ε im Bereich [1, 10] als moderat und ε > 10 als schwach. In der Praxis hängt das geeignete ε von der Datensatzgröße, der Sensitivität der Daten und der Anzahl der zusammengesetzten Abfragen ab. Einige Produktionsumgebungen verwenden ε-Werte im niedrigen einstelligen Bereich nach sorgfältiger empirischer Bewertung der resultierenden Genauigkeit und des Offenlegungsrisikos.
Wie unterscheidet sich differenzielle Privatheit von k-Anonymität?
K-Anonymität ist eine syntaktische Eigenschaft eines veröffentlichten Datensatzes – jeder Datensatz ist auf Quasi-Identifikatoren von mindestens k−1 anderen nicht zu unterscheiden. Differenzielle Privatheit ist eine semantische, probabilistische Garantie für den Mechanismus, der die Ausgabe erzeugt. DP ist strenger: Es ist zusammensetzbar, macht keine Annahmen über das Hintergrundwissen des Angreifers und ist nachweislich resistent gegen Verknüpfungsangriffe, die k-Anonymität routinemäßig besiegen.
Kann differenzielle Privatheit auf Deep-Learning-Modelle angewendet werden?
Ja. Der DP-SGD-Algorithmus, formalisiert von Abadi et al. (2016) aufbauend auf Dworks Rahmenwerk, beschneidet Gradienten pro Stichprobe, um die Sensitivität zu begrenzen, und fügt dann Gaußsches Rauschen vor jeder Gradientenaktualisierung hinzu. Der Moments Accountant oder Rényi DP Accountant verfolgt den Privatsphäreverlust über die Trainingsschritte hinweg und ermöglicht das Training von differenziell privaten neuronalen Netzen mit einer beweisbaren (ε, δ)-DP-Garantie für das endgültige Modell.
Verwandte Methoden
Quellen
Dwork, C. (2006). Differential privacy. International Colloquium on Automata, Languages and Programming (ICALP), 1–12.
DOI-Referenz öffnenKopiert.