Diferansiyel Gizlilik
- Ortaya koyan
- Cynthia Dwork
- Yıl
- 2006
- Tür
- Privacy-preserving randomized mechanism
- Aile
- Privacy-preserving analysis
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Diferansiyel gizlilik, bireysel kayıtların belirlenememesini veya çıkarılamamasını sağlayan titiz garantiler sunarken bir veri kümesi hakkında istatistiksel bilgilerin yayınlanması için matematiksel bir çerçevedir.
Cynthia Dwork tarafından 2006 yılında tanıtılan bu yöntem, gizliliği olasılıksal bir sınır olarak biçimlendirir: veri kümesindeki tek bir bireyin varlığı veya yokluğu, ε gizlilik bütçesinin veri-fayda dengesini kontrol ettiği e^ε faktörü kadar çıktı dağılımını değiştirir.
Yöntemin mantığı
Her katılımcının önce bir yazı tura attığı bir anket hayal edin: yazı gelirse doğru cevap ver, tura gelirse rastgele bir cevap ver. Rastgele cevaplar toplu olarak birbirini götürdüğü için toplu istatistikler anlamlı kalır, ancak bireysel cevaplar belirlenemez. Diferansiyel gizlilik bu fikri genelleştirir — sorgu sonuçlarına dikkatlice kalibre edilmiş gürültü ekleyerek, tek bir kişinin verisinin dahil edilip edilmemesinden bağımsız olarak çıktının neredeyse aynı görünmesini sağlar, bu da üyelik çıkarımını esasen imkansız hale getirir.
Tarih
Cynthia Dwork, Frank McSherry, Kobbi Nissim ve Adam Smith, k-anonymity gibi önceki gizlilik tanımlarını bozan saldırılardan esinlenerek diferansiyel gizliliği ICALP 2006 ve TCC 2006'da tanıttılar. Dwork'ün formülasyonu, ilk birleştirilebilir, saldırgan-kayıtsız gizlilik tanımını sağladı. Sonraki on yıl boyunca çerçeve, yaklaşık DP (ε, δ), Rényi diferansiyel gizlilik ve derin öğrenme için DP-SGD ile genişletildi. Büyük teknoloji şirketleri, 2010'larda toplu istatistikler ve model eğitimi için üretim sistemlerinde DP'yi benimsedi.
Ne zaman kullanılır?
Diferansiyel gizlilik, sağlık kayıtları, konum izleri veya finansal işlemler gibi hassas kişisel veriler üzerinde istatistik yayınlarken veya makine öğrenmesi modelleri eğitirken — resmi, denetlenebilir bir gizlilik garantisinin gerektiği durumlarda uygundur. Analistin sorgu duyarlılığını sınırlayabileceğini ve gürültüden kaynaklanan bir miktar doğruluk kaybını tolere edebileceğini varsayar. Neredeyse kesin bireysel düzeyde çıktılara ihtiyaç duyulduğunda, ε çok küçük olmalı ve veri kümesi küçük olduğunda veya etkileşimli olmayan veri yayınının gereksiz olduğu durumlarda uygun değildir. Alternatifler arasında k-anonymity (daha zayıf garanti) ve güvenli çok taraflı hesaplama (verilerin dağıtılmış kalması gerektiğinde) bulunur.
Sınırlar ve dikkat edilmesi gerekenler
- Sorgu sonuçlarına gürültü ekleyerek istatistiksel doğruluğu azaltır — yüksek duyarlılıklı sorgular veya küçük veri kümeleri için denge ciddi hale gelir.
- Gizlilik bütçesi ε'nin sezgisel bir mutlak ölçeği yoktur; anlamlı bir ε değeri seçmek alan uzmanlığı ve ampirik kalibrasyon gerektirir.
- Basit birleştirme, birçok sorgu boyunca gizliliği hızla bozar; ML iş yükleri için gelişmiş muhasebeciler (Rényi DP, moments accountant) gereklidir.
- Tüm gizlilik zararlarını korumaz: ilişkili öznitelikler veya yardımcı veri kaynakları, DP altında bile çıkarıma hala izin verebilir.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Saldırganın arka plan bilgisinden bağımsız, matematiksel olarak kanıtlanabilir en kötü durum gizlilik garantisi sağlar.
- Birleştirilebilir: sıralı ve paralel birleştirme teoremleri, karmaşık analiz işlem hatları boyunca gizlilik bütçesi muhasebesine izin verir.
- İşleme sonrası işlemlere karşı bağışık: diferansiyel gizli bir çıktıya uygulanan herhangi bir fonksiyon, diferansiyel gizli kalır.
- Hem etkileşimli sorgu yanıtlama hem de etkileşimli olmayan makine öğrenmesi (örneğin, sinir ağları için DP-SGD) için uygulanabilir.
Uygulama alanları
- Diferansiyel gizli makine öğrenmesi modellerini DP-SGD kullanarak eğitmek (örneğin, hassas sağlık veya finansal veriler üzerinde sinir ağı sınıflandırıcıları).
- Ulusal istatistik kurumları için resmi gizlilik garantileriyle nüfus sayımı mikro verilerini ve toplu istatistikleri yayınlamak.
- Bireysel davranış kalıplarını açığa çıkarmadan kullanıcı cihazlarından telemetri ve kullanım istatistikleri toplamak.
- Resmi bir DP sınırını karşılayan, hassas orijinallere istatistiksel olarak benzeyen sentetik veri kümeleri yayınlamak.
- Dağıtılmış istemciler arasında toplama işleminden önce yerel model güncellemelerinin gizlileştirildiği federasyon öğrenme sistemleri.
Nasıl çalışır?
Nasıl çalışır?
Gürültü eklemeden önce analist, sorgu fonksiyonu f'nin küresel duyarlılığını hesaplar — tek bir bireyin kaydının eklenmesi veya kaldırılmasından kaynaklanabilecek f'nin çıktısındaki maksimum değişiklik. Yüksek duyarlılıklı sorgular (örneğin, sınırsız bir alanda toplam hesaplama) daha fazla gürültü gerektirir; düşük duyarlılıklı sorgular (örneğin, sınırlı katkılarla sayma) daha az gürültü gerektirir ve doğruluk-gizlilik dengesini doğrudan kontrol eder.
Formül
\Delta f = \max_{D, D': \|D - D'\|_1 = 1} \|f(D) - f(D')\|_1Ölçek parametresi b = Δf / ε olan bir Laplace dağılımı oluşturulur. Gizlilik bütçesi ε (epsilon), ne kadar gürültü eklendiğini yönetir: küçük ε güçlü gizlilik ancak büyük gürültü ve azalmış doğruluk anlamına gelirken, büyük ε daha az gürültü ancak daha zayıf gizlilik garantileri anlamına gelir. Laplace mekanizması, sınırlı L1 duyarlılığına sahip sorgular için optimaldir; L2 duyarlılığının daha doğal olduğu durumlarda Gauss mekanizması tercih edilir.
Formül
\text{Lap}(x \mid \mu, b) = \frac{1}{2b} \exp\!\left(-\frac{|x - \mu|}{b}\right), \quad b = \frac{\Delta f}{\varepsilon}Diferansiyel gizli yanıt, veri kümesi D üzerindeki gerçek sorgu f(D) değerlendirilerek ve ardından kalibre edilmiş Laplace (veya Gauss) dağılımından bağımsız bir örneklem eklenerek üretilir. Bu gürültülü sonuç kamuya açıklanır. Gürültü her sorgu için bağımsız olarak çekildiğinden, birden fazla diferansiyel gizli mekanizmanın birleştirilmesi gizlilik bütçesini toplamsal olarak tüketir ve analiz işlem hattı boyunca dikkatli bir muhasebe gerektirir.
Formül
\mathcal{M}(D) = f(D) + \text{Lap}\!\left(0, \frac{\Delta f}{\varepsilon}\right)Temel garanti, tam olarak bir kayıtla farklılık gösteren herhangi iki komşu veri kümesi D ve D' için ve herhangi bir çıktı alt kümesi S için, mekanizmanın çıktısının S'ye düşme olasılık oranının e^ε ile sınırlı olduğunu belirtir. Bu sınır, saldırganın arka plan bilgisinden bağımsız olarak geçerlidir ve birleştirilebilir, grup gizliliği uzatılabilir ve işleme sonrası saldırılara karşı bağışık olan en kötü durum, anlamsal olarak anlamlı bir gizlilik garantisi sağlar.
Formül
\Pr[\mathcal{M}(D) \in S] \leq e^{\varepsilon} \cdot \Pr[\mathcal{M}(D') \in S] \quad \forall S \subseteq \text{Range}(\mathcal{M})Sık yapılan hatalar
- ε'yi çok büyük ayarlamak (örneğin, ε > 10) resmi bir DP etiketine rağmen ihmal edilebilir pratik gizlilik sağlar — ε'yi her zaman bağlam içinde yorumlayın.
- Duyarlılık sınırsızlığını göz ardı etmek: sınırsız alanlardaki sorgular (kırpma olmadan ham toplamlar) sonsuz duyarlılık verir ve mekanizmayı bozar.
- DP'yi eksiksiz bir gizlilik çözümü olarak ele almak: bireysel ifşa riskini sınırlar ancak grup düzeyinde veya toplu çıkarımları önlemez.
- Tüm veri işlem hattı boyunca birleştirmeyi hesaba katmamak; her sorgu veya model eğitim adımı bütçe tüketir ve takip edilmelidir.
Sık sorulan sorular
Gizlilik bütçesi ε için iyi bir değer nedir?
Evrensel bir cevap yoktur. Akademik literatürde ε ≤ 1 güçlü gizlilik, ε [1, 10] orta düzeyde ve ε > 10 zayıf olarak kabul edilir. Pratikte uygun ε, veri kümesi boyutuna, verinin duyarlılığına ve birleştirilen sorgu sayısına bağlıdır. Bazı üretim dağıtımları, sonuçta ortaya çıkan doğruluk ve ifşa riskinin dikkatli ampirik değerlendirmesinden sonra düşük tek haneli ε değerleri kullanır.
Diferansiyel gizlilik k-anonymity'den nasıl farklıdır?
K-anonymity, yayınlanan bir veri kümesinin sözdizimsel bir özelliğidir — her kayıt, yarı tanımlayıcılar üzerinde en az k−1 diğerinden ayırt edilemez. Diferansiyel gizlilik, çıktı üreten mekanizma üzerinde anlamsal, olasılıksal bir garantidir. DP kesinlikle daha güçlüdür: birleştirilebilir, saldırganın arka plan bilgisi hakkında varsayım yapmaz ve rutin olarak k-anonymity'yi yenen bağlantı saldırılarına karşı dirençli olduğu kanıtlanmıştır.
Diferansiyel gizlilik derin öğrenme modellerine uygulanabilir mi?
Evet. Abadi ve ark. (2016) tarafından Dwork'ün çerçevesi üzerine inşa edilen DP-SGD algoritması, duyarlılığı sınırlamak için örnek başına gradyanları kırpar ve ardından her gradyan güncellemesinden önce Gauss gürültüsü ekler. Moments accountant veya Rényi DP accountant, eğitim adımları boyunca gizlilik kaybını izleyerek, nihai model üzerinde kanıtlanabilir bir (ε, δ)-DP garantisiyle diferansiyel gizli sinir ağlarının eğitimini sağlar.
İlgili yöntemler
Kaynaklar
Dwork, C. (2006). Differential privacy. International Colloquium on Automata, Languages and Programming (ICALP), 1–12.
DOI kaynağını açKopyalandı.