الخصوصية التفاضلية
- قدّمه
- Cynthia Dwork
- السنة
- 2006
- النوع
- Privacy-preserving randomized mechanism
- العائلة
- Privacy-preserving analysis
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
الخصوصية التفاضلية هي إطار عمل رياضي لإصدار معلومات إحصائية حول مجموعة بيانات مع توفير ضمانات صارمة بأنه لا يمكن تحديد السجلات الفردية أو استنتاجها. تم تقديمها بواسطة سينثيا دوورك في عام 2006، وهي تُضفي طابعًا رسميًا على الخصوصية كحد احتمالي: أي وجود أو غياب فرد واحد في مجموعة البيانات يغير توزيع المخرجات بحد أقصى بمعامل ضربي قدره e^ε، حيث ε هي ميزانية الخصوصية التي تتحكم في المقايضة بين الخصوصية والفائدة.
الفكرة الحدسية وراء الطريقة
تخيل استبيانًا يقوم فيه كل مستجيب أولاً برمي عملة معدنية: الوجه يعني الإجابة بصدق، والذيل يعني تقديم إجابة عشوائية. تظل الإحصاءات المجمعة ذات مغزى لأن الإجابات العشوائية تلغي بعضها البعض بشكل مجمع، ومع ذلك لا يمكن تحديد إجابة فردية. الخصوصية التفاضلية تعمم هذه الفكرة - فهي تُدخل ضوضاء مُعايرة بعناية في نتائج الاستعلام بحيث تبدو المخرجات متطابقة تقريبًا سواء تم تضمين بيانات شخص واحد أم لا، مما يجعل استنتاج العضوية مستحيلاً بشكل أساسي.
التاريخ
قدمت سينثيا دوورك، وفرانك ماكشيري، وكوبي نيسيم، وآدم سميث الخصوصية التفاضلية في ICALP 2006 و TCC 2006، مدفوعين بالهجمات التي هزمت تعريفات الخصوصية السابقة مثل k-anonymity. قدمت صياغة دوورك أول تعريف خصوصية قابل للتجميع ومحايد للمهاجم. على مدى العقد التالي، تم توسيع الإطار ليشمل الخصوصية التفاضلية التقريبية (ε، δ)، وخصوصية ريني التفاضلية، و DP-SGD للتعلم العميق. اعتمدت شركات التكنولوجيا الكبرى الخصوصية التفاضلية في أنظمة الإنتاج للإحصاءات المجمعة وتدريب النماذج خلال العقد الأول من القرن الحادي والعشرين.
متى تُستخدم
الخصوصية التفاضلية مناسبة عند نشر الإحصاءات أو تدريب نماذج التعلم الآلي على بيانات شخصية حساسة - مثل السجلات الصحية، أو آثار الموقع، أو المعاملات المالية - حيث يلزم وجود ضمان خصوصية رسمي وقابل للتدقيق. تفترض أن المحلل يمكنه تحديد حساسية الاستعلام وتحمل بعض فقدان الدقة من الضوضاء. إنها غير مناسبة عندما تكون المخرجات على مستوى الفرد شبه الدقيقة مطلوبة، أو عندما يجب أن تكون ε صغيرة جدًا ومجموعة البيانات صغيرة، أو عندما يكون إصدار البيانات غير التفاعلي غير ضروري. تشمل البدائل k-anonymity (ضمان أضعف) والحوسبة الآمنة متعددة الأطراف (عندما يجب أن تظل البيانات موزعة).
الحدود والاعتبارات
- يضيف ضوضاء إلى نتائج الاستعلام، مما يقلل من الدقة الإحصائية - تصبح المقايضة شديدة للاستعلامات عالية الحساسية أو مجموعات البيانات الصغيرة.
- تفتقر ميزانية الخصوصية ε إلى مقياس مطلق بديهي؛ يتطلب اختيار قيمة ε ذات مغزى خبرة في المجال ومعايرة تجريبية.
- التركيب الساذج يدهور الخصوصية بسرعة عبر العديد من الاستعلامات؛ هناك حاجة إلى محاسبين متقدمين (Rényi DP، moments accountant) لأعباء عمل التعلم الآلي.
- لا يحمي من جميع أضرار الخصوصية: قد تسمح السمات المترابطة أو مصادر البيانات المساعدة بالاستدلال حتى في ظل الخصوصية التفاضلية.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يوفر ضمان خصوصية صارمًا وقابل للإثبات رياضيًا في أسوأ الحالات ومستقلًا عن معرفة المهاجم الخلفية.
- قابل للتجميع: تسمح نظريات التركيب المتسلسل والمتوازي بمحاسبة ميزانية الخصوصية عبر خطوط أنابيب التحليل المعقدة.
- محصن ضد ما بعد المعالجة: أي دالة مطبقة على مخرجات خاصة تفاضليًا تظل خاصة تفاضليًا.
- قابل للتطبيق على كل من الإجابة التفاعلية على الاستعلامات والتعلم الآلي غير التفاعلي (مثل DP-SGD للشبكات العصبية).
التطبيقات
- تدريب نماذج التعلم الآلي الخاصة بالخصوصية التفاضلية باستخدام DP-SGD (مثل مصنفات الشبكات العصبية على البيانات الصحية أو المالية الحساسة).
- نشر البيانات الجزئية للإحصاءات السكانية والإحصاءات المجمعة مع ضمانات خصوصية رسمية للوكالات الإحصائية الوطنية.
- جمع بيانات القياس عن بعد وإحصاءات الاستخدام من أجهزة المستخدمين دون الكشف عن أنماط سلوك الأفراد.
- إصدار مجموعات بيانات اصطناعية تشبه إحصائيًا الأصول الحساسة مع تلبية حد الخصوصية التفاضلية الرسمي.
- أنظمة التعلم الموحد حيث يتم إضفاء الخصوصية على تحديثات النماذج المحلية قبل التجميع عبر العملاء الموزعين.
كيف يعمل
كيف يعمل
قبل إضافة الضوضاء، يقوم المحلل بحساب الحساسية العالمية لدالة الاستعلام f - الحد الأقصى للتغيير في مخرجات f الذي يمكن أن ينتج عن إضافة أو إزالة سجل فرد واحد. تتطلب الاستعلامات عالية الحساسية (مثل حساب مجموع على نطاق غير محدود) مزيدًا من الضوضاء؛ تتطلب الاستعلامات منخفضة الحساسية (مثل العد بمساهمات محدودة) ضوضاء أقل، مما يتحكم مباشرة في المقايضة بين الدقة والخصوصية.
الصيغة
\Delta f = \max_{D, D': \|D - D'\|_1 = 1} \|f(D) - f(D')\|_1يتم إنشاء توزيع لابلاس بمعامل قياس b = Δf / ε. تحكم ميزانية الخصوصية ε (إبسيلون) مقدار الضوضاء التي يتم حقنها: ε صغيرة تعني خصوصية قوية ولكن ضوضاء كبيرة ودقة منخفضة، بينما ε كبيرة تعني ضوضاء أقل ولكن ضمانات خصوصية أضعف. آلية لابلاس مثالية للاستعلامات ذات الحساسية المحدودة L1؛ آلية غاوسيان مفضلة عندما تكون حساسية L2 أكثر طبيعية.
الصيغة
\text{Lap}(x \mid \mu, b) = \frac{1}{2b} \exp\!\left(-\frac{|x - \mu|}{b}\right), \quad b = \frac{\Delta f}{\varepsilon}يتم إنتاج الاستجابة الخاصة بالخصوصية التفاضلية عن طريق تقييم الاستعلام الحقيقي f(D) على مجموعة البيانات D ثم إضافة سحب مستقل من توزيع لابلاس (أو غاوسيان) المُعاير. يتم إصدار هذه النتيجة المشوشة علنًا. نظرًا لأن الضوضاء يتم سحبها بشكل مستقل لكل استعلام، فإن تجميع آليات الخصوصية التفاضلية المتعددة يستهلك ميزانية الخصوصية بشكل إضافي، مما يتطلب محاسبة دقيقة عبر خط أنابيب التحليل.
الصيغة
\mathcal{M}(D) = f(D) + \text{Lap}\!\left(0, \frac{\Delta f}{\varepsilon}\right)ينص الضمان الأساسي على أنه لأي مجموعتين متجاورتين من البيانات D و D' تختلفان في سجل واحد بالضبط، ولأي مجموعة فرعية من المخرجات S، فإن نسبة احتمالية وقوع مخرجات الآلية في S محدودة بـ e^ε. يظل هذا الحد ساريًا بغض النظر عن المعرفة الخلفية للمهاجم، مما يوفر ضمان خصوصية في أسوأ الحالات وذو معنى دلالي وقابل للتجميع، وقابل للتوسيع ليشمل خصوصية المجموعات، ومحصن ضد هجمات ما بعد المعالجة.
الصيغة
\Pr[\mathcal{M}(D) \in S] \leq e^{\varepsilon} \cdot \Pr[\mathcal{M}(D') \in S] \quad \forall S \subseteq \text{Range}(\mathcal{M})الأخطاء الشائعة
- تعيين ε كبير جدًا (مثل ε > 10) يوفر خصوصية عملية ضئيلة على الرغم من تسمية الخصوصية التفاضلية الرسمية - فسر دائمًا ε في السياق.
- تجاهل عدم محدودية الحساسية: الاستعلامات على نطاقات غير محدودة (مجموعات خام بدون قص) تنتج حساسية لا نهائية وتكسر الآلية.
- معاملة الخصوصية التفاضلية كحل خصوصية كامل: فهي تحد من خطر الكشف الفردي ولكنها لا تمنع الاستدلالات على مستوى المجموعة أو الاستدلالات المجمعة.
- الفشل في حساب التركيب عبر خط أنابيب البيانات بأكمله؛ كل استعلام أو خطوة تدريب نموذج تستهلك ميزانية ويجب تتبعها.
الأسئلة الشائعة
ما هي القيمة الجيدة لميزانية الخصوصية ε؟
لا توجد إجابة عالمية. في الأدبيات الأكاديمية، تعتبر ε ≤ 1 خصوصية قوية، و ε في [1، 10] معتدلة، و ε > 10 ضعيفة. في الممارسة العملية، تعتمد ε المناسبة على حجم مجموعة البيانات، وحساسية البيانات، وعدد الاستعلامات المجمعة. تستخدم بعض عمليات النشر الإنتاجية قيم ε في الأرقام الفردية المنخفضة بعد تقييم تجريبي دقيق للدقة الناتجة وخطر الكشف.
كيف تختلف الخصوصية التفاضلية عن k-anonymity؟
k-anonymity هي خاصية تركيبية لمجموعة البيانات المصدرة - كل سجل لا يمكن تمييزه عن k-1 سجلات أخرى على الأقل فيما يتعلق بالمعرفات شبه. الخصوصية التفاضلية هي ضمان دلالي واحتمالي للآلية التي تنتج المخرجات. الخصوصية التفاضلية أقوى بشكل صارم: فهي قابلة للتجميع، ولا تفترض أي معرفة خلفية للمهاجم، وقد ثبت أنها مقاومة لهجمات الربط التي تهزم k-anonymity بشكل روتيني.
هل يمكن تطبيق الخصوصية التفاضلية على نماذج التعلم العميق؟
نعم. خوارزمية DP-SGD، التي صاغها Abadi وآخرون (2016) بناءً على إطار عمل Dwork، تقوم بقص التدرجات لكل عينة لتحديد الحساسية ثم تضيف ضوضاء غاوسية قبل كل تحديث للتدرج. يتتبع محاسب العزوم أو محاسب خصوصية ريني التفاضلية فقدان الخصوصية عبر خطوات التدريب، مما يتيح تدريب الشبكات العصبية الخاصة بالخصوصية التفاضلية بضمان (ε، δ)-DP قابل للإثبات على النموذج النهائي.
طرق ذات صلة
المصادر
Dwork, C. (2006). Differential privacy. International Colloquium on Automata, Languages and Programming (ICALP), 1–12.
افتح مرجع DOIتم النسخ.