Skip to content
بازگشت به نتایج جست‌وجو

حریم خصوصی تفاضلی

معرفی‌شده توسط
Cynthia Dwork
سال
2006
نوع
Privacy-preserving randomized mechanism
خانواده
Privacy-preserving analysis

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

حریم خصوصی تفاضلی (Differential Privacy) یک چارچوب ریاضی برای انتشار اطلاعات آماری درباره یک مجموعه داده است، در حالی که تضمین‌های دقیقی ارائه می‌دهد که رکوردهای فردی قابل شناسایی یا استنتاج نیستند. این مفهوم که توسط سینتیا دورک در سال ۲۰۰۶ معرفی شد، حریم خصوصی را به عنوان یک کران احتمالی رسمی می‌کند: حضور یا عدم حضور هر فرد در مجموعه داده، توزیع خروجی را حداکثر به اندازه یک عامل ضربی e^ε تغییر می‌دهد، که در آن ε بودجه حریم خصوصی است که مبادله بین حریم خصوصی و سودمندی را کنترل می‌کند.

شهود پشت روش

یک نظرسنجی را تصور کنید که در آن هر پاسخ‌دهنده ابتدا یک سکه پرتاب می‌کند: شیر به معنای پاسخ صادقانه است، و خط به معنای ارائه یک پاسخ تصادفی. آمار تجمیعی معنادار باقی می‌ماند زیرا پاسخ‌های تصادفی در مجموع یکدیگر را خنثی می‌کنند، با این حال هیچ پاسخ فردی را نمی‌توان مشخص کرد. حریم خصوصی تفاضلی این ایده را تعمیم می‌دهد — نویز با کالیبراسیون دقیق را به نتایج پرس‌وجو تزریق می‌کند تا خروجی تقریباً یکسان به نظر برسد، چه داده‌های یک شخص در آن گنجانده شده باشد یا نه، و استنتاج عضویت را اساساً غیرممکن می‌سازد.

تاریخ

سینتیا دورک، فرانک مک‌شری، کوبی نیسیم، و آدام اسمیت حریم خصوصی تفاضلی را در ICALP 2006 و TCC 2006 معرفی کردند، که با حملاتی که تعاریف حریم خصوصی قبلی مانند k-ناشناسایی را شکست داده بودند، انگیزه گرفتند. فرمول‌بندی دورک اولین تعریف حریم خصوصی قابل ترکیب و مستقل از مهاجم را ارائه داد. در طول دهه بعد، این چارچوب با DP تقریبی (ε, δ)، حریم خصوصی تفاضلی رنیی، و DP-SGD برای یادگیری عمیق گسترش یافت. شرکت‌های بزرگ فناوری DP را در سیستم‌های تولیدی برای آمارهای تجمیعی و آموزش مدل در طول دهه ۲۰۱۰ به کار گرفتند.

چه زمانی استفاده شود

حریم خصوصی تفاضلی زمانی مناسب است که آمار منتشر می‌شود یا مدل‌های یادگیری ماشین بر روی داده‌های شخصی حساس — مانند سوابق سلامت، ردیابی موقعیت مکانی، یا تراکنش‌های مالی — آموزش داده می‌شوند، که در آن یک تضمین حریم خصوصی رسمی و قابل حسابرسی مورد نیاز است. این فرض را دارد که تحلیلگر می‌تواند حساسیت پرس‌وجو را محدود کند و مقداری از دست دادن دقت ناشی از نویز را تحمل کند. این روش زمانی که خروجی‌های تقریباً دقیق در سطح فردی مورد نیاز است، زمانی که ε باید بسیار کوچک باشد و مجموعه داده کوچک است، یا زمانی که انتشار داده‌های غیرتعاملی غیرضروری است، مناسب نیست. جایگزین‌ها شامل k-ناشناسایی (تضمین ضعیف‌تر) و محاسبات چندجانبه امن (هنگامی که داده‌ها باید توزیع‌شده باقی بمانند) هستند.

محدودیت‌ها و ملاحظات

  • نویز را به نتایج پرس‌وجو اضافه می‌کند و دقت آماری را کاهش می‌دهد — این مبادله برای پرس‌وجوهای با حساسیت بالا یا مجموعه‌های داده کوچک شدید می‌شود.
  • بودجه حریم خصوصی ε فاقد مقیاس مطلق شهودی است؛ انتخاب یک مقدار ε معنادار نیازمند تخصص دامنه و کالیبراسیون تجربی است.
  • ترکیب ساده، حریم خصوصی را به سرعت در بسیاری از پرس‌وجوها کاهش می‌دهد؛ حسابداران پیشرفته (Rényi DP، moments accountant) برای بارهای کاری یادگیری ماشین مورد نیاز هستند.
  • در برابر همه آسیب‌های حریم خصوصی محافظت نمی‌کند: ویژگی‌های همبسته یا منابع داده کمکی ممکن است همچنان امکان استنتاج را حتی تحت DP فراهم کنند.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • یک تضمین حریم خصوصی بدترین حالت، از نظر ریاضی قابل اثبات و مستقل از دانش پیش‌زمینه مهاجم را فراهم می‌کند.
  • قابل ترکیب: قضایای ترکیب ترتیبی و موازی امکان حسابداری بودجه حریم خصوصی را در سراسر خطوط لوله تحلیل پیچیده فراهم می‌کنند.
  • مصون از پس‌پردازش: هر تابعی که بر روی یک خروجی دارای حریم خصوصی تفاضلی اعمال شود، همچنان دارای حریم خصوصی تفاضلی باقی می‌ماند.
  • قابل استفاده برای هر دو پرس‌وجو-پاسخ تعاملی و یادگیری ماشین غیرتعاملی (مثلاً DP-SGD برای شبکه‌های عصبی).

کاربردها

  • آموزش مدل‌های یادگیری ماشین دارای حریم خصوصی تفاضلی با استفاده از DP-SGD (مثلاً طبقه‌بندی‌کننده‌های شبکه عصبی بر روی داده‌های حساس سلامت یا مالی).
  • انتشار داده‌های خرد سرشماری و آمارهای تجمیعی با تضمین‌های رسمی حریم خصوصی برای سازمان‌های آمار ملی.
  • جمع‌آوری تله‌متری و آمارهای استفاده از دستگاه‌های کاربر بدون افشای الگوهای رفتاری فردی.
  • انتشار مجموعه‌های داده مصنوعی که از نظر آماری شبیه به نسخه‌های اصلی حساس هستند، در حالی که یک کران رسمی DP را برآورده می‌کنند.
  • سیستم‌های یادگیری فدرال که در آن به‌روزرسانی‌های مدل محلی قبل از تجمیع در سراسر کلاینت‌های توزیع‌شده، خصوصی‌سازی می‌شوند.

چگونه کار می‌کند

چگونه کار می‌کند

1

قبل از افزودن نویز، تحلیلگر حساسیت کلی تابع پرس‌وجو f را محاسبه می‌کند — حداکثر تغییر در خروجی f که می‌تواند ناشی از افزودن یا حذف رکورد یک فرد باشد. پرس‌وجوهای با حساسیت بالا (مثلاً محاسبه مجموع در یک دامنه نامحدود) به نویز بیشتری نیاز دارند؛ پرس‌وجوهای با حساسیت پایین (مثلاً شمارش با مشارکت‌های محدود) به نویز کمتری نیاز دارند، که مستقیماً مبادله دقت-حریم خصوصی را کنترل می‌کند.

فرمول
\Delta f = \max_{D, D': \|D - D'\|_1 = 1} \|f(D) - f(D')\|_1
2

یک توزیع لاپلاس با پارامتر مقیاس b = Δf / ε ساخته می‌شود. بودجه حریم خصوصی ε (اپسیلون) میزان نویز تزریق شده را کنترل می‌کند: ε کوچک به معنای حریم خصوصی قوی اما نویز زیاد و دقت کاهش‌یافته است، در حالی که ε بزرگ به معنای نویز کمتر اما تضمین‌های حریم خصوصی ضعیف‌تر است. مکانیسم لاپلاس برای پرس‌وجوهای با حساسیت L1 محدود بهینه است؛ مکانیسم گاوسی زمانی ترجیح داده می‌شود که حساسیت L2 طبیعی‌تر باشد.

فرمول
\text{Lap}(x \mid \mu, b) = \frac{1}{2b} \exp\!\left(-\frac{|x - \mu|}{b}\right), \quad b = \frac{\Delta f}{\varepsilon}
3

پاسخ حریم خصوصی تفاضلی با ارزیابی پرس‌وجوی واقعی f(D) بر روی مجموعه داده D و سپس افزودن یک نمونه مستقل از توزیع لاپلاس (یا گاوسی) کالیبره شده تولید می‌شود. این نتیجه نویزدار به صورت عمومی منتشر می‌شود. از آنجا که نویز به طور مستقل برای هر پرس‌وجو نمونه‌برداری می‌شود، ترکیب چندین مکانیسم حریم خصوصی تفاضلی بودجه حریم خصوصی را به صورت افزایشی مصرف می‌کند، که نیازمند حسابداری دقیق در سراسر خط لوله تحلیل است.

فرمول
\mathcal{M}(D) = f(D) + \text{Lap}\!\left(0, \frac{\Delta f}{\varepsilon}\right)
4

تضمین اصلی بیان می‌کند که برای هر دو مجموعه داده همسایه D و D' که دقیقاً در یک رکورد تفاوت دارند، و برای هر زیرمجموعه خروجی S، نسبت احتمال خروجی مکانیسم که در S قرار می‌گیرد، با e^ε محدود می‌شود. این کران صرف‌نظر از دانش پیش‌زمینه مهاجم برقرار است و یک تضمین حریم خصوصی بدترین حالت و از نظر معنایی معنادار را فراهم می‌کند که قابل ترکیب، قابل گسترش به حریم خصوصی گروهی، و مصون از حملات پس‌پردازش است.

فرمول
\Pr[\mathcal{M}(D) \in S] \leq e^{\varepsilon} \cdot \Pr[\mathcal{M}(D') \in S] \quad \forall S \subseteq \text{Range}(\mathcal{M})

دام‌های رایج

  • تنظیم ε بیش از حد بزرگ (مثلاً ε > 10) با وجود برچسب رسمی DP، حریم خصوصی عملی ناچیزی را فراهم می‌کند — همیشه ε را در متن تفسیر کنید.
  • نادیده گرفتن نامحدود بودن حساسیت: پرس‌وجوها در دامنه‌های نامحدود (مجموع‌های خام بدون برش) حساسیت بی‌نهایت ایجاد می‌کنند و مکانیسم را مختل می‌کنند.
  • برخورد با DP به عنوان یک راه‌حل کامل حریم خصوصی: این روش خطر افشای فردی را محدود می‌کند اما از استنتاج‌های گروهی یا تجمیعی جلوگیری نمی‌کند.
  • عدم حسابداری برای ترکیب در سراسر خط لوله داده؛ هر پرس‌وجو یا مرحله آموزش مدل بودجه مصرف می‌کند و باید ردیابی شود.

پرسش‌های متداول

چه مقداری برای بودجه حریم خصوصی ε مناسب است؟

پاسخ جهانی وجود ندارد. در ادبیات آکادمیک، ε ≤ 1 حریم خصوصی قوی، ε در [1, 10] متوسط، و ε > 10 ضعیف در نظر گرفته می‌شود. در عمل، ε مناسب به اندازه مجموعه داده، حساسیت داده‌ها، و تعداد پرس‌وجوهای ترکیب شده بستگی دارد. برخی از استقرارها در تولید از مقادیر ε در ارقام تک رقمی پایین پس از ارزیابی تجربی دقیق دقت و خطر افشای حاصل استفاده می‌کنند.

حریم خصوصی تفاضلی چه تفاوتی با k-ناشناسایی دارد؟

k-ناشناسایی یک ویژگی نحوی از یک مجموعه داده منتشر شده است — هر رکورد از حداقل k-1 رکورد دیگر در شبه‌شناسه‌ها غیرقابل تشخیص است. حریم خصوصی تفاضلی یک تضمین معنایی و احتمالی بر روی مکانیسمی است که خروجی را تولید می‌کند. DP به طور قاطع قوی‌تر است: قابل ترکیب است، هیچ فرضی در مورد دانش پیش‌زمینه مهاجم ندارد، و ثابت شده است که در برابر حملات پیوند که به طور معمول k-ناشناسایی را شکست می‌دهند، مقاوم است.

آیا حریم خصوصی تفاضلی را می‌توان در مدل‌های یادگیری عمیق به کار برد؟

بله. الگوریتم DP-SGD، که توسط عبادی و همکاران (۲۰۱۶) بر اساس چارچوب دورک رسمی شد، گرادیان‌های هر نمونه را برای محدود کردن حساسیت برش می‌دهد و سپس نویز گاوسی را قبل از هر به‌روزرسانی گرادیان اضافه می‌کند. حسابدار گشتاورها یا حسابدار DP رنیی، از دست دادن حریم خصوصی را در مراحل آموزش ردیابی می‌کند و امکان آموزش شبکه‌های عصبی دارای حریم خصوصی تفاضلی را با یک تضمین (ε, δ)-DP قابل اثبات بر روی مدل نهایی فراهم می‌کند.

روش‌های مرتبط

منابع

  1. Dwork, C. (2006). Differential privacy. International Colloquium on Automata, Languages and Programming (ICALP), 1–12.

    باز کردن مرجع DOI
    کپی شد.