Skip to content
بازگشت به نتایج جست‌وجو

تولید داده‌های مصنوعی برای کنترل افشای اطلاعات

معرفی‌شده توسط
Donald Rubin
سال
1993
نوع
Privacy-preserving data synthesis
خانواده
Privacy-preserving analysis

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

تولید داده‌های مصنوعی تکنیکی آماری برای محدودسازی افشای اطلاعات است که در سال ۱۹۹۳ توسط دونالد روبین معرفی شد. در این روش، مقادیر موجود در یک مجموعه داده محرمانه به جای انتشار مستقیم، با نمونه‌هایی از توزیع پیش‌بینی پسینِ برازش‌شده جایگزین می‌شوند. رکوردهای مصنوعی حاصل، ساختار آماری مشترک داده‌های اصلی را حفظ می‌کنند و در عین حال از شناسایی افراد واقعی جلوگیری می‌نمایند. این امر به تحلیلگران امکان می‌دهد تا با مجموعه‌داده‌ای که از نظر بیشتر اهداف استنباطی شبیه داده‌های اصلی عمل می‌کند و قابلیت انتشار عمومی دارد، کار کنند.

شهود پشت روش

تصور کنید مجسمه‌سازی به جای اینکه یک مجسمه اصلی گران‌بها را به شما امانت دهد، یک گچ‌برداری بی‌نقص که از همان قالب ساخته شده را به شما می‌دهد. شما می‌توانید بدون ریسک برای اثر اصلی، هر بُعدی را اندازه‌گیری کنید، توزیع وزن آن را آزمایش کنید و تناسبات آن را مطالعه نمایید. داده‌های مصنوعی نیز به همین شیوه عمل می‌کنند: مدل «شکل» داده‌های واقعی را یاد می‌گیرد و رکوردهای مصنوعی با همان شکل تولید می‌کند، بنابراین پژوهشگران مواد تحلیلی مفیدی دریافت می‌کنند در حالی که افراد واقعی پشت رکوردها پنهان می‌مانند.

تاریخ

دونالد روبین تولید داده‌های مصنوعی را در یک مقاله بحثی در سال ۱۹۹۳ در مورد محدودسازی افشای اطلاعات آماری پیشنهاد کرد و چارچوب چندگانه تعمیم را که برای داده‌های گمشده در طول دهه‌های ۱۹۷۰–۱۹۸۰ توسعه داده بود، تطبیق داد. رودریک لیتل اندکی پس از آن نظریه را بسط داد و رویکردهای کاملاً مصنوعی و تا حدی مصنوعی را متمایز کرد. در طول دهه ۲۰۰۰، اداره سرشماری ایالات متحده فایل‌های عمومی مصنوعی را برای چندین نظرسنجی آزمایشی کرد. ظهور شبکه‌های مولد تخاصمی (GANs) و خودرمزگذارهای متغیر (VAEs) پس از سال ۲۰۱۴، جعبه ابزار را به طور قابل توجهی گسترش داد و سنتزکننده‌های یادگیری عمیق را برای داده‌های پیچیده جدولی و طولی عملی ساخت.

چه زمانی استفاده شود

هنگامی از تولید داده‌های مصنوعی استفاده کنید که یک مجموعه داده حاوی اطلاعات حساس شخصی یا تجاری محرمانه است که به دلایل قانونی یا اخلاقی نمی‌تواند در شکل اصلی خود به اشتراک گذاشته شود، اما انتشار نسخه‌ای از داده‌ها می‌تواند به پژوهش یا تحلیل سیاست سود برساند. این روش برای فایل‌های میکروداده بزرگ و پیچیده که در آن‌ها تکنیک‌های ساده پوشانندگی، سودمندی تحلیلی را از بین می‌برند، بسیار مناسب است. مفروضات کلیدی این هستند که مدل سنتز، توزیع مشترک مرتبط را ثبت می‌کند و تحلیل مورد نظر با آنچه که سنتزکننده برای پشتیبانی از آن طراحی شده است، سازگار است. این روش برای مواردی که سؤال پژوهش به اصالت رکوردهای سطح فردی بستگی دارد، مدل سنتز به شدت نادرست مشخص شده است، یا حملات بازشناسایی خصمانه که از مصنوعات ظریف توزیعی سوءاستفاده می‌کنند، نگرانی جدی هستند، مناسب نیست. جایگزین‌ها شامل حریم خصوصی تفاضلی، انکلاوهای داده و سیستم‌های دسترسی مبتنی بر پرس‌وجو هستند.

محدودیت‌ها و ملاحظات

  • اعتبار استنباطی به شدت به مشخص‌سازی صحیح مدل سنتز بستگی دارد؛ یک مدل نادرست مشخص شده، داده‌های مصنوعی با توزیع‌های اریب تولید می‌کند که تحلیلگران را گمراه می‌سازد.
  • قوانین ترکیب نیازمند دانستن این موضوع هستند که آیا داده‌ها کاملاً مصنوعی هستند یا تا حدی مصنوعی، و چه تعداد تکرار تولید شده است؛ جزئیاتی که باید همراه با انتشار ارائه شوند.
  • تولید داده‌های مصنوعی با وفاداری بالا برای متغیرهایی با چولگی شدید، دسته‌بندی‌های پراکنده، یا ساختارهای سلسله‌مراتبی پیچیده همچنان از نظر فنی چالش‌برانگیز است.
  • حملات استنتاج عضویت و افشای ویژگی نشان داده‌اند که مجموعه داده‌های مصنوعی به طور مطلق خصوصی نیستند؛ تضمین‌های حریم خصوصی رسمی نیازمند مکانیسم‌های اضافی مانند حریم خصوصی تفاضلی هستند.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • یک مجموعه داده کاملاً مستقل منتشر می‌کند که تحلیلگران می‌توانند با نرم‌افزارهای استاندارد و گردش کارهای معمول و بدون نیاز به زیرساخت ویژه از آن استفاده کنند.
  • بر اساس یک چارچوب معتبر چندگانه تعمیم بیزی، هنگام اعمال صحیح قوانین ترکیب، برآورد معتبر واریانس را فراهم می‌کند.
  • می‌تواند روابط چندمتغیره پیچیده، توزیع زیرگروه‌های نادر و ساختارهای طولی را که روش‌های پوشانندگی ساده آن‌ها را تحریف می‌کنند، بازتولید کند.
  • به طور طبیعی با میکروداده‌های با ابعاد بالا مقیاس‌پذیر است و می‌تواند داده‌های عمومی کمکی را برای بهبود وفاداری سنتزکننده ادغام کند.

کاربردها

  • سازمان‌های آماری ملی که فایل‌های میکروداده عمومی از سرشماری‌ها و نظرسنجی‌های خانوار را منتشر می‌کنند و در عین حال هویت پاسخ‌دهندگان را محافظت می‌نمایند.
  • سیستم‌های بهداشتی که سوابق بیمار را برای تحقیقات اپیدمیولوژیکی به اشتراک می‌گذارند بدون اینکه اطلاعات بهداشتی محافظت‌شده تحت HIPAA یا GDPR را افشا کنند.
  • مؤسسات مالی که مجموعه داده‌های تراکنش مصنوعی را برای توسعه مدل تشخیص تقلب و تمرین‌های آزمون استرس نظارتی تولید می‌کنند.
  • آرشیوهای علوم اجتماعی که مطالعات طولی با دسترسی محدود را با مجموعه داده‌های آموزشی مصنوعی برای آموزش کلاسی تکمیل می‌کنند.
  • شرکت‌های فناوری که گزارش‌های رفتار کاربر مصنوعی را برای آموزش و سنجش مدل‌های یادگیری ماشین تولید می‌کنند، زمانی که گزارش‌های واقعی برای استفاده مستقیم بیش از حد حساس هستند.

چگونه کار می‌کند

چگونه کار می‌کند

1

یک مدل مولد — که از مدل‌های پارامتریک بیزی گرفته تا رگرسیون ترتیبی یا شبکه‌های مولد عمیق را شامل می‌شود — بر روی مجموعه داده اصلی محرمانه برازش داده می‌شود. هدف، ثبت توزیع مشترک کامل همه متغیرها، از جمله همبستگی‌ها و مشخصات حاشیه‌ای آن‌هاست، به گونه‌ای که سنتزکننده، هر آنچه را که یک تحلیلگر برای استنتاج‌های بعدی نیاز دارد، کدگذاری کند.

فرمول
p(X_{\text{synth}} \mid X_{\text{obs}}) = \int p(X_{\text{synth}} \mid \theta)\, p(\theta \mid X_{\text{obs}})\, d\theta
2

به جای استفاده از یک تخمین نقطه‌ای واحد از پارامترهای مدل، رویه سنتز، یک بردار پارامتر تازه را از توزیع پسین با توجه به داده‌های مشاهده‌شده نمونه‌برداری می‌کند. این گام بیزی، عدم قطعیت پارامتر را به هر تکرار مصنوعی منتشر می‌کند، از استنتاج‌های بیش از حد مطمئن جلوگیری کرده و چارچوب سنتز را به طور رسمی با نظریه چندگانه تعمیم روبین همسو می‌سازد.

فرمول
\theta^{*} \sim p(\theta \mid X_{\text{obs}})
3

با استفاده از بردار پارامتر نمونه‌برداری شده، یک مجموعه داده کاملاً جدید با ابعاد مشابه داده اصلی شبیه‌سازی می‌شود. این گام M بار تکرار می‌شود (معمولاً M = 5–20) تا M تکرار مصنوعی مستقل تولید شود، که هر کدام نمایانگر یک نمونه‌برداری متفاوت از توزیع پسین هستند و بنابراین عدم قطعیت کامل ناشی از تغییرپذیری نمونه‌برداری و تخمین پارامتر را در بر می‌گیرند.

فرمول
X_{\text{synth}}^{(m)} \sim p(X \mid \theta^{*}), \quad m = 1, \ldots, M
4

تحلیلگران روی هر یک از M مجموعه داده مصنوعی، رویه آماری خود را اجرا کرده و M تخمین نقطه‌ای و M تخمین واریانس به دست می‌آورند. این‌ها با استفاده از قوانین ترکیب روبین ترکیب می‌شوند: تخمین کلی، میانگین M تخمین است و واریانس کل، واریانس درون تکرار را به یک مؤلفه بین تکرار که با (M+1)/M مقیاس‌بندی شده است، اضافه می‌کند و فواصل اطمینان فراوانی‌گرا و آزمون‌های فرض معتبر را نتیجه می‌دهد.

فرمول
\bar{Q} = \frac{1}{M} \sum_{m=1}^{M} \hat{Q}^{(m)}, \quad T = \frac{1}{M}\sum_{m=1}^{M} U^{(m)} + \frac{M+1}{M} B_M

دام‌های رایج

  • انتشار تنها یک تکرار مصنوعی (M = 1) چارچوب قوانین ترکیب را نامعتبر می‌سازد و خطاهای استاندارد بیش از حد مطمئن تولید می‌کند.
  • برازش مدل سنتز بر روی یک زیرنمونه غیرنماینده و سپس تولید رکوردهای مصنوعی در مقیاس جمعیت، سوگیری سیستماتیکی را معرفی می‌کند که ممکن است تحلیلگران متوجه آن نشوند.
  • رفتار با داده‌های مصنوعی به عنوان جایگزینی کامل برای داده‌های واقعی در تحلیل‌هایی که به اصالت فردی نیاز دارند — مانند پیوند رکورد یا هدف‌گذاری میکرو جغرافیایی — منجر به نتایج نادرست اساسی می‌شود.
  • حذف زیرگروه‌های نادر اما از نظر تحلیلی مهم از مدل سنتز می‌تواند باعث شود آن گروه‌ها در خروجی مصنوعی غایب یا به شدت تحریف شده باشند.

پرسش‌های متداول

به چند تکرار مصنوعی (M) نیاز دارم؟

قوانین ترکیب روبین حداقل به M = 2 تکرار برای تخمین واریانس بین تکرار نیاز دارند. در عمل، M = 5 تا 20 استاندارد است: M کوچکتر تخمین‌های واریانس را افزایش داده و قدرت آماری را کاهش می‌دهد، در حالی که M بسیار بزرگ بازده نزولی دارد. انتخاب بهینه به این بستگی دارد که چه مقدار از واریانس کل به عدم قطعیت سنتز نسبت به تغییرپذیری نمونه‌برداری درون تکرار نسبت داده می‌شود.

آیا داده‌های مصنوعی با داده‌های ناشناس شده تحت GDPR یکسان هستند؟

تنظیم‌کنندگان به طور کلی با داده‌های مصنوعی با احتیاط رفتار می‌کنند. اگر مدل سنتز، رکوردهای فردی را به خاطر بسپارد یا به طور نزدیک آن‌ها را تقریب بزند، خروجی ممکن است همچنان داده‌های شخصی تلقی شود. ناشناس‌سازی واقعی تحت GDPR نیازمند این است که بازشناسایی به طور منطقی غیرممکن باشد؛ داده‌های مصنوعی تنها زمانی این معیار را برآورده می‌کنند که ریسک استنتاج عضویت با سطح پایین به طور قابل اثبات نشان داده شود، که اغلب از طریق تضمین‌های رسمی حریم خصوصی تفاضلی که بر روی رویه سنتز لایه‌بندی شده‌اند، حاصل می‌شود.

آیا می‌توانم از مدل‌های مولد عمیق به جای سنتزکننده‌های رگرسیون بیزی استفاده کنم؟

بله. GANها، VAEها و مدل‌های انتشار به عنوان سنتزکننده به کار گرفته شده‌اند و می‌توانند وابستگی‌های بسیار غیرخطی را که مدل‌های پارامتریک از دست می‌دهند، ثبت کنند. با این حال، آن‌ها تفسیر نمونه‌برداری پسین اصولی را که زیربنای قوانین ترکیب روبین است، ندارند، بنابراین کار اضافی برای کمی‌سازی عدم قطعیت سنتز و اطمینان از اینکه انتشار M تکرار از یک GAN، استنتاج‌های معتبر را به جای M نسخه تقریباً یکسان از یک توزیع تولید شده، نتیجه می‌دهد، لازم است.

روش‌های مرتبط

منابع

  1. Rubin, D. B. (1993). Statistical disclosure limitation. Journal of Official Statistics, 9(2), 461–468.

    باز کردن مرجع انتشار
    کپی شد.