امنیت و حریم خصوصی در یادگیری فدرال – چالش‌ها 2

در مقاله قبل، یکی از چالش‌های مهم حریم خصوصی در یادگیری فدرال را بطور مختصر بیان کرده و یکی از راه حل‌های پیشنهاد شده برای آن که استفاده از حریم خصوصی تفاضلی است را مورد بررسی قرار دادیم. در این مقاله نیز قصد داریم یکی دیگر از چالش‌های مربوط به حریم‌خصوصی یادگیری فدرال را بطور مختصر مورد بررسی قرار بدهیم.

یکی دیگر از راه حل‌های پیشنهاد شده جهت حفظ حریم خصوصی یادگیری فدرال، محدودکردن دسترسی کاربران نهایی و یا طرف‌های مشارکت کننده در طرح یادگیری است. در اینجا منظور از کاربراننهایی و یا مشارکت کنندگان در یادگیری فدرال هم شامل طرف‌هایی است که در حال آموزش مدل مربوطه بوده و هم شامل کاربرانی است که در نهایت قرار است به مدل هدف ایجاد شده دسترسی داشته باشند. در طرح پیشنهاد شده برای محدود کردن اطلاعات در دسترس کاربران نهایی و مشارکت کنندگان در یادگیری فدرال، بیان شده است که کاربران تنها به مدل نهایی تولید شده – مدل هدف- دسترسی داشته باشند. در اینصورت نه تنها داده‌های آموزشی مخفی می‌ماند، بلکه پارامترهای مدل آموزش دیده نیز در معرض دید طرف‌های مشارکت کننده قرار نخواهند گرفت. گرچه این روش روش مطلوبی است چرا که علاوه بر حفظ حریم خصوصی داده‌های آموزشی، حریم خصوصی پارامترهای آموزش هم حفط می‌شود، اما این روش در دنیای ایده‌آل جواب گو خواهد بود و در دنیای واقعی محدودیت بی قید و شرط برای تمامی طرف‌های مشارکت کننده و یا کاربران نهایی وجود ندارد.