تمويه الصور بطريقة Fawkes
٦ أغسطس ٢٠٢٠
#تعلم_الآلة #التعلم_العميق
قامت الشركة الناشئة clearview بتحميل أكثر من ٣ مليار صورة من فيسبوك ويوتيوب وغيرها للمستخدمين بدون أخذ موافقتهم من أجل تطوير تطبيق يساعد الشرطة للتعرف على هوية الأفراد من صورهم. في فعل هذه الشركة تجاوز خطير و اختراق خصوصيات المستخدمين. كيف نحمي أنفسنا من الأطراف الثالثة غير المصرح لها ببناء نماذج التعرف على الوجه التي تتعرف علينا أينما ذهبنا؟ و هل يمكن خداع خوارزميات التعرف على الوجوه؟
ضمن جهود مكافحة الاستخدام الغير مصرح به للبيانات، طور مجموعة من الباحثين في جامعة شيكاغو أداة جديدة لتمويه الصور بطريقة تساهم في حماية صور المستخدم من بحيث لا تتمكن تقنيات التعرف على الوجوه من تحديد المستخدم . تسمى هذه التقنية ب image cloaking او إخفاء الصورة.
قام مختبر SAND Lab في جامعة شيكاغو بتطوير خوارزمية Fawkes (المستوحاة من شخصية Guy Fawkes) ، والتي تمنح الأفراد القدرة على الحد من كيفية استخدام صورهم الخاصة لتتبعها او استخدامها لتدريب انظمة التعرف على الهويات. تقوم الخوارزمية بعمل بتغييرات صغيرة على مستوى البكسل لصورتك الشخصية تكون غير مرئية للعين. يمكنك بعد ذلك استخدام هذه الصور "المخفية" كما تفعل عادةً عبر مشاركتها على وسائل التواصل الاجتماعي.
لتدريب أنظمة التعرف على الوجوه تحتاج إلى قاعدة بيانات كبيرة جدا من الصور واستخدامها لتحسين أداء الموّصف feature extractor القادر على التمييز بين هويات هذه الشخصيات كما هو موضح في الصور بوضع خصائص كل وجه في مكان خاص في features space.
تقوم الخورازمية بخداع انظمة التعرف على الوجوه عبر تشويه تمثيلها في features space . في الصورة يظهر كيف تم تشويه تمثيل الوجه للصورة Emily باستخدام هذه الخوارزمية وبالتالي تفشل انظمة التعرف على الوجوه في التعرف عليها (عوضا عن Emily ستتعرف على الصورة على انها Beyonce).
كيف تعمل هذه الخوارزمية :
تقوم الخوارزمية بمطابقة الصورة المدخلة (السيدة بارتلو في الصورة) مع وجه شخص يبدو مختلفًا قدر الإمكان (السيد ديمبسي) من قاعدة بيانات وجوه المشاهير وبعد ذلك تقوم باضافة اضطرابات دقيقة لصورة بارتلو تم حسابها من صورة ديمبسي لتشويه شكل feature space الخاص ببارتلو والموصف لهويتها والتي تعتمد عليه أنظمة التعرف على هوية المستخدمين.
تم اختبار الخوارزمية على نطاق واسع وأثبتت فعاليتها في مجموعة متنوعة من البيئات وهي فعالة بنسبة 100٪ ضد نماذج التعرف على الوجه الحديثة (Microsoft Azure Face API و Amazon Rekognition و Face ++).
شاهد الفيديو :
لقراءة الورقة : https://arxiv.org/abs/2002.08327
لمتابعة المشروع : http://sandlab.cs.uchicago.edu/fawkes
حمل الكود : http://sandlab.cs.uchicago.edu/fawkes/#code