تمويه الصور بطريقة Fawkes

٦ أغسطس ٢٠٢٠
#تعلم_الآلة   #التعلم_العميق 

قامت الشركة الناشئة clearview بتحميل أكثر من ٣ مليار صورة من فيسبوك ويوتيوب وغيرها للمستخدمين بدون أخذ موافقتهم من أجل تطوير تطبيق يساعد الشرطة للتعرف على هوية الأفراد من صورهم.  في فعل هذه الشركة تجاوز خطير و اختراق خصوصيات المستخدمين.  كيف نحمي أنفسنا من الأطراف الثالثة غير المصرح لها ببناء نماذج التعرف على الوجه التي تتعرف علينا أينما ذهبنا؟  و هل يمكن خداع خوارزميات التعرف على الوجوه؟

ضمن جهود مكافحة الاستخدام الغير مصرح به للبيانات، طور مجموعة من الباحثين في جامعة شيكاغو أداة جديدة لتمويه الصور بطريقة تساهم في حماية صور المستخدم من بحيث لا تتمكن تقنيات التعرف على الوجوه من تحديد المستخدم . تسمى هذه التقنية ب image cloaking او إخفاء الصورة. 

Fawkes1.png

قام مختبر SAND Lab في جامعة شيكاغو بتطوير خوارزمية Fawkes (المستوحاة من شخصية Guy Fawkes) ،  والتي تمنح الأفراد القدرة على الحد من كيفية استخدام صورهم الخاصة لتتبعها او استخدامها لتدريب انظمة التعرف على الهويات. تقوم الخوارزمية بعمل بتغييرات صغيرة على مستوى البكسل لصورتك الشخصية تكون غير مرئية للعين. يمكنك بعد ذلك استخدام هذه الصور "المخفية" كما تفعل عادةً عبر مشاركتها على وسائل التواصل الاجتماعي.

Fawkes2.png

لتدريب أنظمة التعرف على الوجوه تحتاج إلى قاعدة بيانات كبيرة جدا من الصور واستخدامها لتحسين أداء الموّصف   feature extractor القادر على التمييز بين هويات هذه الشخصيات كما هو موضح في الصور بوضع خصائص كل وجه في مكان خاص في features space.

Fawkes4.png

تقوم الخورازمية بخداع انظمة التعرف على الوجوه عبر تشويه تمثيلها في features space . في الصورة يظهر كيف تم تشويه تمثيل الوجه للصورة Emily باستخدام هذه الخوارزمية وبالتالي تفشل انظمة التعرف على الوجوه في التعرف عليها (عوضا عن Emily  ستتعرف على الصورة على انها Beyonce).

Fawkes5.png

كيف تعمل هذه الخوارزمية :

تقوم الخوارزمية بمطابقة الصورة المدخلة (السيدة بارتلو في الصورة) مع وجه شخص يبدو مختلفًا قدر الإمكان (السيد ديمبسي) من قاعدة بيانات وجوه المشاهير وبعد ذلك تقوم باضافة اضطرابات دقيقة لصورة بارتلو تم حسابها من صورة ديمبسي لتشويه شكل feature space الخاص ببارتلو والموصف لهويتها والتي تعتمد عليه أنظمة التعرف على هوية المستخدمين.

Fawkes3.png

تم اختبار الخوارزمية على نطاق واسع وأثبتت فعاليتها في مجموعة متنوعة من البيئات وهي فعالة بنسبة 100٪ ضد نماذج التعرف على الوجه الحديثة (Microsoft Azure Face API و Amazon Rekognition و Face ++).

Fawkes6.png

شاهد الفيديو :

لقراءة الورقة : https://arxiv.org/abs/2002.08327

لمتابعة المشروع : http://sandlab.cs.uchicago.edu/fawkes

حمل الكود : http://sandlab.cs.uchicago.edu/fawkes/#code