چرا بايد درباره فناوري تشخيص چهره نگران باشيم؟
دنياي فناوري با سرعتي آ‌ن‌چنان زياد حركت مي‌كند كه شايد بدون جلب توجه ما، ناگهان جهان مخروبه‌اي را در برابرمان پديدار كند. تشخيص چهره يكي از دستاوردهاي مهم همين جهان محسوب ميشود كه احتمالا ما اكنون در مسير اوج‌گيري و شايد ضربه زدن آن هستيم. برخي از نام‌هاي بزرگ فضاي فناوري، درحال توسعه‌ي ابزارهاي تشخيص چهره‌ي حرفه‌اي و فروش آن‌ها به دولت‌ها در سرتاسر جهان هستند. ازطرفي احتمالا عموم جامعه از خطرهاي چنين ابزاري آگاه نيستند.
بخشي از متخصص كارشناسان و منتقدان دنياي فناوري و حتي برخي از سياست‌گذاران در سرتاسر جهان، نگران توسعه و به‌كارگيري بي حد و مرز تشخيص چهره هستند. نماينده‌ي نيويورك در كنگره‌ي آمريكا، الكساندريا اكازيو كورتز يكي از بزرگ‌ترين منتقدان فناوري محسوب ميشود كه با جديت به‌دنبال قانون‌گذاري هرچه بيشتر روي اين ابزارها است. در نقاط ديگر جهان نيز سازمان‌هاي غيرانتفاعي حامي حقوق بشر، به‌دنبال ايجاد محدوديت براي فناوري هستند. دراين‌ميان عموم جامعه هم بايد از تهديدهاي احتمالي تشخيص چهره آگاه شوند.
فناوري مرموز
اولين و بزرگ‌ترين دليل مخالفت و انتقاد به فناوري تشخيص چهره ماهيت ناخوشايند آن است. افزايش نظارت و كنتل دولت‌ها از سال‌ها پيش نقطه‌‌اي نگران كننده براي مردم محسوب ميشود و فناوري‌هاي كنوني، جوامع را بيش‌ازپيش به‌سمت آن سوق مي‌دهند. فناوري‌هايي همچون نرم‌افزار Rekognition از آمازون، يكي از نگران‌كننده‌ترين دستاوردها در اين حوزه محسوب ميشود كه آينده‌اي شامل مخروبه‌ي دنياي فناوري را بيش از هميشه به ما نزديك نشان مي‌دهد.
فناوري Rekognition آمازون در آزمايش‌هاي متعدد توسط پليس ايالات متحده به‌‌كار گرفته شد تا امكان اسكن چهره را در محيط‌هاي عمومي به نيروهاي پليس بدهد. چهره‌هاي اسكن‌شده، سپس با داده‌هاي موجود در ديتابيس نيروي پليس، مقايسه مي‌شوند. شايد در نگاه اوليه چنين رويكردي را شبيه به دولت‌هاي شرور و مستبد حاضر در فيلم‌هاي علمي‌تخيلي ببينيد، اما به‌هرحال اين اتفاق اكنون در دنياي واقعي درحال رخ دادن است. همين يك نمونه براي مخالفت عده‌ي زيادي از مردم با فناوري تشخيص چهره، كافي خواهد بود.
اجرا بدون توجه به‌انديشه متخصصين مردم
از دلايل مهم ديگر مشاجره بر سر فناوري تشخيص چهره، مي‌توان روند توسعه‌ي آن را مثال زد. درحال حاضر بسياري از ابزارهاي فناوري مرموز، بدون توجه به‌انديشه متخصصين توده‌ي مردم توسعه مي‌يابند و حتي به كار گرفته مي‌شوند. البته چنين رويكردهايي در دنياي فناوري تازه و عجيب نيستند. هم‌اكنون رفتار ما در شبكه‌هاي اجتماعي، اكنون و بدون آگاهي خودمان، براي اهداف مشكوكي مورد استفاده و بهره‌برداري قرار مي‌گيرد.
بهره‌برداري از اطلاعات چهره‌ي افراد، درمقابل ديگر بهره‌برداري‌هاي دنياي فناوري اهميت بيشتري دارد. در سال ۲۰۱۹ يك گزارش ادعا كرد كه IBM بدون اجازه‌ي متخصصان از عكس‌هاي موجود در فليكر براي تربيت هوش مصنوعي خود استفاده مي‌كند. به‌علاوه سازمان حفاظت مرزي ايالات متحده نيز از تصوير مسافران براي پرورش برنامه‌ي تشخيص چهره‌ي خود استفاده مي‌كرده است.
عملكرد معيوب
از آن‌جايي كه سيستمهاي تشخيص چهره در متخصصدهاي دنياي واقعي اسنتفاده مي‌شوند، حداقل بايد انتظار عملكرد صحيح از آن‌ها داشته باشيم. ازطرفي انواع گزارش‌ها و اخبار نشان مي‌دهند كه سيستم‌‌ها هميشه عملكرد بي‌نقص ندارند.
در سال ۲۰۱۸ يك مطالعه از ACLU نشان داد كه نرم‌افزار Rekognition آمازون برخي از نماينده‌هاي كنگره‌ي آمريكا را با تصوير مجرمان در ديتاپيس پليس، برابر تشخيص مي‌دهد بخش عمده‌اي از تشخيص‌هاي اشتباه، شامل نماينده‌هاي رنگين‌پوست كنگره مي‌شد. همين معايب، چالش ديگر فناوري تشخيص چهره را نشان مي‌دهد. اين فناوري نسبت به افرادي كه «مرد سفيدپوست» نباشند، تبعيض قائل ميشود.
پيشرفته‌ترين ابزارهاي تشخص چهره، نسبت به رنگين‌پوستان عملكردي تبعيض‌آميز دارند
محققان MIT در سال ۲۰۱۸ تحقيق مشابهي براي درك اشتباهات سيستم تشخيص چهره انجام دادند. آن‌ها نيز به اين نتيجه رسيدند كه درصورت استفاده از تشخيص چهره روي افراد رنگين‌پوست، درصد خطا به‌ميزان قابل‌توجهي افزايش مي‌يابد. درحال‌حاضر اين تفكر وجود دارد كه فناوري تشخيص چهره‌ي كنوني، بازتابي از تبعيض ذاتي است كه در ذهن توسعه‌دهنده‌هاي آن وجود دارد.
نرم‌افزار Rekognition اكنون توسط دپارتمان‌هاي پليس متعدد مورد استفاده قرار مي‌گيرد. به‌علاوه شركت سازنده آن را به ICE نيز عرضه كرده است. باتوجه به معايب تبعيضي نسبت به رنگين‌پوست‌ها كه در گزارش‌هاي بالا كشف شدند، پياده‌سازي گسترده‌ي فناوري مي‌تواند خطرهاي عظيمي را براي همه‌ي جوامع به‌همراه داشته باشد. شايد روزي فناوري پيشرفت كند و هم‌اكنون نيز برخي شركت‌ها همچون مايكروسافت، چالش‌هاي آن را درك كرده‌اند؛ اما به‌هرحال وضعيت كنوني براي قربانيان تشخيص چهره، قابل‌قبول نيست.
جاي خالي تنظيم‌گيري قانوني
همان‌طور كه در بخش‌هاي بالا گفته شد، فناوري تشخيص چهره چالش‌هاي عملكردي بسياري دارد. همين چالش‌ها احتمالا بايد قانون‌گذاران و تنظيم‌گران را مجاب كند تا سياست‌هاي كنترلي بيشتري براي آن وضع كنند. ازطرفي به‌انديشه متخصصين نمي‌رسد در هيچ نقطه از جهان، چنين رويكردي مد انديشه متخصصين مقام‌ها باشد.
دولت آمريكا كه با غول‌هاي بزرگ دنياي فناوري سر و كار دارد، مي‌تواند با تنظيم‌گري مناسب، در برابر پياده‌سازي غلط فناوري موانعي را ايجاد كند. ازطرفي آن‌ها هنوز تشخيص چهره را در مراحل اوليه‌ي توسعه مي‌بينند و اقدام‌هاي جدي براي آن ندارند. به‌هرحال در سال گذشته جلسه‌هاي استماع متعددي در كنگره‌ي آمريكا برگزار شد كه با اجماع هر دو حزب، اميدواري را نسبت به تنظيم‌گيري قانوني بيشتر كرد. البته روند كنوني باز هم براي بسياري از مردم عالي و كافي نيست، چون آن‌ها به تركيب كنوني كنگره و دولت آمريكا براي تصويب و اجراي قوانين اعتماد ندارند.
باوجود عدم تصويب قوانين جامع با هدف تنظيم‌گري فناوري تشخيص چهره، در برخي مناطق جهان شاهد پياده‌سازي قوانيني براي جلوگيري از گسترش بي‌رويه‌ي فناوري هستيم. هرچند تنظيم‌گري منطقه‌اي نمي‌تواند چالش اصلي توسعه را از بين ببرد، اما به‌هرحال اميدواري را نسبت به آينده بيشتر مي‌كند. ازطرفي بايد اقدام‌هايي همچون تصميم دولت چين مبني بر استفاده‌ي همه‌جانبه از فناوري تشخيص چهره براي امتيازدهي به شهروندان را هم در انديشه متخصصين بگيريم كه نگراني‌‌هاي بسيار زيادي را به‌همراه دارد.
هم انديشي ها