مايكروسافت در آستانه انتخابات رياست‌جهموري آمريكا ابزار جديد شناسايي ديپ‌فيك را رونمايي مي‌كند

مايكروسافت با هدف شناسايي ديپ‌فيك‌ها، ابزاري براي تحليل ويدئوها و عكس‌ها عرضه مي‌كند. اين ابزار شناسايي ديپ‌فيك كه احراز هويت ويدئويي (Video Authenticator) نام دارد، از پارامتري به‌نام احتمال درصدي يا امتياز اطمينان براي بيان احتمال ويرايش‌شده‌بودن عكس‌ها و ويدئوها استفاده مي‌كند.

در ديپ‌فيك‌ها با استفاده از هوش مصنوعي ويدئو يا فاصل صوتي به‌گونه‌اي تغيير مي‌كند كه انجام كاري يا گفتن چيزي غيرواقعي را به كسي نسبت مي‌دهد. هدف ابزار مايكروسافت شناسايي اين گونه عكس‌ها و ويدئوها و فايل‌هاي صوتي است.

اين ابزار مي‌تواند امتياز اطمينان را به‌صورت جداگانه براي هر فريم ويدئو تعيين كند. احراز هويت ويدئويي ازطريق شناسايي مرز اختلاط ديپ‌فيك و عناصر محو خفيف يا مقياس خاكستري عمل مي‌كند كه ممكن است شناسايي‌شدني با چشم غيرمسلح نباشند.

با اينكه خيلي از ديپ‌فيك‌ها با اهداف ديگري مانند سرگرمي توليد مي‌شوند، اين ديپ‌فيك‌هاي به‌ظاهر بي‌اهميت اگر منتشر شوند، مي‌توانند با فريب مخاطبان ساده اهميت بسيار زيادي پيدا كنند.

در‌حالي‌كه از فناوري هوش مصنوعي براي ايجاد ديپ‌فيك‌هايي بسيار طبيعي استفاده مي‌شود، شناسايي اطلاعات بصري قلابي با استفاده از فناوري، هنوزهم كار دشواري است و ذهن انسان ضرورتا هنوزهم بهترين ابزار براي شناسايي ديپ‌فيك‌هاي پيشرفته است. بااين‌حال، نخبه‌هاي فناوري همچنان روي شناساگرهاي ديپ‌فيك مثل اين شناساگر جديد مايكروسافت كار مي‌كنند.

در پست مايكروسافت، هشدار داده شده كه اين فناوري ممكن است فقط كارايي گذرايي در مقابله با ديپ‌فيك داشته باشد كه به سلاح قدرتمند هوش مصنوعي مجهز است:

آن‌ها (ديپ‌فيك‌ها) قطعا فناوري تشخيصي كنوني را شكست خواهند داد؛ زيرا با استفاده از هوش مصنوعي ايجاد مي‌شوند كه مي‌تواند به يادگيري ادامه دهد. بااين‌حال، در كوتاه‌مدت مثل انتخابات رياست‌جمهوري پيش‌ روي ايالات متحده، مي‌توان روي فناوري‌هاي تشخيصي پيشرفته به‌عنوان ابزار مفيدي براي كمك به متخصصان فهيم حساب كرد تا ديپ‌فيك‌ها را شناسايي كنند.

در تابستان جاري، رقابتي براي ساخت شناساگر ديپ‌فيك برگزار شد و ابزارهاي حاصل بهتر از حدس‌زدن عمل مي‌كردند؛ ولي اين نتايج تنها به‌دليل دسترسي به مجموعه‌‌داده‌هايي بود كه پژوهشگران قبلي به آن‌ها دسترسي نداشتند.

مايكروسافت مي‌گويد كه براي ساخت ابزار تشخيص هويت ويدئويي‌اش از مجموعه‌داده‌ي عمومي از آرشيو ++Face Forensic استفاده كرده و آن را روي «مجموعه‌داده‌ي چالش شناسايي ديپ‌فيك» (DeepFake Detection Challenge Dataset) آزمايش كرده است. همچنين، ردموندي‌ها اشاره مي‌كنند كه اين دو مجموعه‌داده مدل‌هاي اصلي براي يادگيري فناوري‌هاي شناسايي ديپ‌فيك و آزمايش آن‌ها هستند.

مايكروسافت براي قرار‌دادن اين ابزار دراختيار سازمان‌هايي كه در انتخابات امسال ايفا نقش مي‌كنند، ارجمله پايگاه‌هاي خبري و كمپين‌هاي سياسي، با بنياد هوش مصنوعي سان‌فرانسيسكو مشاركت مي‌كند. اين ابزار ديجيتالي اين‌گونه عمل مي‌كند كه ويژگي‌هاي منحصر‌به‌فرد ديپ‌فيك‌ها را شناسايي مي‌كند كه ضرورتا براي همه‌ي افراد مشاهده‌پذير نيستند.  

مايكروسافت مي‌افزايد:

احراز هويت ويدئويي در ابتدا تنها ازطريق RD 2020، پروژه‌‌ي Reality Defender 2020 بنياد هوش مصنوعي سان‌فرانسيسكو، دردسترس خواهد بود كه درزمينه‌ي محدوديت‌ها و ملاحظه‌هاي اخلاقي طبيعي در هر فناوري تشخيص ديپ‌فيك سازمان‌ها را راهنمايي مي‌كند. كمپين‌ها و روزنامه‌نگارهايي كه خواهان اطلاعات بيشتر هستند، مي‌توانند ازطريق اين لينك با RD2020 در تماس باشند.اين ابزار در بخش تحقيق و توسعه‌ي مايكروسافت به‌نام «پژوهش مايكروسافت» (Microsoft Research) و در همكاري با تيم «هوش مصنوعي متعهد» (Responsible AI) و مشاوره‌ي يكي از اعضاي داخلي در كميته‌ي هوش مصنوعي و ملاحظات اخلاقي و اثراتش در مهندسي و پژوهش ساخته شده است. ابزار يادشده بخشي از برنامه‌ي گسترده‌تر مايكروسافت به‌منظور دفاع از دموكراسي درمقابل تهديدات اطلاعات نادرست است.

مايكروسافت ادامه مي‌دهد:

انتظار داريم روش‌هاي ساخت فيلم‌ها و ويدئوهاي ساختگي به پيشرفتشان ادامه دهند. ازآنجاكه تمامي فناوري‌هاي شناسايي ديپ‌فيك احتمال شكست دارند، بايد ديپ‌فيك‌هايي كه روش‌هاي تشخيصي را دور مي‌زنند، به‌خوبي بشناسيم و براي مقابله با آن‌ها آماده باشيم. بنابراين، در طولاني‌مدت بايد به‌دنبال روش‌هاي قوي‌تري براي حفظ و تأييد درستي مقالات خبري و ديگر محتواهاي رسانه‌اي باشيم. امروزه، ابزارهاي كمي وجود دارند كه مي‌توانند درزمينه‌ي موثق‌بودن منبع مطالب الكترونيك و دست‌كاري‌ نشده‌بودن آن‌ها به مخاطبان اطمينان‌خاطر دهند.

افزون‌براين، مايكروسافت سيستمي رونمايي كرده است كه بهتوليدكنندگان محتوا كمك مي‌كند به محتواهاي رسانه‌اي خود هَش‌ها و گواهي‌هاي ديجيتالي اضافه كنند كه با وجود مخابره‌ي الكترونيك، اين محتواها در متاديتاي آن‌ها باقي مي‌مانند و مرجعي براي درستي آن محتواهاي رسانه‌اي باشند.

بخش دوم سيستم مذكور ابزار خوانش است كه به‌صورت افزونه‌ي مرورگر براي مطالعه گواهي‌ها و انطباق‌دادن هَش‌ها عمل مي‌كند. درمقابل، مايكروسافت درجه‌ي صحت آن محتوا را به بيننده اعلام مي‌كند و به او مي‌گويد كه آيا آن محتوا دست‌كاري شده‌ است يا خير. به‌علاوه، اين گواهي به بيننده اطلاع مي‌دهد كه چه كسي آن محتوا را خلق كرده است.

مايكروسافت اميدوار است كه اين سيستم احراز هويت علامت‌گذاري ديجيتالي به كار ساخت زيربناي طرح ابتكاري «اخبار مطمئن» پايان دهد كه سال پيش پايگاه خبري بريتانيايي مردمي BBC آن را معرفي كرد. اين طرح ابتكاري به‌ويژه براي ساخت بخش تأييد اصالت خبر به‌نام «منشأ پروژه» راه‌اندازي شد كه ائتلاف BBC ،CBC/Radio Canada، مايكروسافت و نيويورك‌تايمز آن را هدايت مي‌كردند. گفته مي‌شود «منشأ پروژه» فناوري نشان‌گذاري ديجيتالي را با هدف رساندنش به استانداردي آزمايش مي‌كند كه بتوان از آن در مقياس وسيع استفاده كرد.

مايكروسافت مي‌افزايد:

طرح ابتكاري اخبار مطمئن نيز كه تعدادي ناشر و شركت‌هاي شبكه‎‌هاي اجتماعي را شامل مي‌شود، با به‌كارگيري اين فناوري ضدديپ‌فيك موافقت كرده است. اميدواريم در ماه‌هاي آتي، اين فناوري را به شركت‌هاي فناوري ديگر و ناشران خبري و شركت‌هاي شبكه‌هاي اجتماعي گسترش دهيم.

با اينكه كار روي شناسايي ديپ‌فيك‌ها همچنان ادامه دارد، پستي كه مايكروسافت براي آن منتشر كرده است، بر اهميت سواد رسانه‌هاي نيز تأكيد مي‌كند. آغاز مشاركت با دانشگاه واشينگتون و پايگاه‌ داده‌ي سنسيتي (Sensity) و روزنامه‌ي USA Today براي كمك به تقويت تفكر انتقادي در آستانه‌ي انتخابات رياست‌جمهوري ايالات متحده است.

ردموندي‌ها اشاره مي‌كنند كه از كمپين آگاهي‌رساني سرويس عمومي (PSA) حمايت مي‌كنند كه در آستانه‌ي انتخابات پيش‌ رو ايالات متحده، مردم را به مطالعه اعتبار منبع اطلاعات پيش از به‌اشتراك‌گذاري آن در شبكه‌هاي اجتماعي تشويق مي‌كند.

مايكروسافت درپايان مي‌گويد:

كمپين PSA به مردم كمك مي‌كند تا زيان اطلاعات اشتباه و اطلاعات دست‌كاري‌شده براي دموكراسي ما و اهميت اختصاص زمان براي شناسايي و به‌اشتراك‌گذاري و استفاده از اطلاعات مطمئن و موثق را بهتر درك كنند. اين تبليغات ماه‌هاي سپتامبر و اكتبر ازطريق ايستگاه‌هاي راديويي ايالات متحده نيز پخش مي‌شوند.