موزيلا به كمك متخصصان، سيستم معيوب پيشنهاد ويديوي يوتيوب را مطالعه ميكند
الگوريتم پيشنهاد ويدئو در يوتيوب در بسياري از موارد موجب گمراهي متخصصان ميشود. ويديوهاي پيشنهادي برخي اوقات هيچ ارتباطي با قصد و نيت اوليهي شما ندارند و شايد در نهايت، متخصص را در مسيري كاملا اشتباه قرار دهند. ويديوهاي پيشنهادي در بسياري از موارد بهصورت كاملا عجيبي شخصي ميشوند و محتوايي كاملا نامربوط دارند. موزيلا با معرفي افزونهاي جديد بهنام RegretsReporter تصميم دارد تا با همكاري متخصصان، پيشنهادهاي عجيب و نامربوط يوتيوب را شناسايي كند. اين افزونه در فرايند جمعسپاري تلاش ميكند تا درك بهتري از الگوريتم پيشنهاد يوتيوب به متخصصان دهد و جزئيات كشفشده از الگوها را منتشر كند.
موزيلا سال گذشته طي برنامههايي، روايتهاي پيشنهاد ويديوي يوتيوب را از متخصصان دريافت كرد. بهعنوان مثال، متخصصي كه بهدنبال ويدئو دربارهي وايكينگها بود، درنهايت با ويديويي مربوط به برتري نژاد سفيد روبهرو شد. متخصصي ديگر كه ويديوهايي با كلمهي كليدي «fail» را جستوجو ميكرد، در نهايت محتوايي شامل تصادفهاي خطرناك خودرويي را در مقابل خود ديده بود.
الگوريتم پيشنهاد ويديوي يوتيوب برخي اوقات متخصص را گمراه ميكند
تاكنون هيچگاه فعاليت مستقلي در مقياس بزرگ با هدف ردگيري و مطالعه الگوريتم پيشنهادي يوتيوب اجرا نشده است. درواقع هميشه جاي يك مطالعه خالي بوده است كه چگونگي انتخاب يك ويدئو را براي پيشنهاد در يوتيوب تحليل كند. سخنگوهاي موزيلا اعتقاد دارند بالاخره بايد چنين تحليل مستقلي روي سيستم يوتيوب انجام ميشد.
اشلي بويد، معاون ارشد موزيلا دربارهي تلاشهاي اخير شركتش ميگويد: «هميشه در موضوع اطلاعات غلط، توجه زيادي به فيسبوك ميشود كه البته دور از انصاف هم نيست. ازطرفي المانهاي متعدد ديگري هم در اكوسيستم ديجيتال وجود دارند كه تاكنون توجه زيادي دريافت نكردهاند و يوتيوب يكي از آنها است. ما گفتههاي يوتيوب را مطالعه كرديم و متوجه شديم كه آنها به نگرانيها واكنش دادهاند. يوتيوب ميگويد كه در مسير بهبود قرار دارد، اما هيچ راهي براي مطالعه و تأييد ادعاي آنها نيست».
يكي از سخنگوهاي يوتيوب در واكنش به اخبار جديد ادعا كرد كه شركت هميشه از تحقيق روي الگوريتمهاي پيشنهادياش استقبال ميكند. البته او در ادامه ميگويد كه سيستم پيشنهاددهي يوتيوب هميشه در مسير توسعه و بهبود قرار دارد و نميتوان تنها با چند شكايت و روايت محدود، مرزي مشخص براي تشخيص اشكالهاي الگوريتم پيدا كرد. به گفتهي سخنگوي يوتيوب، آنها تنها در سال گذشته بيش از ۳۰ تغيير را در ساختار پيشنهاددهي پياده كردهاند تا پيشنهادهاي خارج از عرف را بهبود دهد.
پلتفرم تحت مالكيت گوگل تاكنون بارها متعهد به بهبود الگوريتم پيشنهاد خود شده است. مديران يوتيوب در مصاحبههاي گوناگوني پيشنهادهاي اشتباه الگوريتم و هدايت متخصصان بهسمت ويديوهاي نفرتپراكني و تئوري توطئه را تأييد كردهاند.
افزونهي جديد موزيلا، دادههاي ارسالي ازسوي متخصصان را به اين شركت ارائه ميكند. در ميان دادههاي ارسالي، دورهي زماني مراجعهي متخصص به يوتيوب وجود دارد، اما اطلاعاتي دربارهي موضوع جستوجو و ويديوهاي مشاهدهشده ارائه نميشود، مگر اينكه خود متخصص براي ارسال آن دادهها ابراز تمايل كند. متخصصان ميتوانند با استفاده از افزونه، جزئيات بيشتري از ويديوهاي نامناسب (با اصطلاح تأسفبرانگيز در افزونه لحاظ شدهاند) پيشنهادي را به موزيلا ارسال كنند. اين اطلاعات به موزيلا كمك ميكند تا جزئيات بيشتري دربارهي ويديوي گزارششده جمهعآوري كرده و چگونگي هدايت متخصص به ويدئو را هم تحليل كند.
موزيلا اميدوار است كه افزونهي جديد، چگونگي فرايند پيشنهاد را در الگوريتم يوتيوب كشف كند و بهسمت شفافسازي بيشتر پيش برود. آنها در تحليل خود بهدنبال پاسخ به اين سؤالها هستند كه كدام نوع از ويديوهاي پيشنهادي، به محتواي نژادپرستانه، خشونتآميز يا توطئهآميز منجر ميشوند. در هدفي ديگر، موزيلا تلاش ميكند تا الگوي زماني پيشنهاد محتواي خطرناك را در يوتيوب استخراج كند.
بويد در ادامهي صحبتهايش دربارهي افزونه و برنامهي جديد ميگويد: «من بسيار علاقه دارم كه مردم، تأثير هوش مصنوعي را خصوصا در اين حوزه و سيستم پيشنهاد ويدئو روي زندگي خود متوجه شوند. اين تأثير و فرايند نبايد مرموز و ناشناس باشد و ما ميتوانيم با شفافيت بيشتر، كنترل روي آن را افزايش دهيم».
سخنگوي موزيلا ميگويد در جريان فرايند مطالعه و تحليل الگوريتم يوتيوب، حريم خصوصي متخصصان كاملا حفظ ميشود. دادههاي دريافتي از افزونه، به يك ID حساب متخصصي متصل ميشوند كه بهصورت كاملا تصادفي ساخته شده است و هيچ ارتباطي با حساب متخصصي فرد در يوتيوب ندارد. بهعلاوه، تنها موزيلا به دادههاي خام دسترسي خواهد داشت. اين افزونه، دادههاي موجود در پنجرههاي خصوصي مرورگر را جمعآوري نميكند. درنهايت در گزارشي كه با تكيه بر دادههاي دريافتي منتشر خواهد شد، حداكثر تلاش به كار گرفته ميشود تا تهديد شناسايي متخصصان به حداقل برسد.
موزيلا در تحقيقات جديد دربارهي الگوريتم پيشنهاد يوتيوب، هيچگونه قرارداد رسمي با گوگل يا يوتيوب ندارد. البته بويد ميگويد آنها با يوتيوب در ارتباط بودهاند و متعهد به اشتراك نتيجهي تحقيقات هستند. البته يوتيوب ميگويد فناوري مورد استفاده توسط موزيلا كمي مباحثهبرانگيز است و نميتوان اصطلاح «تأسفبرانگيز» را در تنظيمات و جزئيات افزونه، بهخوبي تحليل كرد.
فرايند جمعآوري اطلاعات در افزونهي جديد موزيلا به مدت ۶ ماه انجام ميشود و پس آن نتايج دراختيار متخصصان و يوتيوب قرار ميگيرد. بويد در پايان صحبتهايش ميگويد: «ما معتقد هستيم كه يوتيوب تعهدي كامل نسبت به رفع اشكال دارد. اميدوار هستيم كه نتايج تحقيقات، اطلاعات بهتري را دراختيار آنها قرار دهد و منجر به بهبودهاي جدي در سيستم پيشنهاد محتوا شود».
هم انديشي ها