كمك هوش مصنوعي به انسان براي مطالعه پست‌هاي نامناسب فيسبوك

دوشنبه ۲۶ آبان ۱۳۹۹ - ۱۹:۰۰
مطالعه 4 دقيقه
مرجع متخصصين ايران
فيسبوك اعلام كرد كه در فرايند مطالعه محتوا‌هاي نامناسب منتشرشده در پلتفرم خود، از هوش مصنوعي براي مرتب‌كردن پست‌ها استفاده مي‌كند.
تبليغات

فيسبوك هميشه كاملا واضح موضع خود درمقابل استفاده از هوش مصنوعي در شبكه‌هاي اجتماعي را مشخص كرده است. توسعه‌دهندگان اين شركت اعتقاد دارند كه بايد از اين فناوري براي انجام امور عادي بيشتري استفاده كرد؛ زيرا قابليت اين كار را دارد. فيسبوك به‌تازگي جديدترين اقدام خود براي رسيدن به اين هدف را اعلام كرده و گفته است براي دسته‌بندي محتواهايي كه احتمالا قوانين را نقض كرده‌اند و در صف مطالعه نيروهاي انساني براي تصميم‌گيري نهايي هستند، از يادگيري ماشيني استفاده خواهند كرد.

نحوه‌ي عملكرد دسته‌بندي و مرتب‌سازي محتوا در فيسبوك

 كاربران يا يادگيري ماشيني پست‌هايي را مشخص مي‌كنند كه تصور مي‌شود قوانين اين شركت را نقض مي‌كنند. ازجمله‌ي اين پست‌ها مي‌توان به پست‌هاي هرزنامه (Spam) يا حاوي سخنان خشونت‌‎آميز و ديگر گزينه‌هايي اشاره كرد كه به‌وضوح سياست‌هاي فيسبوك را زير پا مي‌گذارند. پس از اين مرحله، پست‌هايي كه كاملا واضح هستند، به‌صورت خودكار رسيدگي مي‌شوند. براي مثال، اگر پستي كاملا واضح خلاف قوانين اين پلتفرم منتشر شده باشد، با يكي از روش‌هاي حذف مطلب يا مسدود‌شدن حساب منتشر‌كننده پاسخ داده مي‌شود. اين در حالي است كه باقي پست‌هاي مشخص‌شده براي مطالعه ناظران انساني در صف قرار مي‌گيرند.

مرجع متخصصين ايران هوش مصنوعي فيسبوك

فيسبوك حدود ۱۵ هزار نفر از اين كاركنان را در سراسر دنيا استخدام كرده است. پيش‌تر، اين شركت به‌دليل حمايت ناكافي از متخصصان مذكور با انتقاد مواجه شده بود. حتي گفته مي‌شود فيسبوك آن‌ها را در بخشي به‌كار گرفته كه ممكن است به صدمات جدي به بستر اين شبكه اجتماعي منجر شود. وظيفه‌ي اين افراد مرتب‌سازي پست‌هايي است كه احتمال مي‌رود قوانين فيسبوك را نقض كرده باشند. آن‌ها بايد بتوانند تصميم بگيرند كه كدام پست‌ها ممكن است بيشتر از ديگر پست‌ها قوانين اين شركت را زير پا گذاشته باشند.

استفاده از هوش مصنوعي در فرايند مرتب‌سازي پست‌ها

در گذشته، ناظران پست‌ها را كمابيش از انديشه متخصصين زماني مرور و به‌ترتيب گزارش‌شده با آن‌ها برخورد مي‌كردند. اكنون، فيسبوك مي‌گويد كه مي‌خواهد مطمئن شود مهم‌ترين پست‌ها ابتدا ديده مي‌شوند و از يادگيري ماشيني براي كمك به آن‌ها استفاده مي‌كند. در آينده براي مرتب‌سازي اين صف، از الگوريتم‌هاي مختلف يادگيري ماشيني استفاده و پست‌ها براساس سه معيار ويروسي‌بودن و شدت و احتمال نقض‌كردن قوانين اولويت‌بندي مي‌شود.

مرجع متخصصين ايران

نحوه‌ي دقيق ارزيابي اين معيارها مشخص نيست؛ اما فيسبوك مي‌گويد هدف اين است كه ابتدا با آسيب‌رسان‌ترين پست‌ها برخورد شود. بنابراين، هرچه پست ويروسي‌تر باشد (بيشتر به‌اشتراك گذاشته و ديده شود) با سرعت بيشتري با آن برخورد خواهد شد. فيسبوك مي‌گويد پست‌هايي را به‌عنوان مهم‌ترين پست‌هاي ويروسي رتبه‌بندي مي‌كند كه ممكن است به افرادي در دنياي واقعي آسيب برسانند. از نمونه‌هاي اين دسته مي‌توان به پست‌هايي حاوي مطالب مربوط به تروريسم يا آزار كودكان يا خودزني اشاره كرد. در همين حال، پست‌هايي كه مانند هرزنامه‌ها آزاردهنده هستند؛ اما آسيب‌زا نيستند، در كمترين اهميت براي مطالعه قرار مي‌گيرند.

رايان بارنز، يكي از مديران فيسبوك، در جلسه‌اي مطبوعاتي به خبرنگاران گفت:

همه‌ي موارد نقض محتوا بازهم مطالعه انساني مي‌شوند؛ اما از اين سيستم براي اولويت‌بندي بهتر [آن فرايند] استفاده خواهيم كرد.

فيسبوك جزئيات مربوط به نحوه‌ي تجزيه‌و‌تحليل فيلترهاي يادگيري ماشيني خود را در گذشته به‌اشتراك گذاشته است. اين سيستم‌ها شامل مدلي به‌نام WPIE است كه درواقع، رويكردي جامع براي ارزيابي محتوا محسوب مي‌شود.

اين بدان معنا است كه الگوريتم‌ها عناصر مختلف در هر پست مشخص را به‌طور هماهنگ ارزيابي مي‌كنند. درواقع در اين فرايند، تلاش مي‌شود كه تصوير، عنوان، پوستر و ديگر عناصر موجود در پست هم‌زمان مطالعه و نتيجه‌ي كلي از آن‌ها استخراج شود. بدين‌ترتيب، سيستم مي‌تواند مانند انسان تصميم بگيرد كه كدام پست‌ها اهميت بيشتري دارند و بايد سريع‌تر به آن‌ها رسيدگي كرد.

البته انتقادهايي نيز به اين روش مي‌شود؛ زيرا عده‌اي اعتقاد دارند هوش مصنوعي نمي‌تواند مانند انسان قضاوت كند. به‌همين‌دليل، منتقدان اين روش اعلام كرده‌اند به‌اعتقاد آن‌ها استفاده از هوش مصنوعي در بخش مرتب‌سازي پست‌هاي نقض‌كننده‌ي قوانين فيسبوك كار درستي به‌انديشه متخصصين نمي‌رسد. اين افراد براي واضح‌تركردن دليل مخالفت خود، قضاوت اين سيستم درباره‌ي پست‌هايي حاوي زورگويي و اطلاعات نادرست را مثال زده‌اند. به‌گفته‌‎ي آن‌ها، هوش مصنوعي هيچ‌وقت نمي‌تواند بفهمد كه دقيقا در حال مطالعه چه مطلب حساسي است.

كريس پالو، مهندس نرم‌افزار فيسبوك، موافقت كرد كه هوش مصنوعي محدوديت‌هايي دارد؛ اما به خبرنگاران گفت اين فناوري هنوزهم مي‌تواند در حذف محتواي نادرست نقش مؤثري ايفا كند. پالو گفت:

اين سيستم درباره‌ي وصل‌كردن هوش مصنوعي با ناظرهاي انساني است تا اشتباه‌هاي كلي كاهش پيدا كند. هوش مصنوعي هرگز كامل نخواهد بود.

وقتي از او سؤال شد چند درصد از پست‌هاي سيستم يادگيري ماشيني اين شركت نادرست طبقه‌بندي شده‌اند، پالو پاسخ مستقيمي نداد؛ اما عنوان كرد فيسبوك فقط به سيستم‌هاي خودكار اجازه مي‌دهد بدون نظارت فرد كار كنند؛ زيرا دقيق‌تر از بازبيني‌هاي انساني هستند. وي گفت:

فيسبوك به‌طور پيوسته هوش مصنوعي بيشتري به فرايند دسته‌بندي پست‌هاي گزارش‌شده اضافه خواهد كرد.

انديشه متخصصينات شما متخصصان اخبار تخصصي، علمي، تكنولوژيكي، فناوري مرجع متخصصين ايران درباره‌ي كاركردن هوش مصنوعي براي دسته‌بندي پست‌ها و همكاري آن با نيروهاي انساني چيست؟ آيا اين تركيب مي‌تواند به فرايند حذف پست‌هاي نامناسب فيسبوك كمك كند؟

تبليغات
جديد‌ترين مطالب روز

هم انديشي ها

تبليغات

با چشم باز خريد كنيد
اخبار تخصصي، علمي، تكنولوژيكي، فناوري مرجع متخصصين ايران شما را براي انتخاب بهتر و خريد ارزان‌تر راهنمايي مي‌كند
ورود به بخش محصولات