بازتوليد دروغ؛ چگونه فناوري تاريخ ما را تحريف خواهد كرد؟

اواخر بهمن‌‌ماه سال گذشته بود كه خلاقيت يك وب‌‌سايت تازه، توجه متخصصان زيادي را به خود جلب كرد. كافي است سري به آدرس وب‌‌سايت thispersondoesnotexist.com بزنيد. در نگاه اول، شما تصوير يك فرد عادي را مي‌‌بينيد؛ اما اگر كمي بيشتر دقت كنيد، با عبارتي در گوشه‌‌ي پايين تصوير مواجه مي‌‌شويد كه مي‌‌گويد: «اين تصوير با يك الگوريتم شبكه‌‌‌‌ي رقابتي مولد (GAN) توليد شده است». بله، شايد هضم آن برايتان كمي دشوار باشد، ولي اين چهره‌‌ها كه به‌‌طرز هولناكي واقعي به‌‌انديشه متخصصين مي‌‌رسند، متعلق به هيچ انساني نيستند.

تصاوير تهيه‌شده از thispersondoesnotexist.com، اين افراد در دنياي واقعي وجود ندارند

فيليپ وانگ، يك مهندس نرم‌افزار در اوبر (Uber) است كه تصميم گرفت اين وب‌‌سايت را براساس نتايج فعاليت گروهي از پژوهشگران در انويديا پايه‌‌گذاري كند تا افكار عمومي را از يك توانايي بالقوه‌‌ي فناوري در خلق تصاوير باكمك الگوريتم شبكه‌‌‌‌ي رقابتي مولد آشنا كند. اين‌‌ها تنها برنامه‌هايي هستند كه شامل دو شبكه‌‌ي عصبي مي‌‌شوند. يكي از شبكه‌‌ها يك تصوير ايجاد مي‌كند و ديگري تصميم‌‌گيري مي‌‌كند كه  اين تصاوير تاچه‌‌اندازه واقعي هستند و درواقع، خروجي برنامه‌‌ي اول را باهدف بهبود نتايج، به چالش مي‌‌گيرد. هدف نهايي اين فرايند، خلق تصويري است كه عملا از چهره‌‌ي واقعي يك انسان غيرقابل‌تشخيص باشد.چهره‌‌هايي كه در سايت وانگ ديده مي‌‌شوند، بسيار واقعي هستند. اين چهره‌‌ها مي‌‌تواند متعلق به هر كسي در دنيا باشند؛ درحالي‌‌كه چهره‌ها متعلق به هيچ‌ انساني نيست.

چند روز پس از راه‌اندازي اين سايت، OpenAI از ابزاري خارق‌‌العاده رونمايي كرد كه مي‌توانست با كمترين دخالت انساني، متوني منسجم شامل چندين پاراگراف را از خود بنويسد. آن‌ها بااقتباس از نام فناوري ديگري كه مي‌‌توانست با مونتاژ تصوير چهره‌‌ي يك فرد روي چهره‌‌ي فردي ديگر، ويدئوهاي جعلي توليد كند، اين قابليت تازه را ديپ‌‌فيكس (deepfakes) نوشتاري نام نهادند. در توضيحات گاردين اين‌‌گونه آمده است:

اين سيستم هوش مصنوعي متون چند كلمه‌‌اي تا يك صفحه‌‌اي را به‌‌عنوان ورودي دريافت مي‌‌كند و مي‌‌تواند چندين جمله را باتوجه به پيش‌‌بيني‌‌هاي خود در ادامه‌ي آن بنويسد.

متون GPT2 شباهت حيرت‌‌انگيزي به نوشته‌‌هايي دارد كه يك انسان نوشته است، درصورتي‌‌كه هيچ انساني آن را ننوشته است.

اجازه دهيد به ماجرايي ديگر نيز اشاره كنيم. در بهار سال گذشته، گوگل از دو فايل صوتي ضبط‌‌شده پرده‌برداري كرد. در اين نوارهاي صوتي از فناوري تقليد صداي گوگل به نام Duplex استفاده شد تا يك مكالمه‌‌ي تلفني ميان يك ماشين و يك فرد واقعي ترتيب داده شود. در اولين فايل صوتي، برنامه با يك سالن زيبايي تماس مي‌‌گيرد تا يك نوبت رزورو كند. طي اين مكالمه، برنامه با يك سري گزينه‌‌هاي ارائه‌‌شده ازسوي منشي مواجه مي‌‌شود كه مجبور بود از پس پاسخ به آن‌‌ها برآيد. در فايل صوتي دوم، برنامه تلاش مي‌كند تا يك ميز براي شام رزرو كند و زني كه مخاطب اين تماس تلفني است، مي‌گويد كه امكان رزرو ميز براي تعداد كمتر از چهار نفر وجود ندارد.

اين مكالمات صوتي ضبط‌‌شده شباهت غريبي به‌گفته‌‌هاي يك فرد واقعي را دارد. اما در واقعيت، هيچ انساني اين كلمات را به‌‌زبان نياورده است.

پرده‌برداري گوگل از فناوري Duplex در هوش مصنوعي شگفتي دنيا را برانگيخت

اواخر سال ۱۸۷۷، توماس اديسون درحالي كه آخرين اختراع خود را به‌‌همراه داشت، وارد دفتر ژورنال علمي Scientific American شد. آن‌‌گونه كه سردبيران اين ژورنال بعدها تعريف كردند، اختراع او شامل چند قطعه فلز بود كه روي يك پايه‌‌ي آهني با ابعاد ۰.۱ مترمربع قرار گرفته بودند. آن دستگاه درحقيقت، يك گرامافون بود كه قادر به ضبط صداي انسان و بازپخش آن بود. سردبيران مجله علمي آمريكا بعدها نوشتند:

مهم نيست كه تا چه‌‌اندازه با ماشين‌‌هاي مدرن و قابليت‌‌هاي شگفت‌‌انگيز آن‌‌ها آشنايي داشته باشيد يا اينكه چه‌‌ميزان دركي از اصول كاركرد اين دستگاه‌‌هاي عجيب داشته باشيد، ممكن نيست درحالي‌‌كه اين صداهاي مكانيكي را گوش مي‌‌كنيد، نتوانيد تشخيص دهيد كه حواس شما درحال فريب‌‌دادنتان هستند.ما قبلا هم به قابليت شگفت‌‌انگيز شنيدن صداي مردگان ازطريق اين دستگاه اشاره كرده‌‌ايم و هيچ شكي وجود ندارد كه اين قابليت‌‌ها به همان اندازه شگفت‌‌آورند كه به‌‌انديشه متخصصين مي‌‌رسند.

درواقع، هيچ راهكار عملي براي تفكيك بشريت از فناوري او وجود ندارد. در سرتاسر تاريخ، فناوري براي بهبود و پيشرفت تجارب انساني به‌‌كار گرفته شده است و اين فناوري در خدمت هدف مهم ديگري نيز بوده است: «فناوري در بسياري از موارد براي محافظت از بشريت توليد شده است.» اين موضوع به‌‌ويژه در مورد پيدايش فناوري‌هاي ارتباطي (از صنعت چاپ گرفته تا گرامافون و اينترنت)، صادق بوده است. فارغ‌‌ازاينكه سازندگان اين فناوري‌‌ها هنگام خلق آن‌‌ها چنين تصوري را داشته‌‌اند يا خير و جدا از همه‌‌ي آن خدمات بي‌‌شماري كه اين فناوري‌‌ها براي ما به‌‌ارمغان آورده‌‌اند، بايد به‌خاطر آورد كه اين‌‌ ابزارها تنها راهي براي يادآوري وجود بشريت به خود اوست؛ تا به خود يادآور شويم كه ما هنوز وجود داريم.

شايد از همين جهت است كه اين سه پيشرفت اخير در حوزه‌‌ي هوش مصنوعي قدري خاطرمان را مشوش مي‌‌كند. برخلاف آنچه تاكنون شاهد آن بوده‌‌ايم، هركدام از اين دستاوردها چيزي بيش‌‌از يك «كپي‌‌» ساده از انسان‌‌ها و ارتباطات انساني است. مي‌‌توان گفت اين‌‌ها به‌‌نوعي «بازتوليد» محسوب مي‌‌شوند. كمي تامل كنيد، اين تفاوت ظاهرا جزئي ميان اين دو كلمه، از اهميت بسيار بالايي برخوردار است.

بازتوليد اطلاعات جعلي، قابليتي خطرناك است كه خواهد توانست تاريخ ما را نيز دستخوش تغيير كند

توجه به همين تفاوت ميان دو عبارت «كپي» و «بازتوليد» مي‌‌تواند به ما بفهماند كه در موضوع هوش مصنوعي، دقيقا با چه پديده‌‌اي سروكار داريم: يك كپي و نسخه‌‌ي اصلي آن مي‌‌توانند به‌‌صورت همزمان و مجزا از يكديگر وجود داشته باشند. حتي اگر نسخه‌‌ي اصلي مفقود هم شود، نسخه‌‌ي كپي خود مدركي است كه ثابت مي‌كند كه  قبلا يك نسخه‌‌ي اصلي وجود داشته است. اما از آن‌سو، يك نسخه‌‌ي «بازتوليدشده» در حقيقت، نوعي دستكاري در نسخه‌‌ي اصلي با هدف ايجاد يك گونه‌‌ي جديد است. اساسا در اين فرايند، بخشي از جوانب نسخه‌‌ي اصلي به‌‌كلي ناپديد مي‌شود . اين همان موضوعي است كه آنچه را در سيليكون‌ولي مي‌‌گذرد، برايمان كمي نگران‌‌كننده جلوه مي‌‌دهد. چرا كه با انجام هر بازتوليد موفق از چهره‌‌ها، كلمات و اصوات انساني، آنچه كه درسكوت ناپديد مي‌شود، خود «انسان» است.

اين ابزارهاي جديد در هوش مصنوعي ديگر وجودمان را به ما يادآوري نمي‌‌كنند؛ در اصل، آن‌‌ها اين موضوع را به ما يادآوري مي‌‌كنند كه شايد ديگر قرار نيست روزي وجود داشته باشيم. سال گذشته، مارتين كونز در مصاحبه‌‌اي چنين گفت:

ما در قالب يك گونه‌‌‌‌ي زيستي گردآورنده و يادآورنده بوده‌‌ايم. ما در هر جايي آثار خود را به‌‌جاي گذاشته‌‌ايم.

اين پروژه به‌‌سرعت توسعه يافته است. در حال حاضر، كونز سه دسته از مطالب را چاپ مي‌‌كند: سرمقالات كه شامل مجموعه‌‌اي از سرخط اخبار جرايد جهان از تمامي انديشه متخصصينات‌‌هاي سياسي و جغرافيايي هستند؛ مطالب سازماني كه شامل مقالات علمي، رساله‌‌ها، پروژه‌هاي هنري و موسيقي‌‌هاي پرطرفدار و حتي محل سايت‌هاي انباشت زباله‌‌هاي هسته‌اي است؛ و درنهايت آيتم‌هاي شخصي.

در حال حاضر، او بيش از ۵۰۰ كتيبه دراختيار دارد كه بامشاركت افرادي از چندين و چند كشور تهيه شده است؛ اين افراد، مطالب مورد انديشه متخصصين خود را ازطريق رايانامه براي او ارسال مي‌‌كنند تا روي يك كتيبه چاپ شوند. اين مطالب شامل امور روزمره، نامه‌‌هاي عاشقانه، مقالات روزنامه، رساله‌‌ها، متون وبسياري از چيزهايي مي‌‌شود كه برايمان اهميت دارد.

يكي از انگيزه‌‌هاي كونز در حفظ اين خاطرات انساني، از نگراني‌‌هاي او درمورد عدم امكان ذخيره‌‌سازي آن‌‌ها در جاهاي ديگر ناشي مي‌‌شود. كونز مي‌‌گويد:

دير يا زود بنابر مسائل اقتصادي يا اكولوژيكي ما مجبور به پاك‌‌كردن اطلاعات خود خواهيم شد. اين پاك‌‌سازي به‌‌صورت سازمان‌‌دهي‌‌شده انجام نخواهد شد و قرار نيست خود انتخاب كنيم چه اطلاعاتي بايد باقي بماند (و چه اطلاعاتي پاك شود).

 ازاين‌‌رو پروژه‌‌ي يادبود بشر براي آن بنيان نهاده شده تا شايد روزي كه ديگر نشاني از وجود ما در قرن بيست‌‌ويكم نبود، نوادگان ما بتوانند همچنان ما را به‌‌ خاطر آورند.

كتيبه‌هاي پروژه‌ي يادبود بشر قرار است يكي از آخرين ميراث‌هاي بشر براي آيندگان دوردست باشد

يك «پاك‌‌سازي بزرگ» مي‌‌تواند بدين معنا باشد كه اطلاعات ما براي هميشه نابود شوند، اما هنوز سرورهاي ما وجود داشته باشند و دوباره بتوانند با داده‌‌هايي تازه پر شوند. حال با درانديشه متخصصينگرفتن اين سه پيشرفت اخير در هوش مصنوعي بايد اين پرسش را از خود داشته باشيم: درصورت وقوع چنين حادثه‌‌اي اين فضاهاي خالي قرار است با چه اطلاعاتي پُر شوند؟

تصور اين مانديشه متخصصينه هم هم هولناك است.

يك برنامه‌‌ي رايانه‌‌اي يك تماس تلفني برقرار مي‌‌كند؛ برنامه‌‌اي ديگر بدان پاسخ مي‌‌دهد. يك الگوريتم يك داستان خبري مي‌نويسد؛ الگوريتمي ديگر براساس آن يك رمان مي‌‌نگارد. يك الگوريتم يك چهره‌‌ي انساني توليد مي‌كند؛ يك ربات از اين تصوير براي ايجاد يك پروفايل در شبكه‌‌هاي اجتماعي استفاده مي‌كند و شروع به تعامل با كساني مي‌‌كند كه خود آن‌‌ها نيز ممكن است محصول يك الگوريتم ديگر باشند. بدين‌ترتيب با حلقه‌‌اي بي‌‌پايان از الگوريتم‌‌ها مواجه خواهيم شد كه هريك روي ديگري سوار شده است.

مدت‌‌ها است كه ترس ما از هوش مصنوعي از اين گمان ناشي مي‌‌شود كه نكند روزي ما به‌‌صورت فيزيكي با يك كامپيوتر ادغام شويم و تبديل به يك گونه‌‌ي سايبورگ شويم يا اصلا بدتر از آن روزي با فرارسيدن تكينگي فناوري به‌‌بردگي يك ابرهوش درآييم. اما واقعيت اين است كه امكان رخداد حوادث ديگري نيز مي‌‌رود. ممكن است روزي با آينده‌اي رو‌به‌رو شويم كه واقعيت فيزيكي ما دست‌‌نخورده باقي بماند؛ اما مجموعا نتوانيم احساسات و افكار واقعي خود را به‌‌خاطر آوريم؛ يعني همان چيزهايي كه از ما، انسان ساخته‌‌بودند. از آنجاكه در آن روزها سرورهاي ما همچنان با ارتباطاتي «بازتوليدشونده»، به رشد سرطان‌‌گونه‌‌ي خود ادامه مي‌‌دهند، ما به‌نوعي گرفتار بن‌‌بستي از انزوا خواهيم شد و انسانيت ما براي هميشه روي لوح‌‌هايي از سراميك در اعماق يك غار كوهستاني مدفون خواهد شد.

ممكن است سرورهاي ما هرگز از اطلاعات پاك نشوند، اما درنهايت اين فناوري كه روزگاري توسط خود ما و براي حفظ گونه‌‌ي ما ايجاد شده بود، به‌جاي ما، از بازتوليدهاي خود حفاظت كند. آن وقت است كه ما ناپديد خواهيم شد؛ نه از صحنه‌‌ي روزگار، بلكه از حافظه‌‌ي تاريخ. براي قرن‌ها، ما فناوري را ايجاد كرديم تا از ميراث بشريت حفاظت كنيم. حالا، همين فناوري تنها ميراث خود را حفظ خواهد كرد.