ترس ما از هوش مصنوعي

جزوه رايگان‌ها، فيلم‌ها و آثار ادبي-هنري بسياري چه از وجه علمي و چه از نگاه تخيلي، درباره‌ي هوش مصنوعي، ساخته شده است. در اين مقاله‌ي تحليلي، سعي شده، مساله‌ي هوش مصنوعي به دقت موشكافي شود و احتمال كسب خصلت‌هاي انساني، مثل اراده و اختيار توسط هوش مصنوعي و ماشين‌هاي هوشمند، مورد مطالعه قرار بگيرد. با اخبار تخصصي، علمي، تكنولوژيكي، فناوري مرجع متخصصين ايران همراه باشيد.

هوش مصنوعي واقعي، مي‌تواند دنيا را نابود كند. به فرض اين كه چيزي به نام هوش مصنوعي واقعي، اصولا ممكن باشد.

پاول فورد در وب‌سايت MIT Technology Review، خاطره‌اي را اين‌گونه آغاز مي‌كند: "سال‌ها پيش، با يكي از دوستانم كه مدير يك استارت‌آپ بوده، قهوه مي‌خورديم. او به تازگي چهل ساله شده بود. پدرش بيمار بود و از ناحيه‌ي كمر، ناراحتي‌هايي داشت. دوست من، خودش را در آستانه‌ي دهه‌ي جديدي از عمرش، غرق در زندگي مي‌يافت. او گفت: «به من نخند، اما من روي تكينگي حساب مي‌كردم.» "

دوست من در حوزه‌ي تكنولوژي كار مي‌كرد. وي به چشم خود تغييراتي كه باعث سريع‌تر شدن ريزپردازنده‌ها و شكل گرفتن شبكه‌ها شده بود را ديده بود. براي او، اتفاق مهمي نبود كه باور داشته باشد قبل از ميان‌سالي‌اش، هوش ماشين‌ها، از انسان‌ها فراتر خواهند رفت.(لحظه‌اي كه آينده‌پژوهان به آن لحظه‌ي تكينگي مي‌گويند.) يك هوش مصنوعي خارق‌العاده، اگر خيرخواه انسان‌ها باشد، در زمان كوتاهي، رمزهاي ژنتيكي انسان را مطالعه خواهد كرد و رمز جواني ابدي را براي ما آشكار خواهد ساخت.  يا در حداقلي‌ترين حالت، خواهد توانست راه بهبودي درد كمر را مشخص كند.

ولي اگر هوش مصنوعي به وجود آمده، آن‌قدرها هم خيرخواه نبود چه؟ نيك بوستروم (Nick Bostrom)، فيلسوفي كه انستيتوي بشريت در دانشگاه آكسفورد (Future of Humanity Institute at the University of Oxford) را مديريت مي‌كند، در جزوه رايگانش با نام فوق هوش (Superintelligence)، سناريوي بالا را شرح داده است. جزوه رايگان وي باعث به وجود آمدن مناظرات و مباحثه‌هاي بسياري درباره‌ي آينده‌ي هوش مصنوعي شده است.

ماشيني را تجسم كنيد كه برنامه‌ريزي شده است تا حداكثر كليپس كاغذ كه ممكن است را توليد كند و ما مي‌توانيم آن را «حداكثركننده‌ي كليپس كاغذ/paper-clip maximizer» بناميم. حالا تصور كنيد به هر دليلي، همين ماشين، به شكل فوق‌العاده‌اي هوشمند شده است. با توجه به هدف اين ماشين، ممكن است تصميم بگيرد كه كليپس‌هاي كاغذي جديد و بيش‌تري توليد كند؛ تا آن‌جا كه به سبك شاه ميداس عملا همه چيزي را به كليپس كاغذ تبديل خواهد كرد.

ممكن است بگوييد جاي نگراني نيست؛ مي‌توانيم برنامه‌ريزي كنيم كه به عنوان مثال دقيقا يك ميليون كليپس كاغذ درست كند و بعد از كار بايستد. ولي اگر اين ماشين، بعد از درست كردن كليپس‌ها تصميم گرفت عملكرد خودش را نيز مطالعه كند، چه؟ آيا تعداد كليپس‌ها را درست شمرده است؟ قطع به يقين، براي اين كار نياز است كه ماشين، هوشمندتر شود. ماشين فوق‌هوش، نوعي مواد خام محاسباتي كه هنوز ابداع نشده است را توليد مي‌كند و به وسيله‌ي آن، هر شك و شبهه‌اي را مطالعه خواهد كرد. اما هر شبهه‌ي تازه‌اي، شبهه‌هاي ديجيتالي جديدي را حاصل خواهد شد و همين‌طور تا جايي ادامه پيدا مي‌كند كه هر چه روي زمين است به آن مواد خام محاسباتي تبديل شود. البته به جز يك ميليون كليپس كاغذ كه ابتدا ساخته است!

نيك بوستروم باور ندارد كه ماشين حداكثركننده‌ي كليپس كاغذ به طور دقيق عمل خواهد كرد. اين يك آزمايش فكري است. آزمايشي كه طراحي شده تا نشان دهد حتي سيستم‌هاي بسيار دقيق نيز در مهار كردن هوش مفرط ماشين‌ها، شكست مي‌خورند. اما پروفسور بوستروم به اين موضوع اعتقاد دارد كه فوق‌هوش مي‌تواند به وجود بيايد و مفيد هم باشد. و البته وي فكر مي‌كند كه فوق هوش ممكن است تصميم بگيرد كه ديگر به انسان‌ها نيازي ندارد؛ يا از اين قبيل رفتارها كه باعث نابودي جهان خواهد شد. در همين راستا، عنوان فصل هشتم جزوه رايگان وي، اين‌چنين انتخاب شده است: «آيا پيامدهاي فوق‌هوش، به طور پيش‌فرض، نابودكننده و مخرب خواهد بود؟»

اما در عين حال، بسياري از متفكران ديگر با بوستروم موافق‌اند و از همين حالا نگران آينده‌ي هوش مصنوعي هستند. چرا؟

به موازات اين كه محققان حوزه‌ي هوش مصنوعي در دهه‌هاي ۱۹۶۰ و ۱۹۷۰ ميلادي شروع به استفاده از كامپيوترها براي شناسايي عكس‌ها، ترجمه زبان‌هاي مختلف به يك‌ديگر و درك دستورالعمل‌ها در زبان معمولي و نه فقط در كدها كردند، اين ايده كه كامپيوترها نهايتا قادر به صحبت و تفكر-و بنابراين قادر به انجام اعمال شرورانه- خواهند بود، به جريان فرهنگي غالب نفوذ كرد.

علاوه بر فيلم ۲۰۰۱: يك اوديسه فضايي (2001: A Space Odyssey) كه غالبا به آن ارجاع داده مي‌شود، فيلم ديگري در دهه ۱۹۷۰ با نام كلوسوس: پروژه‌ي فوربين (Colossus: The Forbin Project) تصوري را به جامعه القاء مي‌كرد كه نهايتا كامپيوترها، جهان را به مرز نابودي هسته‌اي و  زمستان هسته‌اي خواهند كشاند. و ۱۳ سال پس از اين فيلم نيز، همين موضوع، دست‌مايه‌ي اثر ديگري به نام بازي جنگ (WarGames) شد. همين‌طور گذشت تا بالاخره  در سال ۱۹۷۳، آدم مصنوعي‌هاي فيلم جهان غرب (Westworld) به كلي ديوانه شدند و شروع به كشتار مردم دنيا كردند.

 زماني كه تحقيقات روي هوش مصنوعي، به نتايج بلندپروازانه‌اي كه مد انديشه متخصصين بود، نرسيد، بودجه‌هاي مربوط به اين تحقيقات به شدت كاهش يافت و با اين اتفاق، «زمستان هوش مصنوعي» آغاز شد. اما در همين شرايط نيز، شعله‌ي ماجراهاي ماشين‌هاي هوشمند و هوش مصنوعي، در طول دهه‌هاي ۱۹۷۰ و ۱۹۸۰ ميلادي، توسط نويسندگان، دانشمندان و كارآفرينان بسياري، روشن نگه داشته شد. اين گونه افراد شامل نويسندگان علمي تخيلي مانند ورنور وينج (Vernor Vinge) كه مفهوم تكينگي (Singularity) را به عامه مردم شناساند، بودند.

همچنين محققان فعال در عرصه‌ي روباتيك، هم‌چون هانس موراوك (Hans Moravec)، متخصص بينش كامپيوتري، و مهندس و هم‌چنين كارآفريني مانند ري كرزويل (Ray Kurzweil) نويسنده‌ي جزوه رايگان «دوران ماشين‌هاي معنوي - The Age of Spiritual Machines» كه در ۱۹۹۹ ميلادي منتشر شده است، مي‌شوند.

در حالي كه آلن تورينگ، يك نوع هوش مصنوعي شبيه به هوش انساني را فرض قرار داده بود، افرادي مثل وينج، موراوك و كرزويل فراتر از اين مي‌انديشيدند: هنگامي كه يك كامپيوتر به طور مستقل قادر باشد براي دستيابي به اهدافش راه‌هاي مختلفي ابداع كند، بسيار محتمل خواهد بود كه آن كامپيوتر، قادر به تفكر و انديشيدن نيز باشد؛ و هنگامي كه بتواند فكر كند، خواهد توانست نرم‌افزارهايش را اصلاح و خودش را هوشمندتر كند. خلاصه اين كه، چنين كامپيوتري، قادر خواهد بود به تنهايي سخت‌افزارهاي خودش را طراحي كند.

آن طور كه كرزويل مي‌گويد، چنين اتفاقاتي، باعث به وجود آمدن دوره‌ي جديد و زيبايي خواهد شد. برخي ماشين‌ها، فهم و صبر كافي را خواهند داشت (كه با تريليونيم ثانيه اندازه‌گيري خواهد شد) تا بتوانند اشكالات برجسته‌ي نانوتكنولوژي و پرواز فضايي را برطرف سازند. اين ماشين‌ها، شرايط بشر را بهبود خواهند بخشيد. و براي ما شرايطي فراهم خواهند كرد كه بتوانيم آگاهي‌ها و دانسته‌هاي خود را در يك قالب ديجيتالي جاودانه، نگه‌داري كنيم. و به اين شكل، اطلاعات در سرتاسر كهكشان پخش خواهد شد.

از طرف ديگر، مي‌توانيد دقيقا نقطه‌ي مقابل اين‌طور خوش‌بيني‌هاي زيبا را تصور كنيد. استيون هاوكينگ (Stephen Hawking) هشدار داده است كه در چنين شرايطي، به اين دليل كه انسان‌ها قادر به رقابت با هوش مصنوعي بسيار پيشرفته نخواهند بود، ممكن است نژاد انسان از بين برود. الون ماسك (Elon Musk)، كارآفرين، پس از مطالعه جزوه رايگان فوق‌هوش، در حساب توييتر خود، چنين نوشته است كه: «اميدوارم ما فقط حامل بيولوژيكي براي فوق‌هوش نباشيم. متاسفانه اين مساله روزبه‌روز بيش‌تر محتمل مي‌شود.» پس از آن، الون ماسك، مبلغ ۱۰ ميليون دلار به «انستيتو آينده زندگي» كمك مالي كرد. نه به اين دليل كه در مركز بوستروم گيج شده بود، بلكه اين انستيتو مركزي است كه در آن «براي كاهش خطرات پيش روي بشر فعاليت مي‌شود». فعاليت‌هايي كه در اثر آن‌ها، «گسترش هوش مصنوعي در حد انسان» به وقوع خواهد پيوست.

هيچ‌كس تصور نمي‌كند چيزي مانند فوق‌هوش وجود داشته باشد. در واقع، هنوز هيچ‌ هدف همه جانبه و يا حتي روش مشخصي براي دستيبابي به هوش‌مصنوعي نداريم. پيشرفت‌هاي اخير هوش مصنوعي، از دستياران اتوماتيك مانند سيري در اَپل تا ماشين‌هاي بدون راننده‌ي گوگل، نمايان‌گر محدوديت‌هاي شديد تكنولوژي در اين زمينه مي‌باشند.

هر دوي اين تكنولوژي‌ها نمي‌توانند موقعيت‌هايي كه قبلاً با آن مواجه نشده‌اند را كنترل كنند. شبكه‌هاي عصبي مصنوعي مي‌توانند خودشان گربه‌ها را در عكس‌ها پيدا كنند، البته بايد صدها هزار عكس به آن‌ها نشان داده شود و هنوز هم ممكن است در تشخيص گربه از كودكان دقت كافي را نداشته باشند.

با اين نگاه، هوش مصنوعي، احتمالا مي‌تواند به توليد ماشين‌هاي هوشمند منجر شود؛ اما، اين كار به تلاشي بيش از تصور افرادي مانند بوستروم، نياز دارد. حتي اگر اين اتفاق نيز رخ دهد، اين هوش لاخبار تخصصياً منجر به ادراك نمي‌شود. بروكس اخيراً در سايت Edge.org نوشته است «اگر با مشاهده‌ي وضعيت كنوني هوش مصنوعي، تصور كنيم در حال دستيابي به فوق‌هوش هستيم، مانند زماني است كه كاركرد موثر مورتورهاي احتراقي داخلي را ببينيم و با ديدن آن‌ها به اين نتيجه برسيم كه در حال دستيابي به تكنولوژي سرعتي بيشتر از سرعت نور هستيم.» او مي‌گويد: «حداقل براي چند صد سال آينده، نگران وجود هوش مصنوعي شرور نباشيد.»

حتي اگر شانس دستيابي به هوش مصنوعي زياد باشد، اين كار پروسه‌اي طولاني خواهد داشت و ممكن است كاري نامطمئن و غير مسئولانه نيز باشد. استوارت جي راسل (Stuart J. Russell) استاد دانشگاه بركلي كاليفرنيا يكي از افرادي‌ست كه با افكار و ايده‌هاي بوستروم در زمينه‌ي هوش مصنوعي، موافق است. راسل و پيتر نوروينگ (Peter Norvig)، همكار كورزويل در گوگل،  نويسنده جزوه رايگاني به نام «هوش مصنوعي: رويكردي مدرن-Artificial Intelligence: A Modern Approach» هستند كه براي دو دهه، جزوه رايگان استاندارد يادگيريي در زمينه‌ي هوش مصنوعي بوده است.

راسل مي‌گويد: «هستند افراد به اصطلاح روشن‌فكر بسياري، كه حتي يك مدرك و دليل هم ندارند.» او همچنين به اين نكته اشاره كرد كه هوش مصنوعي در دهه‌هاي گذشته، پيشرفت فوق‌العاده‌اي داشته و درحالي‌كه افكار عمومي اين پيشرفت را با قانون مور (كامپيوترهاي سريع‌تر كار بيشتري انجام مي‌دهند) درك مي‌كنند، در واقع آن‌چه هوش مصنوعي امروزه انجام مي‌دهد، بسيار اساسي بوده است. او با تكيه بر روش‌هايي مثل يادگيري عميق، برنامه‌اي براي كامپيوترها طراحي كرده كه به طور خودكار دركشان از محيط اطرافشان را افزايش مي دهند.

جزوه رايگان بوستروم روش‌هايي براي تطبيق كامپيوترها با نيازهاي انسان پيشنهاد مي‌كند. ما اصولاً به خدا مي‌گوييم دوست داريم چگونه با ما رفتار شود.به دليل اين‌كه گوگل، فيسبوك، و ساير شركت‌ها به شدت به دنبال توليد هوش مصنوعي و ماشين يادگيري هستند، او مي‌گويد: «هميشه مي‌گويم يكي از كارهايي كه نبايد انجام دهيم اين است كه بدون توجه به خطرات بالقوه‌اي كه ممكن است وجود داشته باشد تمام تلاشمان را بر هوش مصنوعي متمركز كنيم.

اين كار كمي احمقانه به انديشه متخصصين مي‌رسد.» راسل اين‌طور مقايسه كرده است كه: «اين كار مثل مطالعه هم‌جوشي است. اگر از يك محقق هم‌جوشي بپرسيد چه كاري انجام مي‌دهند، مي‌گويند روي محدويت‌كننده كار مي‌كنند. اگر انرژي نامحدود مي‌خواهيد بهتر است واكنش هم‌جوشي را محدود كنيد.» او مي‌گويد پس شما نيز اگر هوش مصنوعي مي‌خواهيد بايد بدانيد چطور كامپيوترها را متناسب با نيازهاي انسان طراحي كنيد.

جزوه رايگان بوستروم يك پروپووزال پژوهشي براي انجام اين كار است. فوق‌هوش خداگونه است؛ اما آيا مي توان با خشم يا با عشق، به آن، جان بخشيد؟ اين كار به ما مهندسان بستگي دارد. مانند ساير والدين ما نيز بايد ارزش‌ها را به كودكمان ياد بدهيم، اما نه هر ارزشي؛ بل‌كه ارزش‌هاي والاي انساني. ما اصولاً به خدا مي‌گوييم چگونه با ما رفتار شود. چطور ادامه دهيم؟

بوستروم به شدت تحت‌تاثير انديشه متخصصينيه‌ي متفكري به نام اليزر يودكووسكي (Eliezer Yudkowsky) است. يودكووسكي درباره «خواست استقرايي منسجم» (coherent extrapolated volition) كه ناشي از اجماع بهترين ويژگي‌هاي همه‌ي مردم است، صحبت مي‌كند. ما اميدواريم هوش مصنوعي، ثروت، شادي و زندگي بي‌نقصي را كه مي‌خواهيم براي ما مهيا كند. مثلاً كمر دردمان را درمان كند و به ما بگويد چگونه به مريخ برويم. و چون انسان‌ها هرگز كاملاً موافق چيزي نيستند، گاهي لازم است براي خودمان تصميم بگيريم تا به طور كلي تصميماتي كه مناسب بشريت هستند، گرفته شوند. چطور مي‌توان اين ارزش‌ها را براي هوش مصنوعي برنامه‌ريزي كرد؟ چه نوع محاسباتي مي‌توانند اين ويژگي‌ها را تعريف كنند؟ بوستروم معتقد است اشكالاتي وجود دارد كه محققان بايد اكنون آن‌ها را حل كنند. بوستروم مي‌گويد اين كار ضروري‌ترين مسئوليت عصر ما است.

از انديشه متخصصين مردم دليلي براي ترسيدن از روبات‌ها وجود ندارد. هنوز هم بسياري از كشورهاي دنيا براي هوشمندتر كردن كامپيوترهاي شركتشان سرمايه‌گذاري مي‌كنند و يك هوش مصنوعي واقعي باعث سود زيادي براي اين شركت‌ها مي‌شود. همچنين اين شركت‌ها بايد با مضرات بالقوه‌ي آن نيز آشنا شوند و روش‌هاي كم كردن اين مضرات را پيدا كنند.

اين پيشنهاد تا حدودي متفاوت‌تر-بدون هيچ ادعايي درباره پيشرفت هوش مصنوعي- مبناي نامه‌اي سرگشاده در شبكه اجتماعي موسسه آينده زندگي (Future of Life Institute)،  است. موسسه‌اي كه جايزه‌ي ماسك (Musk) را دريافت كرده است.

اين نامه، به جاي هشدار درباره‌ي اشكالات قريب‌الوقوع، خواستار تحقيقات بيشتري درباره مزاياي هوش مصنوعي و اجتناب از اشكالات بالقوه‌ي آن شده است. اين متن نه تنها توسط افرادي مانند استيون هاوكينگ، ماسك و بوستروم امضا شده، بل‌كه توسط تعدادي از دانشمندان برجسته‌ي كامپيوتر، ازجمله دنيس هاسابيس از پژوهشگران برجسته هوش مصنوعي، نيزامضا شده است. از همه‌ي اين‌ها كه بگذريم، اگر آن‌ها هوش مصنوعي را به نحوي ايجاد كنند كه داراي ارزش‌هاي والاي انساني نباشد، پس آن‌قدر باهوش نبوده‌اند كه مخلوق خود را كنترل كنند.