طراحي هوش مصنوعي هوشمندي كه مي‌داند چه زماني نمي‌توان به آن اعتماد كرد

اگر در فيلم ترميناتور اسكاي‌نت تصميم مي‌گرفت صلاحيت مسئوليت استفاده از مهمات هسته‌اي آمريكا را ندارد، داستان شكل ديگري به‌پايان مي‌رسيد. در دنياي واقعي، دانشمندان با ايجاد شبكه‌هاي مصنوعي كه مي‌دانند چه زماني غيراعتماد هستند، ممكن است بتوانند ما را از وقوع چنين رويدادهاي آخرالزماني به رهبري هوش مصنوعي نجات دهند. شبكه‌هاي عصبي يادگيري عميق با هدف تقليد از مغز انسان طراحي شده‌اند و با ارزيابي هم‌زمان عوامل متعدد، الگوهاي موجود در انبوه داده‌ها را كشف مي‌كنند كه انسان‌ها ظرفيت تجزيه‌و‌تحليل آن را ندارند.

درحالي‌كه هنوز ممكن است فاصله‌ي زيادي با داستان اسكاي‌نت داشته باشيم، هوش مصنوعي هم‌اكنون در حال تصميم‌گيري در زمينه‌هايي است كه روي زندگي انسان اثر مي‌گذارند؛ مانند رانندگي خودران و تشخيص پزشكي. بنابراين، حياتي است كه آن‌ها تاحدممكن دقيق باشند. به‌منظور كمك به دستيابي به اين هدف، سيستم شبكه‌ي عصبي جديدي ايجاد شده است كه علاوه‌بر پيش‌بيني، ميزان اطمينان خود را نيز مي‌تواند تخمين بزند.

الكساندر اميني، دانشمند علوم كامپيوتر آزمايشگاه هوش مصنوعي و علوم كامپيوتر مؤسسه فناوري ماساچوست مي‌گويد: «نه‌تنها لازم است مدل‌ها عملكرد خيره‌كننده‌اي داشته باشند؛ بلكه بايد بدانيم چه زماني نمي‌توانيم به آن مدل‌ها اعتماد كنيم.»

اين خودآگاهي از قابليت اعتماد «رگرسيون شهودي عميق» نام گرفته است و امتياز آن براساس كيفيت داده‌هاي دردسترسي محاسبه مي‌شود كه بايد با آن‌ها كار كند. هرچه داده‌هاي استفاده‌شده براي يادگيري دقيق‌تر و جامع‌تر باشند، اين احتمال بيشتر است كه پيش‌بيني‌هاي آينده‌ موفق باشد.

گروه پژوهشي سيستم خود را با شبكه‌ي مصنوعي كنترل‌كننده‌ي اتومبيل خودراني مقايسه مي‌كند كه سطوح متفاوتي از اطمينان در اين زمينه دارد كه آيا بايد از تقاطعي عبور كند يا هنگام كمتر مطمئن‌بودن از پيش‌بيني‌هايش، منتظر بماند و حركت نكند.

دانيلا روس، دانشمند علوم كامپيوتر مي‌گويد:

اين ايده مهم است و متخصصد وسيعي دارد؛ مثلا مي‌تواند براي ارزيابي محصولات متكي‌بر مدل‌هاي يادگيري‌ديده استفاده شود. با تخمين ميزان قطعيت‌نداشتن مدل يادگيري‌ديده، مي‌آموزيم چقدر خطا از مدل انتظار داريم يا چه نوع داده‌هايي مي‌توانند مدل را بهبود بخشند.

پژوهشگران سيستم جديد خود را درزمينه‌ي قضاوت عمق بخش‌هاي مختلف تصوير آزمايش كردند. اين مانند حالتي است كه اتومبيل خودران درباره‌ي فاصله قضاوت مي‌كند. شبكه به‌خوبي با سيستم‌هاي موجود مقايسه‌شدني بود و در همان زمان، قطعيت‌نداشتن خود را نيز تخمين مي‌زد. در دفعاتي با حداقل اطمينان، واقعا در زمينه‌ي عمق اشتباه مي‌كرد.

به‌عنوان مزيت اضافي، اين شبكه مي‌توانست دفعاتي را علامت‌گذاري كند كه با تصاويري خارج از وظيفه‌ي معمول خود رو‌به‌رو مي‌شد و با داده‌هايي كه با آن‌ها يادگيري ديده بود، بسيار تفاوت داشت. اين مزيت در شرايط پزشكي مي‌تواند به اين معنا باشد كه پزشك بايد موردي را دوباره مطالعه كند.

حتي اگر شبكه‌ي عصبي در ۹۹ درصد مواقع درست عمل كند، ۱ درصد باقي‌مانده بسته به سناريو مي‌تواند عواقب جدي به‌دنبال داشته باشد. پژوهشگران مي‌گويند اطمينان دارند كه آزمايش اعتماد ساده و جديد آن‌ها مي‌تواند به بهبود ايمني به‌صورت آني كمك كند؛ اگرچه متخصص كارشناسان هنوز مطالعه‌ي جديد را بازبيني نكرده‌اند. اميني مي‌گويد:

خروج اين مدل‌ها را از آزمايشگاه‌هاي پژوهشي و ورود آن‌ها را به دنياي واقعي و موقعيت‌هايي شاهد هستيم كه در تماس با انسان‌ها قرار مي‌گيرند و ممكن است پيامدهاي تهديدكننده‌ي زندگي داشته باشند. هر متخصصي كه از اين روش‌ استفاده مي‌كند، خواه پزشك باشد يا مسافر وسيله‌ي نقليه، بايد از هرگونه خطر يا نبود اطمينان مرتبط با آن تصميم مطلع باشد.

نتايج اين پژوهش در كنفرانس NeurIPS ارائه مي‌شود و مقاله‌ي الكترونيكي از آن دردسترس است.