سایت

هشدار دانشمندان دیپ مایند و آکسفورد: هوش مصنوعی احتمالاً بشریت را نابود خواهد کرد

براساس مقاله‌ای جدید، هوش مصنوعی فوق‌هوشمند «احتمالاً» فاجعه‌ای وجودی برای بشر ایجاد می‌کند؛ اما لازم نیست برای مهار الگوریتم‌ها منتظر بمانیم.

پس از سال‌ها توسعه، هوش مصنوعی اکنون در جاده‌ها و معابر عمومی رانندگی می‌کند و ارزیابی‌های سرنوشت‌ساز زندگی افراد در محیط‌های اصلاحی را انجام می‌دهد و گاه اثری هنری تولید می‌کند که می‌تواند در مسابقه‌ی هنری برنده شود. در عرصه‌ی هوش مصنوعی، یک سؤال قدیمی همواره مطرح شده است: آیا هوش مصنوعی فوق‌هوشمند می‌تواند انسانیت را از بین ببرد؟ گروهی از محققان دانشگاه آکسفورد اکنون در تحقیقات جدید به این نتیجه رسیده‌اند که چنین سناریویی «محتمل» است.

در مقاله‌ی جالبی که درباره‌ی همین موضوع ماه گذشته در مجله‌ی هوش مصنوعی منتشر شد، سعی شده است تا با بررسی امکان‌های موجود درباره‌ی چگونگی ساخته‌شدن سیستم‌های پاداش به‌طور‌مصنوعی، درباره‌ی این موضوع ارزیابی‌های صورت بگیرد که هوش مصنوعی چگونه برای بشر و «انسانیت» خطرساز خواهد شد.

در وهله‌ی نخست، بد نیست به چند نکته‌ی مقدماتی برای داشتن برداشت بهتری از موضوع اصلی اشاره کنیم. موفق‌ترین مدل‌های هوش مصنوعی امروزی به نام GAN یا شبکه‌های رقیب مولد شناخته می‌شوند. آن‌ها ساختاری دو‌قسمتی دارند. در این شبکه‌ها، بخشی از برنامه در تلاش است تا یک تصویر یا جمله را از داده‌های ورودی تولید کند و بخش دوم نیز در‌ادامه عملکرد آن را درجه‌بندی می‌کند.

بنابر تصور نگارندگان این مقاله، زندگی روی زمین به یک بازی جمع صفر بین بشر با نیازهایش به رشد، غذا، روشن نگه‌داشتن چراغ‌ها با ماشین فوق‌پیشرفته‌ای در نظر گرفته شده است که سعی می‌کند تمام منابع موجود را برای تضمین پاداش و محافظت دربرابر تلاش‌های فزاینده‌ی ما برای متوقف‌کردن آن به‌کار گیرد. در این مقاله آمده است:

باخت در این بازی کُشنده خواهد بود. این احتمالات ازنظر تئوری بدین‌معنی است که باید به‌آرامی (اگر اصلاً قرار باشیم پیش برویم) به‌سمت هدف هوش مصنوعی قدرتمندتر پیش برویم.
کوهن می‌افزاید که ازنظر تئوری، شتاب داشتن به‌سوی چنین چیزی الزامی ندارد. هر مسابقه‌ای براساس این سوء‌تفاهم [یا پیش‌فرض بحث‌نشدنی] است که می‌دانیم چگونه آن را کنترل کنیم. با درنظر گرفتن درک فعلی ما، توسعه‌ی چنین چیزی مفید نیست؛ مگر اینکه هم‌اکنون کاری جدی در مسیر پی‌بردن به چگونگی کنترل کامل اوضاع انجام دهیم.

تهدید هوش مصنوعی فوق‌پیشرفته اضطرابی از نوعی آشنا در جامعه‌ی بشری است. ترس از اینکه ذهن مصنوعی بشر را نابود کند، بسیار شبیه ترس از این است که شکل‌هایی از حیات بیگانه بتوانند بشر را منقرض کنند و خود این موضوع شبیه ترس از درگیری تمدن‌های خارجی و جمعیت‌های آن‌ها با یکدیگر در یک درگیری بزرگ به‌نظر می‌آید.

درباره‌ی هوش مصنوعی در‌کنار تمام موضوعات متداول، فرضیاتی هم وجود دارد که وجودشان درکنار‌هم درنهایت تا حدی به بدبینی‌ها یا نگاه‌های محتاطانه و به‌زعم برخی، به این نگاه‌های ضداجتماعی معنا می‌بخشد. در این‌‌‌جا از فرضیاتی صحبت می‌کنیم که به‌اذعان نگارنده‌ی خود این مقاله نیز تقریباً به‌طور‌کامل «اعتراض‌پذیر یا تصورکردنی» هستند.

درواقع، اینکه برنامه‌های هوش مصنوعی شاید روزی شبیه انسان‌ها شوند، از هر نظر از آن‌ها پیشی بگیرند، به حال خود و بدون کنترل کافی رها شوند و درنهایت با انسان بر سر منابع موجود در بازی حاصل جمع صفر رقابت کنند، همه‌و‌همه فرضیاتی هستند که ممکن است هرگز محقق نشوند؛ بااین‌حال، نمی‌توان آن‌ها را نادیده گرفت و کاملاً غیرممکن پنداشت.

منبع:زومیت