اعتراف ترسناک محققان: هوش مصنوعی پیشرفته، غیرقابل کنترل است!

مساله مهم در خصوص تسلط بر سامانه‎های مبتنی بر AI این‌جاست که کنترل کردن یک ابرهوش مصنوعی که فراتر از درک بشریت عمل می‌کند، نیازمند شبیه‌سازی دقیق جزئیات آن است؛ به طوری که تمامی ابعاد آن در شبیه‌سازی گنجانده شده و روش‌های کنترل آن بررسی شود. با این وجود به دلیل آن که احتمالا ما قادر به درک تمام ابعاد یک هوش مصنوعی پیشرفته نخواهیم بود، شبیه‌سازی و در نتیجه کنترل آن امری پیچیده است.

علاوه بر این، قرار دادن قوانین و محدودیت‌هایی نظیر «به انسان‌ها آسیب نرسان» نیز در شرایطی که ما مکانیزم تفکر و عملکرد این کامپیوترهای باهوش را نمی‌شناسیم، امکان‌پذیر نخواهد بود. بر اساس ادعای نویسندگان مقاله‌ای جدید در این حوزه، زمانی که یک سیستم کامپیوتری در سطحی بالاتر از درک برنامه‌نویسان عمل می‌کند، قرار دادن محدودیت برای آن بی‌معنی است.

به نوشته این دانشمندان:

یک هوش مصنوعی پیشرفته رفتاری کاملا متفاوت با آنچه تحت عنوان اخلاق ربات‌ها می‌شناسیم خواهد داشت.

فاکتور مهم تاثیرگذار در این خصوص این است که ربات‌ها عملکردی چندوجهی دارند و قادرند برای دستیابی به هدف‌های تعیین‌شده، از منابع متعددی به طور همزمان استفاده کنند. این اهداف همان طور که اشاره شد، نه تنها برای بشر غیرقابل کنترل، بلکه حتی ممکن است غیرقابل درک باشد.

بخش عمده‌ای از استدلال تیم پژوهش در زمینه امکان کنترل هوش مصنوعی، به مساله توقف بر می‌گردد که در سال 1936 توسط آلن تورینگ مطرح شد. مساله توقف به امکان پیدا کردن پاسخ یا نتیجه برای یک برنامه کامپیوتری (و در نتیجه توقف آن) و یا در جریان بودن برنامه تا ابد اختصاص دارد.

آلن تورینگ با برخی محاسبات ریاضی پیچیده نشان داد که علیرغم این که تخمین پایان‌پذیر بودن عملکرد برخی برنامه‌های کامپیوتری امکان‌پذیر است؛ اما به طور کلی هیچ راهی نیست که بتوان متوقف شدن هر برنامه کامپیوتری را پیش‌بینی کرد.

از طرف دیگر، یک هوش مصنوعی پیشرفته نیز به سادگی قادر است تمامی برنامه‌های کامپیوتری قابل اجرا را به حافظه بسپارد.

اکنون تصور کنید برنامه نویسان برنامه‌ای را برای محدود کردن هوش مصنوعی به قوانینی نظیر آسیب نرساندن به انسان‌ها و یا نابود نکردن جهان طراحی کنند! بر اساس آنچه گفته شد، از لحاظ ریاضی غیرممکن است که قابل اجرا بودن و یا به پایان رسیدن آن را تضمین کرد! بنابراین نمی‌توان با قاطعیت اعلام کرد که در صورت خیزش کامپیوترهای ابرهوشمند، کدهای ما قادر به متوقف و یا حتی کنترل کردن آن‌ها خواهند بود یا خیر!

روش جایگزین برای کنترل کامپیوترهای فوق هوشمند

همان طور که در بالا اشاره شد، کنترل کردن یک هوش مصنوعی پیشرفته از طریق برنامه‌نویسی روش مطمئنی نیست. با این وجود، روش دیگری نیز برای جلوگیری از نابودی دنیا توسط AI وجود دارد.

راه معقول در این زمینه، محدود کردن دسترسی یا توانایی این هوش مصنوعی است؛ به طوری که کامپیوتر ابرهوشمندی که قصد نابود کردن دنیا را دارد، قادر به دسترسی به برخی شبکه‌های حساس نباشد. راه مطمئن این کار، قطع کردن دسترسی برخی پایگاه‌های حساس به اینترنت است!

مقاله مورد بررسی این ایده را هم رد می‌کند؛ چرا که معتقد است از این طریق، هوش مصنوعی از ابتدا قادر به رسیدن به سطح بالایی از هوشمندی نخواهد بود! در ادامه نویسندگان این محققان ادعا می‌کنند که دلیل باهوش شدن بیش از اندازه یک کامپیوتر با هوش مصنوعی، سطح بالای دسترسی آن به تاسیسات، شبکه‌ها و سامانه‌های مختلف است.

بر اساس آنچه در این متن گفته شد، اگر قصد داشته باشیم تکنولوژی هوش مصنوعی را به همین منوال توسعه دهیم، باید احتمالاتی از قبیل هوشمند شدن بیش از حد این سیستم، به طوری که از درک بشر خارج باشد، را نیز حتما در محاسباتمان بگنجانیم! بنابراین نیاز است که حتما به سوالاتی مهم پیرامون جهت حرکت خود با هوش مصنوعی پاسخ دهیم.

در همین راستا، مانوئل سبریان، یک محقق داده در انستیتو مکس پلانک آلمان در سال 2021 اظهار نظر تامل‌برانگیز زیر را در خصوص تکنولوژی‌های هوش مصنوعی پیشرفته مطرح کرد:

علیرغم اینکه ایده یک هوش مصنوعی پیشرفته که بتواند دستگاه‌های مختلف را کنترل کند، شبیه سناریوی فیلم‌های علمی تخیلی به نظر می‌رسد؛ اما حتی همین الان هم کامپیوترهایی مبتنی بر هوش مصنوعی وجود دارند که برخی امور پیچیده را بدون اینکه برنامه‌نویسان از مکانیزم کار سر در بیاورند، انجام می‌دهند!

بر این اساس، سوال این‌جاست که چه زمانی هوش مصنوعی از کنترل بشر خارج شده و تصمیم به فرمانروایی می‌گیرد!

منبع :sciencealert