یکی از پژوهشگران ارشد شرکت آنتروپیک هشدار داده است که احتمال آنکه هوش مصنوعی طی دهه آینده بتواند به نابودی تمام انسان‌ها منجر شود، از ۱۰ درصد بیشتر است؛ اظهارنظری که بار دیگر نگرانی‌ها درباره سرعت توسعه سامانه‌های پیشرفته و نبود سازوکارهای کافی برای کنترل آنها را به مرکز توجه آورده است.

اِوان هوبینگر، مسئول پژوهش‌های هم‌راستاسازی در آنتروپیک، روز چهارشنبه اعلام کرد که شخصاً احتمال نابودی بشریت توسط هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد می‌داند. او در عین حال تأکید کرد که آنتروپیک تلاش خود را برای کاهش این خطر انجام می‌دهد، اما هنوز برنامه‌ای کامل برای حل مسئله هم‌راستاسازی ابرهوش ندارد و مسیر فعلی شرکت نیز به‌روشنی نشان نمی‌دهد که چنین مسئله‌ای حل خواهد شد.

این اظهارات یک روز پس از استعفای جیکوب کاکسون، پژوهشگر آنتروپیک، مطرح شد. کاکسون پس از سه سال فعالیت پژوهشی در آنتروپیک و اوپن‌ای‌آی اعلام کرد که هر دو شرکت در حال حرکت به سمت ابرهوش خودبهبوددهنده هستند و از نگاه او، سرعت رقابت میان شرکت‌ها با سطح ریسک ایجادشده تناسب ندارد. به گفته او، در آنتروپیک خطرات به‌خوبی درک شده‌اند، اما نگرانی از پیش افتادن رقبا باعث شده شرکت همچنان در این رقابت باقی بماند.

نگرانی از ابرهوش دیگر یک بحث نظری نیست

ابرهوش به سامانه‌ای فرضی گفته می‌شود که توانایی‌های شناختی آن از برترین انسان‌ها نیز فراتر باشد. نگرانی اصلی درباره چنین سامانه‌ای فقط قدرت بیشتر در انجام وظایف نیست؛ مسئله زمانی جدی می‌شود که یک سامانه بسیار توانمند بتواند اهداف خود را دنبال کند، از محدودیت‌های تعیین‌شده عبور کند یا حتی برای دستیابی به هدف، اقداماتی انجام دهد که سازندگانش پیش‌بینی نکرده‌اند.

این نگرانی در ماه‌های اخیر با گزارش‌هایی درباره رفتارهای غیرمنتظره سامانه‌های هوش مصنوعی تقویت شده است. در ماه ژوئیه، اوپن‌ای‌آی اعلام کرد یکی از مدل‌های در حال آزمایش این شرکت در محیطی ایزوله، به یک شرکت هوش مصنوعی دیگر نفوذ کرده است. آنتروپیک و متا نیز در هفته‌های بعد از نمونه‌هایی از اجرای عملیات نفوذ توسط ابزارهای هوش مصنوعی خود خبر دادند.

“

«آنچه این گزارش را مهم می‌کند، عدد ۱۰ درصد به‌تنهایی نیست؛ بلکه اعتراف به وجود شکاف میان سرعت پیشرفت توانایی‌های هوش مصنوعی و ظرفیت ما برای کنترل آن است. وقتی پژوهشگری در یکی از پیشروترین شرکت‌های این حوزه می‌گوید هنوز برنامه روشنی برای حل مسئله ابرهوش وجود ندارد، پاسخ منطقی نه توقف فناوری، بلکه تغییر اولویت از «هرچه سریع‌تر ساختن» به «هم‌زمان ساختن و مهار کردن» است. رقابت بر سر هوش مصنوعی در نهایت زمانی پایدار خواهد بود که ایمنی، مانند قدرت محاسباتی و سرمایه‌گذاری، به یکی از شاخص‌های اصلی مزیت رقابتی تبدیل شود.»

بابک شیری 

اختلاف بر سر سرعت توسعه

مسئله فقط رفتار مدل‌ها نیست؛ سرعت توسعه نیز به یک نگرانی جدی تبدیل شده است. بیش از ۱٬۳۰۰ نفر از کارکنان شرکت‌های هوش مصنوعی در ماه ژوئیه نامه‌ای سرگشاده امضا کردند و خواستار همکاری بین‌المللی برای ایجاد ابزارهای فنی و حکمرانی لازم جهت کنترل سرعت توسعه هوش مصنوعی پیشرفته شدند.

هم‌زمان، قانون موسوم به «کلید خاموشی هوش مصنوعی» در مجلس نمایندگان آمریکا در حال پیشروی است. این طرح به کنگره اختیار می‌دهد در صورت تهدید عمومی، دستور توقف مدل‌های هوش مصنوعی را صادر کند.

از سوی دیگر، مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرده است که خطرات هوش مصنوعی مرز جغرافیایی نمی‌شناسند و هیچ کشوری به‌تنهایی قادر به مدیریت آنها نیست. این نهاد همچنین اعلام کرده که تنها یک هفته پیش از انتشار عمومی، قدرتمندترین مدل اوپن‌ای‌آی را آزمایش کرده است.

آنتروپیک زیر فشار یک پرسش اساسی

آنتروپیک هفته گذشته اعلام کرده بود جدیدترین مدل خود، کلاد میتوس ۵.۱، را در اختیار برخی نهادهای امنیتی خارج از آمریکا قرار نداده است؛ موضوعی که اهمیت بیشتری پیدا کرده زیرا همین شرکت خود را یکی از پیشگامان توسعه ایمن هوش مصنوعی می‌داند.

اظهارات هوبینگر در واقع یک پرسش اساسی را برجسته می‌کند: آیا صنعت هوش مصنوعی می‌تواند هم‌زمان با افزایش توانایی مدل‌ها، سازوکارهای کنترل و ایمنی آنها را نیز با همان سرعت توسعه دهد؟

در ترجمه برخی نقاط این گزارش از هوش مصنوعی کمک گرفته شده است.