آیا هوش مصنوعی پیش از آنکه فوق‌هوشمند شود، به اندازه کافی خطرناک شده است؟

بحث درباره خطرات هوش مصنوعی در ماه‌های اخیر بیش از هر زمان دیگری به سمت یک سؤال بنیادین رفته است: آیا تهدید اصلی هنوز در توانایی‌هایی قرار دارد که هوش مصنوعی ممکن است در آینده به دست آورد، یا بخش مهمی از خطرات همین حالا در سیستم‌های موجود دیده می‌شود؟ در حالی که برخی متخصصان صنعت درباره ظهور هوش مصنوعی فوق‌انسانی، خودبهبوددهنده و حتی سناریوهای نابودی تمدن هشدار می‌دهند، گروه دیگری از پژوهشگران معتقدند تمرکز بیش از حد بر این سناریوهای دوردست می‌تواند سیاست‌گذاران را از خطرات واقعی و قابل مشاهده امروز منحرف کند.

تهدید هوش مصنوعی همین حالا آغاز شده است

هوش مصنوعی دیگر صرفاً یک فناوری آزمایشگاهی نیست که خطرات آن به آینده‌ای نامعلوم موکول شود. نمونه‌های اخیر نشان داده‌اند که مدل‌های هوش مصنوعی می‌توانند در حملات سایبری، سرقت اطلاعات، ساخت سلاح و حتی رفتارهایی که به آسیب رساندن به خود یا دیگران منجر می‌شوند، نقش داشته باشند.

ماجرای حمله گروهی از عامل‌های هوش مصنوعی به سامانه هاجینگ فیس نیز یکی از نمونه‌هایی است که بحث درباره این خطرات را جدی‌تر کرده است. با این حال، نکته مهم در تحلیل برخی پژوهشگران این است که موفقیت این حمله الزاماً نتیجه یک جهش ناگهانی در هوش مدل‌ها نبود؛ بلکه ضعف در کنترل‌های فنی و نبود محدودیت‌های پایه‌ای، امکان چنین رفتاری را فراهم کرده بود.

این تفاوت اهمیت زیادی دارد. اگر یک سیستم با توانایی‌های فعلی و بدون نیاز به رسیدن به هوش عمومی بتواند خسارت قابل‌توجهی ایجاد کند، مسئله اصلی دیگر انتظار برای یک فناوری فوق‌العاده قدرتمند نیست؛ بلکه نحوه طراحی، کنترل و استفاده از فناوری موجود است.

آیا هوش مصنوعی واقعاً در آستانه خودبهبودی است؟

یکی از مهم‌ترین اختلافات میان کارشناسان به مفهوم «خودبهبودی بازگشتی» یا RSI مربوط می‌شود. این اصطلاح به وضعیتی اشاره دارد که یک سیستم هوش مصنوعی بتواند در پژوهش و توسعه نسل بعدی خود نقش داشته باشد و به این ترتیب، سرعت پیشرفت فناوری به شکل فزاینده‌ای افزایش پیدا کند.

برخی فعالان صنعت هوش مصنوعی معتقدند چنین نقطه‌ای ممکن است فاصله زیادی با امروز نداشته باشد. داریو آمودی، مدیرعامل آنتروپیک، حتی پیشنهاد کرده است توافقی جهانی برای کاهش سرعت عرضه مدل‌های جدید شکل بگیرد تا رسیدن به مرحله خودبهبودی بازگشتی به تعویق بیفتد.

اما همه پژوهشگران چنین برداشتی ندارند.

ملانی میچل، پژوهشگر مؤسسه سانتافه، معتقد است هوش مصنوعی با وجود پیشرفت‌های چشمگیر هنوز به مرحله‌ای نرسیده که بتواند پژوهش‌های اصیل مورد نیاز برای پیشبرد مرزهای هوش مصنوعی را به شکل مستقل انجام دهد.

این دیدگاه در یک پژوهش مشترک با مشارکت حدود دو دوجین پژوهشگر از دانشگاه‌هایی مانند پرینستون و استنفورد نیز مطرح شده است. نویسندگان این مطالعه معتقدند حتی پیشرفته‌ترین سیستم‌های فعلی هنوز قادر نیستند بخش اصلی پژوهش لازم برای ساخت نسل بعدی هوش مصنوعی را به صورت مستقل انجام دهند.

شاخصی که هنوز هیچ مدل عمومی از آن عبور نکرده است

شرکت «والز ای‌آی» نیز شاخصی برای سنجش توانایی مدل‌ها در انجام پژوهش‌هایی که بتواند به ساخت نسل بعدی هوش مصنوعی منجر شود ایجاد کرده است.

تا امروز، هیچ مدل عمومی منتشرشده‌ای به سطحی نزدیک به توانایی انسان در این زمینه نرسیده است.

با این حال، رایان کریشنان، مدیرعامل والز ای‌آی، پیش‌بینی می‌کند مدل‌ها ممکن است تا اوت ۲۰۲۷ یا حتی زودتر، از انسان در توانایی بهبود نسل بعدی هوش مصنوعی عبور کنند.

اگر چنین اتفاقی رخ دهد، نگرانی اصلی ورود به مرحله‌ای خواهد بود که برخی کارشناسان آن را «شتاب سریع» می‌نامند؛ وضعیتی که در آن مدل‌ها بتوانند مهارت‌های خود را با سرعت زیادی توسعه دهند و فاصله میان توانایی‌های ماشین و انسان در حوزه‌های مختلف به سرعت افزایش پیدا کند اما این همچنان یک پیش‌بینی است، نه یک واقعیت موجود.

بحث «احتمال نابودی» چرا این‌قدر مبهم است؟

یکی از مفاهیمی که در میان برخی متخصصان هوش مصنوعی رایج شده یا احتمال وقوع یک فاجعه ناشی از هوش مصنوعی است. برخی چهره‌های صنعت حتی احتمال چنین رویدادی در دهه آینده را حدود ۱۰ درصد یا بیشتر برآورد کرده‌اند. با این حال، منتقدان این روش استدلال می‌کنند که بسیاری از این اعداد بر زنجیره‌ای از احتمالات فرضی بنا شده‌اند و داده تجربی کافی برای تعیین چنین احتمالات دقیقی وجود ندارد.

ملانی میچل نیز معتقد است اعداد مطرح‌شده درباره احتمال نابودی اغلب بیشتر از آنکه نتیجه یک محاسبه دقیق باشند، بر برداشت‌ها و فرضیات شخصی متکی هستند. مشکل دیگر این است که تمرکز بیش از اندازه بر یک سناریوی بسیار دور می‌تواند توجه سیاست‌گذاران را از خطراتی که همین امروز قابل مشاهده هستند منحرف کند.

مقرراتی شبیه هواپیما و آسانسور

گروهی از کارشناسانی که با سناریوهای آخرالزمانی فاصله دارند، به هیچ عنوان معتقد نیستند هوش مصنوعی بی‌خطر است. برعکس، آنها می‌گویند همین میزان از توانایی برای اعمال مقررات جدی کافی است.

منطق آنها ساده است: همان‌طور که هواپیما، آسانسور، ساختمان، مواد غذایی و دارو بدون استانداردهای ایمنی نمی‌توانند به شکل گسترده در جامعه مورد استفاده قرار گیرند، سیستم‌های هوش مصنوعی نیز باید پیش از عرضه و در طول فعالیت خود تحت ارزیابی‌های مستقل قرار گیرند.

بر اساس این دیدگاه، شرکت‌های سازنده باید در قبال آسیب‌هایی که سیستم‌های آنها ایجاد می‌کنند مسئولیت داشته باشند و مدل‌ها نیز باید به گونه‌ای طراحی شوند که احتمال آسیب را تا حد ممکن کاهش دهند.

کریستوفر کانال، مدیرعامل شرکت اکوی‌استمپ، معتقد است اگر فناوری به اندازه‌ای قدرتمند باشد که بتواند ویروس‌های خطرناک ایجاد کند یا کنترل کل سیاره را در دست بگیرد، باید به اندازه کافی توانمند باشد که در حل مشکلات بزرگی مانند بیماری‌ها و پیری نیز نقش ایفا کند. از این منظر، تمرکز باید بر سنجش واقعی توانایی و خطرات سیستم‌ها باشد، نه سناریوهای فرضی و دوردست.

مرزهای رفتاری برای هوش مصنوعی

استوارت راسل، استاد علوم رایانه دانشگاه کالیفرنیا در برکلی، معتقد است سیاست «کاهش سرعت پیشرفت» به تنهایی مسئله را حل نمی‌کند. به اعتقاد او، اگر یک فناوری در مسیر برخورد با یک مانع حرکت می‌کند، کاهش سرعت حرکت از ۶۰ به ۴۰ کیلومتر در ساعت به خودی خود مانع را از بین نمی‌برد.

رویکرد پیشنهادی او و برخی همکارانش ایجاد «خطوط قرمز رفتاری» برای هوش مصنوعی است؛ یعنی برخی رفتارها باید فارغ از میزان توانایی مدل، ممنوع باشند. نفوذ به سامانه‌های رایانه‌ای دیگران، سرقت اطلاعات یا ارائه دستورالعمل برای ساخت سلاح‌های زیستی از جمله رفتارهایی هستند که یک انسان نیز نمی‌تواند آزادانه انجام دهد. بنابراین استدلال مطرح‌شده این است که سیستم‌های هوش مصنوعی نیز نباید مجاز به انجام چنین اقداماتی باشند.

مشکل اینجاست که اجرای کامل چنین استانداردی ممکن است شرکت‌های فناوری را با چالشی اساسی مواجه کند؛ زیرا مدل‌های پیشرفته امروزی هنوز نمی‌توانند در همه شرایط چنین مرزهایی را به شکل قابل اتکا رعایت کنند.

“

«مسئله اصلی در بحث هوش مصنوعی را نباید صرفاً در فاصله میان «امروز» و یک آینده فرضی جست‌وجو کرد؛ بلکه شکاف مهم‌تر میان سرعت توسعه فناوری و سرعت شکل‌گیری سازوکارهای کنترل آن است. اگر سیاست‌گذاری تنها منتظر ظهور هوش فوق‌انسانی بماند، ممکن است از مرحله‌ای عبور کنیم که هنوز امکان اصلاح معماری، تعیین مسئولیت و ایجاد استانداردهای ایمنی وجود دارد. از این منظر، ارزشمندترین رویکرد نه ترس از یک آخرالزمان فرضی و نه خوش‌بینی افراطی به فناوری، بلکه پذیرش این واقعیت است که هرچه قدرت اقتصادی و عملیاتی هوش مصنوعی سریع‌تر افزایش پیدا می‌کند، هزینه نبود قواعد روشن نیز بالاتر می‌رود.»

بابک شیری

آیا آمریکا به سازمانی شبیه سازمان غذا و دارو نیاز دارد؟

یکی دیگر از پیشنهادهای مطرح‌شده، ایجاد نهادی شبیه سازمان غذا و داروی آمریکا برای نظارت بر هوش مصنوعی است. چنین نهادی می‌تواند وظیفه ارزیابی مدل‌ها، تعیین استانداردهای ایمنی و بررسی پیامدهای سیستم‌های پرخطر را بر عهده داشته باشد. با این حال، ایجاد یک نهاد جدید تاکنون در کنگره آمریکا با استقبال کافی مواجه نشده است.

منتقدان چنین رویکردی نیز هشدار داده‌اند که مقررات سنگین ممکن است سرعت توسعه صنعت آمریکا را کاهش دهد و در رقابت فناوری با چین به زیان ایالات متحده تمام شود.

با این حال، افزایش نگرانی درباره کاربردهای مخرب هوش مصنوعی باعث شده بحث درباره مسئولیت شرکت‌های فناوری و نحوه نظارت بر مدل‌های پیشرفته، بیش از گذشته به یک مسئله سیاست‌گذاری تبدیل شود.

مسئله اصلی، سرعت پیشرفت نیست؛ کیفیت کنترل است

آنچه از مجموعه این دیدگاه‌ها به دست می‌آید این است که اختلاف اصلی میان کارشناسان لزوماً بر سر خطرناک بودن هوش مصنوعی نیست. تقریباً همه طرف‌های این بحث قبول دارند که فناوری می‌تواند قدرت زیادی در اختیار انسان قرار دهد و همین قدرت می‌تواند برای اهداف مخرب نیز استفاده شود.

اختلاف بر سر این است که سیاست‌گذاری باید روی چه چیزی متمرکز شود.

یک رویکرد، کاهش سرعت پیشرفت مدل‌ها و جلوگیری از رسیدن سریع آنها به مرحله خودبهبودی است. رویکرد دیگر می‌گوید حتی اگر هوش مصنوعی هرگز به سطح فوق‌انسانی نرسد، همین مدل‌های فعلی نیز به اندازه کافی قدرتمند هستند که نیازمند استانداردهای ایمنی، ارزیابی مستقل و مسئولیت حقوقی باشند.

در این چارچوب، مسئله مهم‌تر از اینکه هوش مصنوعی در سال ۲۰۲۷ یا ۲۰۳۰ چه میزان هوشمند خواهد بود، این است که شرکت‌ها امروز چه تضمین‌هایی برای جلوگیری از سوءاستفاده از مدل‌های خود ارائه می‌کنند.

در ترجمه برخی نقاط این گزارش از هوش مصنوعی کمک گرفته شده است.