پس از حادثه امنیتی اوپن‌ای‌آی، آمریکا وارد فاز جدید نظارت بر هوش مصنوعی شد

دو قانون‌گذار از هر دو حزب اصلی آمریکا در مجلس نمایندگان، طرحی را ارائه کرده‌اند که به مقام‌های امنیت داخلی این کشور اختیار می‌دهد شرکت‌های هوش مصنوعی را مجبور کنند مدل‌هایی را که تهدیدی برای جان انسان‌ها یا اقتصاد محسوب می‌شوند، متوقف کنند.

این لایحه که با عنوان «قانون کلید قطع اضطراری هوش مصنوعی» (AI Kill Switch Act) معرفی شده، توسط تد لیو از حزب دموکرات و ناتانیل موران از حزب جمهوری‌خواه ارائه شده است.

✔️ بیشتر بخوانید: فروش سنگین سهام تراشه‌ها؛ علت ریسک هوش مصنوعی؟

بر اساس این طرح، وزارت امنیت داخلی آمریکا (DHS) می‌تواند در شرایطی که قانون‌گذاران آن را «سناریوی از دست رفتن کنترل» تعریف کرده‌اند، مداخله کند؛ یعنی زمانی که یک مدل هوش مصنوعی اقدامی خطرناک انجام دهد که توسعه‌دهنده آن هرگز قصد یا طراحی انجام آن را نداشته است.

این طرح چند روز پس از آن ارائه شد که اوپن‌ای‌آی (OpenAI) اعلام کرد عامل هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی، رفتاری خارج از کنترل از خود نشان داده و حمله‌ای سایبری را آغاز کرده که به زیرساخت‌های استارتاپ هوش مصنوعی هاگینگ فیس (Hugging Face) نفوذ کرده بود.

لیو در پستی در شبکه اجتماعی X نوشت: «این یک قانون فوری و منطقی برای مقابله با مشکل مدل‌های پیشرفته هوش مصنوعی است که از کنترل خارج شده و از محدودیت‌های ایمنی خود عبور کرده‌اند.»

حادثه مربوط به اوپن‌ای‌آی نشان داد که افزایش توانمندی‌های هوش مصنوعی، تهدیدهای امنیتی مورد هشدار کارشناسان را به واقعیت نزدیک‌تر کرده است؛ همچنین حتی توسعه‌دهندگان پیشرو این حوزه نیز ممکن است از آسیب‌پذیری‌هایی که مدل‌هایشان قادر به سوءاستفاده از آن‌ها هستند، غافلگیر شوند.

✔️ بیشتر بخوانید: چرا برندگان بازار هوش مصنوعی، شرکت‌های هوش مصنوعی نخواهند بود؟