- توافق داوطلبانه: ترامپ و مدیران بزرگ فناوری توافقنامهای برای خودتنظیمی و افزایش ایمنی هوش مصنوعی امضا کردند؛ سند از نظر قانونی الزامآور نیست.
- نظارت چندلایه: شرکتها به ایجاد کنترلهای داخلی، حسابرسی خارجی و بررسی نتایج توسط هیئتمدیره متعهد شدهاند.
- ابهام درباره آینده مقررات: انتصاب رئیس هوش مصنوعی و تشکیل کمیته ۱۰ نفره میتواند نظارت بر صنعت را افزایش دهد، اما اختیارات و سازوکار اجرایی آنها هنوز مشخص نیست.
دونالد ترامپ و شماری از مدیران ارشد صنعت هوش مصنوعی روز سهشنبه، ۲۹ سپتامبر، در کاخ سفید توافقنامهای داوطلبانه برای نظارت و افزایش ایمنی سامانههای پیشرفته هوش مصنوعی امضا کردند. ترامپ این توافق را «الزامآور از نظر اخلاقی» توصیف کرد، اما تأکید شد که این سند از نظر قانونی الزامآور نیست و برای شرکتها جریمه یا سازوکار اجرایی مشخصی تعیین نمیکند.
این توافقنامه که با عنوان «توافقنامه کاخ سفید درباره ابرهوش» معرفی شده، شرکتهای فعال در توسعه مدلهای پیشرفته را به ایجاد کنترلهای داخلی، ارزیابیهای منظم و بررسیهای مستقل خارجی تشویق میکند. نتایج بررسیها نیز باید از سوی کمیتهای مستقل در هیئتمدیره شرکتها ارزیابی شود.
چهار لایه نظارت بر سامانههای هوش مصنوعی
بر اساس متن توافق، شرکتها باید چهار سطح از کنترل و حسابرسی را دنبال کنند:
- ایجاد کنترلهای داخلی برای نظارت بر تواناییها و عملکرد مدلها؛
- تشکیل تیمهای داخلی برای شناسایی و اصلاح خطاها؛
- استفاده از حسابرسان یا ارزیابان مستقل خارجی؛
- نظارت کمیتهای مستقل از هیئتمدیره بر گزارشها و روند اصلاح مشکلات.
این کنترلها حوزههایی مانند امنیت سایبری، امنیت زیستی و تهدیدهای شیمیایی را نیز دربرمیگیرد. همچنین شرکتها متعهد شدهاند مانع دسترسی ناخواسته سامانههای هوش مصنوعی به سیستمهای فنی یا هک کردن آنها شوند.
ترامپ با مقررات سختگیرانه مخالفت کرد
ترامپ در این نشست گفت دولت آمریکا نباید رشد هوش مصنوعی را محدود کند و از «خودتنظیمی گسترده» شرکتها حمایت کرد. او همچنین اعلام کرد که قصد دارد طی سه یا چهار روز آینده یک «رئیس هوش مصنوعی» یا AI czar منصوب کند.
رئیسجمهوری آمریکا از احتمال تشکیل کمیتهای ۱۰ نفره برای نظارت بر صنعت هوش مصنوعی نیز خبر داد، اما درباره اعضای این کمیته، اختیارات آن و الزامآور بودن تصمیمهایش جزئیات روشنی ارائه نشد. ترامپ همچنین گفت ممکن است از این پس از عبارت «ابرهوش» به جای «هوش مصنوعی» استفاده شود.
واکنش بازار و نگرانیهای نظارتی
توافق داوطلبانه کاخ سفید میتواند در کوتاهمدت نشانهای از کاهش خطر وضع مقررات فدرال سختگیرانه برای شرکتهای بزرگ هوش مصنوعی تلقی شود. با این حال، نبود سازوکار اجرایی مشخص، جزئیات محدود درباره فرآیند حسابرسی و ابهام درباره نقش رئیس و کمیته آینده هوش مصنوعی، همچنان از مهمترین پرسشهای پیش روی سرمایهگذاران است.
در کنار موضوع ایمنی، توسعه سریع مراکز داده و افزایش هزینه برق نیز به نگرانیهای اقتصادی مرتبط با گسترش هوش مصنوعی تبدیل شده است. ترامپ اعلام کرده شرکتهای فناوری باید برای جلب حمایت جوامع محلی، در تأمین هزینههای انرژی، آموزش و زیرساخت مشارکت کنند.
منتقدان توافق میگویند استانداردهای داوطلبانه برای کنترل مدلهای قدرتمند کافی نیستند و کنگره باید آزمایشهای اجباری، ارزیابیهای مستقل و گزارشدهی حوادث را به قانون تبدیل کند. متن توافق نیز احتمال تبدیل این اصول به قوانین و مقررات در آینده را رد نکرده است.
