رقابت جهانی بر سر هوش مصنوعی وارد مرحله‌ای شده است که دیگر تنها به سرعت توسعه مدل‌های جدید یا افزایش توان پردازشی شرکت‌های فناوری محدود نمی‌شود. در کنار سرمایه‌گذاری سنگین، توسعه زیرساخت و رقابت میان شرکت‌های بزرگ، مسئله‌ای مهم‌تر نیز در حال شکل‌گیری است: چگونه می‌توان از فناوری‌های بسیار قدرتمند هوش مصنوعی در برابر ریسک‌های احتمالی محافظت کرد، بدون آنکه مقررات باعث کاهش سرعت نوآوری شود؟
- توسعه هوش مصنوعی بدون چارچوب‌های ایمنی می‌تواند ریسک‌هایی فراتر از سوءاستفاده‌های معمول ایجاد کند.
- رقابت شدید شرکت‌ها ممکن است انگیزه لازم برای آزمایش‌های طولانی ایمنی را کاهش دهد.
- تجربه نظام بانکی آمریکا پس از بحران ۲۰۰۸ نشان می‌دهد مقررات الزاماً مانع رشد یک صنعت نمی‌شود.
- مزیت بلندمدت آمریکا می‌تواند در ترکیب توان فناورانه، ایمنی و اعتماد جهانی شکل بگیرد.
فرید زکریا، ستون‌نویس واشنگتن‌پست، در یادداشتی جدید استدلال می‌کند که پاسخ این پرسش لزوماً در حذف مقررات خلاصه نمی‌شود. از نگاه او، تجربه تاریخی صنایع بانکی و هسته‌ای نشان می‌دهد که مقررات هدفمند الزاماً به معنای تضعیف یک صنعت نیست و حتی می‌تواند اعتماد عمومی و ثبات بلندمدت آن را افزایش دهد.
در این نگاه، مسئله اصلی برای آمریکا فقط ساخت قدرتمندترین سامانه‌های هوش مصنوعی نیست؛ بلکه ایجاد فناوری‌ای است که دولت‌ها، شرکت‌ها و مصرف‌کنندگان در سراسر جهان حاضر باشند داده‌ها، زیرساخت‌ها و فعالیت‌های حساس خود را به آن بسپارند.
مسئله اصلی؛ سرعت توسعه یا ایمنی؟
هوش مصنوعی با بسیاری از فناوری‌های پیشین تفاوت دارد. برق، اینترنت و حتی بسیاری از فناوری‌های صنعتی، هرچند اثرات اقتصادی و اجتماعی عظیمی ایجاد کرده‌اند، به شکل خودکار و مستمر توانایی تحلیلی خود را افزایش نمی‌دهند اما مدل‌های هوش مصنوعی می‌توانند در فاصله‌های نسبتاً کوتاه با افزایش داده، توان محاسباتی و روش‌های آموزشی، قابلیت‌های جدیدی پیدا کنند. همین ویژگی باعث شده نگرانی درباره پیامدهای توسعه سریع این فناوری تنها به خطاهای معمول نرم‌افزاری محدود نباشد.
در یادداشت زکریا، به نمونه‌هایی از توانایی مدل‌های جدید برای تعامل با سامانه‌های رایانه‌ای و انجام فعالیت‌های ناخواسته اشاره شده است. استدلال اصلی او این است که خطر آینده الزاماً از «شرور شدن» یک سامانه هوش مصنوعی ناشی نمی‌شود؛ بلکه ممکن است سامانه‌ای هدفی مشخص را دنبال کند، اما در مسیر رسیدن به آن هدف رفتاری ایجاد کند که طراحانش پیش‌بینی نکرده‌اند. این مسئله، بحث درباره نظارت و ارزیابی پیش از عرضه مدل‌های قدرتمند را جدی‌تر می‌کند.
چرا خودتنظیمی کافی نیست؟
یکی از مهم‌ترین استدلال‌های مطرح‌شده در این مقاله، مسئله رقابت میان شرکت‌ها است. فرض کنید یک شرکت توسعه یک مدل قدرتمند را برای شش ماه متوقف کند تا آزمایش‌های ایمنی گسترده‌تری انجام دهد، در حالی که رقبای آن در همان مدت محصول خود را روانه بازار کنند. در چنین شرایطی، احتیاط می‌تواند برای شرکتی که زودتر وارد بازار نمی‌شود، هزینه تجاری داشته باشد.
این همان مشکلی است که در اقتصاد از آن به عنوان مسئله اقدام جمعی یاد می‌شود. ممکن است بسیاری از بازیگران در سطح فردی خواهان استانداردهای ایمنی بیشتر باشند، اما اگر تنها یک شرکت هزینه این احتیاط را بپردازد، انگیزه اقتصادی آن برای ادامه مسیر کاهش پیدا می‌کند.
از این منظر، مقررات می‌تواند زمین بازی را برای همه بازیگران یکسان کند. اگر برخی استانداردهای ایمنی برای همه شرکت‌های بزرگ الزام‌آور باشد، دیگر یک شرکت به دلیل سرمایه‌گذاری بیشتر در آزمون و ارزیابی ایمنی، الزاماً در برابر رقبای خود متحمل هزینه رقابتی نخواهد شد.
آیا مقررات آمریکا به معنای پیروزی چین است؟
یکی از مهم‌ترین استدلال‌های مخالف مقررات هوش مصنوعی در آمریکا این است که محدودیت‌های داخلی می‌تواند سرعت نوآوری شرکت‌های آمریکایی را کاهش دهد و به رقبایی مانند چین فرصت بیشتری بدهد اما زکریا این استدلال را بر مبنای مقایسه مقرراتی به چالش می‌کشد. به نوشته او، چین نیز برای سامانه‌های قدرتمند هوش مصنوعی چارچوب‌های نظارتی و الزامات ارزیابی امنیتی دارد و توسعه و استفاده از برخی مدل‌ها تحت محدودیت‌ها و الزامات مشخص قرار گرفته است. بنابراین رقابت میان آمریکا و چین را نمی‌توان صرفاً رقابت میان «فناوری بدون مقررات» و «فناوری تحت نظارت» دانست.
البته شدت، ساختار و اهداف مقررات در دو کشور یکسان نیست و همین تفاوت می‌تواند برای مسیر توسعه صنعت اهمیت داشته باشد. در نتیجه، پرسش اصلی شاید این نباشد که مقررات یا نوآوری؛ بلکه این باشد که چه نوع مقرراتی می‌تواند هم‌زمان با کاهش ریسک، فضای کافی برای نوآوری ایجاد کند.
درس صنعت هسته‌ای؛ رقابت بدون حذف استانداردهای ایمنی
برای توضیح این مسئله، مقاله به دوران جنگ سرد و رقابت هسته‌ای میان آمریکا و شوروی اشاره می‌کند. در آن دوره، آمریکا در یک رقابت راهبردی شدید با شوروی قرار داشت، اما هم‌زمان برای نیروگاه‌های هسته‌ای غیرنظامی، نظام صدور مجوز و استانداردهای ایمنی وجود داشت.
زکریا از حادثه چرنوبیل نیز به عنوان نمونه‌ای تاریخی استفاده می‌کند تا نشان دهد رقابت فناورانه لزوماً نباید به معنای حذف استانداردهای ایمنی باشد. پس از این حادثه نیز همکاری‌های آمریکا و شوروی در زمینه ایمنی هسته‌ای گسترش یافت؛ موضوعی که نشان می‌دهد برخی ریسک‌های فناورانه می‌توانند فراتر از رقابت ژئوپلیتیکی تعریف شوند.
این تجربه یک پیام اقتصادی مهم دارد: در فناوری‌های بسیار حساس، استانداردهای ایمنی می‌توانند بخشی از زیرساخت رقابت باشند، نه الزاماً مانعی در برابر آن.
“
« در اقتصادی که هوش مصنوعی به‌تدریج به زیرساختی برای بانکداری، انرژی، سلامت، صنعت و امنیت تبدیل می‌شود، اعتمادپذیری خود به یک متغیر اقتصادی تبدیل خواهد شد. با این حال، مزیت رقابتی زمانی شکل می‌گیرد که مقررات به‌جای ایجاد اصطکاک عمومی، ریسک‌های مشخص را هدف بگیرد و در کنار آن، سرمایه‌گذاری در زیرساخت، پژوهش و توسعه مدل‌ها را محدود نکند. بنابراین مسئله اصلی برای آمریکا صرفاً انتخاب میان «آزادی کامل» و «نظارت شدید» نیست؛ بلکه طراحی یک معماری نهادی است که بتواند سرعت نوآوری را با قابلیت کنترل ریسک هم‌راستا کند. در چنین چارچوبی، ایمنی نه نقطه مقابل رقابت‌پذیری، بلکه می‌تواند بخشی از کیفیت محصول و در نتیجه یکی از عناصر قدرت اقتصادی فناوری آمریکایی باشد.»
بابک شیری
تجربه بانک‌ها؛ وقتی مقررات به مزیت رقابتی تبدیل می‌شود
نمونه دوم مقاله به صنعت مالی آمریکا مربوط است. پس از بحران مالی ۲۰۰۸، دولت آمریکا مقررات سخت‌گیرانه‌تری برای بانک‌های بزرگ وضع کرد. افزایش الزامات سرمایه، آزمون‌های فشار و محدودیت‌های مربوط به ریسک‌پذیری، هزینه فعالیت بانک‌ها را افزایش داد و در همان زمان با مخالفت بخش‌هایی از صنعت مواجه شد.
با این حال، مقاله استدلال می‌کند که بانک‌های بزرگ آمریکا در دهه پس از بحران نه‌تنها از بین نرفتند، بلکه سودآوری و ارزش بازار قابل توجهی ایجاد کردند. بر اساس داده‌ای که در مقاله به نقل از کوارتز آمده، شش بانک بزرگ آمریکا در فاصله تقریبی ۲۰۱۲ تا ۲۰۲۲ مجموعاً ۶۴۳ میلیارد دلار سود به دست آوردند.
البته این عملکرد را نمی‌توان صرفاً به مقررات نسبت داد. بهبود اقتصاد آمریکا، وضعیت متفاوت اقتصاد اروپا و سیاست‌های مالیاتی نیز در عملکرد بانک‌ها نقش داشته‌اند. خود مقاله نیز به این عوامل اشاره می‌کند. بنابراین درس دقیق‌تر این تجربه آن است که مقررات به‌تنهایی موتور رشد نیست، اما الزاماً مانع رشد نیز محسوب نمی‌شود.
سرمایه اصلی آینده؛ اعتماد
در نهایت، مقاله یک معیار متفاوت برای سنجش قدرت آمریکا در رقابت هوش مصنوعی مطرح می‌کند: اعتماد. اگر هوش مصنوعی قرار است در بانک‌ها، شبکه‌های انرژی، شرکت‌های بزرگ، سامانه‌های دفاعی و زیرساخت‌های حیاتی مورد استفاده قرار گیرد، صرفاً قدرت محاسباتی بالاتر کافی نیست. شرکت‌ها و دولت‌ها باید اطمینان داشته باشند که این سامانه‌ها قابل کنترل، قابل ارزیابی و در برابر خطاها و سوءاستفاده‌های احتمالی مقاوم هستند.
از این منظر، کشوری که بتواند هم‌زمان فناوری قدرتمند و استانداردهای قابل اعتماد ایجاد کند، ممکن است مزیت خود را نه فقط در بازار داخلی، بلکه در بازار جهانی نیز گسترش دهد. به همین دلیل، رقابت آینده هوش مصنوعی ممکن است از «چه کسی سریع‌تر مدل می‌سازد؟» به «چه کسی سامانه‌ای می‌سازد که جهان بیشتر به آن اعتماد کند؟» تغییر کند.
جمع‌بندی
رقابت آمریکا و چین در حوزه هوش مصنوعی در حال تبدیل شدن به یکی از مهم‌ترین رقابت‌های فناورانه قرن بیست‌ویکم است. در چنین شرایطی، سیاست‌گذاران آمریکایی با یک دوگانه پیچیده مواجه‌اند: از یک سو باید سرعت نوآوری و سرمایه‌گذاری حفظ شود و از سوی دیگر، افزایش توانایی مدل‌های هوش مصنوعی ضرورت ایجاد سازوکارهای ایمنی و نظارتی را بیشتر می‌کند.
تجربه صنعت هسته‌ای و نظام بانکی آمریکا نشان می‌دهد که ایجاد استانداردهای مشخص لزوماً به معنای از بین رفتن مزیت رقابتی نیست. البته این مثال‌ها را نمی‌توان مستقیماً به هوش مصنوعی تعمیم داد؛ زیرا ماهیت فناوری، سرعت تحول و ساختار بازار هوش مصنوعی با هر دو صنعت تفاوت‌های اساسی دارد.
با این حال، یک نکته اقتصادی قابل توجه است: اعتماد می‌تواند به یک دارایی رقابتی تبدیل شود. اگر آمریکا بتواند میان نوآوری، سرمایه‌گذاری و ایمنی تعادل ایجاد کند، مقررات می‌تواند از یک هزینه صرف به بخشی از زیرساخت بازار هوش مصنوعی تبدیل شود. در مقابل، مقررات بیش از حد سنگین یا نامتناسب نیز می‌تواند هزینه نوآوری را افزایش دهد و سرعت توسعه را کاهش دهد؛ بنابراین کیفیت طراحی مقررات، بیش از صرف وجود یا نبود آنها اهمیت دارد.
در ترجمه برخی نقاط این گزارش از هوش مصنوعی کمک گرفته شده است.
