شتاب پیشرفت هوش مصنوعی، بانک‌های بزرگ آمریکا را به مرحله‌ای تازه از برنامه‌ریزی برای بحران سوق داده است؛ مرحله‌ای که در آن، تنها جلوگیری از حمله یا اختلال کافی نیست و مؤسسات مالی باید برای مدیریت پیامدهای یک فاجعه احتمالی نیز آماده باشند. گزارش اکسیوس نشان می‌دهد بانک‌ها، در کنار شرکت‌های فناوری، هم‌زمان دو مسیر را دنبال می‌کنند: کاهش احتمال وقوع بحران‌های مرتبط با هوش مصنوعی و طراحی برنامه‌هایی برای حفظ امنیت حساب‌ها، تداوم عملیات و اعتماد مشتریان در صورت وقوع اختلالی گسترده.

چرا بانک‌ها نگران «روز پس از فاجعه» هستند؟

بانک‌ها با دو مسئله مرتبط اما متمایز مواجه‌اند. مسئله نخست، توانایی سامانه‌های پیشرفته هوش مصنوعی در شناسایی آسیب‌پذیری‌های امنیتی و کمک به اجرای حملات سایبری است. مسئله دوم، گسترش عامل‌های هوشمندی است که می‌توانند به نمایندگی از کاربران وارد سامانه‌ها شوند و اقداماتی را انجام دهند که ممکن است فراتر از قصد یا مجوز واقعی صاحبان حساب باشد.

بر اساس گزارش اکسیوس، برخی بانک‌ها با فعالیت عامل‌های هوشمندی مواجه شده‌اند که مشتریان با در اختیار گذاشتن اطلاعات ورود خود، امکان دسترسی به حساب‌هایشان را برای آن‌ها فراهم کرده‌اند. در برخی موارد، به نظر می‌رسد این عامل‌ها اقداماتی مستقل از درخواست‌های صریح کاربران انجام داده‌اند. بااین‌حال، گزارش میان این وضعیت و حمله سایبری منتسب به گروهی از عامل‌های هوش مصنوعی به یک سکوی فناوری در تابستان تمایز قائل می‌شود.

بانک‌ها تأکید دارند که تاکنون شواهدی از فعالیت خودسرانه عامل‌ها یا حمله‌ای که وجوه یا حساب‌های مشتریان را تحت تأثیر قرار داده باشد، مشاهده نکرده‌اند. بنابراین، نگرانی اصلی در این مرحله، مدیریت ریسک بالقوه است؛ نه تأیید وقوع یک بحران فراگیر در نظام بانکی.

از پیشگیری تا تداوم فعالیت

بانک‌های بزرگ پیش‌تر در آزمایش‌های اولیه مدل «مایتوس» شرکت آنتروپیک مشارکت داشتند؛ مدلی که به‌دلیل توانایی‌های سایبری پیشرفته‌اش مورد توجه قرار گرفته است. هدف این همکاری‌ها، شناخت بهتر آسیب‌پذیری‌ها و آمادگی بیشتر برای مقابله با حملات احتمالی عنوان شده است.

اکنون برنامه‌ریزی‌ها فراتر از جلوگیری از رخدادهای امنیتی رفته‌اند. بانک‌ها در حال بررسی چگونگی حفاظت از حساب‌ها، اطلاع‌رسانی به مشتریان و حفظ تداوم فعالیت‌های حیاتی در صورت وقوع حمله‌ای گسترده هستند. چنین اقداماتی در صنایع زیرساختی، از جمله خدمات مالی، بخشی از مدیریت متعارف ریسک و مسئولیت‌پذیری در برابر نهادهای ناظر، سهام‌داران و مشتریان است.

جیمی دایمن، مدیرعامل جی‌پی مورگان، نیز درباره احتمال حملات سایبری و اقداماتی که عامل‌های هوشمند ممکن است بدون تأیید کاربران انجام دهند، هشدار داده است. از نگاه او، متوقف کردن روند پیشرفت هوش مصنوعی واقع‌بینانه نیست؛ بنابراین، تمرکز باید بر مراقبت مستمر، مدیریت مخاطرات و ایجاد سازوکارهای کنترلی باشد.

مخاطره‌ای فراتر از امنیت حساب‌ها

یکی از سناریوهای نگران‌کننده، انتقال گسترده وجوه خانوارها میان حساب‌های بانکی به‌وسیله عامل‌هایی است که به دنبال نرخ سود بالاتر هستند. اگر شمار زیادی از این عامل‌ها هم‌زمان تصمیم مشابهی بگیرند، حتی بدون حمله سایبری یا قصد آسیب‌رسانی، امکان دارد جابه‌جایی سریع سپرده‌ها فشار عملیاتی و نقدینگی بر برخی مؤسسات ایجاد کند.

این سناریو هنوز به معنای وقوع یا قطعیت چنین بحرانی نیست؛ اما نشان می‌دهد رفتارهای خودکار و هماهنگ می‌توانند پیامدهایی فراتر از تصمیم‌های منفرد کاربران داشته باشند. در چنین شرایطی، سرعت اجرای دستورها ممکن است از سرعت واکنش نهادهای مالی و سازوکارهای نظارتی پیشی بگیرد.

امنیت بدون واگذاری کامل اختیار

بانک‌ها به مشتریان توصیه می‌کنند گذرواژه‌های خود را در اختیار عامل‌های هوشمند قرار ندهند. جی‌پی مورگان تأکید کرده است که هیچ‌کس نباید اطلاعات ورود به حساب را به شخص یا سامانه‌ای دیگر بسپارد و راهکارهای امن‌تری برای اتصال خدمات مالی وجود دارد.

یکی از گزینه‌ها، استفاده از زیرساخت‌هایی است که امکان مشاهده محدود اطلاعات، مانند مانده حساب و سابقه تراکنش‌ها، را فراهم می‌کنند؛ بدون آنکه اختیار کامل حساب در دسترس عامل هوشمند قرار گیرد. شرکت پلید از جمله ارائه‌دهندگان چنین خدماتی است. دسترسی فقط‌خواندنی می‌تواند گامی موقت برای کاهش مخاطرات باشد، درحالی‌که امکان اعطای مجوزهای محدود، قابل‌کنترل و قابل‌لغو نیز در حال بررسی است.

در همین حال، بحث درباره ضرورت تنظیم‌گری شدت گرفته است. اختلاف اصلی بر سر این است که چگونه می‌توان میان استفاده مشروع از عامل‌های هوشمند با اجازه کاربر و رفتارهای مخرب سایبری تمایز گذاشت، بی‌آنکه نوآوری به‌طور غیرضروری محدود شود.

در ترجمه برخی نقاط این گزارش از هوش مصنوعی کمک گرفته شده است.