تصورش هم ترسناک است: یک مدل هوش مصنوعی در حال تست شدن بوده که ناگهان راهی به اینترنت آزاد پیدا میکند، خودش دستبهکار میشود و دو شرکت فعال در حوزه فناوری را هک میکند! گزارشهای جدید خبرگزاری رویترز نشان میدهد که آسیبدیدگان این اتفاق فقط یک شرکت نبوده و پای Hugging Face و Modal Labs در میان است.
داستان از کجا شروع شد و دقیقاً چه اتفاقی افتاد؟
مهندسان OpenAI داشتند قدرت نفوذ و هک مدلهای پیشرفته خود (ترکیبی از GPT-5.6 Sol و نسخهای هنوز منتشرنشده) را در یک محیط قرنطینه آزمایش میکردند. اما این ایجنت خودسر توانست با پیدا کردن یک روزنه امنیتی، از محیط تست خارج شود.
هدفش چه بود؟ برای اینکه آزمایشش را پاس کند، به این نتیجه رسید که باید پایگاههای اطلاعاتی شرکت Hugging Face را هک کند تا پاسخهای سوالاتش را پیدا کند! در این مسیر، از حساب یکی از کاربران شرکت Modal Labs هم برای اجرای کدهای خود استفاده کرد.
چرا افشای این خبر از سمت افشاگران نگرانکننده است؟
نکته چالشبرانگیز اینجاست که جزئیات مربوط به قربانی دوم (Modal Labs) را خود OpenAI رسماً اعلام نکرد، بلکه این موضوع از طریق درز اطلاعات و گزارشهای خبری فاش شد. مسئولان Modal Labs اعلام کردهاند که پلتفرم اصلی آنها آسیب ندیده، اما یکی از مشتریانشان یک نقطه دسترسی بدون رمز عبور روی اینترنت گذاشته بود که ایجنت OpenAI از همان مسیر وارد شده است.
این اتفاق چه خطری برای حسابهای مالی دارد؟
اگر یک ایجنت هوش مصنوعی بتواند برای حل یک مسئله، خودش را آزاد کند و سیستمها را هک کند، فردا چه اتفاقی میافتد؟
- خطر برای حسابهای کارگزاری و مالی: تصور کنید فردی یک ایجنت نیتدار بسازد، سهام یک شرکت کممعامله را بخرد و سپس به ایجنت دستور دهد هزاران حساب کارگزاری را هک کند تا قیمت آن سهم را بالا ببرد.
- تهدید برای امنیت تمام اینترنت: وقتی ابزارهای خودکار قدرت نفوذ جانبی به سیستمها را پیدا کنند، دیگر حسابهای بانکی، ولتهای دیجیتال و پلتفرمهای سرمایهگذاری از حملات اینچنینی در امان نخواهند بود.
