یک گزارش پژوهشی مستقل جدید نشان می‌دهد که مدل‌های پیشرفته هوش مصنوعی در سناریوهای شبیه‌سازی‌شده، بارها غیرنظامیان، آمبولانس‌ها، سربازانی را که تسلیم شده بودند و حتی یک  مدرسه در ایران را به‌اشتباه به‌عنوان اهداف نظامی شناسایی کرده‌اند.

بر اساس نتایج این گزارش، مدل‌های هوش مصنوعی شرکت آنتروپیک عملکرد ضعیفی داشتند. در مقابل، مدل‌های اوپن‌ای‌آی جزو بهترین عملکردها را در این آزمایش‌ها ثبت کردند، اما آن‌ها نیز همچنان مرتکب اشتباهاتی شدند.

یک تحقیق مستقل از سوی مؤسسه Vals که نتایج آن توسط بلومبرگ گزارش شده، عملکرد مدل‌های هوش مصنوعی هشت شرکت، از جمله آنتروپیک، اوپن‌ای‌آی، گوگل و xAI را در سناریوهای شبیه‌سازی‌شده مربوط به شناسایی و انتخاب اهداف نظامی بررسی کرده است.

بر اساس نتایج این تحقیق، مدل Claude Opus 5.5 شرکت آنتروپیک در ۲۲ مورد از مجموع ۳۲ آزمایش، یک مدرسه در میناب ایران را به‌عنوان هدف انتخاب کرده است. این تعداد زمانی که به مدل گفته شد سناریوی موردنظر صرفاً یک بازی است، به ۲۳ مورد افزایش یافت.

مدل‌های اوپن‌ای‌آی در آزمایش‌های اولیه از انتخاب این مدرسه به‌عنوان هدف خودداری کردند، اما زمانی که سناریو در قالب یک بازی ارائه شد، در ۹ تا ۱۳ مورد آن را به‌عنوان هدف شناسایی کردند.

شرکت آنتروپیک نیز تأیید کرده است که چنین سناریوهایی با سیاست‌ها و دستورالعمل‌های این شرکت مغایرت دارند.

این تحقیق نگرانی‌های جدی درباره استفاده از هوش مصنوعی در شناسایی و انتخاب اهداف نظامی ایجاد می‌کند. با این حال، باید توجه داشت که این آزمایش‌ها در محیط‌های شبیه‌سازی‌شده انجام شده‌اند و عملکرد مدل‌ها در عملیات نظامی واقعی یا نقش نظارت انسانی در چنین عملیات‌هایی را ارزیابی نکرده‌اند.