آنتروپیک سرعت توسعه هوش مصنوعی را از درون آزمایشگاه اندازه‌گیری کرد؛ کلود حالا ۲۶ درصد پژوهش‌ها را هدایت می‌کند

رشد توانایی مدل‌های هوش مصنوعی دیگر تنها به این موضوع محدود نیست که یک مدل جدید نسبت به نسل قبلی چه عملکردی دارد. بخش مهم‌تر ماجرا این است که خود مدل‌ها تا چه اندازه در ساخت نسل بعدی سیستم‌های هوش مصنوعی مشارکت می‌کنند. آنتروپیک، سازنده کلود، در گزارشی تازه تلاش کرده است این بخش کمتر قابل مشاهده از توسعه هوش مصنوعی را اندازه‌گیری کند؛ از میزان مشارکت هوش مصنوعی در پژوهش و توسعه گرفته تا تعداد عامل‌هایی که به‌صورت نیمه‌مستقل فعالیت می‌کنند و سهم توان پردازشی اختصاص‌یافته به ایمنی.

این رویکرد از این جهت اهمیت دارد که بخش قابل‌توجهی از اطلاعات عمومی درباره هوش مصنوعی معمولاً بر خروجی مدل‌ها متمرکز است؛ اینکه مدل در آزمون‌ها چه امتیازی کسب می‌کند یا چه وظایفی را می‌تواند انجام دهد. اما برای درک سرعت واقعی توسعه، باید به ورودی‌های این فرایند نیز نگاه کرد. میزان توان پردازشی، تعداد فعالیت‌های خودکارشده، نقش عامل‌ها در پژوهش و منابع اختصاص‌یافته به ایمنی می‌توانند تصویری متفاوت از سرعت حرکت آزمایشگاه‌های پیشرو ارائه دهند.

کلود با سرعت زیادی وارد فرایند ساخت نسل بعدی هوش مصنوعی شده است

مهم‌ترین شاخص منتشرشده از سوی آنتروپیک، میزان خودکارسازی فعالیت‌های پژوهش و توسعه مدل‌هاست. این شرکت برای این منظور شاخصی با عنوان «شاخص خودکارسازی پژوهش و توسعه آنتروپیک» طراحی کرده است که تلاش می‌کند مشخص کند چه مقدار از فعالیت‌های پژوهشی شرکت توسط کلود انجام می‌شود و چه مقدار همچنان به‌طور مستقیم توسط انسان‌ها پیش می‌رود.

این شاخص بر اساس مقیاسی از صفر تا پنج اندازه‌گیری می‌شود. در سطح صفر هیچ دخالتی از سوی هوش مصنوعی وجود ندارد و در سطح پنج، سیستم می‌تواند یک فعالیت را به‌طور کامل و بدون حضور انسان انجام دهد. در سطح سوم، هوش مصنوعی با انسان همکاری می‌کند و می‌تواند بخش بزرگی از یک کار را تحت هدایت نزدیک انسان انجام دهد. در سطح چهارم، هوش مصنوعی نقش هدایت‌کننده دارد و می‌تواند بیشتر مراحل یک فعالیت را از ابتدا تا انتها بر اساس یک دستور کلی انجام دهد و انسان صرفاً بر عملکرد آن نظارت کند.

داده‌های آنتروپیک نشان می‌دهد تا اوت ۲۰۲۶، کلود هنوز در هیچ‌یک از بخش‌های اندازه‌گیری‌شده پژوهش و توسعه به سطح پنجم، یعنی فعالیت کاملاً مستقل، نرسیده است. با این حال، کلود در ۲۶ درصد از فعالیت‌های پژوهش و توسعه مدل‌ها در سطح «هدایت‌کننده» قرار گرفته است. این رقم در فوریه ۲۰۲۶ کمتر از ۱ درصد بود. به این ترتیب، طی چند ماه سهم فعالیت‌هایی که کلود می‌تواند در آن‌ها عملاً بخش عمده فرایند را پیش ببرد، جهشی قابل‌توجه داشته است.

موضوع مهم‌تر اینکه بیش از ۹۰ درصد فعالیت‌های مورد بررسی دست‌کم در سطح «همکاری هوش مصنوعی با انسان» قرار گرفته‌اند. بنابراین مسئله دیگر استفاده محدود از هوش مصنوعی در چند وظیفه مشخص نیست؛ بلکه هوش مصنوعی به بخش گسترده‌ای از چرخه پژوهش و توسعه مدل‌ها وارد شده است.

هنوز خبری از خودبهسازی کامل نیست

با وجود رشد سریع خودکارسازی، آنتروپیک تأکید می‌کند که کلود هنوز به مرحله‌ای نرسیده است که بتواند به‌صورت کامل و مستقل نسل بعدی خود را بسازد. برای رسیدن به چنین وضعیتی، سیستم باید بتواند بدون دخالت انسان مسئله را شناسایی کند، مسیر پژوهش را انتخاب کند، راهکار ارائه دهد، آن را آزمایش کند و در نهایت تغییرات لازم را در سیستم اعمال کند.

در حال حاضر انسان همچنان در بخش‌های مهم این چرخه حضور دارد. برای مثال، در سطح «همکاری»، یک پژوهشگر ممکن است مسئله را برای کلود تعریف کند، مدل را در فرایند بررسی و اصلاح همراهی کند و در صورت بروز مشکل تصمیم بگیرد مسیر کار چگونه ادامه پیدا کند. در سطح «هدایت»، کلود می‌تواند بخش بسیار بزرگ‌تری از این مسیر را خودش انجام دهد و تنها برای تصمیم نهایی یا تأیید تغییرات به انسان مراجعه کند.

فاصله میان سطح چهار و پنج از این منظر اهمیت زیادی دارد. در سطح پنج، حتی آغاز فرایند نیز لزوماً به انسان وابسته نیست. مدل می‌تواند خودش یک مشکل را شناسایی، دامنه کار را مشخص، راهکار را طراحی، آزمایش و اجرا کند. آنتروپیک می‌گوید تاکنون به این سطح نرسیده است.

۳۰ هزار عامل به‌طور هم‌زمان در حال فعالیت بودند

دومین شاخص آنتروپیک به نظارت بر عامل‌های هوش مصنوعی مربوط می‌شود. این شرکت اعلام کرده در اوت ۲۰۲۶، حدود ۳۰ هزار عامل به‌طور هم‌زمان روی فعالیت‌های پژوهشی و مهندسی در پرکاربردترین بستر داخلی آن فعالیت می‌کردند.

عامل‌ها برخلاف یک گفت‌وگوی ساده با هوش مصنوعی، می‌توانند برای مدت طولانی‌تری وظایف خود را دنبال کنند و حتی بخشی از کار را به عامل‌های دیگر واگذار کنند. با افزایش تعداد این عامل‌ها، یک مسئله جدید شکل می‌گیرد: چگونه می‌توان فعالیت هزاران یا میلیون‌ها سیستم را کنترل کرد، در حالی که هر یک از آن‌ها ممکن است تصمیم‌های متفاوتی بگیرند؟

آنتروپیک برای این منظور از دو نوع سامانه نظارتی استفاده می‌کند. نظارت برخط قبل از اجرای اقدام، رفتار عامل را بررسی می‌کند و در صورت شناسایی یک اقدام خطرناک می‌تواند آن را متوقف یا تغییر دهد. نظارت غیربرخط نیز فعالیت‌های انجام‌شده را پس از اجرا بررسی می‌کند تا رفتارهای مشکل‌زا یا الگوهایی که ممکن است در طول زمان شکل بگیرند، شناسایی شوند.

بر اساس داده‌های منتشرشده، ۱۰۰ درصد اقدامات عامل‌های مورد بررسی از فیلتر نظارت برخط عبور می‌کنند و همه اقدامات نیز پس از اجرا در سامانه نظارت غیربرخط ثبت می‌شوند. در بخش نظارت انسانی، حدود ۱۰۰ هزار گزارش در هفته برای بررسی اولیه علامت‌گذاری می‌شوند و تقریباً ۵۰ مورد در هفته به مرحله بررسی انسانی می‌رسند.

از میان بیش از یک میلیارد تصمیم عامل‌های پژوهشی و مهندسی در اوت ۲۰۲۶، حدود ۰.۰۰۲ درصد اقدامات توسط سامانه نظارت برخط مسدود شده‌اند؛ یعنی تقریباً یک مورد از هر ۴۷ هزار تصمیم. سامانه غیربرخط نیز حدود یک تا دو مورد از هر هزار متن ثبت‌شده را برای بررسی بیشتر علامت‌گذاری می‌کند.

این اعداد الزاماً به معنای نبود مشکل نیستند. همان‌طور که خود آنتروپیک اشاره می‌کند، نظارت بر رفتار عامل‌ها در چنین مقیاسی هنوز حوزه‌ای نسبتاً جدید است و مشخص نیست همه رفتارهای ناشناخته یا الگوهای خطرناک از طریق سامانه‌های فعلی قابل مشاهده باشند.

“

«از منظر تحلیلی، ارزش اصلی این گزارش را باید در قابل‌اندازه‌گیری کردن چیزی دانست که پیش‌تر عمدتاً درون آزمایشگاه‌های هوش مصنوعی پنهان بود. اگر سهم هوش مصنوعی در ساخت نسل بعدی مدل‌ها با همین سرعت افزایش پیدا کند، معیارهایی مانند سطح خودکارسازی، تعداد عامل‌های فعال، میزان مداخله انسانی و نسبت توان پردازشی اختصاص‌یافته به ایمنی، در آینده می‌توانند به شاخص‌هایی مهم برای ارزیابی سرعت توسعه تبدیل شوند. در چنین شرایطی، مسئله اصلی دیگر فقط این نیست که مدل بعدی چقدر قدرتمندتر خواهد بود؛ بلکه این است که چه مقدار از مسیر رسیدن به آن مدل را خود هوش مصنوعی طی خواهد کرد و چه میزان کنترل مؤثر همچنان در اختیار انسان باقی می‌ماند.»

بابک شیری

تنها ۶ درصد از توان پردازشی پژوهش و توسعه صرف ایمنی شد

سومین شاخص به جایی مربوط می‌شود که منابع پردازشی آنتروپیک در آن مصرف می‌شوند. این شرکت برای یک بازه یک‌هفته‌ای در ژوئیه ۲۰۲۶، تمام فعالیت‌های پردازشی خود را در چند گروه اصلی دسته‌بندی کرد تا مشخص شود چه میزان از توان پردازشی به پژوهش‌های ایمنی اختصاص یافته است.

نتیجه نشان داد حدود ۶ درصد از توان پردازشی اختصاص‌یافته به کل فعالیت‌های پژوهش و توسعه هوش مصنوعی صرف کارهای ایمنی شده است. اگر تنها فعالیت‌هایی که خودشان به‌وسیله هوش مصنوعی انجام می‌شوند در نظر گرفته شوند، سهم ایمنی به حدود ۱۲ درصد می‌رسد.

البته این ارقام را نباید به‌عنوان سهم دقیق تمام منابع انسانی یا مالی آنتروپیک در حوزه ایمنی تفسیر کرد. پژوهش ایمنی در بسیاری از موارد به نیروی انسانی بیشتری نسبت به توان پردازشی نیاز دارد و ممکن است یک پروژه ایمنی با مصرف پردازشی پایین، زمان و نیروی متخصص زیادی صرف کند.

آنتروپیک نیز تأکید کرده این ارقام عمداً محافظه‌کارانه محاسبه شده‌اند. فعالیت‌هایی که هم‌زمان به همان اندازه به افزایش توانایی مدل و ایمنی کمک می‌کردند، در گروه ایمنی قرار نگرفتند. همچنین بخشی از توان پردازشی مربوط به سامانه‌های حفاظتی و طبقه‌بندی‌کننده‌ها در این محاسبه لحاظ نشده است.

چرا انتشار این اعداد اهمیت دارد؟

اهمیت اصلی گزارش آنتروپیک تنها در اعداد آن نیست، بلکه در تلاش برای ایجاد یک زبان مشترک برای اندازه‌گیری سرعت توسعه هوش مصنوعی است. اگر آزمایشگاه‌های مختلف شاخص‌های مشابهی را با روش‌های یکسان منتشر کنند، امکان مقایسه روند توسعه در طول زمان و میان شرکت‌ها فراهم خواهد شد.

با این حال، یک مشکل جدی وجود دارد: بخشی از ارزیابی‌های آنتروپیک با استفاده از خود مدل‌های این شرکت انجام شده است. این مسئله می‌تواند احتمال خطا یا سوگیری در ارزیابی را ایجاد کند. آنتروپیک برای کاهش این مشکل پیشنهاد کرده است ارزیابی‌های مشابه توسط نهادهای مستقل انجام شود.

این شرکت همچنین اعلام کرده قصد دارد ارزیابان مستقل از چند سازمان را در فرایندهای داخلی خود مستقر کند تا به فرایندها، سامانه‌ها و داده‌هایی مشابه تیم‌های ارزیابی داخلی دسترسی داشته باشند. هدف این است که این نهادها بتوانند رویه‌های ایمنی، حوادث و شاخص‌هایی مانند میزان خودکارسازی پژوهش و تخصیص توان پردازشی را بررسی کنند.

در ترجمه برخی نقاط این گزارش از هوش مصنوعی کمک گرفته شده است.