یک پژوهش جدید نشان میدهد مشاوران مالی مبتنی بر هوش مصنوعی ممکن است با تغییر چند کلمه در دستور کاربر، نگاه متفاوتی به بیتکوین پیدا کنند؛ حتی زمانی که وضعیت مالی و میزان ریسکپذیری فرد تغییری نکرده است. در یوتوتایمز بررسی میکنیم این سوگیری چگونه شناسایی شده و چه خطری برای استفاده از هوش مصنوعی در مشاوره مالی دارد.
بر اساس دادههای معتبر منتشر شده، پژوهشگران دریافتند بیتکوین در شرایط عادی میان هشت شکل مختلف پول حدود رتبه پنجم قرار میگیرد، اما زمانی که سناریوهایی مانند بحران بانکی، محدودیتهای سرمایه یا اقتصاد مبتنی بر نرمافزارهای خودکار مطرح میشود، جایگاه آن میتواند به رتبههای بالاتر برسد.
وقتی شرایط فرضی تغییر میکند
پژوهشگران یک وضعیت مالی یکسان را با سه نوع دستور متفاوت به مدل هوش مصنوعی ارائه کردند. در حالت اول، هدف ساخت یک سبد بلندمدت و متنوع بود. در حالت دوم، ورشکستگی بانکها و کنترل سرمایه مطرح شد و در حالت سوم، اقتصادی فرض شد که در آن نرمافزارهای خودکار خدمات را خریداری کرده و با ماشینهای دیگر پرداخت انجام میدهند.
در حالی که اطلاعات مربوط به مشتری ثابت باقی میماند، جایگاه بیتکوین در پیشنهاد سرمایهگذاری تغییر میکند. این موضوع نشان میدهد مدل لزوماً با یک تعریف ثابت از بیتکوین کار نمیکند و بسته به زمینه مطرحشده، ویژگیهای متفاوتی از این دارایی را برجسته میکند.
برای مثال، در شرایطی که قابلیت اطمینان و استفاده روزمره از پول اهمیت دارد، ثبات قدرت خرید و پذیرش گسترده بیشتر مورد توجه قرار میگیرد. در مقابل، هنگام مطرح شدن تعطیلی بانکها یا کنترل سرمایه، قابلیت انتقال بیتکوین خارج از شبکه بانکی اهمیت بیشتری پیدا میکند.
یک ویژگی داخلی، پیشنهاد بیتکوین را تغییر داد
این پژوهش توسط ونبین وو و همکارانش انجام شده و در قالب یک پیشچاپ در ماه ژوئن منتشر شده است. محققان ابتدا هشت مدل پیشرفته را برای بررسی ترجیحات داراییها آزمایش کردند و سپس در یک مدل باز گوگل به سراغ بررسی سازوکار داخلی تصمیمگیری رفتند.
تیم پژوهش با استفاده از روشی به نام «خودرمزگذار تنک» یا Sparse Autoencoder، هزاران ویژگی داخلی مدل Gemma 3 را بررسی کرد. آنها یک ویژگی را پیدا کردند که در ارتباط با مفاهیم مرتبط با بیتکوین فعالیت بیشتری داشت.
نتایج آزمایش نشان داد افزایش قدرت این ویژگی، سهم پیشنهادی بیتکوین در سبد را بهطور میانگین ۵.۲ واحد درصد افزایش داد. کاهش فعالیت همان ویژگی نیز سهم بیتکوین را حدود ۴.۶ واحد درصد پایین آورد. ویژگیهای تصادفی کنترلشده چنین اثری ایجاد نکردند.
| مداخله در ویژگی داخلی مدل | تغییر در سهم پیشنهادی بیتکوین |
| تقویت ویژگی مرتبط با بیتکوین | ۵.۲ واحد درصد افزایش |
| تضعیف همان ویژگی | ۴.۶ واحد درصد کاهش |
این مداخله بدون تغییر دستور اصلی کاربر انجام شد. به همین دلیل، پژوهشگران آن را نمونهای از یک اثر علّی در خروجی مدل میدانند؛ هرچند این ویژگی نمیتوانست سبد سرمایهگذاری را بهطور نامحدود در هر جهتی تغییر دهد.
بیتکوین در ذهن مدل یک مفهوم ثابت نیست
مدلهای زبانی بیتکوین را مانند یک مدخل ساده در یک فرهنگ لغت ذخیره نمیکنند. اطلاعات مربوط به این دارایی در مجموعهای از الگوهای آماری و فعالیتهای داخلی مدل توزیع شده است.
برخی از این ارتباطات میتوانند به کمیابی و قابلیت انتقال بیتکوین مربوط باشند و برخی دیگر به نوسان، سفتهبازی، استقلال از نهادهای مالی یا استفاده از آن برای تسویه دیجیتال ارتباط داشته باشند.
پژوهشگران برای بررسی این موضوع، نام داراییها را با توصیف عملکرد آنها جایگزین کردند. رتبهبندی مدل همچنان از ویژگیهای توصیفشده پیروی میکرد. این نتیجه نشان میدهد واکنش مدل صرفاً به مشاهده کلمه «بیتکوین» وابسته نیست و مجموعهای از ویژگیهایی را که در زمان آموزش یاد گرفته، فعال میکند.
مشکل اصلی برای بانکها و شرکتهای سرمایهگذاری
تغییرپذیری پاسخ هوش مصنوعی زمانی اهمیت بیشتری پیدا میکند که مدل از مرحله تولید متن عبور کرده و در تصمیمهای سرمایهگذاری مورد استفاده قرار گیرد.
یک مدل میتواند توضیحی کاملاً منطقی و متقاعدکننده برای پیشنهاد یک دارایی ارائه کند، اما این توضیح الزاماً نشان نمیدهد چه فرایندی در پشت صحنه باعث ایجاد آن تصمیم شده است. به همین دلیل، یک توصیه ظاهراً شخصیسازیشده ممکن است بیشتر تحت تأثیر نحوه بیان درخواست قرار گرفته باشد تا شرایط واقعی مشتری.
برای مشاور انسانی نیز اثرپذیری از نحوه بیان اطلاعات موضوع جدیدی نیست. تفاوت مهم این است که مشاور انسانی معمولاً باید بتواند دلیل تصمیم خود را ثبت و از آن دفاع کند، در حالی که یک مدل زبانی میتواند پس از تولید تصمیم، توضیحی روان و قانعکننده برای آن ارائه دهد.
محدودیتهای مهم پژوهش
با وجود اهمیت یافتهها، نتایج این مطالعه را نمیتوان به تمام سیستمهای هوش مصنوعی تعمیم داد. بخش مکانیزمی پژوهش روی یک مدل باز، یعنی Gemma 3، و با یک روش مشخص برای استخراج ویژگیهای داخلی انجام شده است.
مدلهای تجاری میتوانند دستورهای داخلی، فیلترهای ایمنی، دادههای خارجی و لایههای بیشتری داشته باشند. همچنین شرکتهای ارائهدهنده مدلها بهطور منظم وزنها و دستورهای سیستمی خود را تغییر میدهند؛ بنابراین رفتار یک محصول ممکن است بدون تغییر نام آن متفاوت شود.
از سوی دیگر، وظایف مورد استفاده در این آزمایش سادهسازی شده بودند و در یک فرایند واقعی مشاوره مالی، اطلاعات مشتری، قوانین مالیاتی و فهرست داراییهای مجاز نیز در تصمیمگیری نقش دارند.
پژوهشگران همچنین تأکید کردهاند که تغییر مشاهدهشده در تخصیص بیتکوین به معنای پیشبینی بازده یا ارائه یک سبد بهینه نیست و نباید از آن بهعنوان استدلالی برای خرید بیتکوین استفاده کرد.
آزمایش دیگری از ترجیح پول دیجیتال خبر میدهد
نتایج این مطالعه در بخشی با پژوهش دیگری همجهت است که توسط Bitcoin Policy Institute انجام شده است. در آن آزمایش، ۳۶ مدل هوش مصنوعی در ۹ هزار و ۷۲ سناریوی پولی بررسی شدند.
نتایج آن پروژه نیز نشان داد نوع کاربرد مطرحشده در دستور میتواند انتخاب مدل را تغییر دهد؛ بهطوری که بیتکوین در سناریوهای مربوط به ذخیره ارزش عملکرد برجستهتری داشت، در حالی که استیبلکوینها در سناریوهای پرداخت روزمره بیشتر مورد توجه قرار گرفتند.
تفاوت دو پژوهش در این است که مطالعه نخست بیشتر رفتار خروجی مدل را بررسی کرده بود، اما تیم وو تلاش کرد یک سازوکار داخلی مرتبط با تغییر این رفتار را نیز شناسایی کند.
ورود هوش مصنوعی به تصمیمهای معاملاتی
استفاده از هوش مصنوعی در صنعت مالی دیگر محدود به تولید متن نیست. مدلها میتوانند ایمیلهای مشاوران را آماده کنند، گزارشهای تحقیقاتی را خلاصه کنند، توضیحات مربوط به سبد سرمایهگذاری را بنویسند یا در خدمات مشتری به تفسیر نیازهای کاربران کمک کنند. در مرحله بعد، برخی عاملهای خودکار نیز میتوانند وارد فرایند انجام تراکنشهای آنچین شوند.
هرچه مدل از تولید متن به پیشنهاد تخصیص سرمایه و سپس اجرای معامله نزدیکتر شود، پیامدهای یک سوگیری داخلی نیز میتواند جدیتر شود. اگر پیشنهاد هوش مصنوعی به نقطه شروع تصمیم انسانی تبدیل شود، خروجی اولیه مدل میتواند بر ادامه فرایند سرمایهگذاری اثر بگذارد.
در همین زمینه، FINRA در بررسی سال ۲۰۲۶ خود درباره عاملهای هوش مصنوعی هشدار داده است که سیستمهای عمومی ممکن است دانش تخصصی کافی برای فعالیتهای پیچیده مالی نداشته باشند و مقررات موجود بازار سرمایه همچنان درباره استفاده از این فناوری اعمال میشوند.
فشار بیشتر برای نظارت بر مدلهای مالی
در آمریکا، چارچوبهای نظارتی موجود همچنان شرکتهای مالی را نسبت به خروجی سیستمهای مورد استفاده مسئول میدانند. در اروپا نیز قانون هوش مصنوعی اتحادیه اروپا برخی سیستمهای مورد استفاده در حوزههایی مانند اعتبار و بیمه را در گروه پرریسک قرار میدهد.
در آلمان نیز BaFin از دوم اوت ۲۰۲۶ اختیارات مربوط به نظارت بر بازار هوش مصنوعی در شرکتهای مالی تحت نظارت را دریافت کرده است. با این حال، هنوز یک استاندارد مشخص برای آزمایش حساسیت معنایی مدلهای هوش مصنوعی در توصیههای سرمایهگذاری وجود ندارد.
مشکل اینجاست که شرکتها ممکن است عملکرد کلی یک مدل و میزان خطای آن را بررسی کنند، اما متوجه نشوند که تغییر عبارتی مانند «اختلال در سیستم بانکی» به جای «قابلیت اطمینان بلندمدت» باعث افزایش قابلتوجه سهم بیتکوین در پیشنهاد شده است.
توضیح تصمیم باید با فرایند تصمیمگیری یکسان باشد
پژوهشگران معتقدند یک سیستم مشاوره مالی مبتنی بر هوش مصنوعی باید بتواند در برابر عبارتهای مشابه، نتایج نسبتاً پایدار ارائه کند. اگر سبد تغییر میکند، سیستم باید مشخص کند کدام فرض یا اطلاعات باعث این تغییر شده است.
صرف ارائه یک توضیح متقاعدکننده پس از تولید عدد نمیتواند ثابت کند که همان توضیح واقعاً عامل ایجاد تصمیم بوده است. این مسئله با بهروزرسانی مدلها اهمیت بیشتری پیدا میکند، زیرا شرکت ارائهدهنده ممکن است وزنها یا دستورهای داخلی را تغییر دهد، در حالی که نام محصول ثابت باقی میماند.
بر همین اساس، استفاده گسترده از هوش مصنوعی در مشاوره سرمایهگذاری به استانداردی شبیه «شناخت عامل» نیاز دارد؛ یعنی مؤسسه باید بداند چه چیزی باعث میشود مدل یک دارایی را ترجیح دهد و این ترجیح تا چه اندازه قابل تغییر است.
تحلیل یوتوتایمز از تاثیر خبر بر بازار
تحلیلگران یوتوتایمز معتقدند این خبر در کوتاهمدت تأثیر مستقیمی بر قیمت بیتکوین ندارد، اما برای معاملهگران اهمیت ساختاری دارد. افزایش استفاده از هوش مصنوعی در سرمایهگذاری میتواند جریان تقاضا را تحت تأثیر مدلهای خودکار قرار دهد. معاملهگران بهتر است توصیههای AI را سیگنال قطعی ندانند و در کنار دادههای آنچین، نقدینگی، روند قیمت و مدیریت ریسک بررسی کنند.
