تأثير هوش مصنوعي بر بي‌ثباتي مالي (۲)

امروزه استفاده از هوش مصنوعي در بخش‌های مختلف اقتصادي گسترش يافته است. در يادداشت نخست درباره زمينه‌هاي تحولات برآمده از هوش مصنوعي در صنعت مالي سخن گفته شد، در ادامه درباره اثرات هوش مصنوعي بر بي‌ثباتي مالي و اقتصادي پرداخته مي‌شود. محرك‌هاي بي‌ثباتي مالي به خوبي شناخته شده‌اند و مدت‌ها قبل از ظهور رايانه‌ها نگراني ايجاد كرده‌اند. با افزايش استفاده از فناوري در سيستم مالي، بهره‌وري را به همراه داشت و به سيستم سود رساند، اما همچنين كانال‌هاي بي‌ثباتي موجود را تقويت كرد. انتظار داريم هوش مصنوعي نيز همين كار را انجام دهد. چهار كانال آسيب‌پذيري اقتصاد در برابر هوش مصنوعي: هنگام شناسايي چگونگي وقوع اين امر، در نظر گرفتن خطرات اجتماعي ناشي از استفاده از هوش مصنوعي و نحوه تعامل آنها با ثبات مالي مفيد است. با انجام اين كار، به چهار كانالي مي‌رسيم كه اقتصاد در برابر هوش مصنوعي آسيب‌پذير است:

1- كانال اطلاعات نادرست به اين دليل ايجاد مي‌شود كه كاربران هوش مصنوعي محدوديت‌هاي آن را درك نمي‌كنند، اما به‌طور فزاينده‌اي به آن وابسته مي‌شوند.

2- كانال استفاده مخرب به اين دليل ايجاد مي‌شود كه سيستم مملو از عوامل اقتصادي با منابع بالا است كه مي‌خواهند سود خود را به حداكثر برسانند و چندان نگران عواقب اجتماعي فعاليت‌هاي خود نيستند.

3- كانال عدم همسويي از مشكلات اطمينان از اينكه هوش مصنوعي از اهداف مورد نظر اپراتورهاي انساني خود پيروي مي‌كند، ناشي مي‌شود.

4- كانال ساختار بازار انحصاري از مدل‌هاي تجاري شركت‌هايي كه موتورهاي هوش مصنوعي را طراحي و اجرا مي‌كنند ناشي مي‌شود. اين شركت‌ها از بازده‌هاي افزايشي برخوردارند كه مي‌تواند از ورود به بازار جلوگيري كند و همگني و تك‌فرهنگي ريسك را افزايش دهد.

چگونه هوش مصنوعي

مي‌تواند سيستم را بي‌ثبات كند

هوش مصنوعي براي موثر بودن به داده نياز دارد، حتي بيشتر از انسان‌ها. اين نبايد مشكلي باشد زيرا سيستم داده‌هاي زيادي را براي كار كردن با آن توليد مي‌كند، روزانه ترابايت‌ها. مشكل اين است كه تقريباً همه آن داده‌ها از وسط توزيع نتايج سيستم به جاي دنباله‌ها مي‌آيند. بحران‌ها همه در مورد دنباله‌ها هستند. چهار دليل وجود دارد كه چرا داده‌هاي كمي از دنباله‌ها داريم:

اولين واكنش درونزا به كنترل توسط فعالان بازار است؛ اين مربوط به كانال اطلاعات نادرست هوش مصنوعي است. يك راه مفيد براي درك اين موضوع، اين است كه «هر قاعده آماري مشاهده شده، زماني كه تحت فشار كنترل قرار مي‌گيرد، تمايل به فروپاشي دارد». فعالان بازار صرفاً قوانين را به‌طور واقعي نمي‌پذيرند. خير، آنها با پاسخ راهبردي و استراتژيك واكنش نشان مي‌دهند. آنها پيشاپيش به كسي نمي‌گويند كه قصد دارند چگونه برنامه‌ريزي كنند و به مقررات و فشارها پاسخ دهند. آنها احتمالاً حتي خودشان هم نمي‌دانند. در نتيجه، عملكرد واكنش فعالان بازار پنهان هستند و چيزي كه پنهان است در يك مجموعه داده نيست.

دليل دوم كه از كانال مخرب ناشي مي‌شود، همه مكمل‌هاي استراتژيك است كه در قلب نحوه رفتار فعالان بازار در طول بحران‌ها قرار دارد. آنها احساس مي‌كنند مجبور به برداشت نقدينگي هستند زيرا رقباي آنها اين كار را مي‌كنند. در همين حال، مكمل‌هاي استراتژيك مي‌توانند به تعادل‌هاي متعدد منجر شوند، جايي كه نتايج بازار بسيار متفاوت ممكن است از شانس تصادفي ناشي شود. هر دو اين پيامدهاي مكمل‌هاي استراتژيك به اين معني است كه مشاهدات بحران‌هاي گذشته براي بحران‌هاي آينده چندان آموزنده نيست. اين دليل ديگري است كه ما مشاهدات زيادي از دنباله‌هاي توزيع نداريم. در ريشه مشكل، دو ويژگي هوش مصنوعي وجود دارد: در استخراج الگوهاي پيچيده از داده‌ها بسيار ماهر است و به سرعت از محيطي كه در آن عمل مي‌كند، ياد مي‌گيرد. موتورهاي هوش مصنوعي فعلي مشاهده مي‌كنند كه رقبا چه كار مي‌كنند و استفاده از اين مشاهدات براي بهبود مدل‌هاي خود از نحوه عملكرد جهان براي آنها دشوار نخواهد بود. اين به چه معناست در عمل؟ هوش مصنوعي در شركت‌هاي خصوصي و سازمان‌هاي عمومي آموزش مي‌دهد و در نتيجه بهينه مي‌شود تا يكديگر را تحت تأثير قرار دهند. تراز كردن انگيزه‌هاي هوش مصنوعي با انگيزه‌هاي مالك آن يك مشكل سخت است - كانال ناسازگاري. اين مي‌تواند در طول بحران‌ها بدتر شود، زماني كه سرعت از اهميت بالايي برخوردار است و ممكن است زماني براي هوش مصنوعي براي درخواست بازخورد انساني براي تنظيم دقيق اهداف وجود نداشته باشد. روش سنتي عمل سيستم براي جلوگيري از تعادل‌هاي فرار ممكن است ديگر كار نكند. مشكل هميشگي ناسازگاري بين رفتار منطقي فردي و نتايج مطلوب اجتماعي ممكن است تشديد شود اگر تنظيم‌كننده‌هاي انساني ديگر نتوانند تلاش‌هاي نجات را هماهنگ كنند و «بازوهاي خود را بچرخانند».

هوش مصنوعي ممكن است قبلاً موقعيت‌هاي خود را تصفيه كرده باشد و در نتيجه باعث بحران شده باشد، قبل از اينكه مالك انساني بتواند تلفن را بردارد تا به تماس مثلاً رييس فدرال رزرو پاسخ دهد. هوش مصنوعي احتمالاً كانال ساختار بازار انحصاري براي بي‌ثباتي مالي را تشديد خواهد كرد. با توجه به اينكه موسسات مالي به روش‌هاي مشابهي جهان را مي‌بينند و به آن واكنش نشان مي‌دهند، آنها در خريد و فروش هماهنگ مي‌شوند و منجر به حباب‌ها و سقوط‌ها مي‌شوند. به‌طور كلي، تك‌فرهنگي ريسك يك محرك مهم براي رونق‌ها و ركودها در سيستم مالي است. طراحي يادگيري ماشيني، داده‌هاي ورودي و محاسبات بر توانايي موتورهاي هوش مصنوعي براي مديريت ريسك تأثير مي‌گذارند. اين موارد به‌طور فزايندهاي عمدتاً توسط چند شركت فناوري و اطلاعات كنترل مي‌شوند كه به ادغام ادامه مي‌دهند و منجر به يك بازار انحصاري مي‌شوند.

نگراني اصلي از اين تمركز بازار، احتمال اين است كه بسياري از موسسات مالي، از جمله موسسات بخش عمومي، ديدگاه خود را از جهان از يك فروشنده دريافت مي‌كنند. اين بدان معناست كه آنها فرصت‌ها و ريسك‌ها را به‌طور مشابه مي‌بينند، از جمله اينكه چگونه اين موارد تحت تأثير استرس فعلي يا فرضي قرار مي‌گيرند. در بحران‌ها، اين اثر همگن‌سازي استفاده از هوش مصنوعي مي‌تواند عدم قطعيت استراتژيك را كاهش دهد و هماهنگي در تعادل‌هاي فرار را تسهيل كند. با توجه به موج اخير ادغام‌هاي فروشنده داده، نگران‌كننده است كه نه مقامات رقابت و نه مقامات مالي به نظر نمي‌رسد كه پتانسيل افزايش ريسك سيستميك كه ممكن است از فناوري هوش مصنوعي انحصاري ناشي شود را كاملاً درك كرده باشند. در نهايت، اگر هوش مصنوعي با تهديدات وجودي براي موسسه مواجه شود، براي بقا بهينه مي‌شود. اما در اينجا سرعت و كارايي بسيار زياد هوش مصنوعي عليه سيستم عمل مي‌كند. اگر موسسات مالي ديگر نيز همين كار را انجام دهند، آنها در يك تعادل بحراني هماهنگ مي‌شوند. بنابراين، همه موسسات يكديگر را تحت تأثير قرار مي‌دهند زيرا آنها به‌طور جمعي همان تصميم را مي‌گيرند. همه آنها سعي مي‌كنند سريع‌ترين واكنش را نشان دهند، زيرا اولين كسي كه دارايي‌هاي خطرناك را دفع مي‌كند در بهترين موقعيت براي تحمل توفان قرار دارد. پيامد آن افزايش عدم قطعيت است كه منجر به نوسانات شديد بازار و همچنين حلقه‌هاي بازخورد معيوب مانند فروش‌هاي اجباري، برداشت نقدينگي و فرار بانكي مي‌شود. به لطف هوش مصنوعي، استرسي كه ممكن است روزها يا هفته‌ها طول بكشد تا آشكار شود، اكنون مي‌تواند در عرض چند دقيقه يا چند ساعت اتفاق بيفتد. موتور هوش مصنوعي ممكن است عكس اين كار را نيز انجام دهد. بالاخره، فقط به اين دليل كه هوش مصنوعي مي‌تواند سريع‌تر واكنش نشان دهد، به اين معني نيست كه اين كار را خواهد كرد. شواهد تجربي نشان مي‌دهد كه اگرچه قيمت دارايي‌ها ممكن است در يك بحران زير ارزش‌هاي بنيادي سقوط كند، اما اغلب به سرعت بهبود مي‌يابند. اين به معناي فرصت‌هاي خريد است. اگر هوش مصنوعي نگران بقا نباشد و موتورها به‌طور كلي به يك تعادل بهبودي همگرا شوند، شوك را جذب مي‌كنند و هيچ بحراني رخ نخواهد داد. ما حدس مي‌زنيم كه هوش مصنوعي براي كاهش نوسان و افزايش دنباله‌هاي توزيع عمل خواهد كرد. اين مي‌تواند نوسانات كوتاه مدت را به قيمت رويدادهاي شديدتر كاهش دهد. از اهميت ويژه‌اي برخوردار است كه مقامات مالي چقدر براي يك بحران هوش مصنوعي آماده هستند. ما اين موضوع را در مقاله بعدي كه منتشر مي‌شود، با عنوان «چگونه مقامات مالي مي‌توانند به تهديدات هوش مصنوعي براي ثبات مالي پاسخ دهند» مورد بحث قرار مي‌دهيم.