حضور هوش مصنوعي در بزرگ‌ترين رويداد اقتصادي جهان
چهره‌هاي مطرح جهان فناوري در اجلاس مجمع جهاني اقتصاد در داووس گرد هم آمدند و در شرايط امروز عجيب نيست كه هوش مصنوعي به يكي از مباحث اصلي تبديل شده است و رهبران فناوري نظرات مختلفي را در اين زمينه بيان كردند.
چهره‌هاي مطرح جهان فناوري در اجلاس مجمع جهاني اقتصاد در داووس گرد هم آمدند و در شرايط امروز عجيب نيست كه هوش مصنوعي به يكي از مباحث اصلي تبديل شده است و رهبران فناوري نظرات مختلفي را در اين زمينه بيان كردند.
هوش مصنوعي به عنوان يكي از قدرتمندترين فناوري‌هاي عصر حاضر، پتانسيل بالايي براي تحول در صنايع و كسب‌وكارها دارد. با اين حال، علي‌رغم پيش‌بيني‌ها مبني بر توانمندي روزافزون اين فناوري، دستيابي به مزاياي واقعي آن بدون توجه به يك عامل حياتي، يعني «كيفيت داده»، تقريباً غيرممكن است. گزارش‌ها نشان مي‌دهند كه درصد قابل توجهي از پروژه‌هاي هوش مصنوعي، حدود ۸۵ درصد، به دليل مشكلات مرتبط با داده‌ها، از جمله كيفيت پايين، كمبود يا عدم وجود داده‌هاي مناسب، با شكست مواجه مي‌شوند. اين موضوع اهميت پرداختن به چالش‌هاي مربوط به داده‌ها را در پروژه‌هاي هوش مصنوعي بيش از پيش نمايان مي‌سازد. گزارش پيوست از فايننشال تايمز نشان مي‌دهد كه رهبران هوش مصنوعي نگران تاثير احتمالي و مخرب اين فناوري بر آينده انسان‌‌ها هستند، اما يكي از اختلاف نظر‌هاي مهم پيرامون نحوه عرضه و دسترسي اين فناوري است. يان لي‌كان، مدير هوش مصنوعي شركت متا، بر خلاف همتايان خود هوش مصنوعي متن‌باز را نه يك تهديد، بلكه فرصتي براي مقابله با تمركز قدرت مي‌داند.
به گزارش پيوست، چهره‌هاي مطرحي همچون دميس هاسابيس، رييس گوگل ديپ‌مايند، داريو آمودي، بنيان‌گذار و مديرعامل استارت‌آپ هوش مصنوعي آنتروپيك و يوشوا بنجيو، دانشمند كامپيوتر معروف به پدرخوانده هوش مصنوعي، در داووس درمورد نگراني‌هاي امنيتي هوش مصنوعي هشدار دادند و با وجود نگراني همه فعالان، هركدام با ديدگاه خاص خود به اين مساله پرداختند. هاسابيس در اين اجلاس اعتراف كرد كه هوش مصنوعي از مرحله‌اي كه امكان مهار يا نابودي آن بود عبور كرد است. او مي‌گويد «اين غول را نمي‌توان به درون چراغ بازگرداند.» با اين حال هاسابيس بر خطرات احتمالي و لزوم جلوگيري از آنها تاكيد دارد. به گفته او اگر اين فناوري از كنترل خارج شود يا در اختيار بدكاران قرار گيرد، تهديدي براي تمدن انساني محسوب مي‌شود. او معتقد است كه خطر اين حوزه بسيار فراتر از شركت‌ها يا محصولات است و «آينده بشريت، وضعيت انسان و جايي كه ما به عنوان يك جامعه مي‌خواهيم به سمتش حركت كنيم» را تحت تاثير قرار مي‌دهد.
سناريوی ۱۹۸۴؛ تهديدي از جنس دولت‌ها
آمودي اما به شكل ديگري به تهديد هوش مصنوعي نگاه مي‌كند. او كه شركتش با چت‌بات Calude شناخته مي‌شود و از حمايت گوگل و آمازون برخوردار است، نگران استفاده دولت‌هاي استبدادي از هوش مصنوعي است و بسيار «نگران سناريو‌هاي شبيه به ۱۹۸۴ يا بدتر» است. دولت‌هاي مختلف از اين فناوري براي تجزيه‌تحليل داده‌هاي شهروندان استفاده مي‌كنند و در مواردي نيز شاهد استفاده از اين فناوري براي نظارت و سركوب بوديم. از جمله دلايلي كه دولت امريكا براي تحريم چين در اين حوزه و قطع دسترسي اين كشور به پردازنده‌هاي انويديا مطرح كرده است، استفاده پكن از فناوري هوش مصنوعي براي زيرنظر گرفتن شهروندان و حتي استفاده نظامي است. پيش از تحريم پردازنده‌هاي هوش مصنوعي، امريكا چندين توليدكننده تجهيزات نظارتي چين را نيز كه مشترياني حتي از دولت‌هاي خارجي داشتند به ليست تحريم‌ها و ليست سياه شركت‌ها اضافه كرد.
نمي‌دانيم چطور اين ماشين‌ها را كنترل كنيم
بنجيو اما در اين پنل به آسودگي خاطر رهبران هوش مصنوعي در اين حوزه تاخت و از توان محدود انسان و حتي شركت‌ها در اين حوزه گفت. او گفت: «علم نمي‌داند كه چطور مي‌توانيم اين ماشين‌ها را حتي در سطح دانشي مشابه خودمان، كنترل كنيم و اگر از ما باهوش‌تر باشند اوضاع بدتر از اين است.» او در ادامه افزود «كساني هستند كه مي‌گويند «نگران نباشيد، راهش را پيدا مي‌كنيم.» اما اگر راهي پيدا نكرديم چه، آيا متوجه پيامد‌ها هستيد؟» بسياري از فعالان فناوري به ويژه در ابتداي مسير و چندي پس از عرضه ChatGPT كه به موج حال حاضر اين فناوري شكل داد، درمورد پيشرفت سريع هوش مصنوعي اظهار نگراني جدي كردند به‌طوري كه تعدادي از دانشمندان و مديران فناوري طي نامه‌اي كه به امضاي ايلان ماسك، مالك شبكه اجتماعي ايكس و شركت هوش مصنوعي ايكس‌اي‌آي، رسيد خواستار توقف موقت توسعه اين فناوري شدند. با اين حال چنين توقفي حاصل نشد اما شركت‌ها گاه به صورت داوطلبانه و گاه با فشار رگولاتوري به توسعه چارچوب‌هاي ايمني پرداختند كه استارت‌آپ تحت رهبري داريو به عنوان پيشتاز اين عرصه شناخته مي‌شود.
تمركز قدرت
يان لي‌كان، پژوهشگر ارشد هوش مصنوعي شركت متا، توسعه‌دهنده مدل‌هاي هوش مصنوعي متن‌باز Llama معتقد است كه «موانع توزيع متن‌باز» اين فناوري باعث مي‌شود تا قدرت در دست چند بازيگر انگشت شمار، در ايالات متحده يا چين، قرار گيرد. لي‌كان پيش از اين هم در اظهارنظري درمورد شركت هوش مصنوعي DeepSeek چين كه به تازگي با عرضه مدل‌هاي هوش مصنوعي قدرتمند و هم‌تراز ابزارهاي اوپن‌اي‌آي باعث شگفتي شد، بر اهميت رويكرد متن‌باز و دسترسي آزاد تاكيد كرد و جهش اين شركت چيني را پيروزي رويكرد متن با بر هوش مصنوعي اختصاصي دانست. او به جبهه‌گيري داريو و يوشيوا كه توسعه متن‌باز را به دليل دسترسي آزاد همه، حتي تبهكاران، به عنوان يكي از نگراني‌هاي خود مطرح كرده بودند تاخت و گفت چنين نگاهي «از افرادي مثل داريو بسيار عجيب است.»
دولت ترامپ و كاهش محدوديت‌ها با وجود نگراني
دور جديد رياست‌جمهوري دونالد ترامپ در امريكا با نگراني‌هاي تازه‌اي براي دسته‌اي از فعالان فناوري و جامعه علمي همراه شده است. ترامپ همانطور كه وعده داده بود در روز اول رياست‌جمهوري خود فرمان اجرايي جو بايدن، رييس‌جمهور پيشين امريكا، در حوزه هوش مصنوعي را لغو كرد. اين فرمان اجرايي كه در سال ۲۰۲۳ به امضاي بايدن رسيد، موسسه استاندارد‌ها و فناوري ملي (NIST) در وزارت بازرگاني امريكا را ملزم مي‌كرد تا دستورا‌لعملي براي كمك به شناسايي نقايص مدل‌هاي هوش مصنوعي (و اصلاح آنها) از جمله سوگيري‌هاي هوش مصنوعي طراحي كند. همچنين براساس اين فرمان اجرايي توسعه‌دهندگان سيستم‌هاي هوش مصنوعي بايد نتايج آزمون‌هاي ايمني خود را پيش از عرضه عمومي مدل‌ها با دولت امريكا به اشتراك مي‌گذاشتند. منتقدان مي‌گويند اين كار اسرار شركتي را فاش مي‌كند اما حاميان اقدام بايدن بر لزوم چنين چارچوبي براي جلوگيري از خطرات احتمالي هوش مصنوعي تاكيد داشتند. با كنار لغو اين فرمان و كاهش محدوديت‌ها، بسياري نگران پيشرفت بي‌قيد و بند شركت‌هاي فناوري با هدف سود حداكثري هستند و اين در حالي است كه طبق پيش‌بيني سم آلتمن، مديرعامل شركت اوپن‌اي‌آي، هوش مصنوعي عمومي يا AGI ممكن است در همين دوره رياست‌جمهوري ترامپ ساخته شود.