هوش مصنوعي «متا» دچار انحراف اخلاقي است
گزارش شده است كه چت‌بات‌هاي هوش مصنوعي شركت متا (Meta) اقدام به برقراري مكالمات غير اخلاقي با افراد زير سن قانوني مي‌كنند. تحقيقات وال‌استريت ژورنال نشان داده است كه همراهان مجازي شركت متا مي‌توانند برخي از دستورالعمل‌هاي اخلاقي جدي را ناديده بگيرند.
گزارش شده است كه چت‌بات‌هاي هوش مصنوعي شركت متا (Meta) اقدام به برقراري مكالمات غير اخلاقي با افراد زير سن قانوني مي‌كنند. تحقيقات وال‌استريت ژورنال نشان داده است كه همراهان مجازي شركت متا مي‌توانند برخي از دستورالعمل‌هاي اخلاقي جدي را ناديده بگيرند. به گزارش ايسنا، چت‌بات‌ها يا ربات‌هاي گفت‌وگوگر هوش مصنوعي شركت «متا» در حال برقراري مكالمه‌هاي غير اخلاقي با حساب‌هايي كه برچسب زير سن قانوني داشته‌اند، ديده شده‌اند. به نقل از وال استريت ژورنال، در مكالمات آزمايشي انجام شده توسط اين پايگاه، هم چت‌بات رسمي شركت «متا» و هم چت‌بات‌هاي ايجاد شده توسط كاربران، به سمت گفت‌وگوهاي صريح جنسي مي‌روند. طبق اين گزارش، حتي اگر به هوش مصنوعي گفته مي‌شد كه كاربران زير سن قانوني هستند يا اگر چت‌بات‌ها براي كودكان برنامه‌ريزي شده بودند، اين مكالمات غير اخلاقي ادامه مي‌يافت. بدتر از آن، اينكه اين تحقيقات نشان داد كه چت‌بات‌هايي كه از صداي افراد مشهوري مانند «كريستن بل»، بازيگر مشهور هاليوود و «جان سينا» كشتي‌كچ‌كار و بازيگر هاليوود استفاده مي‌كنند نيز در اين مكالمات غير اخلاقي شركت مي‌كنند. به عنوان مثال، وال استريت ژورنال گزارش داد كه يك چت‌بات هوش مصنوعي «متا» با صداي «جان سينا» با يك كاربر كه برچسب ۱۴ سالگي دارد، مكالمات خلاف اخلاقي برقرار كرده است. گزارش شده است كه حتي اين چت‌بات‌ها اذعان كرده‌اند كه در برخي موارد رفتارهايي غيرقانوني را توصيف مي‌كنند. شركت «متا» در واكنش به اين گزارش در يك بيانيه، اين گزارش را متهم به «دستكاري و غير قابل نمايش در مورد نحوه تعامل بيشتر كاربران با همراهان هوش مصنوعي» كرد. متا در پاسخ به وال استريت ژورنال نوشت: با اين وجود، ما اكنون اقدامات بيشتري انجام داده‌ايم تا اطمينان حاصل كنيم كه ساير افرادي كه مي‌خواهند محصولات ما را دستكاري كنند، كار سخت‌تري داشته باشند. دنياي چت‌بات‌هاي هوش مصنوعي در چند سال اخير به سرعت رشد كرده است و رقابت بيشتري از سوي شركت‌هايي مانند اوپن‌اي‌آي (OpenAI) و آنتروپيك (Anthropic) صورت گرفته است. گزارش وال استريت ژورنال ادعا مي‌كند كه «مارك زاكربرگ»، مديرعامل «متا» مي‌خواهد نرده‌هاي اخلاقي را براي تجربه‌اي جذاب‌تر با چت‌بات‌هاي اين شركت و رقابتي ماندن مستقر كند. با اين حال، سخنگوي «متا» در پاسخ به وال استريت ژورنال، اين موضوع را رد كرد كه اين شركت افزودن پادمان‌ها را ناديده گرفته است. گفتني است كه اين گزارش همچنين ادعا مي‌كند كه كاركنان «متا» از اين مسائل آگاه بوده و نگراني‌هاي خود از اين مساله را درون اين شركت مطرح كرده‌اند.