هوش مصنوعي اوپن‌ اي آي توهم زد!

ابزار هوش مصنوعي اوپن‌اي آي براي تبديل صوت به متن، جملاتي‌ مي‌سازد و به متن‌ مي‌افزايد كه باعث ايجاد چالش جديدي شده است. به گزارش مهر به نقل از آسوشيتدپرس، شركت «اوپن‌اي آي» ابزار رونويسي مبتني بر هوش مصنوعي خود به نام «ويسپر» (Wisper) را با ادعاي آنكه دقت و قدرتي معادل يك كاربر انساني دارد، عرضه كرده است. اما ويسپر يك چالش اساسي دارد. به گفته مهندسان نرم افزار، توسعه‌دهندگان و محققان آكادميك ممكن است اين ابزار بخشي از متن يا حتي جملاتي كامل را خودش بنويسد. اين كارشناسان معتقدند برخي از متن‌‌هاي ‌اختراعي اين ابزار ممكن است حاوي اظهارات نژادي، خشونت آميز يا حتي درمان‌‌هاي ‌پزشكي خيالي باشد. به گفته آنها چنين جملاتي مشكل‌ساز هستند زيرا از اين ابزار در چند صنعت در سراسر جهان براي تبديل مصاحبه‌ها، توليد متن در زمينه فناوري‌‌هاي ‌مصرفي محبوب و ساخت زيرنويس براي ويدئوها استفاده‌ مي‌شود. نكته نگران‌كننده‌‌تر، عجله مراكز پزشكي براي استفاده از ابزارهاي مبتني بر ويسپر براي رونويسي مشاوره‌هاي ‌بيماران با پزشكان است. حال آنكه اوپن‌اي آي قبلا هشدار داده از اين ابزار نبايد در حوزه‌هايي با ريسك زياد استفاده شود. گستره كامل اين مشكل را به سختي‌ مي‌توان تعيين كرد اما محققان و مهندسان اعلام كرده‌اند در فعاليت‌هايشان اغلب با توهمات ابداعي ويسپر روبرو شده‌اند. به عنوان مثال يك محقق دانشگاه ميشيگان مشغول انجام تحقيقي از جلسات عمومي بود و در هر ۱۰ رونويسي كليپ صوتي كه او بررسي كرده بود ۸ مورد حاوي توهمات ويسپر بودند. پس از آن وي تلاش خود براي ارتقاي اين مدل هوش مصنوعي را آغاز كرد. يك مهندس يادگيري ماشيني نيز‌ مي‌گويد او بيش از ۱۰۰ ساعت نمونه رونويسي كه ويسپر انجام داده بود را تحليل و در حدود نيمي از آنها توهمات اين هوش مصنوعي را مشاهده كرده است. محقق سومي نيز مدعي شده هنگام بررسي ۲۶ هزار متني كه با كمك ويسپر ابداع شده، تقريبا در هر يك از رونويسي‌ها توهمات اين ابزار را مشاهده كرده است. اين چالش حتي در رونويسي از نمونه‌هاي ‌كوتاه و با كيفيت صوتي نيز  وجود  دارد.