«چت‌جي‌پي‌تي سرچ» در خطر فريب خوردن است
گزارش‌ها حاكي از اين هستند كه «چت‌جي‌پي‌تي سرچ» در خطر فريب خوردن قرار دارد و ممكن است اطلاعات اشتباه را ارايه دهد. به گزارش ايسنا، روزنامه بريتانيايي «گاردين» نوشت موتور جست‌وجوي «چت‌جي‌پي‌تي سرچ» (ChatGPT Search) مبتني بر هوش مصنوعي كه در ماه جاري ميلادي راه‌اندازي شد، با مشكل فريب خوردن همراه است و متن‌هاي گمراه‌كننده را توليد مي‌كند.
گزارش‌ها حاكي از اين هستند كه «چت‌جي‌پي‌تي سرچ» در خطر فريب خوردن قرار دارد و ممكن است اطلاعات اشتباه را ارايه دهد. به گزارش ايسنا، روزنامه بريتانيايي «گاردين» نوشت موتور جست‌وجوي «چت‌جي‌پي‌تي سرچ» (ChatGPT Search) مبتني بر هوش مصنوعي كه در ماه جاري ميلادي راه‌اندازي شد، با مشكل فريب خوردن همراه است و متن‌هاي گمراه‌كننده را توليد مي‌كند. به نقل از تك كرانچ، هدف از ويژگي چت‌جي‌پي‌تي سرچ اين است كه با انجام دادن كارهايي مانند خلاصه كردن بررسي‌هاي صفحه وب، به مرور سرعت بدهد، اما گاردين خاطرنشان كرد كه اين قابليت مي‌تواند چت‌جي‌پي‌تي را ترغيب كند تا نظرات منفي را ناديده بگيرد و با درج متن پنهان در وب‌سايت‌هايي كه ايجاد كرده، خلاصه‌هاي كاملا مثبت را توليد كند. همچنين، چت‌جي‌پي‌تي سرچ با استفاده از اين روش مي‌تواند رمزهاي مخرب را استخراج كند. اينگونه حملات متني مخفي، يك خطر شناخته‌شده براي مدل‌هاي زباني بزرگ هستند، اما به نظر مي‌رسد اين اولين‌بار است كه در يك محصول جست‌وجوي زنده با هوش مصنوعي نشان داده مي‌شود. گاردين خاطرنشان كرد كه موتور جست‌وجوي «گوگل»، تجربه بيشتري را در برخورد با مشكلات مشابه دارد. شركت «اوپن‌اي‌آي» (OpenAI) به تماس تك كرانچ درباره اين اتفاق خاص اظهارنظر نكرد، اما گفت كه از روش‌هاي گوناگوني براي مسدود كردن وب‌سايت‌هاي مخرب استفاده مي‌كند و به‌طور مداوم در حال بهبود بخشيدن آن است.