گوگل براي بهبود جمناي از چت‌بات شركت آنتروپيك استفاده مي‌كند

براساس مكاتبات داخلي كه به رويت تك‌كرانچ رسيده است، پيمانكارهايي كه روي بهبود هوش مصنوعي جمناي مشغول به كار هستند خروجي‌هاي اين هوش مصنوعي را با پاسخ‌هاي مدل Claude از شركت آنتروپيك مقايسه مي‌كنند. به گزارش پيوست، گوگل در پاسخ به درخواست اظهارنظر درمورد اجازه اين شركت براي استفاده از Claude در روند آزمايش جمناي پاسخي نداده است اما اين شركت يكي از سرمايه‌گذاران آنتروپيك محسوب مي‌شود و طبق گزارش‌ها حدود ۲ ميليارد دلار روي اين استارت‌آپ سرمايه‌گذاري كرده است. با اينكه شركت‌هاي فناوري در تلاش براي بهبود مدل‌هاي هوش مصنوعي عملكرد مدل‌هاي خود را با محصولات رقبا مقايسه مي‌كنند اما براي اين كار معمولا مدل‌هاي خود را براساس بنچمارك‌هايي آزمايش مي‌كنند كه رقبا نيز براساس آنها ارزيابي شده‌اند. با اين حال گوگل در اقدام متفاوتي از پيمانكارهايي براي قياس مستقيم دو مدل استفاده كرده است. پيمانكارهاي گوگل وظيفه دارند تا دقت خروجي‌هاي مدل جمناي را ارزيابي كنند و هر پاسخ را از لحاظ معيارهاي مختلفي مثل صداقت و پرگويي بررسي كنند. اين پيمانكار‌ها حدود ۳۰ دقيقه به هر پرامپت و مقايسه پاسخ دو مدل زمان مي‌دهند. مكاتبات داخلي نشان مي‌دهد كه پيمانكاران گوگل به تازگي متوجه اشاره به چت‌بات Claude از انتروپيك در پلتفرم ارزيابي گوگل براي مقايسه جمناي با ديگر مدل‌هاي گمنام هوش مصنوعي شده‌اند. در حداقل يكي از خروجي‌ها كه در اختيار تك‌كرانچ قرار گرفته است، چت‌بات تصريح مي‌كند كه «من Claude هستم، ساخته آنتروپيك.» يكي از مكالمات داخلي نشان مي‌دهد كه پيمانكاران متوجه شده‌اند چت‌بات ساخته آنتروپيك بيشتر از جمناي بر ايمني تاكيد دارد. يكي از پيمانكاران مي‌نويسد: «تنظيمات امنيتي Claude سفت و سخت‌تر» از ديگر مدل‌هاي هوش مصنوعي هستند. در يك سري از موارد، Claude به پرامپت‌هايي كه نا امن تشخيص داده مي‌شوند، مثل تقليد از يك دستيار هوش مصنوعي متفاوت، پاسخ نمي‌دهد. شروط استفاده تجاري آنتروپيك كاربران را از دسترسي به Claude براي «ساخت يك محصول يا خدمت رقيب» يا «آموزش مدل‌هاي هوش مصنوعي رقيب» بدون تاييديه آنتروپيك منع مي‌كند. گوگل يكي از سرمايه‌گذاران بزرگ آنتروپيك محسوب مي‌شود و در نتيجه ممكن است اجازه چنين كاري را از اين شركت دريافت كرده باشد.