اوپن‌اي‌آي با كميته ايمني جديد به سراغ توسعه نسل بعدي هوش مصنوعي مي‌رود

براساس گزارشي از فايننشال تايمز، اوپن‌اي‌آي توسعه نسل بعدي مدل‌هاي هوش مصنوعي خود را آغاز كرده و با اينكه شركت از ادعاي پيشين مبني بر تمركز روز «هوش برتر» عقب كشيده است اما همچنان به توسعه AGI يا هوش مصنوعي عمومي متعهد است. همچنين پس از انحلال كامل تيم كنترل هوش مصنوعي، از اين پس كميته ايمني جديدي به رهبري سم آلتمن و سه عضو هيات مديره، نظارت بر مباحث ايمني را برعهده مي‌گيرد. به گزارش پيوست، رويكرد اوپن‌اي‌آي به ايمني سيستم‌ها چندان متقاعد كننده به نظر نمي‌رسد. براساس ساز و كار جديد اين شركت، مديريت كميته ايمني نيز برعهده مديرعامل است و مجري اصلي نظارت بر روند اجرايي خود را برعهده مي‌گيرد. اوپن‌اي‌آي مي‌گويد آموزش نسل بعدي مدل‌ هوش مصنوعي خود را آغاز كرده است و از ادعاهاي پيشين مبني بر تلاش شركت در راستاي ساخت سيستم‌هاي «هوش برتر» كه بهتر از انسان عمل مي‌كنند عقب‌نشيني كرده است. بزرگ‌ترين استارت‌آپ هوش مصنوعي جهان روز سه‌شنبه گفت كه توليد يك سيستم جديد هوش مصنوعي را براي «به ارمغان آوردن نسل بعدي توانمندي‌ها» آغاز كرده و توسعه آن تحت نظارت يك كميته جديد ايمني و امنيت قرار مي‌گيرد. اما با وجود پيشروي اين شركت در روند توسعه هوش مصنوعي، يكي از مديران ارشد اوپن‌اي‌آن از اظهارنظرهاي پيشين سم‌ آلتمن، مديرعامل اوپن‌اي‌آي، مبني بر تلاش شركت براي ساخت سيستم‌هاي «هوش برتر» كه پيشرفته‌تر از انسان‌ها عمل مي‌كند عقب‌نشيني كرده است. آنا ماكانجو، نايب‌رييس بخش روابط بين‌الملل اوپن‌اي‌آي، در مصاحبه‌اي با فايننشال تايمز گفت كه «ماموريت» شركت ساخت نوعي هوش مصنوعي است كه بتواند «وظايف ذهني مشابه آنچه يك انسان امروز انجام مي‌دهد» را به انجام رساند. ماكانجو گفت: «ماموريت ما ساخت AGI است؛ اما نمي‌توانم بگويم كه ساخت هوش برتر ماموريت ما محسوب مي‌شود، هوش برتر يك فناوري است كه بسيار هوشمندتر از انسان‌هاي روي زمين خواهد بود.» آلتمن در ماه نوامبر به فايننشال تايمز گفت كه نيمي از زمان خود را صرف پژوهش درمورد «نحوه ساخت هوش برتر» مي‌كند.با اين حال ليز بورگئوس، يكي از سخنگويان اوپن‌اي‌آي، نيز مي‌گويد هوش برتر «ماموريت» شركت نيست. او پس از انتظار گزارش فايننشال تايمز گفت: «ماموريت ما AGI است براي بشريت مفيد باشد. ما براي تحقق آن هوش برتر، كه از نگاه ما سيستم‌هايي هوشمندتر از AGI هستند، را نيز مطالعه مي‌كنيم.» اوپن‌اي‌آي در عين رقابت با فعالان ديگري مثل گوگل و xAI، استارت‌آپ هوش مصنوعي ايلان ماسك، در تلاش است تا اهميت توسعه مسوولانه را به سياست‌گذاران اثبات كند. اين در حالي است كه در ماه جاري ميلادي چندين پژوهشگر بخش امنيتي اين شركت از آن جدا شده و به عدم تخصيص منابع كافي به اين بخش اشاره كردند. كميته جديد امنيتي را آلتمن و برت تيلور، ادام دي‌انجلو و نيكول سليگمن، اعضاي هيات مديره، هدايت مي‌كنند و گزارش خود را به ديگر سه عضو باقي‌مانده از هيات مديره شركت گزارش مي‌دهند. اوپن‌اي‌آي اطلاعاتي درمورد نسلي بعدي مدل زباني خود يا زمان عرضه آن منتشر نكرده است. مدل زباني فعلي يا GPT-4 به تازگي در يك بروزرساني مهم به GPT-4o ارتقا يافت و امكان مكالمه لحظه‌اي و چندين قابليت ديگر به آن اضافه شد. اين شركت در ماه جاري پس از جدايي ايليا سوتسكور، پژوهشگر ارشد و يكي از بنيان‌گذاران اوپن‌اي‌آي، و ديگر مديران تيم كنترل هوش مصنوعي خود، اين تيم را به‌طور كامل منحل كرد. سوتسكور چند ماه پس از آن از اوپن‌اي‌آي جدا شد كه شركت در اقدامي به رهبري او سم آلتمن را براي مدت كوتاهي از سمت خود بركنار كرد. پس از بركناري آلتمن در ماه نوامبر، فشار سرمايه‌گذاران و كاركنان باعث بازگشت دوباره او به شركت و انحلال هيات مديره سابق شد. جين ليك، يكي ديگر از پژوهشگران ارشد هوش مصنوعي اوپن‌اي‌آي كه در حوزه امنيت اين سيستم‌ها فعاليت دارد، نيز پس از انحلال تيم كنترل هوش مصنوعي از اين شركت جدا شد و درمورد عدم توجه كافي به مباحث ايمني در اين شركت اظهار نگراني كرد.