برخورد انسان با هوش مصنوعی چگونه خواهد بود
مولف: استیون کیو مترجم: علی حاتمیان
ایان به موازات بزرگ شدن من در انگلستان در نیمه دوم قرن بیستم، مفهوم هوش هم بال و پر پیدا کرد. در آن مقطع، برخورداری از هوش بالا آرزوی همگان بود، موضوع بحث قرار می‌گرفت و مهم‌تر اینکه به‌دقت سنجیده می‌شد. در سن ۱۱سالگی ده‌ها هزار نفر از ما را در سراسر کشور به سالن‌هایی پر از نیمکت هدایت کردند که در آنها بنا بود با آزمون هوش 11-Plus سنجیده شویم. نتایج این امتحان چند ساعته می‌توانست تعیین کند که چه کسی برای آمادگی ورود به دانشگاه و مشاغل سطح بالا به مدارس گرامر خواهد رفت، چه کسی بناست در هنرستان تحصیل کند و مهارت‌های کاری بیاموزد و چه کسی باید در دبیرستان‌های جدید درس بخواند، ابتدا به تمرین درس‌های پایه بپردازد سپس به جهان کارهای سطح پایین و یدی فرستاده شود.
زمانی که من در آزمون هوش شرکت کردم تا جایگاهم در جهان مشخص شود، این ایده که هوش نیز مانند فشار خون و اندازه کفش قابل کمّی‌سازی است به سختی 100سال قدمت داشت؛ اما چنین برداشتی از هوش به عنوان عاملی که مرتبه فرد را در جهان مشخص می‌کند بسیار قدیمی‌تر است. این فکر مانند رشته‌یی در تفکر غربی از افلاطون تا نخست‌وزیر کنونی انگلستان، ترزا می جریان داشته است. در واقع گفتن اینکه فردی با هوش نیست هرگز بیانی ساده از توانایی‌های ذهنی او نیست بلکه همواره نشان از داوری جمعی درباره کارهایی دارد که او مجاز به انجام آنهاست. به بیان دیگر هوش چیزی کاملاً سیاسی است. این رتبه‌بندی بر اساس هوش گاه معقول به نظر می‌رسد چراکه ما انسان‌ها به پزشکان، مهندسان و حکمرانانی نیاز داریم که احمق و کم‌هوش نباشند، اما ماجرا جنبه تاریکی هم دارد؛ زیرا همانطور که توانایی عملی فرد عاملی تعیین‌کننده است، هوش او(یا فقدان آن) نیز برای تصمیم‌گیری درباره اینکه می‌توانیم چه بر سرش آوریم به کار گرفته می‌شود. در طول تاریخ تمدن غرب، آنها که کم‌هوش تلقی شده‌اند در نتیجه این قضاوت مورد بهره‌کشی قرار گرفته‌اند، برده شده‌اند، عقیم شده‌اند و به قتل رسیده‌اند(حتی خورده شده‌اند، اگر موجودات غیرانسانی و حیوانات را نیز در این تحلیل جای دهیم).
این داستانی قدیمی و در واقع باستانی است اما داستان با ورود به قرن بیستم و پیوستن عنصر تازه‌یی به این روند جذاب‌تر هم می‌شود؛ این عنصر تازه هوش مصنوعی است. در سال‌های اخیر پیشرفت‌های صورت گرفته در هوش مصنوعی به سطوح قابل توجهی رسیده‌اند و بسیاری از متخصصان باور دارند که این پیشرفت‌ها به زودی از این هم بیشتر خواهند شد.
متخصصان این حوزه حیران و هیجان زده‌اند و پیام‌های توییتری مداومی در این باره ارسال می‌کنند. برای درک اینکه چرا ما به این مساله اهمیت می‌دهیم و چرا از آن می‌ترسیم باید هوش را به عنوان مفهومی سیاسی درک کنیم و به طور مشخص تاریخ طولانی آن را به مثابه پایه و اساسی برای سلطه درک نماییم. اصطلاح «هوش» به خودی خود هرگز در میان فیلسوفان انگلیسی‌زبان متداول نبوده است. البته این اصطلاح هیچ ترجمه مستقیمی به دو زبان مهم دیگر در سنت فلسفی غرب یعنی یونانی و آلمانی، هم ندارد؛ اما بدان معنا هم نیست که فیلسوفان به این مساله بی‌تفاوت بوده‌اند.
درواقع بسیاری از آنها به نحو وسواس‌گونه‌یی دل‌مشغول هوش یا حداقل بخشی از آن بوده‌اند: عقل یا عقلانیت. در واقع اصطلاح «هوش» برای پنهان کردن معادلی کهنه‌تر در گفتار سیاسی و عامیانه مطرح شده است. این اصطلاح تنها با رشد رشته نوظهور روان‌شناسی که تعبیر هوش را از آن خود می‌دانست، جایگاه ویژه‌یی یافت. گرچه امروزه بسیاری از محققان از نگرشی وسیع‌تر به هوش پشتیبانی می‌کنند اما عقل همچنان بخشی از این مفهوم باقی مانده است. لذا زمانی که درباره نقش تاریخی هوش سخن می‌گوییم، این پیش‌زمینه تاریخی و مفهومی را نیز پیش روی خود خواهیم داشت.
داستان هوش با افلاطون آغاز شده است. او در تمام نوشته‌هایش ارزش بسیار والایی برای تفکر قائل است و (از دهان سقراط) اعلام می‌کند که زندگی نیازموده ارزش زیستن ندارد. افلاطون در میان جهانی آکنده از اسطوره و رازباوری برخاست تا حرف تازه‌یی بگوید: اینکه حقیقت تنها از راهِ عقل بنا نهاده می‌شود؛ همان دیدگاهی که امروز کارکرد هوش تلقی می‌شود. این نگاهْ افلاطون را به نتیجه‌گیری مشهورش در جمهوری هدایت می‌کند که «حکمران ایدئال» همان «فیلسوف‌شاه» است؛ چرا که تنها فیلسوف می‌تواند براساس نظم صحیح اشیا عمل کند. بدین‌گونه افلاطون اعلام می‌کند که تنها با هوش‌ترین فرد شایسته حکومت بر دیگران است که در واقع نوعی شایسته‌سالاری بر اساس هوش محسوب می‌شود.
این ایده در زمان خود ایده‌یی انقلابی بود. آتن داشت دموکراسی یا همان حاکمیت مردم را تجربه می‌کرد، اما آتنی‌ها برای اینکه عضوی از این «مردم» به شمار آیند باید مذکر می‌بودند و نه ضرورتا با هوش. در مناطق دیگر نیز طبقه حاکم از کسانی تشکیل می‌شد که یا در میان نخبگان موروثی بالیده بودند(آریستوکراسی) یا باور داشتند دستورات الهی را دریافت می‌کنند(تئوکراسی) یا براساس زور عریان(تیرانی) به قدرت رسیده بودند.
ایده تازه افلاطون در گوش‌های مشتاق روشنفکران آن دوران ازجمله شاگرد او، یعنی ارسطو زنگ زد. البته ارسطو دیدگاهی عمل‌گراتر داشت و متفکری بود با گرایش به تقسیم و طبقه‌بندی. او ایده اولویت عقل را از افلاطون اخذ کرد و آن را برای آنچه باور داشت سلسله مراتب طبیعی جامعه است به کار گرفت. ارسطو در کتاب سیاست توضیح می‌دهد: «اینکه برخی باید حکمرانی کنند و دیگران از آنها تبعیت نمایند صرفا برآمده از مصلحت و نیاز نیست بلکه امری ضروری است؛ زیرا برخی افراد از لحظه تولد نشان تبعیت و پیروی در خود دارند و برخی نشان حکمرانی». آنچه حکمران را از دیگران متمایز می‌کند دارا بودن «عنصر عقلانی» است. مردان آموزش‌دیده از این ویژگی بیش از سایرین برخوردار هستند و به همین سبب به صورت طبیعی حاکم بر زنان‌اند. از آن سو مردانی که توانایی استفاده از نیروی بدنشان را دارند طبعا برده هستند. با پایین رفتن از نردبان عقلانیت به حیوانات می‌رسیم. موجوداتی آنچنان نادان که بهترین شرایط برایشان این است که تحت کنترل انسان‌ها باشند.
بنابراین از سحرگاه تاریخ بشری تا به امروز، ما هوش را برای انسان فرهیخته و مذکر اروپایی به رسمیت شناخته‌ایم. این تحلیل به برهانی منتهی شده است به سود حق سلطه مردان سفید بر زنان، طبقات فرودست، مردمان غیرمتمدن و حیوانات. درحالی که افلاطون به سود غلبه عقل استدلال می‌کرد و آن را در چارچوب نوعی آرمان‌شهر نیازموده جای می‌داد. تنها یک نسل پس از او ارسطو حاکمیت انسان متفکر را امری بدیهی و طبیعی اعلام کرد. نیازی به گفتن نیست که بیش از دو هزار سال بعد قطاری که این فیلسوفان در عرصه تفکر به راه انداختند از خط خارج شده است.
فیلسوف متاخر و محافظه‌کار استرالیایی، وال پلاموود، می‌نویسد این غول‌های فلسفه یونانی مجموعه‌یی از دوگانه‌های به‌هم‌پیوسته را مستقر ساختند که همچنان بر تفکر ما حکم‌فرماست؛ مقولات متضادی چون هوش/بلاهت، عقلانی/احساسی و ذهن/بدن که به نحوی آشکار یا پنهان به مقولات دیگری چون مذکر/مونث، متمدن/بدوی و انسان/حیوان پیوسته‌اند. این دوگانه‌ها به لحاظ ارزشی خنثی نیستند، اما در چارچوب دوگانه وسیع‌تری قرار می‌گیرند که ارسطو آن را آشکارا نشان داده است: دوگانه سلطه‌گر/سلطه‌پذیر یا ارباب/بنده. این دوگانه‌ها در کنار یکدیگر روابط سلطه‌یی مانند پدرسالاری یا بردگی را به عنوان بخشی طبیعی از نظم اشیا آشکار می‌کنند.
آغازگرِ فلسفه مدرن غربی را اغلب آن دوئالیست بزرگ، یعنی رنه دکارت، می‌دانند. دکارت برخلاف ارسطو حتی در انتهای زنجیره روبه‌کاهشِ هوش جایی برای حیوانات قائل نبود. بنابر ادعای دکارت، شناخت تنها از آنِ بشر است. سخن او بازتابی از هزار سال الهیات مسیحی بود که در آن هوش به یکی از خواص روح بدل شد؛ بارقه‌یی الهی تنها برای آنها که آنقدر خوش‌شانس هستند که به صورت خداوند و مطابق با تصویر او ساخته شوند. دکارت طبیعت را کاملاً بدون عقل تلقی می‌کرد و به همین دلیل آن را فاقد ارزش‌های ذاتی می‌دانست. بدین‌ترتیب، سرکوب و سلطه بر دیگر انواع موجودات بدون هر گونه احساس گناه مشروعیت می‌یافت.
این ایده که هوش عامل تعریف‌کننده انسانیت است تا دوران روشنگری نیز ادامه یافت. کانت که احتمالا مهم‌ترین متفکر اخلاق از زمان یونان باستان است، با آغوشی باز از این ایده استقبال کرد. از دید کانت فقط موجودات خردمند از جایگاهی اخلاقی برخوردارند. موجودات عقلانی را باید «اشخاص» نامید و آنها را «غایات فی‌نسه» تلقی کرد. درحالی که موجودات غیرعاقل صرفا ارزشی نسبی در مقام ابزار دارند و به همین سبب «شیء» خوانده می‌شوند. ما اجازه داریم هر چه می‌خواهیم با این موجودات انجام دهیم. در تلقی کانت، موجود خردمند(که امروز آن را موجود هوشمند می‌نامیم) ارزش و مرتبه بی‌نهایتی دارد، درحالی که موجود غیرعاقل یا غیرهوشمند چنین ارزشی ندارد. استدلال‌های او در این خصوص بسیار ماهرانه و جالب‌توجه هستند، اما درنهایت کانت نیز به نتیجه‌گیری مشابهی با ارسطو می‌رسد: اینکه در جهان اربابانی بالطبع و بردگانی بالطبع وجود دارند و هوش همان عاملی است که این دو را از یکدیگر متمایز می‌کند.
این مسیر تفکر در ادامه گسترش یافته و به جزو محوری منطق استعمار بدل شد. استدلال استعماری بر اساس عقل بدین‌گونه بیان می‌شود که مردمان غیرسفید از هوش کمتری برخوردارند و درنتیجه، فاقد صلاحیت لازم برای حکمرانی بر خویش و سرزمینشان هستند. به این ترتیب، نابودی فرهنگ این مردمان و تصاحب قلمرو آنها کاملا مشروع و حتی به عنوان نوعی وظیفه بر دوش مردمان سفید گذاشته شده است. به علاوه از آنجا که هوشمندی انسانیتِ افراد را تعریف می‌کند، هوشمندی کمتر سبب می‌شود این افراد کمتر انسان باشند؛ لذا آنها از منزلت اخلاقی کامل برخوردار نیستند و کشتن یا به بردگی گرفتن آنها امری مطلوب و پذیرفته است.
همین منطق در ارتباط با زنان نیز به کار گرفته می‌شود. زنان بیش از آن دمدمی مزاج و احساساتی تلقی می‌شوند که از امتیازات «مرد عاقل» برخوردار باشند. چنانکه جوآنا بورک از دانشگاه بربک لندن نشان داده است در بریتانیای قرن نوزدهم زنان حتی کمتر از حیوانات اهلی تحت محافظت و حمایت قانون قرار داشتند. بر این اساس شاید جای تعجب نباشد که هوش رسمی در طول دهه‌ها بیش از آنکه درمانی برای سرکوب زنان باشد در مقام عامل تشدیدکننده نابرابری عمل کرده است.
سر فرانسیس گالتون را اغلب موسس دانش اندازه‌گیری ذهن می‌دانند. او تحت تاثیر کتاب منشأ انواع(۱۸۹۵) قرار داشت که عمه‌زاده‌اش، چارلز داروین به رشته تحریر درآورده بود. این کتاب گالتون را به این باور رساند که توانایی هوشی کاملا ارثی است و از طریق تولید مثل انتخابی و کنترل موالید افزایش‌پذیر است. گالتون بر همین اساس تصمیم گرفت تا راهی برای شناسایی توانمندترین افراد جامعه بیابد و آنها را به زادوولد بیشتر تشویق کند. در چارچوب این منطق، افراد کم‌هوش‌تر باید از تولید مثل دلسرد می‌شدند و در واقع از زادوولد آنها ممانعت به عمل می‌آمد تا از نوع بشر محافظت شود. به اینگونه، علم اصلاح نژاد بشر و آزمون هوش همزمان متولد شدند. در دهه‌های بعدی، شمار زیادی از زنان در اروپا و امریکا به اجبار و در پی کسب امتیاز پایین در آزمون‌ها عقیم شدند، روندی که تنها در یک مورد به عقیم‌سازی ۲۰هزار نفر در کالیفرنیا انجامید.
معیارهای هوش برای توجیه برخی از شدیدترین نمونه‌های وحشی‌گری در تاریخ به کار گرفته شده است. با این حال حاکمیت عقل همواره منتقدان خود را داشته است. از دیوید هیوم تا فردریش نیچه و از زیگموند فروید تا پسامدرنیسم، سنت‌های فلسفی متعددی بوده‌اند که این مفهوم را به چالش کشیده‌اند. این سنت‌ها نمی‌پذیرند که ما تا بدان حد که تصور می‌کنیم هوشمند باشیم یا هوش بالاترین فضیلت بشری باشد.
شایسته سالاری مبتنی بر هوش همواره یکی از تلقی‌های مرتبط با ارزش اجتماعی بوده است و البته یکی از اثرگذارترین آنها. ورود به مدارس و حرفه‌های خاصی چون خدمات کشوری بریتانیا براساس آزمون‌های هوش صورت می‌گیرد اما دیگر عرصه‌ها به معیارهای دیگری چون خلاقیت یا روح کارآفرینی اهمیت بیشتری می‌دهند. گرچه ما همواره امیدواریم که مدیران دولتی افراد باهوشی باشند، اما همیشه سیاست‌مداران ظاهرا با هوش‌تر را انتخاب نمی‌کنیم.(آشکار شده است که حتی سیاست‌مدار پوپولیستی مانند دونالد ترامپ نیز احساس نیاز می‌کند تا مدعی شود اعضای کابینه و دولت او از بالاترین میزان هوش در میان تمام ادوار پیشین برخوردارند).
البته بسیاری از منتقدان به جای به چالش کشیدن سلسله مراتب هوشمندی بر حمله به سیستم‌هایی تمرکز می‌کنند که تنها به نخبگان سفید و مذکر اجازه ارتقا می‌دهند. آزمون ۱۱-Plus، که من گذراندم یکی از نمونه‌های جذاب و عمیقا پنهان از چنین سیستمی است. این آزمون با هدف شناسایی جوانان با هوش از تمام طبقات و نژادها طراحی شده است. با این حال واقعیت آن است که افراد منتخب آن به نحو نامتناسبی از طبقات متوسط سفید و برخوردار برخاسته‌اند، طبقاتی که اعضای آنها به این طریق برای موقعیت و مزایای پیشین خود مجددا تایید می‌شوند.
باری، وقتی به این مساله می‌اندیشیم که هوش در طول دو هزار سال گذشته برای توجیه امتیاز و سلطه گروهی خاص به کار گرفته شده است، آیا تعجبی دارد که چشم‌انداز نزدیک و حتمی از حضور ربات‌های فوق هوشمند ما را به هراس اندازد؟
از فیلم«۲۰۰۱؛ یک اودیسه فضایی» تا مجموعه فیلم‌های «نابودگر»، نویسندگان درباره قیام ماشین‌ها علیه انسان خیال‌پردازی کرده‌اند. حال می‌توانیم علت این دیدگاه را دریابیم. اگر تا پیش از این باور داشتیم که بالاترین مدارج جامعه باید به برجسته‌ترین مغزها واگذار شوند، حال باید انتظار داشته باشیم که توسط ربات‌هایی با توان هوشی بیشتر به موجوداتی زائد بدل شویم و به پایین هرم جامعه رانده شویم. با پذیرش این ایده که باهوش‌ترین‌ها از حق استثمار و سلطه بر افرادی کم‌هوش‌تر برخوردارند، طبیعی است که از تبدیل‌شدن به بردگان مخلوقات فوق‌العاده با هوش خود در هراس باشیم. در حقیقت اگر موقعیت کنونی، قدرت و ثروت خود را براساس هوش توجیه می‌کنیم، آنگاه قابل درک است که هوش مصنوعی فرادست خود را به منزله خطری وجودی تلقی کنیم.
این روایت خاص از برتری و امتیاز می‌تواند توضیح دهد که چرا آنچنان که کیت کرافورد متخصص تکنولوژی و محقق اهل نیویورک بیان کرده است، ترس از زیرکی هوش مصنوعی بیشتر در میان مردان سفید غربی مشاهده می‌شود. دیگر گروه‌های جنسی یا نژادی تاریخی طولانی از سلطه گروه‌های برتر و خودمحور را تجربه کرده‌اند و همچنان به نبرد علیه سرکوب و سلطه واقعی مشغول‌اند. در مقابل، مردان سفید به قرار گرفتن در رأس سلسله مراتب اجتماعی عادت دارند. به همین جهت آنها چیزهای بیشتری برای ازدست‌دادن دارند، اگر موجود جدیدی از راه برسد که دقیقا در عرصه‌هایی از آنها پیشی بگیرد که سروری مردان در آن موجه بوده است.
قصد من آن نیست که تمام نگرانی‌ها درباره هوش مصنوعی را بی‌بنیاد بخوانم. قطعا در کنار مزایای بالقوه، خطرات واقعی نیز در ارتباط با کاربرد هوش مصنوعی پیشرفته وجود دارد؛ اما خطر سلطه و سرکوبی توسط روبات‌ها، مشابه با آنچه استعمارگران اروپایی بر سر مردم بومی استرالیا آوردند یقینا در ابتدای فهرست این نگرانی‌ها جای نمی‌گیرد.
دغدغه آنچه ما با هوش مصنوعی خواهیم کرد از دغدغه آنچه هوش مصنوعی ممکن است به خودی خود انجام دهد مهم‌تر است چراکه به کارگیری هوش مصنوعی توسط ما انسان‌ها علیه یکدیگر یا تکیه بیش از حد بر آن احتمال بیشتری دارد. مانند داستان «شاگرد جادوگر» اگر هوش مصنوعی به آسیبی بینجامد احتمالا به این سبب است که ما با نیت خیر اهدافی بداندیشانه را برای آنها تعریف کرده‌ایم نه به این سبب که خود آنها آرزوی تسلط بر ما را داشته‌اند. در واقع بلاهت طبیعی و نه هوش مصنوعی همچنان بزرگ‌ترین خطر است.
تامل و گمانه‌زنی درباره این نکته فی‌نفسه جالب توجه است که اگر مقوله هوش را به نحو دیگری بنگریم، هوش مصنوعی چه وضعیتی خواهد یافت. افلاطون باور داشت که فیلسوفان باید پادشاهی را به ریشخند بگیرند چراکه آنها به طور طبیعی تامل درباره بشریت را به میل تسلط بر او ترجیح می‌دهند. در سنت‌های دیگر به ویژه سنت‌های شرقی، انسان هوشمند کسی است که دام‌های گسترده پیش پای قدرت را به عنوان نشانه‌های غرور و پوچی مذمت می‌کند. از دید آنها هوشمند کسی است که ابتذال و رنج روزمرگی را از پیش پای خویش برمی‌دارد.
تصور کنید اگر این دیدگاه‌ها گسترش یابد، اگر ما باور پیدا کنیم که مردمان هوشمند آنهایی نیستند که ادعای حق حاکمیت دارند بلکه آنهایی هستند که در مکان‌های دورافتاده به مدیتیشن مشغول‌اند تا خود را از امیال این جهانی رهایی بخشند؛ یا اگر باور داشته باشیم که با هوش‌ترین‌ها کسانی هستند که برای گستراندن صلح و روشنایی به میان مردم بازمی‌گردند، آنگاه با چنین تصویری آیا باز هم از روبات‌های با هوش‌تر از خود احساس ترس خواهیم کرد؟
منبع: ترجمان
