یا باج بده یا بمیر

جارن لانییر، فیلسوف کامپیوتر از فاجعه‌ای می‌گوید که اینترنت را به جهنم تبدیل کرده است

مولف| جارن لانییر|

مترجم| علیرضا شفیعی‌نسب|

گاردین|

شاید در نگاه اول این‌گونه به نظر نرسد، اما من فردی خوش‌بین هستم. به نظرم مجبور نیستیم کل دنیای دیجیتال را دور بیندازیم. اما یک فناوری پیشرفته خاص است که حتی در مقادیر کم هم زهرآگین است.

مساله فقط این نیست که کاربران اینترنت سرگرم محیط‌هایی می‌شوند که بدترین ویژگی‌ها را در ما بیدار می‌کند، یا اینکه قدرت زیادی در دست معدود افرادی متمرکز شده که ابررایانه‌های ابری را کنترل می‌کنند. مشکل بزرگ‌تر این است که همه ما دستگاه‌هایی با خود حمل می‌کنیم که ابزار مناسب اصلاح توده‌یی رفتار هستند. مثلا در تبلیغات قدیمی، بعد از پخش تبلیغ می‌شد سنجید که آیا محصول مورد نظر عملکرد بهتری داشته یا نه. اما حالا شرکت‌ها بررسی می‌کنند که آیا رفتار افراد در هنگام مرور و کاوش تغییر می‌کند یا نه. آنگاه فید هر فرد را دایما به تناسب تغییر می‌دهند تا نتایج دلخواه‌شان را به دست آورند. به‌طور خلاصه، رفتار شما به یک محصول تبدیل شده و مشتریان سازمانی و سیاسی صف کشیده‌اند تا آن را بخرند.

در پایان می‌توانیم خطی دور خطر اصلی پیش‌رویمان بکشیم و توجهمان را به آن جلب کنیم. اگر می‌توانستیم خود را از شر این مدل آسیب‌زای کسب‌وکار رها کنیم، آنگاه فناوری زیربنایی آن چندان هم بد نخواهد بود. برخی رسانه اجتماعی را با صنعت تنباکو مقایسه کرده‌اند، اما من چنین قصدی ندارم. مقایسه بهتر را می‌توان با رنگی ساختمانی انجام داد که حاوی سرب است. وقتی تردیدی باقی نماند که سرب برای سلامتی مضر است، هیچ‌کس نگفت که دیگر نباید خانه‌ها را رنگ‌آمیزی کنیم. بلکه پس از فشار و قانون‌گذاری، رنگ‌های بدون‌سرب به استاندارد جدید تبدیل شد. من در مقام یک دانشمند کامپیوتر سخن می‌گویم، نه دانشمند علوم‌اجتماعی یا روان‌شناس. به چشم می‌بینم که زمان در حال تمام‌شدن است و چاره این نیست که هیچ کاری نکنیم. برای درک موقعیت‌مان، چیزی که بتوان آن را علم موشکافانه نامید چندان در دسترسمان نیست، اما نتایج کافی در دست داریم که مشکل پیش‌رویمان را شرح می‌دهند؛ فقط وقت زیادی برای حل آن نداریم. حالا فرصت مناسبی است تا یک کلمه اختصاری از خود بسازم. نظرتان راجع به «اصلاح رفتار کاربران و تبدیل آن به یک امپراتوری اجاره‌یی»چیست؟ اختصاری که به دست می‌آید بامر است. بامر یک ماشین است، یک ماشین آماری که در ابرهای کامپیوتری زندگی می‌کند. از آنجا که تاثیر این ماشین آماری است، تهدید آن تاحدی مانند تغییر اقلیم است. نمی‌توان گفت تغییر اقلیم عامل یک توفان، سیل یا خشکسالی خاص است، اما می‌توان گفت که احتمال وقوعشان را افزایش می‌دهد. در مدتی طولانی‌تر، فاجعه‌بارترین رویدادها نظیر افزایش سطح دریا و نیاز به جابه‌جایی اکثر مردم و یافتن منابع غذایی جدید را می‌توان به تغییر اقلیم نسبت داد، اما تا آن موقع این استدلال از بین خواهد رفت.

به همین طریق نمی‌توانم ثابت کنم که یک فرد خاص را بامر فاسد کرده است. این را هم نمی‌توانم ثابت کنم که بدون بامر رذیلتی خاص در جامعه پیش نمی‌آمد. نمی‌توان با قطعیت دانست که آیا رفتارتان را تغییر داده یا نه، اما اگر از پلتفرم‌های بامر استفاده می‌کنید، احتمالا هرچند جزئی تغییر کرده‌اید.

هرچند نمی‌توان گفت بدون بامر کدام جزئیات دنیایمان متفاوت خواهد بود، اما این را در مورد تصویر کلی می‌توان فهمید. بامر هم مانند تغییر اقلیم، اگر خود را اصلاح نکنیم، ما را به جهنم خواهد برد.

بامر یک ماشین با شش جزو متحرک است. در اینجا به شش جزو این ماشین اشاره می‌کنم و هر یک را مختصرا توضیح می‌دهم:

 اول: جلب‌توجه

انسان‌ها معمولا در فضای مجازی عجیب و بدجنس می‌شوند. این پدیده عجیب در نخستین روزهای شبکه همه را متعجب کرده بود و تاکنون هم تاثیری شگرف بر دنیایمان گذاشته است. بدجنسی به چیزی مانند نفت خام برای شرکت‌های رسانه اجتماعی و دیگر امپراتوری‌های جهت‌دهنده رفتار تبدیل شد، شرکت‌هایی که فورا افسار اینترنت را به دست گرفتند، چون اینترنت به بازخوردهای رفتاری منفی دامن می‌زد. چرا این بدجنسی اتفاق می‌افتد؟ بخواهم بطور خلاصه بگویم، در دنیای مجازی، افراد عادی در فضایی دور هم جمع می‌شوند که پاداش اصلی (یا شاید تنها پاداش) موجود توجه است. آنها وقتی دنبال چیزی جز توجه نباشند، به افرادی احمق تبدیل می‌شوند، چون احمق‌ترین آدم‌ها بیشترین توجه را به خود جلب می‌کنند. این گرایش ذاتی به حماقت به تمام بخش‌های دیگر ماشین بامر رنگ و بو می‌دهد.

 دوم: فضولی در زندگی همه

همه افراد تحت نظارتی خاص قرار گرفته‌اند که انگار مستقیما از یک رمان علمی‌تخیلی و ویران‌شهری بیرون آمده است. جاسوسی را عمدتا از طریق دستگاه‌های شخصی متصل به ‌خصوص گوشی‌های هوشمند انجام می‌دهند، دستگاه‌هایی که مردم عملا به بخشی از بدنشان تبدیل کرده‌اند. داده‌هایی در مورد ارتباطات، علاقه‌ها، حرکت‌ها، مخاطبان، واکنش‌های احساسی به شرایط، حالت‌های چهره، خریدها، علائم حیاتی و... گردآوری می‌شود: داده‌هایی که حجم و تنوعشان دایما در حال افزایش است. الگوریتم‌ها داده‌های هر فرد و نیز میان افراد را مطابقت می‌دهد. این تطابق‌ها عملا نظریاتی در مورد سرشت هر فرد هستند، نظریاتی که قدرت پیش‌بینی‌شان دایما مورد سنجش و نمره‌دهی قرار می‌گیرد. اینها مانند تمام نظریات مدیریت‌شده دیگر، دایما از طریق بازخوردهای سازگارانه پیشرفت کرده و دقیق‌تر می‌شوند.

 سوم: فروکردن محتوا در حلق شما

الگوریتم‌ها تعیین می‌کنند هر فرد در دستگاه خود چه چیز تجربه می‌کند. این مولفه را می‌توان فید، موتور پیشنهاد یا سفارشی‌سازی نامید، بدین معنا که هر فرد چیزهای متفاوتی می‌بیند. انگیزه مستقیم این است که محرک‌هایی را به‌صورت فردی برای اصلاح رفتار بفرستند. البته تمام سفارشی‌سازی‌ها بخشی از بامر نیستند. مثلا وقتی نتفلیکس یک فیلم پیشنهاد می‌کند یا ای‌بی چیزی را برای خرید به شما پیشنهاد می‌دهد، این ربطی به بامر ندارد. این امر فقط در رابطه با مولفه‌ها دیگر به بامر تبدیل می‌شود. نه نت‌فلیکس از شخص ثالثی پول می‌گیرد تا جدای از کار مستقیمی که با سایتشان دارید، تغییری در رفتارتان ایجاد کنند و نه ای‌بی.

 چهارم: جهت‌دهی رفتار

به زیرکانه‌ترین شکل ممکن

پیوند مولفه‌های بالا یک ماشین سنجش و بازخورد به وجود می‌آورد که عمدا رفتار را اصلاح می‌کند. فرآیند به این صورت است: فیدهای سفارشی بهینه می‌شوند تا هر کاربر را «درگیر» خود کنند. این کار معمولا با اشارات دارای بار احساسی انجام می‌گیرد که منجر به اعتیاد می‌گردد. مردم متوجه نمی‌شوند که چگونه تحت جهت‌دهی هستند. هدف اولیه جهت‌دهی وابسته‌کردن بیشتر و بیشتر مردم است، به‌صورتی که زمان بیشتر و بیشتری را در سیستم بگذرانند. اما اهداف دیگری نیز برای جهت‌دهی مورد آزمون قرار می‌گیرد. مثلا اگر در یک دستگاه کتاب می‌خوانید، رفتارهای کتاب‌خوانی شما با رفتارهای کتابخوانی بی‌شمار افراد دیگر مطابقت می‌یابد. اگر کسی که الگوی کتاب‌خوانی‌اش شبیه به شماست، محصولی را پس از نوع خاصی تبلیغ خریداری کند، آنگاه به احتمال زیاد شما هم همان تبلیغ را دریافت خواهید کرد. ممکن است قبل از انتخابات، شما هدف پست‌های عجیبی قرار بگیرید که قبلا ثابت شده بدبینی افرادی مشابه با شما را برمی‌انگیزند؛ تا شاید احتمال رای‌دادنتان کاهش یابد.

پلتفرم‌های بامر با افتخار گزارش می‌دهند آزمایش‌هایی انجام داده‌اند تا افراد را غمگین کنند، میزان مشارکت را در انتخابات تغییر دهند و وفاداری به برندها را تقویت نمایند. اینها جزو شناخته‌شده‌ترین نمونه‌پژوهش‌هایی‌اند که در روزهای سرنوشت‌ساز بامر آشکار شد. اصلاح رفتار با رویکرد شبکه‌های دیجیتال تمام این نمونه‌ها و تمام این برش‌های مختلف زندگی را به‌صورت یک برش درمی‌آورد. از دیدگاه الگوریتمی، احساسات، شادی و وفاداری به برندها فقط نشانه‌هایی مختلف اما مشابه هستند که باید بهینه شوند.

 پنجم: کسب درآمد

برای اذیت‌کردن مخفیانه دیگران

ماشین اصلاح توده‌یی رفتار برای کسب درآمد اجاره داده می‌شود. جهت‌دهی‌ها بی‌نقص نیستند، اما آن قدر قدرت دارند که برندها، سیاست‌مداران و دیگر نهادهای رقابتی اگر به بنگاه‌های بامر پول ندهند، در واقع خودکشی کرده‌اند. باج‌گیری شناختی همگانی این‌گونه به وجود می‌آید و موجب می‌شود تا هزینه‌هایی که صرف بامر می‌کنند، روز به روز افزایش یابد. اگر کسی مستقیما به یک پلتفرم پول ندهد، باید خود را به سوخت داده‌یی برای آن پلتفرم تبدیل کند تا در آن غرق نشود. وقتی فیس‌بوک در فید خود بر «اخبار» تاکید می‌کرد، تمام دنیای روزنامه‌نگاری می‌بایست خود را با استانداردهای بامر صورت‌بندی می‌کردند. روزنامه‌نگاران برای اینکه عقب نمانند، مجبور بودند داستان‌هایی ایجاد کنند که حالت تله‌کلیک بود و قابل‌جداسازی از بستر بود. آنها مجبور بودند بامر شوند تا بامر نابودشان نکند.

 ششم: جمعیتی جعلی و جامعه‌ای جعلی‌تر

این مولفه تقریبا همیشه وجود دارد، هرچند که معمولا بخشی از طراحی اولیه دستگاه بامر نبوده. افراد جعلی با تعدادی نامشخص اما بسیار زیاد حاضر هستند و محیط را رقم می‌زنند. بات‌ها، هوش‌های مصنوعی، مرورنویس‌های جعلی، دوست‌های جعلی، فالوورهای جعلی، پست‌نویسان جعلی، زورگیران اینترنت: باغ‌وحشی از انواع این اشباح وجود دارد.

خرابکاری اجتماعی و نامریی این‌گونه به وجود می‌آید. فشار اجتماعی که بر روان و رفتار انسان تاثیر بسیاری دارد، این‌گونه ایجاد می‌شود.

هرچه تخصصی‌تر به یک مشکل بپردازیم، آن مشکل قابل‌حل‌تر خواهد شد. مشکل ما اینترنت، گوشی‌های هوشمند، بلندگوهای هوشمند، یا هنر الگوریتم‌ها نیست؛ مشکل ماشین بامر است. البته هسته این ماشین دقیقا تکنولوژی هم نیست، بلکه سبکی از طرح کسب‌وکار است که محرک‌هایی منحرف بیرون داده و افراد را فاسد می‌کند. این طرح کسب‌وکار حتی کاربرد گسترده هم ندارد. خارج از چین، تنها غول‌های تکنولوژی که کاملا وابسته به این سیستم‌اند، فیس‌بوک و گوگل‌اند. سه شرکت دیگر از میان پنج شرکت بزرگ تکنولوژی هم گهگاهی سراغ آن می‌روند چون این روزها به هنجار تبدیل شده است، اما به آن وابسته نیستند. چند شرکت بامر کوچک‌تر نظیر توییتر هم تاثیرگذارند، اما آنها معمولا کلنجار می‌روند.

کدام شرکت‌ها بامر هستند؟ روشی مناسب برای یافتن پاسخ این است که شرکت‌های تراز اول بامر آن‌هایی‌اند که تلاش‌ها یا هزینه‌های کنشگرهای ضعیف، نظیر واحدهای نظامی اطلاعات دولتی روسیه، را جذب می‌کنند. این راه تشخیص نشان می‌دهد که سرویس‌های کاذبی وجود دارد که فقط حاوی زیرمجموعه‌های مولفه‌هایند، مثلا ردیت۷ فورچن۸، اما با این حال نقشی حیاتی در اکوسیستم بامر ایفا می‌کنند. اما این استدلال مربوط به شرکت‌ها نیست، مربوط به شماست. چون می‌توانیم دور این دستگاه خط بکشیم، می‌توانیم دور چیزی خط بکشیم که باید از آن اجتناب کنیم. مشکل بامر این نیست که شامل هرگونه تکنولوژی خاصی است. مشکل این است که بامر قدرت‌نمایی کسی دیگر است. شاید تصمیم بگیرید یک رفتاردرمانگر شناختی شما را معالجه کند و از آن منفعت ببرید. امیدوارم آن درمانگر سوگند یاد کرده باشد که معیارهای حرفه‌یی را رعایت کند و اعتماد شما را جلب کند. اما اگر درمانگرتان وام‌دار یک شرکت دوردست و غول‌آساست و پول می‌گیرد تا تصمیمات خاصی را در شما القا کند که لزوما به نفع خودتان نیست، آن بامر خواهد بود. مشکل یک تکنولوژی خاص نیست. بلکه استفاده از تکنولوژی برای جهت‌دهی مردم و تمرکز قدرت به چنان شکل دیوانه‌وار و وحشت‌‌آوری است که به تهدیدی برای بقای تمدن تبدیل می‌گردد. اگر می‌خواهید به سلامت عقلی دنیا کمک کنید، نیازی نیست گوشی‌های هوشمند یا سرویس‌های ابری کامپیوتری‌تان را کنار بگذارید یا از وب‌سایت‌ها دیدن نکنید. بامر چیزی است که باید از آن دوری بجویید. حسابتان را حذف کنید!