خطرات هوش مصنوعی در پزشکی

گروه دانش و فن|

دو مورد از مهم‌ترین پیش‌بینی‌های مربوط‌به دهه جدید این است که هوش مصنوعی رواج بیشتری پیدا می‌کند و سیستم مراقبت‌های بهداشتی ایالات متحده باید تکامل یابد. هوش مصنوعی می‌تواند سیستم مراقبت‌های بهداشتی را تقویت و بهبود بخشد تا به بیماران بیشتری که پزشک کمتری دارند، خدمت کند. با وجود این، مبتکران بهداشت به جای اینکه بخواهند پزشکان را با فناوری جایگزین کنند، باید نسبت به طراحی سیستمی که توانایی پزشکان را تقویت می‌کند، احتیاط بیشتری به خرج دهند و همچنین از تولید تعصبات انسانی خودداری کنند.

به گزارش «تعادل»، مطالعه جدیدی که در Nature (با همکاری Google) منتشر شده، گزارش می‌دهد که هوش مصنوعی گوگل (Google AI) بهتر از پزشکان سرطان سینه را تشخیص می‌دهند. شرکت Babylon Health، سیستم مراقبت‌های اولیه موبایل مبتنی بر هوش مصنوعی که در سال 2013 در انگلستان اجرا شده، در حال ورود به امریکاست. مراقبت‌های بهداشتی به دلیل کمبود و فرسودگی پزشکان، صنعتی است که به کمک هوش مصنوعی آن نیاز دارد. پزشکان در ایالات متحده در حال تجربه دورانی همراه با بحران فرسودگی شغلی هستند. نزدیک‌به 45 درصد پزشکان از فرسودگی شغلی خبر می‌دهند و میزان خودکشی پزشکان دو برابر جمعیت عمومی است. تحقیقات نشان می‌دهد که پزشکان فرسودگی را به دلیل سیستم مراقبت بهداشتی ضعیف که تلاشی برای محافظت از آنها یا بیمارانشان نمی‌کند، تجربه می‌کنند. فرسودگی پزشکان با افزایش خطاهای پزشکی، رفتار غیرحرفه‌ای، بازنشستگی زودرس، افسردگی و تعصب نژادی مرتبط است. در سال 2019 ژورنال انجمن پزشکی امریکا مطالعه‌ای را از 3، 392 پزشک کارآموز سال دومی منتشر کرد که خود را غیر‌سیاه معرفی می‌کردند و دریافتند که علائم فرسودگی با سوگیری‌های صریح و ضمنی نژادی همراه است. یک مطالعه از کلینیک مایو، طراحی ضعیف سوابق پزشکی الکترونیکی ‌را یکی از عوامل فرسودگی پزشکان دانستند. یکی دیگر از مهم‌ترین عوامل ایجاد فرسودگی در پزشکان، کمبود تعداد پزشک در مقایسه با افزایش تعداد و نیازهای بیمارانی است که به مراقبت نیاز دارند.

در چنین شرایطی اگرچه استفاده از سیستم‌های هوش مصنوعی یک راه‌حل به نظر می‌رسد، می‌تواند مشکلاتی نیز ایجاد کند.

افزایش خطای پزشکی یک نتیجه بالقوه هنگام استفاده از هوش مصنوعی با طراحی ضعیف در پزشکی است. خطای پزشکی سومین علت مرگ‌ومیر در امریکاست و این موضوع نشان‌دهنده نیاز به بهبود سیستم و همچنین شکنندگی سیستم و پیامدهای ناشی از طراحی ضعیف است. از بین رفتن رابطه همدلی بین بیمار و پزشک، یکی دیگر از نتایج احتمالی هوش مصنوعی با طراحی ضعیف است، زیرا مراقبت‌های بهداشتی رابطه مستقیمی پیوند بین انسان به عنوان پزشک و انسان به عناون بیمار دارد. انسان‌ها به روش حل مساله‌ای که از گفت‌وگو ناشی می‌شود، تمایل دارند و از آن بهره‌مند می‌شوند.

در کلینیک‌هایی که سوابق سلامت الکترونیکی دارند، پزشکان حدود 27 درصد از وقت خود را صرف مراقبت از بیمار و 52 درصد وقت خود را در اتاق معاینه و در تعامل با بیمار می‌گذرانند. جایگزینی نامناسب انسان با فناوری می‌تواند منجربه نارضایتی پزشکان و کاهش تعامل بیماران شود. استفاده ناصحیح از هوش مصنوعی می‌تواند به نابرابری‌ها و تعصبات جدید منجر شود.

مطالعات اخیر نشان داده است که سیاهپوستان به دلیل عقاید غلط در مورد تفاوت بین سیاه و سفید، به احتمال زیاد کمتر به درمان مناسب سرطان ریه و درمان مناسب درد اقدام می‌کنند. درحالی که برخی ممکن است نتیجه بگیرند که هوش مصنوعی با تمرکز روی داده‌های عینی، تعصبی را که اقلیت‌ها دریافت می‌کنند، از بین می‌برد، تحقیقات جدید حاکی از ایجاد نابرابری در سیستم‌های هوش مصنوعی است.

 یک مطالعه منتشرشده در سال 2019 در مجله ساینس، نشان داد الگوریتمی که در بیمارستان‌های ایالات متحده مورد استفاده قرار می‌گیرد، با اختصاص مراقبت کمتر نسبت به بیماران سیاه، به آنها به‌طور سیستماتیک تبعیض قائل می‌شود. بسیاری از جنبه‌های مختل‌کننده سیستم هوش مصنوعی منحصر به سرویس بهداشت ملی است که بیماران را به پزشکان اختصاص می‌دهد. برای حمایت از نیازهای منحصر‌به فرد بیماران در سیستم مراقبت‌های بهداشتی امریکا، باید مدافعان ایمنی سلامت در دسترس باشند. برای اینکه سیستم‌های هوش مصنوعی بتوانند بدون آسیب کار کنند، درک بیشتری از آنچه پزشکان انجام می‌دهند و تعصبان فعلی آنها لازم است.

طراحی سیستم‌هایی که شیوه کنونی پزشکان را حفظ می‌کند‌، بدون اینکه منجربه نارضایتی شود، کاری مهم و حیاتی است.

شرکت‌های فناوری و سیستم‌های مراقبی بهداشت و درمان، هردو در درجه اول متشکل از کارکنان مرد سفیدپوست هستند که ممکن است به‌طور جامع در زمینه فکر کردن درباره تعصب آموزش نبینند. به همین دلیل متنوع‌سازی نیروی کار شرکت‌های سازنده سیستم‌های هوش مصنوعی و افرادی که در سیستم مراقبت‌های بهداشتی کار می‌کنند، لازم است.

گزارش منتشر شده حاکی از آن است که افراد رنگین‌پوست و زنان، درزمینه هوش مصنوعی کمتر به عنوان نماینده ظاهر می‌شوند، زیرا حدود 80درصد از اساتید هوش مصنوعی مرد هستند و افراد رنگین‌پوست تنها اقلیتی از کارکنان شرکت‌های بزرگ فناوری را تشکیل می‌دهند. همان‌ اندازه که تنوع بخشیدن به سیر خطی پژوهشگران موضوعی اساسی است، ساختن مکان‌های کار فراگیر و اجتماعاتی که امکان رشد را برای محققان اقلیت فراهم می‌کند نیز به همان اندازه مهم است. اینجاست که هوش مصنوعی در سیستم‌های مراقبت بهداشتی اگر به‌خوبی طراحی شده باشد، می‌تواند با فراهم کردن امکانات مراقبت بهداشتی باکیفیت توسط متخصصان مراقبت‌های بهداشتی برای افراد بیشتر و ایجاد تعادل برای افرادی که زندگی خود را وقف ارایه مراقبت می‌کنند، سلامت و رفاه اعضای جامعه را دگرگون کند. درعین حال این خطر وجود دارد که سیستم‌های هوش مصنوعی که انسان را در برابر الگوریتم‌ها قرار می‌دهد، ممکن است تعصبات و خطاهای جدیدی را وارد سیستم مراقبت‌های بهداشتی ایالات متحده کند که نه تنها نابرابری‌های بهداشتی را تشدید کند، بلکه منجر‌به خطرناک شدن مراقبت‌های بهداشتی برای افراد شود.