شمشیر دولبه پیشرفت هوش مصنوعی در بهداشت و درمان

گروه سلامت خبرگزاری علم و فناوری آنا- نوید فرخی؛  به کارگیری هوش مصنوعی در پزشکی یک واقعیت جاری است که می‌تواند به زودی مراقبت‌های بهداشتی و درمانی را متحول کند. در ابتدا استفاده از هوش مصنوعی در پزشکی به تجزیه‌وتحلیل دادههای پایه محدود می‌شد، با این حال پیشرفت سریع الگوریتم‌های یادگیری ماشین باعث شده این سیستم‌ها بتوانند داده‌های پیچیده پزشکی را تفسیر کرده و هوش مصنوعی را به کلید عصر تحول در مراقبت‌های درمانی مبدل سازند. همانطور که به جلو می‌رویم، هم‌افزایی بین فناوری هوش مصنوعی و پزشکی بدون شک عصر جدیدی از نوآوری را در مراقبت‎های درمانی کلید خواهد زد و طبعاً توانایی هوش مصنوعی در تجزیه‌وتحلیل کلان‌داده کم‌خطا و بی‌نظیر است، اما بر کسی پوشیده نیست که چالش‌های اخلاقی و عملی جدی در استفاده از ظرفیت کامل هوش مصنوعی در حوزه پزشکی وجود دارد.

هوش مصنوعی و معضل حریم شخصی 

یکی از مسائل کلیدی در این زمینه، حریم شخصی و امنیت داده‌های بیماران است. الگوریتم‌های هوش مصنوعی مبتنی بر داده‌هاست با این حال جنس داده‌های بیماران عموماً حساس است و کسب اطمینان از محرمانگی آنها بسیار مهم است. خطر نقض داده‌ها با دیجیتالی شدن سیستم‌های مراقبتهای بهداشتی و متکی شدن به هوش مصنوعی افزایش پیدا می‌کند. از سوی دیگر کسب رضایت آگاهانه مراجعان و بیماران برای استفاده از داده‌های آنها در مدل‌های هوش مصنوعی امری پیچیده است.

پیشرفت‌های پزشکی همواره در سایه پروژه‌های مشترک بین‌المللی رخ داده و محقق شده‌اند. بنابراین به کارگیری هوش مصنوعی قاعدتاً به اشتراک‌گذاری دادههای فرامرزی می‌انجامد که این مسئله به نوبه خود باعث ایجاد نگرانی‌های دیگری در حوزه قوانین و اقدامات بین‌المللی حریم خصوصی داده‌ها می‌شود. در زمینه حریم شخصی و امنیت داده‌های بیماران، چالش‌های متعددی وجود دارد. استفاده از الگوریتم‌های هوش مصنوعی در پزشکی به طور فزاینده‌ای متکی بر داده‌ها است، اما این داده‌ها معمولاً شامل اطلاعات بسیار حساسی می‌شوند که نیازمند حفاظت ویژه‌ای است. بر اساس گزارش‌ها، تقریباً 89 درصد از سازمان‌های بهداشتی در سال‌های اخیر دست‌کم یک مورد نقض داده را تجربه کرده‌اند که نشان‌دهنده خطرات امنیتی فزاینده در این حوزه است.

جای تردیدی نیست که با دیجیتالی شدن سیستم‌های مراقبت‌های بهداشتی و اتکا به هوش مصنوعی، خطر نقض داده‌ها به طور چشمگیری افزایش می‌یابد. در تحقیق دیگری مشخص شده که حدود 55 درصد از بیماران نگران امنیت داده‌های بهداشتی خود هستند و این نگرانی‌ها بر اعتماد آن‌ها به سیستم‌های درمانی تأثیر می‌گذارد. این موضوع اهمیت ایجاد سیستم‌هایی که بتوانند به طور مؤثر از داده‌های بیماران محافظت کنند را برجسته می‌سازد. از سوی دیگر، کسب رضایت آگاهانه از بیماران برای استفاده از داده‌های آن‌ها در توسعه مدل‌های هوش مصنوعی یک فرایند پیچیده است. پژوهش‌ها نشان می‌دهد که تنها 40 درصد از بیماران احساس می‌کنند که به طور کامل در جریان استفاده از داده‌هایشان قرار گرفته‌اند. این امر نیازمند بهبود شیوه‌های رضایت‌گیری و افزایش شفافیت در استفاده از داده‌ها است.

پیشرفت‌های پزشکی اغلب به دنبال همکاری‌های بین‌المللی رخ می‌دهند، که به اشتراک‌گذاری داده‌های فرامرزی منجر می‌شود. این امر خود چالش‌های جدیدی را در زمینه قوانین و مقررات بین‌المللی ایجاد می‌کند.

به عنوان مثال، در اتحادیه اروپا، قانون عمومی حفاظت از داده‌ها (GDPR) اجرایی شده است که حدود 72% از سازمان‌ها را وادار به ارتقاء امنیت داده‌های خود کرده است. با این حال، هماهنگی بین قوانین مختلف بین‌المللی همچنان یک چالش بزرگ است. علاوه بر این، از سوی کادر درمان نیز همین مسئله صدق می‌کند. تحقیقات نشان داده‌ است که حدود 80 درصد از پزشکان معتقدند که امنیت داده‌ها یکی از بزرگترین موانع در استفاده از هوش مصنوعی در پزشکی است. این نگرانی‌ها نشان می‌دهد که برای پذیرش گسترده‌تر هوش مصنوعی در حوزه سلامت لازم است تا مسائل امنیت داده به طور جامع و دقیق بررسی و حل شود.

همکاری و تعامل بین متخصصان پزشکی، متخصصان فناوری اطلاعات، قانون‌گذاران و بیماران برای رسیدگی به این چالش‌ها ضروری است. توسعه استانداردهای بین‌المللی و اتخاذ رویکردهای هماهنگ برای حفاظت از داده‌های بیماران می‌تواند به کاهش خطرات امنیتی کمک کرده و اطمینان بیشتری به بیماران و پزشکان بدهد. همچنین، آموزش و آگاه‌سازی بیماران در مورد چگونگی استفاده و حفاظت از داده‌هایشان می‌تواند به افزایش شفافیت و اعتماد به سیستم‌های پزشکی کمک کند.

هوش مصنوعی و تبعیض میان بیماران

سیستم‌های هوش مصنوعی به طور بالقوه و ذاتاً مستعد تعصب هستند. به زبان ساده‌تر، داده‌هایی که مورد استفاده هوش مصنوعی قرار می‌گیرد، چیزی به جز محتوای معمول در جهان واقعی نیست. ازاین‌رو سیستم‌های هوش مصنوعی ممکن است سؤگیری‌های موجود در داده‌هایی را که از آنها آموزش دیده‌‌اند (به طور بدیهی) تداوم بخشند و یا حتی تبعیض‌ها را بیشتر کنند. خروجی این سیستم‌ها میتواند منجر به تصمیمات پزشکی نادرست یا ناعادلانه شود. اغلب مجموعه داده‌های مورد استفاده در هوش مصنوعی فاقد تنوع هستند. این ویژگی نیز باعث میشود به طور بالقوه اظهارات و ادعاهای گروههای اقلیت در کلان‌داده ظهور کمی پیدا کند. به تبع این مسئله، این خطر نیز وجود دارد که نابرابری‌ها در ارائه مراقبتهای درمانی بیشتر شود، زیرا دسترسی به فناوری‌های پیشرفته در بین گروههای مختلف اجتماعی-اقتصادی یکسان نیست.

تعصب موجود در سیستم‌های هوش مصنوعی به‌خصوص در زمینه پزشکی یک مسئله جدی و چالش‌برانگیز است. تحقیقات نشان می‌دهد داده‌های مورد استفاده در آموزش الگوریتم‌های هوش مصنوعی باعث تقویت تبعیض‌ها و تعصب‌های موجود می‌شود. استفاده از داده‌های محدود جمعیت‌های مختلف در حوزه پزشکی می‌تواند باعث شود که هوش مصنوعی ناعادلانه عمل کند. برای مثال اگر الگوریتم‌ها بیشتر از روی داده جمعیت‌های سفیدپوست آموزش دیده باشند، ممکن است در تشخیص و درمان بیماری‌ها در جمعیت‌های دیگر دچار خطا شوند. این مسئله می‌تواند منجر به تشخیص دیرهنگام یا نادرست بیماری‌ها در جمعیت‌هایی شود کمتر مورد توجه قرار گرفته بودند.

مقابله با چالش‌ها

پژوهشی در جهت شناسایی و کاهش تعصب در الگوریتم‌های پزشکی انجام گرفته است. علاوه بر این، توجه به تنوع جمعیتی در جمع‌آوری داده‌ها و تیم‌های تحقیقاتی گوناگون‌تر می‌تواند به کاهش تعصب در مدل‌های هوش مصنوعی کمک کند. به طور کلی، ایجاد تعادل در داده‌ها و استفاده از رویکردهای جامع‌تر در توسعه و اجرای الگوریتم‌های هوش مصنوعی می‌تواند به تحقق عدالت در مراقبت‌های بهداشتی و درمانی کمک کند. این امر نیازمند همکاری و تلاش مشترک از سوی محققان، مؤسسات بهداشتی و نهادهای نظارتی است. استراتژی‌های مورد نیاز برای کاهش تعصب شامل افزایش تنوع مجموعه‌های داده مورد استفاده در آموزش الگوریتم‌ها، آگاهی‌بخشی پزشکان و محققان در مورد تبعیض فعلی  داده‌ها و توسعه راهبردهای جدید برای کنترل و ارزیابی بی‌طرفی در مدل‌های هوش مصنوعی است.

علاوه بر این توصیه شده است که سازمان‌های بهداشتی و پزشکی بهتر است فعالانه در توسعه و اجرای الگوریتم‌های هوش مصنوعی که به طور خاص برای کاهش تعصب طراحی شده‌اند، مشارکت داشته باشند. همچنین تأکید شده که لازم است از رویکردهای شفاف و مسئولانه‌ای در توسعه و استفاده از این فناوری‌ها به کار گرفته شود تا اطمینان حاصل شود که مراقبت‌های پزشکی برای تمامی جمعیت‌ها به طور عادلانه ارائه می‌شود.

عدم شفافیت هوش مصنوعی

مسئله نگران‌کننده دیگر شفافیت و توضیح‌پذیری است. بسیاری از سیستمهای هوش مصنوعی مانند جعبه سیاه عمل می‌کنند. فرآیند تصمیم‌گیری شفاف نیست. این مسئله اعتماد را در میان ارائه‌دهندگان خدمات درمانی و بیماران و همراهانشان سلب میکند. برای اینکه هوش مصنوعی به طور کامل مورد پذیرش قرار گیرد لازم است ارائه دهندگان مراقبتهای بهداشتی بدانند که هوش مصنوعی چگونه به نتایج خود رسیده است. اینکه حتی طراحان سیستمهای هوش مصنوعی هم به دلیل پیچیدگی الگوریتمهایی مانند شبکه عصبی مصنوعی نمیدانند دقیقاً چطور هوش مصنوعی به یک نتیجه خاص رسیده است، در حوزه پزشکی قابل قبول نیست زیرا اینجا با جان انسانها سروکار داریم.

شفافیت و توضیح‌پذیری در سیستم‌های هوش مصنوعی مورد استفاده در حوزه پزشکی یکی از دغدغه‌های عمده آینده است. تحقیقات نشان می‌دهد که عدم شفافیت در این سیستم‌ها اغلب به دلیل پیچیدگی‌های فنی و مشکلات در توضیح نحوه تصمیم‌گیری آن‌ها است. این موضوع می‌تواند اعتماد متخصصان بهداشتی و بیماران را کاهش دهد و در عمل به استفاده آنها از فناوری‌های نوین خدشه وارد کند.

برای مقابله با این چالش باید رویکردهای جدیدی در جهت افزایش شفافیت و قابلیت توضیح داده‌ها در نظر گرفته شود. این امر مستلزم تعامل بیشتر با ذینفعان، توجه به تنوع جمعیتی در داده‌ها، تحقیقات بیشتر و ترویج ابتکارات علمی منبع‌باز برای بهبود گزارش‌دهی و به اشتراک‌گذاری داده‌ها و... است. تلاش‌هایی از این دست می‌تواند به افزایش اعتماد به سیستم‌های هوش مصنوعی در پزشکی کمک کند و در نهایت به کاربرد موفق‌تر آن‌ها در عمل منجر شود. برای تقویت شفافیت و توضیح‌پذیری در هوش مصنوعی لازم است تمرکز بیشتری بر تحقیق و توسعه در این زمینه‌ صورت گیرد. بدین منظور ارتقاء فهم عمومی در مورد نحوه کارکرد این سیستم‌ها، به کارگیری رویکردهای جدید در توسعه الگوریتم‌های شفاف‌تر و قابل فهم‌تر و افزایش همکاری بین متخصصان فناوری و پزشکی ضروری به نظر می‌رسد. تلاش برای افزایش شفافیت و قابلیت توضیح‌پذیری سیستم‌های اتوماسیون می‌تواند به کاهش نگرانی‌ها در مورد استفاده از هوش مصنوعی در پزشکی کمک کند و زمینه‌ساز پذیرش گسترده‌تر این فناوری‌ها در بخش سلامت شود.

به منظور افزایش شفافیت و قابلیت توضیح‌پذیری در هوش مصنوعی پزشکی، رویکردهای پژوهشی باید بر فهمیدن و توضیح فرآیندهای داخلی الگوریتم‌ها متمرکز شوند. لازم است متدهایی برای تفسیر بهتر نتایج الگوریتم‌ها توسعه یابد و ابزارهایی برای متخصصان بهداشتی فراهم شود تا بتوانند تصمیم‌های هوش مصنوعی را بهتر درک کرده و توضیح دهند. همچنین، مشارکت بیماران و عموم مردم در فرآیند توسعه می‌تواند به ایجاد سیستم‌هایی منجر شود که به طور واقعی نیازهای آن‌ها را پوشش دهد و اعتماد عمومی را تقویت کند. این تلاش‌ها می‌تواند به افزایش شفافیت و قابلیت توضیح‌پذیری این سیستم‌ها بیانجامد. 

تصمیم‌گیری انسانی

چالش تصمیم‌گیری انسانی نیز مطرح است. به کارگیری فرایندهای اتوماسیون پزشکی میتواند به نقطهای برسد که قضاوت هوش مصنوعی در مقابل قضاوت انسان قرار گیرد. تکیه بر هوش مصنوعی برای تصمیمات تشخیصی یا درمانی، سؤالاتی را در مورد نقش انسان مطرح میکند. با وجود اینکه به کارگیری قوای پردازشی و کلان‌داده باعث میشود ضریب خطای نتایج هوش مصنوعی پایین آید، اما اگر هوش مصنوعی دچار خطایی (هر خطایی) شود چه کسی مسئولیت آن را برعهده خواهد گرفت؟ در مورد یک پزشک، هر چقدر هم پرخطا و غیردقیق، در نهایت میدانیم که مسئولیت اخلاقی خطاهای پزشکی یا پیامدهای نامطلوب تصمیمات درمانی برعهده کسی جز او نیست، اما موضوع مسئولیت اخلاقی هوش مصنوعی امری پیچیده است. جدای از بحث اخلاقی، مسائل حقوقی نیز وجود دارد. از یک سو، عدم وجود استانداردها و مقررات جهانی برای هوش مصنوعی در مراقبتهای درمانی منجر به عدم اطمینان در مورد کیفیت و ایمنی خدمات میشود. از سوی دیگر، تعیین مسئولیت حقوقی و قانونی در مواردی که هوش مصنوعی به تصمیم یا خطای پزشکی رسیده چالش‌برانگیز و تعریف‌نشده است.

چالش تصمیم‌گیری انسانی در مقابل هوش مصنوعی در پزشکی یکی از مباحث مهم است. با افزایش استفاده از هوش مصنوعی در تصمیم‌گیری‌های پزشکی، سوالاتی در مورد نقش و مسئولیت انسان مطرح می‌شود. اگرچه داده‌های بزرگ و قدرت پردازشی این سیستم‌ها می‌تواند خطاهای تشخیصی را کاهش دهد، اما در مواقع خطا، تعیین مسئولیت اخلاقی و حقوقی دشوار است. 

در مقایسه با پزشکان که مسئولیت اخلاقی و قانونی تصمیمات و خطاهای خود را می‌پذیرند، تعیین مسئولیت برای خطاهای ناشی از هوش مصنوعی پیچیده است. علاوه بر مسائل اخلاقی، مسائل حقوقی نیز وجود دارد، از جمله نبود استانداردها و مقررات جهانی برای کاربرد هوش مصنوعی در پزشکی. این امر منجر به عدم اطمینان در مورد کیفیت و ایمنی خدمات می‌شود و چالش‌هایی را در تعیین مسئولیت حقوقی و قانونی به وجود می‌آورد. در مواجهه با چالش‌های تصمیم‌گیری هوش مصنوعی در پزشکی، یک نکته کلیدی عدم وجود چارچوب‌ مشخص برای رفع این مسائل است. تعیین مسئولیت در موارد خطا یا نتایج نامطلوب ایجاد شده توسط هوش مصنوعی، هم از نظر حقوقی و هم از نظر اخلاقی، چالش‌برانگیز است. این موضوع نیاز به توجه و همکاری متخصصان حقوقی، پزشکان و توسعه‌دهندگان فناوری را بیشتر می‌کند تا استانداردها و قوانین مشخصی را برای استفاده ایمن و مسئولانه از هوش مصنوعی در پزشکی تعریف و اجرا کنند.

در ادامه بحث درباره چالش‌های تصمیم‌گیری مهم است که به نقش اساسی اخلاق در این فرآیند توجه شود. موضوع مسئولیت پذیری در مواجهه با خطاهای احتمالی هوش مصنوعی، از جمله مواردی است که نیازمند بررسی دقیق و تعریف استانداردهای روشن است. این موضوع به ویژه وقتی حائز اهمیت می‌شود که تصمیمات هوش مصنوعی مستقیماً بر سلامت و جان انسان‌ها تاثیر می‌گذارد.

توسعه راهکارهایی برای مواجهه با این چالش‌ها، همراه با تعامل میان متخصصان فناوری، پزشکی، اخلاق و قانون، از اهمیت بسزایی برخوردار است تا اطمینان حاصل شود که هوش مصنوعی به نحوی ایمن و مسئولانه در حوزه پزشکی به کار گرفته می‌شود.

آینده هوش مصنوعی در حوزه سلامت و مشاغل

پیشبینی پیامدهای درازمدت هوش مصنوعی در پزشکی، چه مثبت و چه منفی، دشوار است و نیاز به ارزیابی مداوم دارد. با این حال یک سری موارد قطعی هستند. برای مثال کادر درمان نگرانی‌هایی در این رابطه دارد که هوش مصنوعی جایگاه‌های شغلی خاصی را در مراقبتهای بهداشتی اِشغال خواهد کرد و منجر بیکاری نیروی کار می‌شود. قابل حدس است ادغام هوش مصنوعی در سیستم‌های بهداشتی موجود با مقاومت پزشکان و پرستارانی که به روشهای سنتی عادت کرده‌اند مواجه شود.

همچنین متخصصان و کارشناسان مراقبتهای بهداشتی برای استفاده از ابزارهای هوش مصنوعی به آموزش نیاز دارند که خود مستلزم زمان و منبع است. موضوع دیگری که میتوان از همین حالا نگران آن بود، مسئله توزیع نابرابر دستاوردها و امکانات فناوری برای مردم اقصی‌نقاط جهان است.

پیش‌بینی پیامدهای درازمدت هوش مصنوعی در پزشکی دشوار است، اما برخی نگرانی‌ها مشخص و آشکارند. کادر درمان نگران تأثیرات شغلی ناشی از گسترده‌شدن به کارگیری هوش مصنوعی و از دست دادن شغل‌ خواهد بود. همچنین مقاومت در برابر تغییرات و عادت به روش‌های سنتی پزشکی می‌تواند از سرعت ادغام سیستم های هوش مصنوعی در سیستم‌های بهداشتی بکاهد. کارشناسان بهداشتی برای استفاده مؤثر از ابزارهای هوش مصنوعی به آموزش تخصصی نیاز دارند که این امر مستلزم زمان و منابع گوناگون است. همچنین، نابرابری در دسترسی به فناوری در سراسر جهان می‌تواند مشکلاتی را در توزیع عادلانه این فناوری‌ها به وجود بیاورد.

در ادامه بررسی پیامدهای درازمدت هوش مصنوعی در پزشکی مهم است به این مسئله توجه داشته باشیم که این فناوری می‌تواند نه تنها بر مسائل شغلی، بلکه بر رویکردهای درمانی نیز تاثیر گذار باشد. آموزش اپراتورها مسئله غامضی نیست اما در سطح بسیار گسترده می‌تواند دشوار باشد چرا که مستلزم سرمایه‌گذاری زمانی و مالی است. همچنین، مسئله توزیع نابرابر فناوری در سراسر جهان چالش اساسی دیگری است که می‌تواند بر دسترسی و کیفیت مراقبت‌های بهداشتی تاثیر سوء بگذارد. برای مقابله با این چالش‌ها، به گفتگوی بین‌المللی و اقدامات سازنده برای اطمینان از استفاده عادلانه و موثر از هوش مصنوعی در پزشکی نیاز است.

توسعه و پذیرش گسترده‌تر هوش مصنوعی در پزشکی به طور قطع نیازمند یک رویکرد جامع و همه‌جانبه است. این امر مستلزم همکاری میان محققان، توسعه‌دهندگان فناوری، متخصصان بهداشت و درمان، سیاست‌گذاران و جوامع محلی برای اطمینان از این است که هوش مصنوعی به نحوی استفاده شود که هم به بهبود کیفیت مراقبت‌های پزشکی کمک کند و هم از حقوق و رفاه بیماران محافظت نماید. همچنین بررسی و تعدیل مستمر این فناوری‌ها برای اطمینان از ایمنی، کارآمدی و عدالت توزیع آن‌ها در مراقبت‌های بهداشتی ضروری خواهد بود.

استفاده از هوش مصنوعی در پزشکی باعث افزایش کیفیت مراقبت‌های بهداشتی می‌شود و جان انسانها را نجات خواهد داد. با این حال، پرداختن به چالش‌ها و ملاحظات اخلاقی برای استفاده مسئولانه و موثر از فناوری بسیار مهم است. این امر مستلزم تلاش‌های مشترک فناوران، متخصصان مراقبت‌های درمانی، اخلاق‌دانان، سیاست‌گذاران و خود بیماران است تا چارچوب‌های محکمی برای به کارگیری اخلاقی و عادلانه از هوش مصنوعی در پزشکی بنا شود. با بررسی و مدیریت دقیق این چالش‌ها میتوان امید داشت هوش مصنوعی عاملی متحول‌کننده در حوزه پزشکی با حفظ بالاترین استانداردهای اخلاقی باشد.