نسخه رایگان ChatGPT برای بیماران روانپریش خطرناکتر است
به گزارش «psypost» یک مطالعه منتشر شده در نشریه «JAMA Psychiatry» نشان میدهد نسخه رایگان «ChatGPT» هنگام رویارویی با پیامهایی که نشانههای روانپریشی دارد با احتمال بسیار بیشتری پاسخ نامناسب ارائه میدهد. نتیجه این پژوهش نشان میدهد احتمال دریافت پاسخ نامناسب در این نسخه برای چنین پیامهایی حدود ۲۶ برابر بیشتر از پیام عادی است؛ موضوعی که میتواند برای افراد دارای سایکوزِ شدید خطرناک باشد.
پژوهشگران دانشگاه «کلمبیا» برای بررسی این موضوع، عملکرد چند نسخه از چتبات ChatGPT را مقایسه کردند. آنها نسخه رایگان، نسخه «GPT‑4o» و نسخه جدیدتر «GPT‑5 Auto» را بررسی کردند تا مشخص شود این سامانهها چگونه به پیامهایی با نشانههای روانپریشی واکنش نشان میدهد.
در این آزمایش ۷۹ پرامپت طراحی شد که پنج نشانه رایج روانپریشی مانند بدگمانی، افکار غیرعادی، خودبزرگبینی، توهم و ارتباط آشفته را شبیهسازی میکرد. پژوهشگران برای هر پرامپت روانپریشانه یک متن کنترل مشابه نیز نوشتند تا امکان مقایسه پاسخها فراهم شود. این پرامپتهای کنترل، از نظر طول و سبک نگارش مشابه، اما فاقد هرگونه محتوای روانپریشانه بودند.
هر پرامپت تنها یک بار در یک جلسه جداگانه به هر نسخه چتبات ارسال شد. این فرایند در مجموع ۴۷۴ جفت پرامپت و پاسخ ایجاد کرد که بعداً دو متخصص سلامت روان آنها را ارزیابی کردند. ارزیابان نمیدانستند هر پاسخ به کدام نسخه نرمافزار تعلق دارد.
نویسندگان پژوهش تأکید میکنند افراد در معرض روانپریشی اغلب در میان گروههای کمبرخوردار اقتصادی قرار دارند، بنابراین ممکن است بیشتر به نسخه رایگان دسترسی داشته باشند. آنها هشدار میدهند استفاده از چتبات بهعنوان جایگزین مشاوره حرفهای سلامت روان میتواند خطرهایی ایجاد کند و نیاز به نظارت و پژوهش بیشتر وجود دارد
متخصصان بالینی پاسخها را در مقیاسی از صفر تا دو امتیازدهی کردند؛ صفر به معنای پاسخ مناسب و دو به معنای پاسخ کاملاً نامناسب بود. نتیجه ارزیابی نشان داد چتباتها هنگام پاسخ به پیام دارای نشانه روانپریشی بیشتر دچار خطا میشود.
تحلیل دادهها نشان داد نسخه رایگان ChatGPT در مقایسه با نسخه پولی احتمال بسیار بیشتری برای ارائه پاسخ نامناسب دارد. نسبت شانس در نسخه رایگان حدود ۲۶ برابر و در نسخه پولی نزدیک به هشت برابر گزارش شد. این تفاوت از نگاه پژوهشگران یک نگرانی مهم در حوزه سلامت عمومی محسوب میشود.
متخصصان اشاره میکنند که یک پاسخ کاملاً مناسب باید چند مؤلفه مشخص داشته باشد. یک پاسخ ایدهآل باید وضعیت بحرانی را تشخیص دهد، از تقویت توهم یا هذیان پرهیز کند، فوریت وضعیت را بپذیرد و منابع پزشکی را در اختیار فرد قرار دهد. نویسندگان این پژوهش قصد دارند در مطالعات آینده هر یک از این مؤلفهها را بهصورت جداگانه ارزیابی کنند.
نویسندگان پژوهش تأکید میکنند افراد در معرض روانپریشی اغلب در میان گروههای کمبرخوردار اقتصادی قرار دارند، بنابراین ممکن است بیشتر به نسخه رایگان دسترسی داشته باشند. آنها هشدار میدهند استفاده از چتبات بهعنوان جایگزین مشاوره حرفهای سلامت روان میتواند خطرهایی ایجاد کند و نیاز به نظارت و پژوهش بیشتر وجود دارد.
انتهای پیام/
