پاسخ‌های هوش مصنوعی اعتمادبه‌نفس کاذب ایجاد می‌کند
به گزارش خبرگزاری آنا، به نقل از «Futura Sciences»؛ پژوهشگران برای بررسی تاثیر هوش مصنوعی بر توانایی افراد در ارزیابی عملکرد خود، مجموعه‌ای از مسائل استدلال منطقی را بررسی کردند. شرکت‌کنندگان در این آزمایش با پرسش‌هایی مشابه مسائل آزمون پذیرش دانشکده‌های حقوق آمریکا (LSAT) مواجه شدند؛ بخشی از آن‌ها مسائل را بدون کمک AI حل کردند و گروه دیگر از ChatGPT کمک گرفتند.
پژوهشگران پس از هر مسئله از شرکت‌کنندگان خواستند حدس بزنند تا چه اندازه عملکرد خوبی داشته‌اند و سپس این ارزیابی را با نتیجه واقعی آن‌ها مقایسه کردند. یافته اصلی این بود که کمک گرفتن از AI عملکرد افراد را بهتر کرد، اما توانایی آن‌ها برای ارزیابی دقیق عملکرد خودشان بهتر نشد.
اعتماد بیشتر از توانایی رشد می‌کند
این پدیده در روان‌شناسی با مفهوم فراشناخت (Metacognition)، به معنی توانایی فرد برای ارزیابی و نظارت بر فرایندهای ذهنی خودش، مرتبط است و مشکل از جایی شروع می‌شود که فرد با کمک AI به پاسخ درست می‌رسد، اما تصور می‌کند خودش نیز به همان اندازه بر منطق پشت پاسخ مسلط شده است.
در مطالعه نخست، ۲۴۶ نفر با استفاده از AI، ۲۰ مسئله استدلال منطقی از آزمون LSAT را حل کردند. عملکرد آن‌ها حدود ۳ امتیاز بهتر از جمعیت معیار بود، اما شرکت‌کنندگان عملکرد خود را حدود ۴ امتیاز بیشتر از میزان واقعی برآورد کردند. پژوهشگران این نتیجه را نشانه‌ای از فاصله میان عملکرد واقعی و ارزیابی ذهنی فرد از توانایی خودش می‌دانند.
مطالعه دوم نیز با حضور ۴۵۲ نفر همین الگو را تکرار کرد؛ یعنی استفاده از مدل زبانی می‌توانست عملکرد حل مسئله را بهبود دهد، اما شرکت‌کنندگان همچنان در تشخیص دقیق میزان موفقیت خود مشکل داشتند.
آیا آشنایی بیشتر با AI کافی است؟
احتمال دارد تصور کنید هرچه کاربر بیشتر درباره هوش مصنوعی بداند، بهتر می‌تواند پاسخ‌های آن را ارزیابی کند؛ اما یافته‌های این پژوهش خلاف این انتظار را نشان می‌دهد. افرادی که خودشان را در زمینه AI آگاه‌تر می‌دانستند، ارزیابی دقیق‌تری از عملکردشان نداشتند و حتی سطح بالاتر سواد AI با دقت پایین‌تر در خودارزیابی ارتباط داشت.
یکی از توضیحات مطرح شده این است که کاربران گاهی پس از دریافت اولین پاسخ از چت‌بات، دیگر منطق آن را به‌طور جدی بررسی نمی‌کنند. در چنین شرایطی، پاسخ AI به نقطه پایان فرایند فکر کردن تبدیل می‌شود و به نقطه شروع بررسی و راستی‌آزمایی نمی‌رسد.
آیا هرچه بیشتر از AI استفاده کنیم، بیشتر دروغ‌ها را باور می‌کنیم؟
پژوهشگران تاکید می‌کنند که این مطالعه نشان نمی‌دهد استفاده از AI حتما باعث افت بلندمدت توانایی‌های شناختی می‌شود. همچنین این آزمایش به طور مستقیم بررسی نکرده که AI چگونه باورهای سیاسی، اخبار جعلی یا تصاویر ساختگی را تحت تاثیر قرار می‌دهد. موضوع اصلی پژوهش، حل مسائل منطقی و توانایی افراد در ارزیابی عملکرد خودشان بوده است.
به همین دلیل، نمی‌توان از این مطالعه نتیجه گرفت که «هرچه بیشتر از AI استفاده کنیم، بیشتر دروغ‌ها را باور می‌کنیم». یافته دقیق‌تر این است که کاربران با کمک AI عملکرد بهتری دارند، اما هم‌زمان درباره میزان درک و توانایی خودشان بیش از حد مطمئن می‌شوند.
چه زمانی اعتماد به AI آسان‌تر می‌شود؟
وقتی AI جواب درست می‌دهد، اعتماد کردن آسان‌تر می‌شود. این یافته، در زندگی روزمره اهمیت زیادی دارد. اگر کاربر بارها با کمک یک چت‌بات به پاسخ درست برسد، ممکن است به تدریج تصور کند نه تنها ابزار قابل اعتمادی در اختیار دارد، بلکه خودش نیز به طور کامل بر فرایند حل مسئله مسلط است. این در حالی است که احتمال دارد بخش مهمی از استدلال فقط توسط مدل زبانی انجام شده باشد.
راه حل چیست؟
پژوهشگران بر اهمیت طراحی ابزارهایی تاکید دارند که کاربر را به خودارزیابی دقیق‌تر، بررسی پاسخ‌ها و پرهیز از اتکای بیش از حد تشویق کند. به بیان ساده، قرار نیست AI فقط جواب بهتری بدهد؛ باید کمک کند کاربر بفهمد این جواب را تا چه اندازه فهمیده است.
انتهای پیام/