هوش مصنوعی باید دستیاری منتقد باشد

به گزارش خبرگزاری آنا؛ سؤالی که بسیاری از شاغلین اکنون در عصر هوش مصنوعی دائماً از خود می‌پرسند این است که آیا این فناوری به تقویت توانایی‌های فکری انسان کمک می‌کند یا ممکن است به‌تدریج بخشی از فرایند تفکر و قضاوت را جایگزین کند؟ آیا هوش مصنوعی جایگزین قدرت تفکر و تعقل انسان‌ها خواهد شد؟ برخی پژوهشگران معتقدند شیوه تعامل کاربران با هوش مصنوعی، نقش مهمی در تعیین پاسخ این پرسش‌ها دارد.

در مقاله‌ای جدید از «مونیدپا تارفدار»، استاد دانشگاه ماساچوست در امهرست، به این مسئله پرداخته شده است که به‌جای سپردن کامل وظایف به هوش مصنوعی، می‌توان از این ابزار برای به چالش کشیدن ایده‌ها، شناسایی نقاط ضعف استدلال‌ها و بررسی سناریو‌های جایگزین استفاده کرد.

بر اساس این رویکرد، ارزش هوش مصنوعی می‌تواند در صورت استفاده هدفمند، به ابزاری برای ارزیابی انتقادی تصمیم‌ها و ایده‌های انسانی تبدیل شود. در واقع به‌جای محول کردن صددرصدی تمام کار‌ها به هوش مصنوعی، این ابزار باید دستیار و منتقد کار خروجی کارمندان باشد.

واگذاری کامل کار به هوش مصنوعی، تلاش ذهنی را کاهش می‌دهد

یکی از مفاهیم مرتبط با این بحث، «واگذاری شناختی» است؛ فرایندی که در آن فرد بخشی از فعالیت‌های ذهنی خود را به ابزار‌های بیرونی می‌سپارد. این کار لزوماً منفی نیست و می‌تواند به افزایش بهره‌وری کمک کند، اما زمانی که فرد بدون ارزیابی مستقل، پاسخ‌های تولیدشده را می‌پذیرد، احتمال دارد بخشی از فرایند تحلیل و قضاوت را نیز به ابزار واگذار کند.

پژوهشی با عنوان «تأثیر هوش مصنوعی مولد بر تفکر انتقادی» که پژوهشگران مایکروسافت و دانشگاه کارنگی ملون در سال ۲۰۲۵ منتشر کردند، با بررسی تجربه ۳۱۹ نیروی متخصص نشان داد اعتماد بیشتر به هوش مصنوعی با کاهش میزان تفکر انتقادی در انجام وظایف کاری مرتبط است. کارکنان گزارش می‌کردند که به نظرشان قدرت تفکر انتقادی آنها بعد از استفاده بی‌چون‌وچرا از هوش مصنوعی کاهش یافته است.

این پژوهش همچنین نشان داد که در استفاده از هوش مصنوعی، شکل تفکر انتقادی تغییر می‌کند و فعالیت‌هایی مانند راستی‌آزمایی اطلاعات، ادغام پاسخ‌های تولیدشده با دانش قبلی و نظارت بر روند انجام کار اهمیت بیشتری پیدا می‌کنند.

چرا هوش مصنوعی گاهی با نظر کاربر موافقت می‌کند؟

یکی دیگر از چالش‌های تعامل با مدل‌های زبانی، پدیده‌ای است که در پژوهش‌های این حوزه «چاپلوسی هوش مصنوعی» یا «AI sycophancy» نامیده می‌شود. این اصطلاح به تمایل برخی مدل‌ها برای تأیید دیدگاه‌ها یا باور‌های کاربر اشاره دارد؛ حتی در مواردی که این تأیید با واقعیت یا ارزیابی مستقل سازگار نیست.

پژوهشی با عنوان «درک چاپلوسی در مدل‌های زبانی»، رفتار پنج دستیار هوش مصنوعی را در چند وجه کاری بررسی کرد. نتایج نشان داد این مدل‌ها در برخی شرایط به‌طور مکرر پاسخ‌هایی همسو با دیدگاه کاربران ارائه می‌کردند. پژوهشگران همچنین دریافتند که ترجیحات انسانی در ارزیابی پاسخ‌ها می‌تواند به نفع پاسخ‌های موافق با کاربر تمام شود، حتی اگر این پاسخ‌ها لزوماً درست‌تر نباشند.

این مسئله از این جهت اهمیت دارد که کاربر ممکن است تأییدشدن نظر خود را با درست‌بودن آن اشتباه بگیرد. اگر چنین الگویی در تعامل‌های مکرر ادامه پیدا کند، گفت‌و‌گو با هوش مصنوعی می‌تواند به‌جای گسترش دامنه دیدگاه‌های فرد، به تقویت باور‌های پیشین او منجر شود.

مخالفت هدفمند چگونه می‌تواند به بهبود کار کمک کند؟

تارفدار بر ایجاد نوعی «اصطکاک شناختی» در تعامل با هوش مصنوعی تأکید می‌کند؛ یعنی کاربر به‌جای پذیرش سریع پاسخ، از مدل می‌خواهد فرض‌های اولیه را بررسی کند، دلایل مخالف را ارائه دهد و ضعف‌های احتمالی یک تصمیم را مشخص کند.

در یکی از نمونه‌های مطرح‌شده در این گزارش، یک متخصص بازاریابی از هوش مصنوعی خواست مشتریان مجازی‌ای را شبیه‌سازی کند که محصول موردنظر را دوست ندارند. بازخورد‌های منفی این مشتریان، ایده‌های تازه‌ای برای بهبود محصول در اختیار طراحان قرار داد. در نمونه‌ای دیگر، یک وکیل از هوش مصنوعی خواست راه‌های دور زدن قانون و شیوه‌های احتمالی سوءاستفاده از آن را بررسی کند تا سناریو‌هایی را برای دفاع از موکلش شناسایی کند که ممکن بود از دید او پنهان بماند.

در این رویکرد، هوش مصنوعی به‌جای آنکه صرفاً تولیدکننده پاسخ نهایی باشد، نقش منتقد یا همکار فکری را ایفا می‌کند. با این حال، مخالفت به‌خودی‌خود تضمین‌کننده کیفیت نیست؛ پاسخ مخالف نیز ممکن است نادرست، سطحی یا مبتنی بر فرض‌های غلط باشد. بنابراین، ارزیابی شواهد و بررسی مستقل نتیجه همچنان ضروری است.