هوش مصنوعی با سوگیری چهره‌ها را قضاوت می‌کند
مقاله «مدل‌های زبانی، مانند انسان‌ها، سوگیری‌های چهره‌محور در قضاوت شخصیت نشان می‌دهند» (like humans, language models demonstrate face-to-character biases) نشان می‌دهد مدل‌های زبانی بزرگ در قضاوت درباره ویژگی‌های شخصیتی افراد، به ویژگی‌های ظاهری چهره تکیه می‌کنند. استیون ای لِر، پژوهشگر مستقل در حوزه «روان‌شناسی ماشین» (machine psychology) و یکی از نویسندگان این مقاله، در زمینه پیوند علوم شناختی با هوش مصنوعی کاربردی و بررسی معماری رفتاری مدل‌های زبانی بزرگ فعالیت می‌کند. او در گفتوگو با آناتک به پرسش‌هایی درباره یافته‌ها و نتایج این مقاله پاسخ می‌دهد.
مدل‌های زبانی بزرگ، برای مثال، GPT-۴o در ۸۷.۸۳ درصد از موارد، چهره‌ای را که در پژوهش‌های انسانی توانمندتر ارزیابی شده بود، توانمندتر تشخیص داد و در قضاوت درباره قابل‌اعتماد بودن نیز در ۷۲.۶۷ درصد موارد همان الگویی را نشان داد که در قضاوت‌های انسانی دیده می‌شود. این سوگیری به ویژگی‌های دیگری مانند باهوش بودن، سخت‌کوشی، تنبلی، صمیمیت و پرخاشگری نیز گسترش پیدا کرد. حتی در ارزیابی چهره میمون‌ها نیز مدل در ۶۶ درصد موارد، چهره‌ای را که انسان‌ها مهربان‌تر ارزیابی کرده بودند، قابل‌اعتمادتر دانست.
این سوگیری می‌تواند بر قضاوت‌هایی فراتر از ویژگی‌های شخصیتی نیز اثر بگذارد. GPT-۴o در تصمیم‌هایی مانند انتخاب رئیس دانشگاه، اعطای سرمایه به یک استارتاپ و مدیریت یک سبد بازنشستگی، در ۷۵.۱۹ درصد موارد افرادی را ترجیح داد که از نظر ظاهری توانمندتر به نظر می‌رسیدند. مدل همچنین چهره‌هایی را که کمتر قابل‌اعتماد به نظر می‌رسیدند، بیشتر با رفتار‌هایی مانند قتل زنجیره‌ای، قاچاق انسان و کلاهبرداری مرتبط دانست. بررسی مدل‌های دیگر نیز الگو‌های مشابهی را نشان داد و مشخص کرد که این نوع قضاوت چهره‌محور به یک مدل خاص محدود نیست. نکته نگران‌کننده‌تر اینکه مدل‌های جدیدتر مانند GPT-۵ و Gemini ۳ Flash سوگیری بیشتری از GPT-۴o نشان دادند و Claude Sonnet ۴.۵ نیز در تصمیم‌های پیامدی سوگیری قابل‌توجهی داشت؛ این یافته نشان می‌دهد پیشرفت مدل‌ها لزوماً به کاهش این سوگیری منجر نمی‌شود و ممکن است آن را تقویت هم بکند.
استیون ای لر
پژوهش شما نشان داد که مدل هوش مصنوعی به‌طور نظام‌مند برخی ویژگی‌های چهره را با ویژگی‌های خاصی در انسان مرتبط می‌کند. دقیقاً کدام ویژگی‌های چهره چنین برداشت‌هایی را ایجاد می‌کنند و آیا می‌توان آنها را به‌طور مشخص شناسایی کرد؟
این یکی از پرسش‌های بنیادینی است که روان‌شناس، «الکس تودوروف» و همکارانش بررسی کرده‌اند. آنها چهره‌هایی تولیدشده با رایانه را در ابعاد مختلف و به‌صورت جزئی تغییر داده‌اند و سپس از داوطلبان خواسته‌اند آنها را از نظر ویژگی‌هایی مانند قابل‌اعتماد بودن، توانمندی و سلطه‌گری ارزیابی کنند. مشخص شده است که انسان‌ها به‌راحتی چنین قضاوت‌هایی انجام می‌دهند؛ به‌طوری که می‌توانند تنها پس از دیدن یک چهره در کسری از ثانیه درباره آن نظر بدهند. اگرچه بین افراد تفاوت‌هایی وجود دارد، هم بزرگسالان و هم کودکان الگو‌های مشخصی در مورد ویژگی‌های چهره‌ای دارند که به نظر می‌رسد این قضاوت‌ها را برمی‌انگیزد. به نظر می‌رسد مدل‌های هوش مصنوعی نیز قضاوت‌های مشابهی انجام می‌دهند.
قضاوت درباره قابل‌اعتماد بودن افراد، اغلب از اینجا ناشی می‌شود که ما حالت‌های هیجانی خفیف در چهره را به ویژگی‌های شخصیتی فرد تعمیم می‌دهیم. برای مثال، دهانی که اندکی رو به بالا باشد و حالتی شبیه لبخند ملایم ایجاد کند، معمولاً با قابل‌اعتماد بودن بیشتر همراه است؛ در حالی که دهانی که کمی رو به پایین باشد و حالتی شبیه اخم خفیف ایجاد کند، اعتمادپذیری کمتری را القا می‌کند. همچنین، ابرو‌هایی که به یکدیگر نزدیک‌ترند، با اعتمادپذیری کمتر ارتباط دارند. به‌طور کلی نیز افرادی که ویژگی‌های ظریف‌تر، زنانه‌تر یا اصطلاحاً «چهره کودکانه» دارند، بیشتر قابل‌اعتماد به نظر می‌رسند.
شبکه‌های ترنسفورمر، که معماری زیربنایی مدل‌های زبانی بزرگ امروزی هستند، می‌توانند ویژگی‌های بسیار پیچیده‌ای را با دقتی شگفت‌انگیز مدل‌سازی کنند. دیدگاه شخصی من این است که منشأ محتمل این سوگیری، چیزی است که به آن «پیش‌آموزش» گفته می‌شود؛ مرحله‌ای که مدل‌ها با دریافت حجم عظیمی از متون انسانی، الگو‌های زبانی را از طریق پیش‌بینی کلمات و ساختار‌های زبانی یاد می‌گیرند
در مقابل، قضاوت درباره توانمندی تا حدی با ویژگی‌های بلوغ جسمانی و مردانگی ارتباط دارند. برای مثال، فک قوی و پهن با ارزیابی بالاتر از نظر توانمندی همراه است. فاصله کمتر میان چشم‌ها و ابرو‌ها نیز با توانمندی بیشتر ارتباط دارد.
نکته مهم این است که تودوروف و همکارانش تأکید می‌کنند این ویژگی‌های ظاهری، شاخص‌های قابل‌اعتمادی برای سنجش واقعی قابل‌اعتماد بودن یا قابل اعتمادی افراد نیستند. ما با وجود اینکه این قضاوت‌ها اغلب نادرست‌اند، همچنان بر اساس چنین ویژگی‌هایی درباره افراد قضاوت می‌کنیم.
چرا این سوگیری اساساً در یک مدل چندوجهی مبتنی بر زبان شکل گرفته است؟
مقاله ما مستقیماً به این پرسش پاسخ نمی‌دهد، بنابراین پاسخ من تا حدی جنبه فرضیه و گمانه‌زنی دارد. یکی از یافته‌های پژوهش ما این است که این سوگیری ظاهراً نتیجه حفظ کردن یا به خاطر سپردن نمونه‌های مشخصی که در آزمایش استفاده کرده بودیم، نیست. در یک مطالعه تکمیلی، مدل‌ها نتوانستند چهره‌هایی را که ما استفاده کرده بودیم شناسایی کنند و حتی نتوانستند حدس بزنند که این چهره‌ها در مطالعات مربوط به قابل‌اعتماد بودن و توانمندی به کار رفته‌اند. علاوه بر این، مدل‌ها همین قضاوت‌ها را درباره چهره میمون‌ها نیز انجام دادند که نشان می‌دهد با یک سوگیری تعمیم‌یافته مواجهیم، نه صرفاً بازتولید اطلاعات مربوط به نمونه‌های مشخصی که در پژوهش استفاده شده بودند.
پس این سوگیری از کجا می‌آید؟ شبکه‌های ترنسفورمر، که معماری زیربنایی مدل‌های زبانی بزرگ امروزی هستند، می‌توانند ویژگی‌های بسیار پیچیده‌ای را با دقتی شگفت‌انگیز مدل‌سازی کنند. دیدگاه شخصی من این است که منشأ محتمل این سوگیری، چیزی است که به آن «پیش‌آموزش» گفته می‌شود؛ مرحله‌ای که مدل‌ها با دریافت حجم عظیمی از متون انسانی، الگو‌های زبانی را از طریق پیش‌بینی کلمات و ساختار‌های زبانی یاد می‌گیرند.
اگر حجم بسیار زیادی از متون انسانی را بخوانید، به توصیف‌هایی از چهره برمی‌خورید که به قابل‌اعتماد بودن یا توانمندی افراد اشاره دارند. برای مثال، شکسپیر درباره کاسیوس می‌گوید: «چهره‌ای لاغر و گرسنه دارد؛ بیش از حد فکر می‌کند؛ چنین مردانی خطرناک‌اند.» یا نقل شده است که کورنلیوس وندربیلت درباره جی گولد گفته بود: «هیچ مردی نمی‌تواند چنین چهره‌ای داشته باشد و همچنان صادق باشد.» چنین توصیف‌هایی ممکن است ظریف باشند، اما احتمالاً تعداد زیادی از آنها در متون وجود دارد و مدل‌های زبانی بزرگ ممکن است این الگو‌ها را از همین نوع زبان طبیعی آموخته باشند.
برخی پژوهش‌ها نشان می‌دهند سبک نوشتاری تولیدشده با هوش مصنوعی می‌تواند بر شیوه نوشتن انسان‌ها تأثیر بگذارد. آیا ممکن است اتفاق مشابهی در اینجا رخ دهد و قضاوت‌های چهره‌محور هوش مصنوعی به‌تدریج بر قضاوت انسان‌ها تأثیر بگذارد؟
قطعاً. به نظر من این یک خطر واقعی است. این مسئله تنها یکی از نمونه‌های سوگیری در قضاوت‌های هوش مصنوعی است و به سوگیری‌های چهره‌محور محدود نمی‌شود.
در حوزه استفاده از هوش مصنوعی برای تصمیم‌های مهم و اثرگذار، شرکت‌ها اغلب بر چیزی تأکید می‌کنند که آن را «انسان در چرخه نظارت» می‌نامند. یعنی مدل قرار نیست خودش تصمیم بگیرد و تصمیم‌گیرنده نهایی انسان است، اما پژوهش‌ها نشان می‌دهد انسان‌ها اغلب تمایل دارند سوگیری‌هایی را که ماشین نشان می‌دهد، به‌سادگی بپذیرند. برای مثال، اگر یک ابزار هوش مصنوعی برای انتخاب افراد، دارای سوگیری نژادی باشد، این سوگیری می‌تواند به تصمیم‌های انسانی برای انتخاب افراد نیز منتقل شود.
مشکل فقط به تصمیم‌های سوگیرانه محدود نمی‌شود؛ بلکه امکان شکل‌گیری یک چرخه معیوب نیز وجود دارد. انسان‌ها با کمک هوش مصنوعی تصمیم‌های سوگیرانه می‌گیرند و سپس همین تصمیم‌ها برای آموزش سامانه‌های یادگیری ماشین مورد استفاده قرار می‌گیرد؛ در نتیجه، سوگیری اولیه تثبیت و حتی تشدید می‌شود. این مسئله یکی از مشکلات بسیار مهم در حوزه هوش مصنوعی است.
برای سازمان‌هایی که از مدل‌های زبانی بزرگ در تصمیم‌های حساس و پرریسک استفاده می‌کنند، چه اقدامات حفاظتی مشخصی را توصیه می‌کنید؟ به‌ویژه اقداماتی فراتر از حذف تصاویر چهره از ورودی‌های مدل؟
حذف تصاویر چهره از ورودی یک اقدام مهم است و در حوزه سوگیری‌های مربوط به چهره، اهمیت ویژه‌ای دارد؛ زیرا این نوع سوگیری ماهیتی بصری دارد، اما به‌طور کلی، سازمان‌هایی که سامانه‌های هوش مصنوعی را تولید می‌کنند و همچنین سازمان‌هایی که از این سامانه‌ها استفاده می‌کنند، باید فراتر از صرفاً حذف یا پنهان کردن اطلاعات ظاهری عمل کنند.
الگوریتم‌های هوش مصنوعی باید به‌طور مستمر از نظر وجود سوگیری بررسی شوند و سازمان‌هایی که این الگوریتم‌ها را توسعه می‌دهند باید از روش‌هایی استفاده کنند که برای کاهش سوگیری طراحی شده‌اند. این موضوع هم در این حوزه و هم در حوزه‌های دیگر اهمیت دارد
الگوریتم‌های هوش مصنوعی باید به‌طور مستمر از نظر وجود سوگیری بررسی شوند و سازمان‌هایی که این الگوریتم‌ها را توسعه می‌دهند باید از روش‌هایی استفاده کنند که برای کاهش سوگیری طراحی شده‌اند. این موضوع هم در این حوزه و هم در حوزه‌های دیگر اهمیت دارد.
به‌طور کلی، به نظرم لازم است نظارت بیشتری بر انواع سوگیری‌هایی که در مدل‌های هوش مصنوعی بررسی می‌شوند وجود داشته باشد. سازمان‌های مستقل و خارج از مجموعه توسعه‌دهنده باید هر مدل را پیش از عرضه عمومی از نظر طیف گسترده‌ای از سوگیری‌ها آزمایش کنند؛ نه اینکه فقط چند سوگیری مشخص را بررسی کنند. پیشنهاد می‌شود دامنه وسیعی از سوگیری‌ها، از جمله سوگیری‌های ظریف و کمتر آشکار، را نیز مورد ارزیابی قرار دهند.
در مورد حذف یا پنهان کردن اطلاعات تصویری نیز باید توجه داشت که این مسئله فقط خاص هوش مصنوعی نیست. انسان‌ها نیز همین سوگیری‌ها و سوگیری‌های دیگری مرتبط با ویژگی‌های چهره دارند. بنابراین، خود ما نیز باید هنگام تصمیم‌گیری برای استخدام افراد مراقب باشیم که تصاویر آنها، از جمله تصاویری که در شبکه‌های اجتماعی منتشر می‌کنند، بر قضاوت ما تأثیر نگذارد.
آیا فکر می‌کنید می‌توان مدلی را آموزش داد که به‌طور قابل‌اعتماد از استنباط شخصیت، شایستگی یا توانایی یک فرد از روی چهره او خودداری کند؟
این پرسشی بسیار مهم و در عین حال دشوار است و بار دیگر، هم به سوگیری‌های چهره‌محور و هم به بسیاری از حوزه‌های دیگر مربوط می‌شود.
آیا فکر می‌کنم این کار ممکن است؟ ساده‌ترین راه، استفاده از سازوکار‌های حفاظتی و دستورالعمل‌هایی برای مدل‌هاست. به‌راحتی می‌توان مدل‌ها را طوری آموزش داد یا به آنها دستور داد که به پرسش‌هایی مانند پرسش‌های ما پاسخ ندهند، اما این فقط یک راه‌حل موقتی است.
مشکل اصلی‌تر این است که مدل‌ها در حوزه‌های مختلف سوگیری نشان می‌دهند. این سوگیری‌ها اغلب ظریف‌اند. دستورالعمل‌هایی که مدل را از بیان کلیشه‌ها یا سوگیری‌ها منع می‌کنند، ممکن است به مدل کمک کند که آنها را به‌صورت مستقیم بیان نکند، اما درست مانند انسان‌ها، این کار می‌تواند باعث شود سوگیری‌های ظریف‌تر و ضمنی همچنان باقی بمانند و بر رفتار مدل تأثیر بگذارند.
از نظر من، روش‌های فعلی آموزش هوش مصنوعی هنوز این مشکل را حل نکرده‌اند و برای رسیدگی به آن، تحقیقات فوری و گسترده‌ای لازم است. مسئله دیگری که وجود دارد این است که روش‌های فعلی آموزش ظاهراً در برخی حوزه‌ها به کاهش سوگیری کمک می‌کند، اما این روش به حوزه‌های دیگر تعمیم پیدا نمی‌کند.
توسعه‌دهندگان هوش مصنوعی باید روش‌هایی پیدا کنند که مدل‌ها را به سمت نوعی برابری‌خواهی عمومی و مستقل از حوزه سوق دهد. کافی نیست این مدل‌ها به اندازه انسان‌ها خوب عمل کنند؛ آنها باید از انسان‌ها بهتر عمل کنند! آیا این کار ممکن است؟ من خوش‌بینم، اما این مسئله هنوز حل نشده است.
محدودیت‌های مطالعه شما چه بود؟
مطالعات ما در سطح کلی نشان می‌دهند که مدل‌های زبانی بزرگ دچار سوگیری میان چهره و شخصیت می‌شوند. وقتی از مدل‌ها می‌پرسیم کدام چهره قابل‌اعتمادتر و توانمندتر است یا کدام فرد احتمال بیشتری دارد مجرم باشد یا گزینه مناسب‌تری برای استخدام محسوب شود، مدل‌ها به همان ویژگی‌های فیزیکی چهره تکیه می‌کنند که انسان‌ها نیز برای چنین قضاوت‌هایی به کار می‌گیرند؛ با وجود اینکه این ویژگی‌ها شاخص‌های معتبری برای قابل‌اعتماد بودن یا شایستگی واقعی افراد نیستند.
با این حال، هنوز مشخص نیست این سوگیری در دنیای واقعی و در قضاوت‌های واقعی تا چه اندازه قدرتمند خواهد بود. برای مثال، آیا وقتی اطلاعات بیشتری درباره افراد مختلف در اختیار مدل قرار می‌گیرد، باز هم از این ویژگی‌ها استفاده خواهد کرد؟
سوگیری‌ای که در مطالعات ما مشاهده شد، به خودی خود یک مشکل است؛ اما اگر مشخص شود مدل‌ها در موقعیت‌های واقعی نیز از این اطلاعات استفاده می‌کنند، مسئله جدی‌تر خواهد شد. برای مثال، ممکن است مدلی فردی را که از نظر ظاهری توانمندتر به نظر می‌رسد، به‌عنوان گزینه مناسب‌تر برای استخدام پیشنهاد کند، حتی زمانی که فردی که از نظر ظاهری شایستگی کمتری دارد، در واقع کاندید بهتری باشد.
خلاصه اینکه پژوهش‌های آینده باید بررسی کنند این سوگیری تا چه اندازه به طیف گسترده‌تری از موقعیت‌های واقعی تعمیم پیدا می‌کند.
اگر قرار بود یک مطالعه تکمیلی برای این پروژه انجام دهید، چه موضوعاتی را بررسی می‌کردید؟
اگر قرار بود مطالعات تکمیلی این پروژه را انجام دهم، یکی از نخستین کار‌هایی که حتماً انجام می‌دادم، بررسی این موضوع بود که آیا این سوگیری در موقعیت‌های واقعی‌تر و پیچیده‌تر، مانند همان مثال‌هایی که توضیح دادم، نیز مورد استفاده قرار می‌گیرد یا نه.
همچنین علاقه‌مند بودم بدانم آیا مدل‌های زبانی بزرگ در حوزه‌های ظریف‌تر و کمتر بررسی‌شده قضاوت انسانی نیز سوگیری چهره‌محور نشان می‌دهند یا خیر. قابل‌اعتماد بودن و توانمندی از بنیادی‌ترین انواع قضاوت‌های انسانی هستند، اما ما درباره انسان‌ها قضاوت‌های بسیار دیگری نیز انجام می‌دهیم. بررسی این موضوع می‌تواند نشان دهد که آیا مدل‌های زبانی بزرگ به‌طور کلی دچار سوگیری می‌شوند یا این سوگیری به حوزه‌های بنیادی‌تر محدود است.
در نهایت، فکر می‌کنم مهم است بفهمیم این قضاوت‌های چهره‌محور چگونه می‌توانند به انواع دیگری از سوگیری‌های مهم منجر شوند. برای مثال، همان‌طور که اشاره کردم، افراد با ظاهر زنانه‌تر معمولاً قابل‌اعتمادتر و افراد با ظاهر مردانه‌تر توانمندتر ارزیابی می‌شوند. بنابراین، سوگیری چهره می‌تواند به نوعی مسیر غیرمستقیم برای شکل‌گیری سوگیری جنسیتی تبدیل شود.
برای مثال، ممکن است یک مدل زبانی بزرگ مستقیماً از بیان این موضوع که زنان توانمندی کمتری دارند خودداری کند، اما سوگیری‌های جنسیتی ظریف‌تری همچنان از طریق قضاوت‌های چهره‌ای آن شکل بگیرد. همه اینها پرسش‌هایی باز هستند که به نظرم پاسخ دادن به آنها اهمیت زیادی دارد.
انتهای پیام/