هنرمندان سیاه‌پوست می‌گویند که هوش مصنوعی نسبت به آن‌ها سوگیری دارد

به گزارش خبرنگار فرهنگ و جامعه خبرگزاری علم و فناوری آنا، استفانی دینکینزِ هنرمند مدت‌هاست که یکی از طلایه‌داران ترکیب هنر و فناوری در فعالیت‌های هنری خود محسوب می‌شود. در ماه می موزه گوگنهایم به خاطر نوآوری‌های بی‌سابقه‌اش از جمله یک سری مصاحبه‌های ادامه‌دار با «بینا 48» (Bina48)، یک ربات انسان‌نما، صدهزار دلار به او جایزه داد.

در طول هفت سال گذشته، او با استفاده از توانایی هوش مصنوعی سعی کرده تا تصویری واقعی از زنان سیاه‌پوست در حال گریستن یا خندیدن ترسیم کند. نتایج اولیه فاجعه‌بار بودند. الگوریتم او یک تصویر انسان‌نمای صورتی‌رنگ با یک شنل سیاه تولید می کرد.

او در گفت‌وگو با نیویورک تایمز گفت: من انتظار چیزی با کمی شباهت بیشتر به زنان سیاه‌پوست را داشتم. و اگرچه فناوری هوش مصنوعی از زمان اولین آزمایش‌های او پیشرفت زیادی کرده است، اما دینکینز هنوز هم نتوانسته است به نتیجه مطلوبش دست پیدا کند.

او می‌گوید: من از هر کلمه‌ای برای تولید تصویر مورد نظرم استفاده می‌کردم، کلماتی مانند زن آفریقایی امریکایی، زن سیاه‌پوست.... باز هم دستگاه ملغمه‌ای از اجزای صورت به هم ریخته و بافت موهای رایج به من می‌داد و قادر نبود یک تصویر واضح به من بدهد.

پیشرفت‌ها باعث می‌شوند که ما برخی سوالات عمیق‌تر درباره تبعیض را نپرسیم. این هنرمند که خود سیاه‌پوست است می‌گوید: سوگیری‌ها در عمق این سیستم‌ها رخنه کرده‌اند، برای همین دستگاه به صورت خودکار آنها را اعمال می‌کند. اگر من در سیستمی کار کنم که از اکوسیستم‌های الگوریتمیک استفاده می‌کند، بنابراین از آن سیستم می‌خواهم انسان‌های سیاه‌پوست را با جزئیات فراوان بشناسد، تا ما بتوانیم احساس کنیم که از حمایت بیشتری بهره می‌بریم.

او می‌گوید: سیاه‌پوست‌ها به نادیده گرفته شدن عادت کرده‌اند و وقتی هم دیده می‌شویم از ما تفسیر نادرستی می‌شود. به نظر می‌رسد برای اصلاح این فناوری باید تاریخ را پاک کرد تا از سوگیری به کار رفته در این فناوری کاسته شود. اما مگر می‌شود تاریخ را پاک کرد؟ به نظر من این پاک کردن به اندازه هر سوگیری می‌تواند خطرناک باشد، چون ما داریم فراموش می‌کنیم که چگونه به اینجا رسیدیم.