تبعیض نژادی در دنیای تکنولوژی

گروه دانشگاه خبرگزاری آنا-هانا حیدری؛ 100 سال قبل تبعیض نژادی در بسیاری از کشورهای جهان شایع بود، حال این نوع تفکر کمتر مورد پذیرش جوامع است؛ اگرچه بشر هنوز راه طولانی برای از بین بردن کامل تفکرات نژادپرستانه دارد. در جهان امروزی با موقعیت عجیب‌وغریبی روبه‌رو هستیم که در آن ابزارها و گجت‌ها میان نژادهای مختلف تبعیض قائل می‌شوند.

برای مثال فناوری هوش مصنوعی چهره‌های افراد سیاه‌پوست را به درستی تشخیص نمی‌دهد. این امر باتوجه به گسترش روزافزون هوش مصنوعی در ابعاد مختلف زندگی بشر می‌تواند در آینده چالش‌های بسیاری را ایجاد کند.  واقعیت عجیب نژادپرستی در دنیای فناوری نیاز به بررسی دقیقی دارد تا مشخص شود که منبع این سوگیری ابزارها و گجت‌ها چیست.

نژادپرستی در ابزارهای فناورانه

نمونه‌های بسیاری از تبعیض نژادی تکنولوژی در صنایع مختلف پیدا می‌شود. نرم‌افزارها و محصولاتی که به صورت روزانه استفاده می‌کنیم در خصوص نژاد پیش‌داورانه تصمیم‌گیری می‌کنند. حتی لوازم بهداشتی ساده نیز سوگیری نژادی دارند، برا مثال شیرها و ظرف مایع دستشویی اتوماتیک قادر به تشخیص پوست‌های تیره‌رنگ نیستند. به نظر می‌رسد در هنگام طراحی و ساخت این محصولات بهداشتی رایج به پوست‌های تیره‌تر توجهی نشده است.

سوگیری نژادی در دوربین‌ها نیز به چشم می‌خورد. فیلم‌های رنگی مخصوص دوربین‌های خانگی به نحوی طراحی شده بودند که افراد سفیدپوست را زیباتر نشان دهند. همراه این دوربین‌ها کارت‌های درجه‌بندی معروفی  به نام کارت‌های شرلی وجود داشت که کیفیت تصاویر را تضمین می‌کرد. این کارت‌ها باعث می‌شد که تصاویر افراد با پوست‌های روشن جلوه زیباتری داشته باشد.

دوربین‌های امروزی نیز دست کمی از نمونه‌های قدیمی ندارند و حساسیت‌های نژادی در عملکرد آنها نیز دیده می‌شود. برای مثال برخی از دوربین‌های نیکون در هنگام عکسبرداری از افراد آسیایی خندان، پیام‌هایی از جمله «آیا کسی پلک زد؟» ارسال می‌کند. در واقع این پیام به چشمان بادامی و کشیده مردم برخی از کشورهای آسیایی‌ اشاره دارد. در این دوربین‌ها همچنین فیلتری برای جذابیت بیشتر وجود دارد که با فعال کردن آن، پوست افراد روشن‌تر می‌شود تا زیباتر به نظر برسند.

الگوریتم‌های نژادپرست

سوگیری نژادی تنها به دوربین‌ها و شیرآلات اتوماتیک ختم نمی‌شود. تبعیض نژادی در الگوریتم‌ها و هوش مصنوعی نیز رویت می‌شود. فیس‌بوک، یوتیوب و گوگل با استفاده از الگوریتم‌ها اطلاعات که کاربران می‌بینند را کنترل می‌کنند. این الگوریتم‌ها حباب فیلتری ایجاد می‌کنند.

این امر بدین معناست که کاربر بیشتر اطلاعاتی را می‌بیند که مطابق میل‌اش باشد و به ندرت با اطلاعاتی روبه‌رو می‌شود که برخلاف نظرش باشد. درواقع حباب فیلتری براساس رفتارهای آنلاین قبلی کاربر ایجاد می‌شود. بدین ترتیب احتمال ارائه محتوای افراطی  توسط الگوریتم‌ها به کاربران افزایش می‌یابد که این امر باعث ترویج دیدگاه‌های تبعیضی می‌شود.

خطوط قرمز یکی دیگر از مشکلات سوگیری نژادی در دنیای تکنولوژی است. در اپلیکیشن‌هایی مانند «پوکمن گو» یا الگوریتم‌های ارسال و دریافت مرسولات محله‌ها و مناطقی که تراکم جمعیتی اقلیت‌ها در آن زیاد است را به عنوان خطوط قرمز در نظر می‌گیرند که نمونه بارزی از تبعیض نژادی در فناوری‌های امروزی به شمار می‌رود.

وقتی هوش مصنوعی نژادپرست می‌شود

بارزترین و نگران‌کننده‌ترین سوگیری نژادی در هوش مصنوعی دیده می‌شود. باتوجه به گسترش این فناوری در تمام ابعاد زندگی بشر، تبعیض نژادی هوش مصنوعی می‌تواند باعث مشکلات بسیاری را در آینده ایجاد کند. سوگیری نژادی هوش مصنوعی در سیستم‌های تشخیص چهره به وضوح دیده می‌شود.

 سیستم‌های تشخیص چهره قادر به تشخیص صورت‌ افرادی که پوست‌های تیره‌تری دارند، نیست. وب‌کم‌ها نمی‌توانند صورت افراد غیرسفیدپوست را ردیابی کنند. ناگفته نماند یک بار هوش مصنوعی یک زوج آفریقایی آمریکایی را به عنوان «گوریل‌» برچسب‌گذاری کرده است. البته این تبعیض نژادی تنها در تشخیص چهره هوش مصنوعی نیست. به طور کلی یادگیری ماشینی استعداد شگرفی در بروز نتایج نژادپرستانه دارد.

نژادپرستی چگونه به دنیای فناوری راه یافته است؟

منشأ بسیاری از سوگیری‌های نژادی ابزارها، گجت‌ها و فناوری‌های امروزی بی‌توجهی انسان است. درواقع افرادی که این این ابزارها را می‌سازنند متهمان ردیف اول به شمار می‌رود. به نظر می‌رسد محققان و مهندسان در پروسه تربیت، کدنویسی و آموزش هوش مصنوعی فراموش می‌کنند که انسان‌هایی با رنگ پوست‌های تیره‌تر نیز در دنیا وجود دارند.

برای حل تبعیض نژادی در دنیای فناوری چه کاری باید انجام شود؟

گام اول در رفع سوگیری‌های نژادی ابزارها و فناوری‌ها آگاهی از وجود آن است. پژوهشگران و مهندسان در هنگام توسعه و تربیت هوش مصنوعی باید از پایگاه‌های اطلاعاتی وسیع‌تری استفاده کنند که شامل تمام نژادهای بشری از سیاه‌پوست و زردپوست گرفته تا سرخ‌پوست و سفیدپوست شود. رفع و حذف سوگیری‌های نژادی فعلی در دنیای فناوری می‌تواند مانع از وقوع چالش‌های نژادپرستانه در آینده شود.

انتهای پیام/4021/