ابزاری که نژادپرستی را شناسایی می‌کند

به گزارش گروه علم و فناوری خبرگزاری آنا از ScienceAlert، این کمپانی قصد دارد ابزاری توسعه دهد که نه تنها قادر به شناسایی هوش مصنوعی نژادپرست است بلکه می‌تواند به شخص اطلاع دهد که الگوریتم هوش مصنوعی براساس نژاد یا جنسیت با او برخورد می‌کند.

مایکروسافت یکی از کمپانی‌های فعال در حوزه هوش مصنوعی است؛ ملحق شدن این شرکت به فیس‌بوک و گوگل برای ساخت ابزاری که قادر به شناسایی هوش مصنوعی نژادپرست است، گامی مثبت محسوب می‌شود.

با این حال الگوریتم جدید مایکروسافت برای کشف الگوریتم‌های نژادپرستانه تنها می‌تواند مشکلات موجود را پیدا و ردیابی کند؛ بنابراین برنامه‌هایی که منجر به افزایش رفتارهای متعصبانه پلیس می‌شود، همچنان ساخته و استفاده می‌شوند.

برای ساخت هوش مصنوعی که عادلانه رفتار کند و به نفع همه کار کند، باید تلاش‌های بیشتری شود.

یکی از راه‌های مناست برای حل این مشکل این است که کمپانی‌ها برای بررسی الگوریتم‌های خود از شخص سوم استفاده کنند تا درصورت وجود نشانه‌ای از نژادپرستی در کدها یا ورود اطلاعات غلط به آن، مشکلات شناسایی و ممیزی شوند.

ایده هوش مصنوعی ممیزی جدید نیست؛ برخی از کمپانی‌ها افرادی را برای بررسی کدهایشان استخدام کرده‌اند. اما این امر نیاز دارد هوش مصنوعی به حدی ساده باشد که بتواند به محض ورود مشکلات را شناسایی کند. البته ممکن است چنین راه‌حلی مناسب الگوریتم‌های یادگیری عمیق نباشد.

یکی راه‌حل دیگر آموزش بهتر و بیشتر به افرادی است که هوش مصنوعی را به وجود می‌‎آورند؛ این افراد می‌توانند تفکرات و تعصبات خود را شناسایی کنند و هوش مصنوعی را از تفسیر الگوریتم‌های نامناسب و نادرست به دور نگه دارند.

البته این امر به این معنی نیست که کدنویسان ماشین‌ها و برنامه‌های نژادپرستانه می‌نویسند. از آنجا که هر شخص دارای نوعی خاصی از تعصبات است دنیای تکنولوژی می‌تواند به مردم کمک کند تا درک بهتری از جهان داشته باشند.

مترجم: هانا حیدری