«جمنای» تعلیق شد/ گوگل در پی رفع اتهام سوگیری نژادی

به گزارش خبرگزاری علم و فناوری آنا به نقل ازپاپیولارساینس  گوگل پلتفرمِ آنلاینِ جمنای (Gemini) را به دلیل سوگیری نژادی در تصویرسازی‌ها متوقف کرد.

در این گزارش آمده است که جمنای با انتشار تصاویری از شخصیت‌های تاریخی مانند آلمان‌های نازی و وایکینگ‌ها در جنگ جهانی دوم و رنگین‌پوست کردن چهره آنها سبب خشم بسیاری از کاربران و واکنش گسترده آنها در شبکه اجتماعی اکس (توییتر سابق) شده است.

اقدام گوگل

گوگل در مواجهه با اتهامات سوگیری، این هفته مجبور شد مدل هوش مصنوعی مولد خود، یعنی بخش تولید تصویر جمنای را متوقف کند. این تعلیق موقت به دنبال واکنش شدید کاربرانی است که ادعا کردند این مدل بیش از حد بر تنوع قومی متمرکز بوده و دقت را قربانی سوگیری نژادی کرده است.

جمنای در تصاویر مورد اعتراض، چهره‌های سفیدپوستان نازی، جنگجویان وایکینگ و بنیان‌گذاران ایالات متحده آمریکا را با ویژگی‌های قومی و نژادی متفاوت با واقعیت ایجاد کرد.

بیانیه گوگل

گوگل در بیانیه‌ای که روز چهارشنبه منتشر شد، اعلام کرد که قابلیت‌های تولید تصویر جمنای «نتیجه مطلوبی نداشته است» و گوگل «در حال تلاش برای بهبود فوری این نوع تصاویر است». سپس گوگل در صبح روز پنجشنبه دسترسی به ابزار‌های تولید تصویر را به‌طورکلی به حالت تعلیق درآورد و گفت که به‌زودی نسخه جدیدی از این مدل را منتشر خواهد کرد.

پیشینه اعتراضات

مدل هوش مصنوعی جمنای از اوایل ماه فوریه رسماً آغاز به کار کرد و تصاویری که می‌ساخت از همان ابتدا با شکایت‌هایی همراه شد، اما این بار با انتشار تصاویری از افراد رنگین‌پوست و نسبت دادن آنها به شخصیت‌های تاریخی در جنگ جهانی دوم بحث‌وجدل‌ها بالا گرفت و کاربران شبکه اجتماعی اکس اسکرین‌شات‌هایی از این عکس‌ها را به اشتراک گذاشتند که به سوژه‌ای داغ و جنجالی تبدیل شد. 

واکنش منتقدان

این جنجال در شبکه اکس به‌سرعت توجه محافل راست‌گرای رسانه‌های اجتماعی را به خود جلب کرد و برخی از آن برای انتقاد از برابری در سیاست و تجارت آمریکا استفاده کردند و عده‌ای دیگر حتی گوگل را به ترویج تئوری توطئه و تلاش عمدی برای حذف چهره‌های تاریخی سفیدپوست از نتایج تصاویر جمنای متهم کردند.

توضیحات گوگل

گوگل به این جنجال پاسخ داده و بیان کرده است که تنوع شخصیت‌سازی توسط جمنای به‌طورکلی چیز خوبی است، زیرا همه مردم در سراسر جهان از آن استفاده می‌کنند. با این حال، مشخص نیست چرا جمنای تصاویر موردبحث را تولید کرده است. برخی از مفسران می‌گویند ممکن است گوگل درباره تعصبات قومی و نژادی بیش از حد وسواس به خرج داده باشد، درحالی‌که برخی دیگر به کمبود مهندسان و متخصصانی اشاره کرده اند که حضور و همکاری آنها برای رسیدگی به مسائل ظریف و حساس ازاین‌دست ضروری است.

دفاعیات مدیر ارشد محصولات جمنای

جک کراچیک (Jack Krawczyk)، مدیر ارشد محصولات جمنای، با انتشار پستی در حساب اکس خود از رویکرد گوگل دفاع کرد و نوشت: تولید تصاویر رنگین‌پوست نشان می‌دهد که مبنای کار در گوگل جهانی است و با اصول هوش مصنوعی مطابقت دارد. او در عین حال تصدیق کرد که تولید آن تصاویر تاریخی جنجال‌برانگیز، محتوای نادرستی داشته و این شرکت در تلاش است تا این مشکل را برطرف کند. 

بیانیه دوم گوگل

گوگل روز پنجشنبه بیانیه جداگانه‌ای منتشر کرد و گفت که قابلیت‌های تولید تصویر جمنای را متوقف می‌کند تا به «خطاها» و موارد نامتناسب ظاهری رسیدگی شود. این شرکت گفت که نسخه جدیدی از این مدل را «به زودی» دوباره عرضه خواهد کرد، اما تاریخ خاصی را اعلام نکرد. پاسخ گوگل متفاوت بوده است و نشان می‌دهد که سازندگان هوش مصنوعی باید بیشتر تلاش کنند تا مطمئن شوند محصولاتشان برای همه امن، منصفانه و فراگیر است.