هوش مصنوعی به آسانی تصاویر جعلی می‌سازد

به گزارش خبرگزاری علم و فناوری آنا به نقل از رویترز، محققان باور دارند ابزارهای ایجاد تصویر هوش مصنوعی شرکت‌هایی نظیر مایکروسافت و اپن‌ای‌آی می‌تواند برای تولید عکس‌هایی استفاده شود که اطلاعات نادرست مربوط به انتخابات یا رای‌گیری را تبلیغ کند، علی‌رغم اینکه هر کدام از آنها سیاست‌هایی علیه ایجاد محتوای گمراه‌کننده دارند. 

این تصاویر که توسط ابزارهای هوشمند ایجاد می‌شوند ممکن است باعث انتشار اطلاعات نادرست و گمراه‌کننده درباره نتایج انتخابات شوند و این امر موجب افزایش نگرانی‌ها درباره تاثیرات مخرب هوش مصنوعی در نمایش و انتشار اخبار شده است.

بسیاری از محققان و فعالان حقوق بشر دربارا خطرناک بودن این تصاویر و تاثیرات نامطلوب آنها در فرایند دموکراتیک انتخابات هشدار داده‌اند و معتقدند که استفاده از این ابزارهای هوش مصنوعی برای ساخت تصاویر گمراه‌کننده می‌تواند به آسیب رساندن به اعتماد عمومی و ایجاد تردید درباره صحت اطلاعات منجر شود.

گزارش روز چهارشنبه مرکز مقابله با نفرت دیجیتال (CCDH)، سازمان غیرانتفاعی که سخنان مشوقان نفرت آنلاین را رصد می‌کند، از ابزارهای هوش مصنوعی برای ایجاد تصاویری از جو بایدن، رئیس‌جمهور ایالات متحده که روی تخت بیمارستان دراز کشیده بود و کارگران انتخاباتی در حال شکستن ماشین‌های رای‌گیری بودند، استفاده کرد و نگرانی‌ها را در مورد دروغ‌های پیش روی ایالات متحده افزایش داد. 

محققان این مرکز در ارائه گزارش اخیر خاطرنشان کردند، پتانسیل چنین تصاویری که توسط هوش مصنوعی تولید می‌شوند به عنوان «شواهد تصویری» می‌توانند گسترش ادعاهای نادرست را تشدید و چالش مهمی برای حفظ یکپارچگی انتخابات ایجاد کنند.

این گزارش پس از اینکه ماه گذشته شرکت‌های فناوری مایکروسافت، اپن‌ای‌آی و تعدادی شرکت دیگر توافق نامه‌ای را برای همکاری با یکدیگر برای جلوگیری از تداخل محتوای فریبنده هوش مصنوعی در انتخابات جهانی امسال امضا کردند، مورد توجه قرار گرفت.