نشانه‌گذاری تولیدات هوش مصنوعی برای مبارزه با اطلاعات نادرست

به گزارش خبرگزاری علم و فناوری آنا به نقل از انگجت، محققان می‌گویند که حذف واترمارک‌های فعلی هوش مصنوعی آسان است. واترمارک سنتی یک آرم یا الگوی قابل مشاهده است که می‌تواند روی هر چیزی از پول نقد تا تمبر پستی ظاهر شود و همه این‌ها برای جلوگیری از جعل است.

اما در زمینهٔ هوش مصنوعی، نشانه گذاری می‌تواند به رایانه اجازه دهد که نشان دهد متن یا تصویر با هوش مصنوعی تولید شده است یا خیر. هنر مولد، بستر مناسبی برای ایجاد جعلیات عمیق و سایر اطلاعات نادرست ایجاد می‌کند. بنابراین واترمارک‌ها می‌توانند با سوءاستفاده از محتوای تولید شده توسط هوش مصنوعی مبارزه کنند و حتی می‌توانند در برنامه‌های یادگیری ماشینی توسعه‌یافته توسط غول‌های فناوری مانند گوگل ادغام شوند.

دیگر بازیگران اصلی در این فضا، از «اوپن‌ای‌آی» (OpenAI) گرفته تا متا و آمازون، متعهد شده‌اند که فناوری واترمارکینگ را برای مبارزه با اطلاعات نادرست توسعه دهند. محققان علوم کامپیوتر در دانشگاه مریلند (UMD) این وظیفه را بر عهده گرفتند.

«سهیل فیضی»، استاد دانشگاه مریلند گفت که یافته‌های گروهش شک و تردید او را تأیید می‌کند که در حال حاضر هیچ برنامه واترمارکی معتبری وجود ندارد.

محققان به راحتی توانستند در طول آزمایش از روش‌های فعلی واترمارک فرار کنند و دریافتند که نشان‌های جعلی برای تصاویری که توسط هوش مصنوعی تولید نشده‌اند، آسان‌تر است.

اما فراتر از آزمایش آسان بودن گریز از واترمارک، یکی از گروه‌ها واترمارکی را ایجاد کرد که حذف آن از محتوا بدون به خطر انداختن کامل مالکیت معنوی غیرممکن است. این اپلیکیشن تشخیص سرقت محصولات را ممکن می‌سازد.

در یک تلاش مشترک تحقیقاتی مشابه بین دانشگاه کالیفرنیا، سانتا باربارا و دانشگاه کارنگی ملون، محققان دریافتند که از طریق حملات شبیه سازی شده، واترمارک‌ها به راحتی قابل حذف هستند.

این مطالعه تشخیص می‌دهد که دو روش متمایز برای حذف واترمارک از طریق این حملات وجود دارد؛ رویکرد‌های مخرب و سازنده. وقتی صحبت از حملات مخرب به میان می‌آید، بازیگران بد می‌توانند با واترمارک‌ها مانند بخشی از تصویر رفتار کنند. تغییر دادن مواردی مانند روشنایی، کنتراست یا استفاده از فشرده سازی یا حتی چرخش ساده یک تصویر می‌تواند واترمارک را حذف کند. با این حال، نکته اینجا است که اگرچه این روش‌ها از شر واترمارک خلاص می‌شوند، کیفیت تصویر را نیز به هم می‌زنند و آن را به طرز محسوسی بدتر می‌کنند.

در یک حمله سازنده، حذف واترمارک کمی حساس‌تر است و از تکنیک‌هایی قدیمی استفاده می‌کند. اگرچه واترمارکینگ محتوای تولید شده توسط هوش مصنوعی قبل از اینکه بتواند با موفقیت در آزمایش‌های شبیه‌سازی شده مشابه آزمایش‌های ارائه شده در این مطالعات تحقیقاتی پیمایش کند، باید بهبود یابد چرا که به راحتی می‌توان سناریویی را تصور کرد که در آن نشانه گذاری دیجیتال رقیبی علیه هکر‌ها باشد.

تا زمانی که یک استاندارد جدید ایجاد نشده باشد، فقط می‌توانیم در مورد تولید ابزار‌های جدیدی برای شناسایی هنر‌های مولد امیدوار باشیم. با توجه به اینکه انتخابات ریاست‌جمهوری ۲۰۲۴ در آمریکا به‌زودی در مرکز صحنه قرار می‌گیرد، محتوای تولید شده توسط هوش مصنوعی می‌تواند نقش بزرگی در تغییر افکار سیاسی با مواردی مانند تبلیغات جعلی عمیق ایفا کند.

دولت بایدن حتی به این موضوع اشاره کرده است که نگرانی‌های منطقی در مورد چگونگی استفاده از هوش مصنوعی برای اهداف مخرب، به‌ویژه در حوزه اطلاعات غلط وجود دارد.