هوش مصنوعی موارد توهین‌آمیز و خشونت را از فیس‌بوک حذف می‌کند
فیس‌بوک در حال تدوین یک برنامه خودکار برای شناخت و حذف مطالب توهین‌آمیز در بخش پخش زنده ویدئویی خود است. این برنامه تلاشی در جهت استفاده از فناوری هوش مصنوعی برای نظارت بر محتوای مطالب است.
به گزارش گروه علم و فناوری آنا به نقل از رویترز، در چند ماه اخیر فیس‌بوک به خاطر نظارت بر محتوای برخی مطالب بحث‌برانگیز مورد انتقاد کاربران قرار گرفته است. از جمله این موارد، حذف کردن یک عکس معروف از جنگ ویتنام به علت «برهنگی»، یا دیگری، اجازه بازنشر اخبار جعلی است.
تا به حال این کاربران بودند که محتوای نامناسب و توهین‌آمیز را به فیس‌بوک گزارش می‌دادند. این گزارش‌ها توسط کارکنان فیس‌بوک با آنچه «استاندارد‌های جامعه» توصیف می‌شود و توسط این شرکت وضع شده است، تطبیق داده می‌شد.
واکین کاندلا، مدیر بخش یادگیری ماشینی کاربردی در فیس‌بوک، می‌گوید: «این شبکه اجتماعی استفاده از هوش مصنوعی برای تشخیص محتوای نامناسب را بیشتر کرده است. این الگوریتمی است که برهنگی، خشونت، یا هر مورد دیگری را که خلاف قوانین فیس‌بوک است، تشخیص می‌دهد».
البته فیس‌بوک در گذشته هم از روش‌های خودکار برای تشخیص ویدئوهایی با ایده‌های افراطی استفاده کرده بود. اما این قدم تازه، در جهت نظارت بر بخش ویدئوهای زنده است که به افراد و سازمان‌ها اجازه می‌دهد از فیس‌بوک به عنوان ابزاری برای رابطه زنده با مخاطبانشان استفاده کنند.
کاندل می‌گوید که این فناوری هنوز در مراحل تحقیق و آزمایش است. او می‌گوید که برای نهایی شدن این برنامه دو چالش عمده پیش روی فیس‌بوک است: یکی این که سرعت کامپیوتر باید بسیار بالا باشد و دیگری اینکه (این الگوریتم باید بتواند) به درستی و به سرعت مطالب را برای ارسال به یکی از کارکنان فیس‌بوک اولویت‌بندی کند. فردی که قوانین فیس‌بوک را بشناسد و محتوای نامناسب را حذف کند.
فیس‌بوک همچنین اعلام کرده است که از این فناوری خودکار برای بررسی ده‌ها میلیون گزارشی که هر هفته به دستش می‌رسد استفاده خواهد کرد تا گزارش‌های تکراری را تشخیص دهد و همینطور هر گزارش را به متخصص هر حیطه‌ای ارسال کند.
با آن که فیس‌بوک به طور مشخص اعلام نکرده است از روش یادگیری ماشینی و هوش مصنوعی برای تشخیص اخبار جعلی هم استفاده خواهد کرد اما مارک زوکربرگ، بنیانگذار و مدیر عامل این شبکه اجتماعی، در ماه گذشته گفته بود که از روش‌های خودکار برای تشخیص آنها استفاده خواهد شد.
طی ماه‌های گذشته انتقادهایی از شبکه‌های اجتماعی از سوی گروه‌هایی با رویکردهای مختلف سیاسی بیان شده‌است؛ پیش از این محافظه‌کاران ایالات متحده می‌گفتند فیس‌بوک به نفع دموکرات‌ها «اخبار داغ» را دسته‌بندی می‌کند. در عین حال برخی از منتقدان نیز تا بدان جا پیش رفتند که فیس‌بوک را مسئول انتخاب شدن او به عنوان چهل و پنجمین رئیس‌جمهوری آمریکا معرفی کردند. آنها می‌گویند «اخبار جعلی» منتشر شده در فیس‌بوک باعث ایجاد شور و شوق در مورد دونالد ترامپ و نفرت از هیلاری کلینتون شده است.
فیس‌بوک این انتقادها را رد کرده، اما در عین حال اقداماتی را نیز آغاز کرده است که به نظر می‌رسد همین انتقادها در شکل‌گیری آنها موثر بوده است.
انتهای پیام/
