از انفجار پنتاگون تا ریزش سهام آمریکا؛ وقتی هوش مصنوعی مردم را فریب می‌دهد!

خبرگزاری علم و فناوری آنا، گسترش اخبار جعلی چالش جدیدی نیست و از زمان‌های قدیم هم مرسوم بوده است، اما گسترش روزافزون پلتفرم‌های دیجیتال و رسانه‌های اجتماعی که امکان توزیع گسترده‌تر اطلاعات را به مخاطبان جهانی می‌دهد، نیاز به مقابله با اخبار جعلی را بسیار افزایش داده است. دلایل زیادی برای تبدیل  تهیه و انتشار اخبار جعلی به یک صنعت بزرگ وجود دارد. برای بسیاری از منتشرکنندگان اخبار جعلی، جلب توجه و تعداد بازدید اخبار از نظر مالی سودآوری دارد، برای این دسته از افراد وقتی کاربران به سمت سایت‌هایی که به تبلیغ‌کنندگان فروخته می‌شود، جذب شوند، کافی است.

اخبار جعلی همچنین می‌تواند راهی عالی برای فریب دادن قربانیان به منظور کلاهبرداری و سوءاستفاده‌های کلان مادی باشد. به این ترتیب، مجرمان قربانی را فریب می‌دهند تا اطلاعات مالی یا سایر اطلاعات حساس وی را به دست آورند. اخبار جعلی می‌تواند اثرات مخربی بر دموکراسی هم داشته باشد، اگر مردم نتوانند بین اینکه چه اطلاعاتی واقعی یا جعلی است و چه منابعی مشروع هستند یا خیر، تمایز قائل شوند؛ ممکن است با مشکل و چالش‌های بزرگی در این زمینه مواجه شوند.

**هوش مصنوعی و اخبار جعلی؛ از انفجار پنتاگون تا لزوم قانونگذاری در این حوزه

تحقیقات انجام گرفته از سوی موسسه «نیوزگارد» که به‌شکل تخصصی روی ردیابی اطلاعات غلط تمرکز دارد، دست کم ۵۰ وبسایت را شناسایی کرده است که محتویات آن‌ها محصول هوش مصنوعی است و متاسفانه به دور از هرگونه نظارت انسانی، اطلاعاتی جعلی را در اختیار کاربران قرار می‌دهند. مشکل اصلی این است که این گونه وبسایت‌ها، خود را به عنوان منابع خبری موثق جا می‌زنند و تظاهر می‌کنند که منبعی قابل اعتماد در بازار رسانه هستند.

در هفته‌های گذشته انتشار یک عکس جعلی از انفجار در پنتاگون که به‌احتمال بسیار زیاد با هوش مصنوعی ساخته شده بود، توجهات بسیاری از کاربران توئیتر را به‌ خود جلب کرد و همین وضعیت باعث شد بازار سهام آمریکا برای مدت کوتاهی سقوط کند.

پست خبر جعلی انفجار پنتاگون با سرعت بسیار زیادی در توئیتر پخش شد تا جایی‌که بر دنیای واقعی هم تأثیر گذاشت. به طوری که بازار سهام فقط در مدت چهار دقیقه ۰٫۲۶ درصد افت کرد. اگرچه بازار سهام خیلی سریع دوباره به‌حالت عادی بازگشت، اما این اتفاق نمونه‌ای واضح از تأثیرات مخرب انتشار اطلاعات نادرستی است که با هوش مصنوعی ایجاد شده‌اند.

 

 

با گسترش روزافزون پلتفرم‌های دیجیتال که امکان توزیع گسترده‌تر اطلاعات را به مخاطبان جهانی می‌دهد، نیاز به مقابله با اخبار جعلی بسیار افزایش یافته است

توئیتر بعد از مدتی متن پست جعلی انفجار پنتاگون را با توضیح زیر به‌روزرسانی کرد: «این توئیت براساس تصویر جعلی ساخته شده با هوش مصنوعی منتشر شده است.»

ازطرف دیگر بسیاری از حساب‌های کاربری توئیتر از جمله رسانه‌ دولتی روسیه که بیش‌ از 3 میلیون دنبال‌کننده دارد، پست جعلی انفجار پنتاگون را بازنشر کردند.

 

این حادثه نشان می‌دهد استفاده از ابزار‌های هوش مصنوعی کنونی می‌تواند عواقب بسیار جدی و مهمی به‌دنبال داشته باشد. با توجه به اینکه بررسی سطح قابلیت‌های این فناوری درحال حاضر در مراحل اولیه است، احتمالاً در آینده‌ نزدیک شاهد موارد استفاده‌ بسیار بیشتری شبیه به تصویر جعلی انفجار پنتاگون خواهیم بود. با این حساب؛ با روی کار آمدن فناوری‌های نوینی همچون هوش مصنوعی که این روز‌ها به بحث داغ روز هم تبدیل شده است، تصویب قوانین تازه‌ای برای جلوگیری از اخبار جعلی بیش از گذشته حس می‌شود. هر فناوری جدیدی امکانات تازه‌ای را با خود به همراه دارد، اما در این میان اگر تمهیدات لازم اتخاذ نشود و برای آسیب‌های احتمالی چاره‌ای در نظر گرفته نشود، صدمات جبران ناپذیری به جامعه وارد خواهد شد.

**سایه سنگین اخبار جعلی بر سرجهان

در سال ۲۰۱۷، یک کمیته پارلمانی در مصر، انتشار ۵۳ هزار شایعه نادرست را در مدت دو ماه شناسایی کرد. در آلمان، ۵۹ درصد از شرکت‌کنندگان در نظرسنجی‌ها اظهار کردند که با اخبار جعلی مواجه شده‌اند و در برخی از اقشار مردم این رقم به ۸۰ درصد رسیده است. در کنیا، کشوری که ۹۰ درصد از جمعیت آن به اینترنت پرسرعت دسترسی دارند، ۹۰ درصد از کاربران مورد بررسی گفتند که اطلاعات نادرست یا نادرستی در مورد انتخابات اخیر از طریق رسانه‌های اجتماعی دریافت کرده‌اند. با این وجود نیاز به تصویب قوانینی که به مبارزه با اخبار جعلی و فیک می‌پردازد در هر کشوری بیش از پیش حس می‌شود.

**کشورهای مختلف برای جلوگیری از گسترش اخبار جعلی چه قوانینی دارند؟

ترکیه: پارلمان ترکیه به تازگی قانونی را به تصویب رسانده که برای کاربران فضای مجازی و خبرنگارانی که اقدام به انتشار اخبار جعلی کنند سه سال حبس در نظر می‌گیرد. در این قانون تصریح شده چنان‌چه کاربران فضای مجازی یا شخصیت‌های حقیقی و حقوقی اقدام به انتشار اخبار جعلی‌ کنند که باعث تهدید امنیت عمومی یا سلامت کلی جامعه ترکیه شود و یا ایجاد هراس کند تحت تعقیب قرار گرفته و ممکن است تا سه سال به تحمل حبس محکوم شوند. قانون ترکیه همچنین تأکید کرده چنانچه فردی با حساب‌های ناشناس اقدام به انتشار اخبار جعلی کند مجازات وی افزایش خواهد یافت.

همچنین ترکیه اکتبر ۲۰۲۰ قانونی تصویب کرد که توئیتر، یوتیوب و فیسبوک را به مسدودسازی این شبکه‌ها در صورت امتناع از پایبندی به قوانین این کشور تهدید می‌کرد. این کشور نوامبر همان سال فیسبوک، اینستاگرام، توئیتر و یوتیوب را به دلیل امتناع از تعیین نماینده در آن کشور مبلغ یک میلیون یورو جریمه کرد.

 با روی کار آمدن فناوری‌های نوینی همچون هوش مصنوعی تصویب قوانین تازه‌ای برای جلوگیری از اخبار جعلی بیش از گذشته حس می‌شود

آرژانتین: در آرژانتین قانونی در حال بررسی است که کمیسیونی برای تأیید اخبار جعلی در اتاق ملی انتخابات ایجاد شود، در طول انتخابات ملی، کمیسیون اخباری را که مطمئن به اعتبار تلقی می‌شوند، تشخیص داده، برچسب‌گذاری می‌شود و از توزیع اخبار فیک جلوگیری می‌کند. بریتانیا و چین هم برنامه‌هایی برای رد سیستماتیک اخبار جعلی با انتشار اطلاعات موثق دارند، در این کشور، یک پلتفرم آنلاین دولتی به نام «رد شایعات» برای پخش اخبار واقعی که از سازمان‌های دولتی و رسانه‌های دولتی تهیه شده، راه‌اندازی شده است.

مالزی: در مالزی قانونی به تصویب رسیده که به موجب آن هر خبر، اطلاعات، داده یا گزارشی که کاملاً یا نسبتاً نادرست باشد، برای فرد یا سازمانی که آن را تولید کرده مشمول جریمه‌ تا بیش از ۱۲۸ هزار دلار و حبس تا حداکثر ۶ سال و یا هر دو مورد خواهد بود. از جمله دیگر اقدامات مالزی در این راستا این بوده که نمایندگان پارلمان برای تشریح مفاد قانون فوق دیدارهایی با نمایندگان شرکت‌هایی مانند فیسبوک و گوگل داشته‌اند.

بیشتر بخوانید:

مراقب ترویج اخبار جعلی از سوی هوش مصنوعی باشیم

شناسایی و دستگیری مدیران و اعضای موثر مخل امنیت و نظم عمومی جامعه

فرانسه: ژوئیه ۲۰۱۸،«امانوئل ماکرون»، رئیس‌جمهور فرانسه اعلام کرد که به زودی قانونی برای مبارزه با ترویج اخبار نادرست در خلال انتخابات ریاست‌جمهوری ارائه خواهد کرد. در آن قانون که در ماه نوامبر به تصویب رسید، خبر جعلی به این صورت تصویب شده است: «ادعاهای غیردقیق، تقطیع‌شده یا اخباری که در آن‌ها واقعیت‌ها به صورت نادرست گزارش شده‌اند تا سلامت آرا را زیر سوال ببرند.» این قانون به مقام‌ها اختیار می‌دهد محتواهای نادرست منتشرشده در فضای مجازی را حذف کرده و حتی سایت‌های منتشرکننده آن را مسدود کند.

در این قانون تصریح شده گروه‌های سیاسی، مقام‌های دولتی یا افراد می‌توانند شکایت خودشان را درباره نشر اکاذیب طرح کرده و قاضی موظف است ظرف حداکثر ۴۸ ساعت از زمان اخطار در خصوص آن عمل کند. از جمله دیگر مفاد این قانون این است که فیسبوک، توئیتر و یوتیوب موظف شده‌اند اسامی افرادی که محتواهای تحت حمایت مالی یا تبلیغات را خریداری می‌کنند را منتشر کند.

روسیه: مجموعه‌ای از قوانین در روسیه، انتشار اطلاعات غیرقابل استناد و نادرست را منع کرده و برای آن مجازات‌هایی در نظر گرفته‌اند. در دو قانون که مارس ۲۰۲۰ به تصویب رسیده، انتشار هر گونه اطلاعات نادرستی که باعث ایجاد نگرانی درباره سلامت شهروندان و اخلال در نظم و امنیت عمومی شود با ۳۰ هزار تا ۱۰۰ هزار روبل جریمه برای شهروندان عادی، ۶۰ هزار تا ۲۰۰ هزار روبل جریمه برای مقامات و ۲۰۰ هزار تا ۵۰۰ هزار روبل جریمه برای شرکت‌ها قابل جریمه است. چنان‌چه انتشار چنین اطلاعاتی به مرگ فردی ختم شود یا باعث آسیب به کسی یا لطمه به اموال عمومی شود، جریمه‌ها برای افراد عادی به ۴۰۰ هزار روبل، ۹۰۰ هزار روبل برای مقامات و ۱.۵ میلیون روبل برای شرکت‌ها افزایش خواهد یافت.

چین: چین سخت‌گیرانه‌ترین قوانین را در خصوص انتشار اخبار جعلی و غلط دارد. پکن در سال ۲۰۱۶، ایجاد یا ترویج هر گونه شایعه‌ای که باعث اخلال در نظم عمومی و اجتماعی شود را جرم‌انگاری کرد. در قانون دیگری که سال ۲۰۱۷ به تصویب رسید از پلتفرم‌های فضای مجازی خواسته شده فقط اخباری که در رسانه‌های ثبت‌شده مننشر شده‌اند را هم‌رسانی کنند. اوت ۲۰۱۸ مقام‌های چینی نرم‌افزاری راه‌اندازی کردند که به مردم اجازه می‌دهد اخبارهای جعلی احتمالی را گزارش دهند.

**ایران برای مقابله با اخبار جعلی چه کرده است؟