بات‌های اینترنتی ۷۶ درصد پاسخ‌های یک نظرسنجی را جعل کردند
به گزارش خبرگزاری آنا، به نقل از گاردین؛ پژوهشی تازه نشان می‌دهد بات‌های هوش مصنوعی در سال ۲۰۲۳ با ارسال ده‌ها هزار پاسخ خودکار، تلاش کردند بر نتیجه مشاوره عمومی دولت بریتانیا درباره قانون دخانیات و ویپ تاثیر بگذارند؛ اقدامی که در نهایت شناسایی شد و پاسخ‌های جعلی از فرایند تصمیم‌گیری کنار گذاشته شدند.
این پژوهش را نِیسون مانی، از دانشگاه ادینبرو، و آنا گیل‌مور، از دانشگاه بث، انجام داده‌اند. نتایج آن ۲۷ اکتبر ۲۰۲۶ در مجله علمی Tobacco Control منتشر شد. بررسی داده‌های وزارت بهداشت و مراقبت اجتماعی بریتانیا نشان می‌دهد از مجموع ۱۱۸ هزار و ۷۵۶ پاسخ دریافت‌شده به مشاوره سال ۲۰۲۳، تعداد ۹۰ هزار و ۸۳۵ پاسخ، معادل ۷۶ درصد، به بات‌ها نسبت داده شده است.
چگونه جعل بات‌های هوش مصنوعی لو رفت؟
مشاوره عمومی دولت بریتانیا با هدف بررسی پیشنهادهای مربوط به ایجاد نسل بدون دخانیات و محدودیت فروش محصولات ویپ برگزار شده بود. در میان پاسخ‌های خودکار شناسایی‌شده، تقریبا همه به یک پرسش مشخص مربوط می‌شدند؛ این پرسش درباره محدودیت فروش ویپ‌های یک‌بارمصرف که پاسخ‌های بات‌ها در آن با پیشنهاد ممنوعیت مخالفت می‌کردند.
وزارت بهداشت بریتانیا اعلام کرد این پاسخ‌ها بارها با متن‌های تکراری ارسال شده بودند و حجم بالایی از آن‌ها در فاصله زمانی کوتاه، از تعداد محدودی نشانی اینترنتی ثبت شده بود. همین الگوها به شناسایی فعالیت خودکار کمک کرد.
به گفته پژوهشگران، این حجم و جهت‌گیری یکسان پاسخ‌ها نشانه‌ای از یک کارزار هماهنگ بود؛ هرچند هویت عاملان و منشا تجاری آن مشخص نشده است. پژوهشگران با اشاره به سابقه تلاش شرکت‌های دخانیات برای تاثیرگذاری بر مشاوره‌های عمومی، احتمال ارتباط چنین روش‌هایی با منافع تجاری را مطرح کرده‌اند، اما شواهد موجود برای نسبت دادن این اقدام به یک شرکت یا گروه مشخص کافی نیست.
بات‌ها چگونه می‌توانند نظر عمومی را وارونه نشان دهند؟
مشاوره‌های عمومی یکی از راه‌های مشارکت شهروندان در تصمیم‌گیری‌های دولت هستند. مردم، سازمان‌ها و گروه‌های ذی‌نفع با ارسال نظر و پاسخ به پرسش‌ها، دیدگاه خود را درباره سیاست‌های پیشنهادی اعلام می‌کنند. دولت نیز از این داده‌ها در کنار شواهد کارشناسی برای بررسی و اصلاح تصمیم‌ها استفاده می‌کند؛ اما اگر یک گروه بتواند با ابزارهای خودکار هزاران پاسخ ثبت کند، شمار پاسخ‌ها دیگر نشان‌دهنده تعداد افراد واقعی یا گستردگی یک دیدگاه در جامعه نیست.
در این پرونده، پس از حذف پاسخ‌های بات‌ها، ۷۹/۶ درصد پاسخ‌های معتبر از محدودیت‌های پیشنهادی درباره ویپ‌های یک‌بارمصرف حمایت می‌کردند. این نتیجه نشان می‌دهد موج پاسخ‌های خودکار می‌توانست تصویری متفاوت از نظر شرکت‌کنندگان واقعی ایجاد کند.
واکنش دولت بریتانیا چه بود؟
وزارت بهداشت بریتانیا پاسخ‌های جعلی را شناسایی و از فرایند تصمیم‌گیری حذف کرد. دولت حزب کارگر که در سال ۲۰۲۴ لایحه را به ارث برده بود، در نهایت قانون دخانیات و ویپ را تصویب کرد؛ قانونی که ممنوعیت فروش و عرضه ویپ‌های یک‌بارمصرف را نیز دربر می‌گیرد.
با این حال، پژوهشگران هشدار می‌دهند موفقیت این مورد در شناسایی بات‌ها به معنای مصون بودن مشاوره‌های عمومی در آینده نیست. ابزارهای هوش مصنوعی می‌توانند پاسخ‌های متنوع‌تر و طبیعی‌تری تولید کنند و تشخیص پاسخ‌های خودکار از مشارکت واقعی شهروندان را دشوارتر سازند.
چالشی تازه برای مشارکت دیجیتال ایجاد شد
کارشناسان حوزه سلامت عمومی و سیاست دیجیتال معتقدند این اتفاق می‌تواند اعتماد به فرایندهای مشاوره عمومی را تضعیف کند. اگر مردم تصور کنند نتیجه چنین فرایندهایی با پاسخ‌های جعلی تغییر می‌کند، مشارکت واقعی آن‌ها نیز ممکن است کاهش یابد.
از سوی دیگر، افزایش محدودیت‌ها برای جلوگیری از فعالیت بات‌ها می‌تواند مشارکت شهروندان واقعی را دشوار کند. بنابراین دولت‌ها با چالش دوگانه شناسایی پاسخ‌های خودکار و حفظ دسترسی آسان مردم به فرایند تصمیم‌گیری روبه‌رو هستند.
وزارت بهداشت بریتانیا اعلام کرده است کنترل‌های آن در این پرونده مؤثر بوده و پاسخ‌های جعلی حذف شده‌اند. این وزارتخانه همچنین تأکید کرده که برای جلوگیری از مداخلات مشابه در مشاوره‌های آینده هوشیار خواهد ماند.
این پرونده نشان می‌دهد در عصر AI، جعل افکار عمومی دیگر به انتشار شایعه یا ساخت حساب‌های جعلی در شبکه‌های اجتماعی محدود نیست؛ حتی سازوکارهای رسمی مشارکت شهروندان نیز در معرض دست‌کاری قرار گرفته‌اند.
خطر اصلی فقط افزایش تعداد پاسخ‌های جعلی نیست، بلکه تبدیل یک اقلیت سازمان‌یافته به اکثریتی ظاهری است که می‌تواند بر برداشت سیاست‌گذاران از خواسته‌های جامعه اثر بگذارد. در چنین شرایطی، شمارش پاسخ‌ها به‌تنهایی معیار قابل اتکایی برای سنجش افکار عمومی نیست. دولت‌ها باید علاوه بر فراهم کردن امکان مشارکت گسترده، سازوکارهای شفاف و قابل ارزیابی برای تشخیص پاسخ‌های واقعی از فعالیت‌های خودکار داشته باشند؛ زیرا تصمیم‌گیری عمومی زمانی معنا دارد که صدای شهروندان واقعی، زیر موج داده‌های جعلی گم نشود.
انتهای پیام/