برچسب تولید محتوا با هوش مصنوعی؛ الزامی که مانع گمراهی مخاطب می‌شود
به گزارش خبرگزاری آنا، گسترش ابزار‌های هوش مصنوعی مولد، مرز میان محتوای واقعی و ساختگی را کمرنگ کرده است. اکنون می‌توان تصویر، صدا و ویدئویی تولید کرد که به‌سادگی با واقعیت اشتباه گرفته شود؛ مسئله‌ای که در حوزه خبر و رسانه، علاوه بر کاهش اعتماد عمومی، امکان جعل هویت اشخاص، انتشار اطلاعات نادرست و دستکاری افکار مخاطبان را فراهم می‌کند.
مقررات‌گذاری در این حوزه عمدتاً با سه هدف شکل گرفته است؛ آگاه‌سازی کاربران از منشأ محتوا، ایجاد امکان شناسایی فنی محتوای مصنوعی و تعیین مسئولیت تولیدکنندگان و سکو‌های انتشار. در واقع، برچسب‌گذاری قرار نیست مانع استفاده از هوش مصنوعی شود، بلکه باید به مخاطب کمک کند هنگام مواجهه با یک محتوای مصنوعی، آن را با محتوای واقعی اشتباه نگیرد.
اروپا؛ الزام به برچسب‌گذاری محتوای مصنوعی
اتحادیه اروپا در ماده ۵۰ قانون هوش مصنوعی، چارچوب مشخصی برای شفافیت محتوای تولیدشده یا دستکاری‌شده با هوش مصنوعی تعیین کرده است. این الزامات از ۲ اوت ۲۰۲۶ اجرایی شده‌اند و ارائه‌دهندگان سامانه‌های هوش مصنوعی مولد را ملزم می‌کنند خروجی‌های متنی، تصویری، صوتی و ویدئویی را تا حد امکان با نشانه‌های قابل شناسایی ماشینی مشخص کنند.
منتشرکنندگان یا بهره‌برداران محتوا در کنار این الزام فنی باید دیپ‌فیک‌ها را به‌صورت روشن به مخاطب معرفی کنند. همچنین متن تولیدشده یا دستکاری‌شده با هوش مصنوعی که برای اطلاع‌رسانی عمومی درباره موضوعات مورد توجه جامعه منتشر می‌شود، در صورت نداشتن بازبینی انسانی یا مسئولیت تحریریه، باید با اعلام مصنوعی بودن همراه باشد. آثار هنری، خلاقانه و طنزآمیز نیز از شیوه اطلاع‌رسانی متناسب با ماهیت اثر برخوردارند.
عدم رعایت این الزامات می‌تواند جریمه‌هایی تا ۱۵ میلیون یورو یا سه درصد گردش مالی سالانه جهانی شرکت را در پی داشته باشد؛ البته میزان جریمه با توجه به نوع تخلف و مقررات مربوط تعیین می‌شود.
کره جنوبی؛ اعلام استفاده از هوش مصنوعی و شناسایی دیپ‌فیک
کره جنوبی با تصویب قانون پایه توسعه هوش مصنوعی و ایجاد زیرساخت اعتماد، از ۲۲ ژانویه ۲۰۲۶ چارچوب الزام‌آوری برای شفافیت این فناوری برقرار کرده است. ماده ۳۱ این قانون، کسب‌وکار‌های هوش مصنوعی را موظف می‌کند پیش از ارائه محصولات یا خدمات مبتنی بر هوش مصنوعی مولد یا هوش مصنوعی با اثرگذاری بالا، این موضوع را به کاربران اطلاع دهند.
همچنین خروجی‌های تولیدشده با هوش مصنوعی باید برچسب داشته باشند و محتوای صوتی، تصویری و ویدئویی که تشخیص آن از واقعیت دشوار است، باید به‌گونه‌ای مشخص شود که کاربر از مصنوعی بودن آن آگاه شود. برای آثار هنری و خلاقانه، شیوه اعلام نباید مانع نمایش یا بهره‌مندی مخاطب از اثر شود.
بر اساس این قانون، برای برخی تخلفات از جمله خودداری از اطلاع‌رسانی پیشینی، جریمه اداری تا ۳۰ میلیون وون پیش‌بینی شده است. در موارد مربوط به برچسب‌گذاری نیز امکان بررسی تخلف و صدور دستور اصلاح یا توقف وجود دارد و بی‌اعتنایی به دستور اصلاح می‌تواند جریمه‌ای تا همین سقف به دنبال داشته باشد.
چین؛ مسئولیت مشترک تولیدکننده و سکوی انتشار
چین از اول سپتامبر ۲۰۲۵ مقررات اختصاصی برچسب‌گذاری محتوای تولید و ترکیب‌شده با هوش مصنوعی را اجرایی کرده است. این مقررات، متن، تصویر، صوت، ویدئو و محیط‌های مجازی را در بر می‌گیرد و دو نوع برچسب را پیش‌بینی می‌کند: برچسب آشکار برای اطلاع مستقیم مخاطب و برچسب پنهان در فراداده فایل برای شناسایی فنی منشأ محتوا.
بر اساس این چارچوب، ارائه‌دهندگان خدمات تولید محتوا باید نشانه‌های لازم را به خروجی‌ها اضافه کنند و اطلاعاتی مانند منشأ تولید و مشخصات ارائه‌دهنده را در فراداده ثبت کنند. سکو‌های انتشار نیز موظف‌اند برچسب‌های موجود در فایل‌ها را بررسی کنند، در موارد لازم هشدار قابل مشاهده به محتوای منتشرشده بیفزایند و امکان اعلام مصنوعی بودن محتوا را در اختیار کاربران قرار دهند. کاربران نیز هنگام انتشار محتوای تولیدشده با هوش مصنوعی باید آن را اعلام و از قابلیت برچسب‌گذاری سکو استفاده کنند.
این مقررات همچنین حذف، تغییر، جعل یا پنهان‌کردن عمدی برچسب‌ها را منع می‌کند. تخلفات از سوی نهاد‌های مسئول فضای مجازی، مخابرات، پلیس و رادیو و تلویزیون و بر اساس قوانین مرتبط پیگیری می‌شوند؛ بنابراین سکوی انتشار نمی‌تواند تمام مسئولیت شناسایی و اطلاع‌رسانی را به تولیدکننده یا کاربر واگذار کند.
آمریکا؛ قانون‌گذاری ایالتی و ابزار تشخیص منشأ محتوا
برخلاف اتحادیه اروپا، در آمریکا قانون فدرال جامعی برای الزام عمومی برچسب‌گذاری همه محتوای تولیدشده با هوش مصنوعی وجود ندارد؛ بااین‌حال، برخی ایالت‌ها مقررات مشخصی وضع کرده‌اند. کالیفرنیا از نمونه‌های مهم این رویکرد است. قانون شفافیت هوش مصنوعی این ایالت، شرکت‌های مشمول را به فراهم‌کردن ابزار رایگان تشخیص محتوای تولیدشده با سامانه‌های خود ملزم می‌کند و برای منشأ محتوای مصنوعی نیز الزامات فنی و اطلاعاتی در نظر گرفته است.
اهمیت این رویکرد در آن است که مخاطب صرفاً به ادعای منتشرکننده درباره واقعی یا مصنوعی بودن محتوا وابسته نمی‌ماند و می‌تواند از ابزار‌های تشخیص منشأ نیز استفاده کند. نقض مقررات کالیفرنیا می‌تواند با پیگیری مدنی از سوی مراجع صلاحیت‌دار ایالتی روبه‌رو شود. با این حال، دامنه و زمان اجرای الزامات به متن قوانین و اصلاحات ایالتی وابسته است و نباید آن را به تمام ایالت‌های آمریکا تعمیم داد.
جایگاه سند ساترا؛ حرکت به سمت شفافیت در رسانه‌های داخلی
اعلام شفاف استفاده از هوش مصنوعی یا محتوای مصنوعی به مخاطب در سند «مقررات هوش مصنوعی در رسانه» ساترا الزامی دانسته شده است. این قید صرفاً تولید کامل یک اثر با هوش مصنوعی را شامل نمی‌شود، بلکه استفاده از ابزار‌های بهسازی چهره، روتوش برخط، تغییر چهره، شبیه‌سازی صدا و تصویر و ساخت اجزای محتوای رسانه‌ای را نیز در بر می‌گیرد.
سند همچنین تولید اخبار جعلی و جعل عمیق با هدف فریب مخاطب را غیرمجاز می‌داند و بر ضرورت نظارت انسانی و پاسخگویی اپراتور تأکید می‌کند. این رویکرد با مقررات اروپا، کره جنوبی و چین در اصل آگاه‌سازی مخاطب هم‌جهت است؛ با این تفاوت که در نمونه‌های خارجی، برای اجرای الزام‌ها، وظایف فنی و اجرایی تولیدکنندگان، ارائه‌دهندگان خدمات و سکو‌های انتشار با جزئیات بیشتری مشخص شده است.
برای نمونه، در چین سکوی انتشار باید فراداده محتوا را بررسی کند و در صورت شناسایی محتوای مصنوعی، هشدار مناسب را در کنار آن نمایش دهد. در اتحادیه اروپا نیز مسئولیت فنی علامت‌گذاری خروجی‌ها از مسئولیت اعلام آشکار دیپ‌فیک و برخی متن‌های منتشرشده جدا شده است. چنین تفکیکی می‌تواند در تکمیل چارچوب پیشنهادی ساترا مؤثر باشد.
برچسب‌گذاری چه منافعی برای کاربران و سکو‌ها دارد؟
مهم‌ترین فایده برچسب‌گذاری، افزایش قدرت تشخیص مخاطب است. وقتی کاربر بداند یک تصویر، ویدئو یا خبر با هوش مصنوعی ساخته یا دستکاری شده، می‌تواند در ارزیابی اعتبار آن دقت بیشتری به خرج دهد و از بازنشر ناخواسته اطلاعات جعلی جلوگیری کند.
این سازوکار همچنین می‌تواند از حقوق شخصیتی افراد در برابر جعل چهره و صدا محافظت کند، امکان پیگیری منشأ محتوا را افزایش دهد و اعتماد عمومی به رسانه‌ها را تقویت کند. برای سکو‌های مجازی نیز وجود قواعد روشن، مزایایی مانند کاهش اختلافات حقوقی، افزایش اعتماد کاربران و ایجاد رویه مشخص برای مدیریت محتوای مصنوعی دارد.
خودداری از اجرای مقررات می‌تواند پیامد‌های جدی داشته باشد، از جریمه‌های مالی و دستور اصلاح یا توقف فعالیت گرفته تا محدودیت‌های نظارتی و پیگیری حقوقی، متناسب با قانون هر کشور. تجربه اتحادیه اروپا، کره جنوبی و چین نشان می‌دهد که مسئولیت شفاف‌سازی صرفاً بر دوش کاربر نیست و ارائه‌دهنده فناوری و سکوی انتشار نیز در این فرایند نقش دارند.
تجربه کشور‌های یاد شده نشان می‌دهد برچسب‌گذاری محتوای مصنوعی زمانی اثرگذار خواهد بود که سه حلقه به یکدیگر متصل شوند؛ تولیدکننده منشأ محتوا را ثبت کند، سکوی انتشار آن را شناسایی و به مخاطب اعلام کند و نهاد تنظیم‌گر نیز بر اجرای این مسئولیت‌ها نظارت داشته باشد. چنین الگویی می‌تواند ضمن حفظ فرصت‌های اقتصادی و خلاقانه هوش مصنوعی، مانع تبدیل این فناوری به ابزاری برای گمراه‌کردن مخاطبان شود.
انتهای پیام/