افزایش ۸۰ برابری گزارش‌های سوءاستفاده از کودکان در «OpenAI»

به گزارش نشریه ویرد (WIRED) تعداد گزارش‌های مرتبط با سوءاستفاده و بهره‌کشی از کودکان در شش ماه نخست سال ۲۰۲۵ نسبت به مدت مشابه سال قبل ۸۰ برابر افزایش یافته است. این گزارش‌ها از طریق سامانه سایبرتایپ‌لاین (CyberTipline) ثبت می‌شود، نهادی که با مجوز کنگره آمریکا مسئول دریافت و بررسی موارد مربوط به محتوای سوءاستفاده از کودکان (CSAM) و دیگر اشکال بهره‌کشی است.

بر اساس قوانین ایالات متحده، شرکت‌های فناوری موظف‌اند هرگونه نشانه آشکار از سوءاستفاده از کودکان را به سایبرتایپ‌لاین گزارش دهند. پس از ثبت گزارش، مرکز (NCMEC) آن را بررسی کرده و در صورت لزوم برای پیگیری به نهاد‌های مجری قانون ارجاع می‌دهد. کارشناسان تاکید می‌کنند افزایش تعداد گزارش‌ها الزاما به معنای رشد جرائم نیست و می‌تواند ناشی از تغییر در سیاست‌های نظارتی، بهبود سیستم‌های تشخیص خودکار یا گسترش خدمات دیجیتال باشد.

آمار منتشرشده نشان می‌دهد اوپن‌ای‌آی در نیمه نخست سال ۲۰۲۵ حدود ۷۵ هزار گزارش درباره نزدیک به ۷۴ هزار و ۵۵۹ محتوای مشکوک ارسال کرده است. این در حالی است که در مدت مشابه سال ۲۰۲۴، تنها ۹۴۷ گزارش درباره ۳ هزار و ۲۵۲ محتوا ثبت شده بود؛ افزایشی چشمگیر که هم در تعداد گزارش‌ها و هم در حجم محتوای بررسی‌شده دیده می‌شود.

گبی ریلا (Gaby Raila)، سخنگوی اوپن‌ای‌آی، اعلام کرده این افزایش نتیجه سرمایه‌گذاری‌های انجام‌شده در اواخر سال ۲۰۲۴ برای ارتقای ظرفیت بررسی و رسیدگی به گزارش‌هاست؛ اقدامی که با هدف همگام‌سازی با رشد سریع کاربران انجام شده است. به گفته او، معرفی قابلیت‌های جدید مانند امکان آپلود تصویر و افزایش محبوبیت محصولات اوپن‌ای‌آی نیز در این روند نقش داشته است. نیک تورلی (Nick Turley)، معاون و رئیس چت‌جی‌پی‌تی (ChatGPT)، پیش‌تر اعلام کرده بود تعداد کاربران فعال هفتگی این اپلیکیشن نسبت به سال قبل چهار برابر شده است.

اوپن‌ای‌آی در ماه‌های اخیر مجموعه‌ای از ابزار‌های ایمنی جدید را معرفی کرده است. از جمله این اقدامات می‌توان به راه‌اندازی کنترل‌های والدین (Parental Controls) در چت‌جی‌پی‌تی اشاره کرد که به خانواده‌ها امکان می‌دهد دسترسی نوجوانان به قابلیت‌هایی مانند تولید تصویر، حالت صوتی و حافظه را محدود کنند. این شرکت همچنین اعلام کرده در صورت تشخیص نشانه‌های خودآزاری یا تهدید جدی برای جان کاربر، موضوع می‌تواند به والدین و در شرایط خاص به نهاد‌های مسئول اطلاع داده شود

اوپن‌ای‌آی اعلام کرده تمامی موارد مرتبط با محتوای سوءاستفاده جنسی از کودکان، اعم از آپلود یا درخواست تولید محتوا، به مرکز (NCMEC) گزارش می‌شود. این شرکت علاوه بر چت‌جی‌پی‌تی، دسترسی به مدل‌های خود را از طریق رابط برنامه‌نویسی کاربردی (API) نیز فراهم می‌کند. با این حال، آمار اخیر شامل گزارش‌های مربوط به ابزار تولید ویدئوی «سورا» (Sora) نیست، زیرا عرضه این محصول پس از بازه زمانی گزارش‌شده انجام شده است.

افزایش گزارش‌های اوپن‌ای‌آی هم‌زمان با روندی گسترده‌تر در کل صنعت هوش مصنوعی رخ داده است. بر اساس تحلیل (NCMEC)، گزارش‌های مرتبط با هوش مصنوعی مولد (Generative AI) بین سال‌های ۲۰۲۳ تا ۲۰۲۴ بیش از ۱۳۲۵ درصد رشد داشته است. هنوز آمار رسمی سال ۲۰۲۵ منتشر نشده و اگرچه برخی شرکت‌های بزرگ فناوری مانند گوگل (Google) آمار کلی گزارش‌های خود را اعلام می‌کنند، اما سهم دقیق محتوای مرتبط با هوش مصنوعی را مشخص نمی‌کنند.

این تحولات در شرایطی رخ می‌دهد که نظارت‌ها بر ایمنی کودکان در پلتفرم‌های هوش مصنوعی افزایش یافته است. تابستان امسال، دادستان‌های کل ۴۴ ایالت آمریکا (State Attorneys General) در نامه‌ای مشترک به چند شرکت فناوری از جمله اوپن‌ای‌آی، متا (Meta)، گوگل (Google) و کاراکتر.‌ای‌آی (Character.AI) هشدار دادند که برای مقابله با بهره‌کشی از کودکان در محصولات هوش مصنوعی از تمامی اختیارات قانونی خود استفاده خواهند کرد. همچنین شکایت‌هایی علیه برخی شرکت‌ها مطرح شده که مدعی‌اند چت‌بات‌ها در آسیب‌دیدن یا مرگ کودکان نقش داشته‌اند.

در همین راستا، اوپن‌ای‌آی در ماه‌های اخیر مجموعه‌ای از ابزار‌های ایمنی جدید را معرفی کرده است. از جمله این اقدامات می‌توان به راه‌اندازی کنترل‌های والدین (Parental Controls) در چت‌جی‌پی‌تی اشاره کرد که به خانواده‌ها امکان می‌دهد دسترسی نوجوانان به قابلیت‌هایی مانند تولید تصویر، حالت صوتی و حافظه را محدود کنند. این شرکت همچنین اعلام کرده در صورت تشخیص نشانه‌های خودآزاری یا تهدید جدی برای جان کاربر، موضوع می‌تواند به والدین و در شرایط خاص به نهاد‌های مسئول اطلاع داده شود.

اوپن‌ای‌آی همچنین در چارچوب توافق با وزارت دادگستری کالیفرنیا متعهد شده است اقدامات خود برای کاهش خطرات مرتبط با نوجوانان و سایر کاربران را ادامه دهد. این شرکت در ادامه نقشه راه ایمنی نوجوانان را منتشر کرده و تاکید کرده است شناسایی و گزارش محتوای سوءاستفاده از کودکان به نهاد‌های ذی‌ربط، از جمله (NCMEC)، به‌صورت مستمر در حال بهبود است.