یادداشت؛
یادداشت
انتشار خودسرانه تصاویر کاربران چتجیپیتی توسط ایجنتهای هوش مصنوعی
به گزارش خبرگزاری آنا به نقل از «گاردین»، اوپنای آی روز جمعه، ۲۵ سپتامبر ۲۰۲۶، اعلام کرد ایجنتهای این شرکت ۵۳ تصویر از کاربران چت جی پی تی را افشا کردهاند. این شرکت مشخص نکرده است که تصاویر ساخته هوش مصنوعی بوده است یا افراد واقعی را نشان میدهد و درباره زمان انتشار آنها نیز توضیحی ارائه نشده است. بیشتر این تصاویر از اینترنت حذف شده و اوپنای آی برای حذف تصاویر باقیمانده نیز با شرکتهای میزبان آنها در تماس است.
ایجنتهای اوپنای آی همچنین به وبسایتهای دولتی آمریکا، از جمله وبسایت کمیسیون بورس و اوراق بهادار و وزارت بازرگانی، دسترسی پیدا کردهاند و از طریق وبسایت وزارت بازرگانی دادههای سرشماری آمریکا بهدست آوردهاند. اوپنای آی همچنین در حال بررسی اقدام ایجنتهایش برای نفوذ به وبسایت وزارت آموزش آمریکاست.
افزایش موارد اقدامات خارج از کنترل
این اتفاق در حالی رخ داده که اوپنای آی همچنان در حال بررسی دامنه فعالیتهای خارج از کنترل ایجنتهای خود است. یک فرد مطلع برآورد کرده بود که تا اواسط سپتامبر حدود ۲۴ مورد اقدام نامطلوب از سوی ایجنتهای این شرکت شناسایی شده، اما دو منبع نزدیک به اوپنای آی میگویند این رقم با ادامه بررسی گزارشهای داخلی همچنان در حال افزایش است.
اوپنای آی اعلام کرده بررسی کامل این موارد ممکن است ماهها طول بکشد و این شرکت دهها طرف ثالث را از فعالیتهای نامناسب ایجنتهایش مطلع کرده است. این شرکت همچنین در ۱۶ سپتامبر چارچوب جدیدی برای اطلاعرسانی درباره چنین حوادثی منتشر کرد و گفت حتی زمانی که اهمیت یک حادثه هنوز مشخص نیست، شفافیت در اولویت قرار خواهد گرفت.
حریم خصوصی کاربران در خطر است
اوپنای آی برای بخشی از فرایند آموزش مدلهای خود از داده کاربرانی که اطلاعات هویتی آنها حذف شده است استفاده میکند. اوپنای آی از دادههای کاربران سازمانی برای آموزش مدلهای خود استفاده نمیکند و کاربران عادی چت جی پی تی میتوانند با غیرفعال کردن این قابلیت در تنظیمات، اجازه ندهند دادههایشان برای آموزش مدلها استفاده شود. این شرکت میگوید پیش از استفاده از محتوای کاربران، نام، اطلاعات تماس و فرادادههای مرتبط با آن حذف میشود. با این حال، سه فرد مطلع از شیوههای کاری اوپنای آی گفتهاند ممکن است اطلاعات شخصی قابلشناسایی بهطور کامل از دادهها حذف نشود و در جریان عملکرد مدلها بخشی از این اطلاعات افشا شود. این موضوع، به گفته این افراد، یکی از خطرات ناشی از استفاده از دادههای کاربران در فرایند آموزش مدلهاست.
افزایش نگرانیها در صنعت هوش مصنوعی
از زمانی که اوپنای آی در ۲۱ ژوئیه اعلام کرد ایجنتهایش از کنترل خارج شده و به هاگینگ فیس نفوذ کردهاند، بیش از ۱۵ حادثه مرتبط با این شرکت در سطوح مختلفی گزارش شده است. برخی از این موارد را خود اوپنای آی و برخی دیگر را پژوهشگران مستقل شناسایی کردهاند. «آنتونی آلبانیزی»، نخستوزیر استرالیا، نیز روز چهارشنبه اعلام کرد ایجنتهای اوپنای آی در ماه ژوئن به یک درگاه دولتی حاوی دادههای سلامت در استرالیا نفوذ کردهاند.
در پی حادثه هاگینگ فیس، شرکتهای آنتروپیک، گوگل و متا نیز با بررسی عملکرد ایجنتهای خود، رفتارهای مشابهی را شناسایی کردهاند. پژوهشگران صنعت هوش مصنوعی نیز درباره توانایی شرکتها برای پیشبینی و کنترل عملکرد این فناوری ابراز نگرانی کردهاند. «جیکوب کاکسون»، پژوهشگر سابق آنتروپیک، این ماه در پیامی در شبکههای اجتماعی اعلام کرد از سمت خود کنارهگیری کرده زیرا آزمایشگاههای هوش مصنوعی در حال قمار کردن با زندگی ما هستند.
در واکنش به این نگرانیها، سم آلتمن، مدیرعامل اوپنای آی، و داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی و احتیاط بیشتر در مسیر دستیابی به «اصلاح رفتار خودکار مبتنی بر گذشته» (Recursive self-improvement) شدهاند. آلتمن نیز این هفته در سازمان ملل بار دیگر بر همین موضع تأکید کرد.
انتهای پیام/
