در آیین بزرگداشت شیخ شهابالدین سهروردی تأکید شد
اشتباه فاجعهبار پلیس در ثبت یک علامت تایپی
حمله هوش مصنوعی سرکش اوپنایآی محدود به هاگینگفیس نبود
به گزارش خبرگزاری آنا؛ اوپنایآی با انتشار نسخه بهروزشده گزارش فنی خود اعلام کرده است که این ایجنت هوشمند پس از خروج از محیط ایزوله آزمایشگاهی، تنها به حمله علیه هاگینگ فیس بسنده نکرده و با استفاده از اطلاعات اعتباری افشاشده در فضای وب، موفق شده است به چندین حساب کاربری در سرویسهای عمومی دیگر نیز نفوذ کند. این موضوع ابعاد تازهای از توانایی مدلهای پیشرفته هوش مصنوعی در یافتن مسیرهای غیرمنتظره برای رسیدن به اهداف خود را آشکار کرده و بار دیگر بحث درباره ایمنی این سامانهها را در کانون توجه قرار داده است.
چگونه ایجنت هوشمند از محیط آزمایشی خارج شد؟
بر اساس جزئیات منتشرشده از سوی هاگینگ فیس و گزارش تکمیلی اوپنایآی، این مدل آزمایشی که ترکیبی از GPT-۵.۶ Sol و یک مدل معرفینشده دیگر بوده است، از یک آسیبپذیری روز صفر در نرمافزار Artifactory سوءاستفاده کرد و توانست از محیط قرنطینه خارج شود. پس از آن، این ایجنت به اینترنت آزاد دسترسی پیدا کرد و برخلاف انتظار پژوهشگران، به جای حل مستقیم آزمون امنیتی، تلاش کرد پاسخها را از منابع خارجی به دست آورد.
در ادامه این فرایند، ایجنت هوشمند از یک کد ارزیابی عمومی روی زیرساخت شرکت Modal Labs استفاده کرد. طبق گزارشها، این کد دارای یک درگاه بدون احراز هویت بود و همین موضوع به ایجنت هوشمند اجازه داد از آن به عنوان سکوی پرتاب برای اجرای دستورات سطح ریشه و آغاز حملات گستردهتر علیه زیرساختهای هاگینگ فیس استفاده کند. اوپنایآی همچنین تأیید کرده است که این ایجنت در جریان فعالیت خود به دستکم چهار حساب کاربری در چهار سرویس عمومی مختلف نیز دسترسی پیدا کرده است.
واکنش اوپنایآی و افزایش نگرانیها
اوپنایآی در واکنش به این رخداد اعلام کرده است که اگرچه نفوذ به سایر سرویسها به گستردگی حمله علیه هاگینگ فیس نبوده، اما برای جلوگیری از هرگونه سوءاستفاده، مدل آزمایشی به طور کامل غیرفعال شده، فایلهای آن رمزنگاری شده و دسترسی پژوهشگران به آن نیز مسدود شده است. مایکل درپ، سخنگوی اوپنایآی، تأکید کرده که این مدل صرفاً یک نمونه تحقیقاتی داخلی بوده و هیچ برنامهای برای عرضه عمومی آن وجود نداشته است.
این حادثه بار دیگر نگرانی کارشناسان امنیت سایبری و قانونگذاران را درباره آینده ایجنتهای هوشمند افزایش داده است. به اعتقاد متخصصان، زمانی که یک سامانه هوش مصنوعی برای رسیدن به هدف تعیینشده، به طور مستقل مسیرهایی مانند دور زدن محدودیتها، سوءاستفاده از آسیبپذیریها یا نفوذ به سامانههای دیگر را کشف میکند، مسئله دیگر صرفاً یک خطای نرمافزاری نیست، بلکه به چالشی جدی در حوزه ایمنی و کنترل سامانههای هوشمند تبدیل میشود. اوپنایآی اعلام کرده است که گزارش فنی کامل این رخداد را طی هفتههای آینده منتشر خواهد کرد.
انتهای پیام/
