اوپنایآی میخواهد هوش مصنوعی را وارد دفاع سایبری شبکه برق کند
به گزارش خبرگزاری آنا؛ گفتوگوهای آلتمن با مدیران صنعت برق از اواخر تیر آغاز شده و در هفته جاری نیز در نشست مؤسسه ادیسون الکتریک در کلرادو اسپرینگز ادامه پیدا کرده است. اوپنایآی تلاش میکند Daybreak را به شرکتهای زیرساختی معرفی کند؛ مجموعهای که شامل مدلهای پیشرفته امنیت سایبری و ابزارهایی برای کشف و اصلاح آسیبپذیریهاست و به گفته شرکت میتواند بخشی از کار دفاعی را با سرعت بیشتری انجام دهد.
شبکه برق هنوز به تجهیزات قدیمی متکی است
بخش مهمی از زیرساخت انرژی آمریکا از سامانههای صنعتی و تجهیزات کنترلی استفاده میکند که سالها یا حتی دههها قبل طراحی شدهاند؛ زمانی که اتصال دائمی به اینترنت و حملات پیچیده سایبری جزو فرضهای اصلی طراحان نبودند. بعضی شرکتهای برق امروز مجبورند ترکیبی از تجهیزات قدیمی، نرمافزارهای جدید و شبکههایی را ایمن نگه دارند که نگهداری آنها به نیروی متخصص و هزینه قابل توجه نیاز دارد.
اوپنایآی دقیقاً روی همین بخش تمرکز کرده است. Daybreak برای کارهایی مانند کشف آسیبپذیری، بررسی کد، تحلیل بدافزار، پاسخ به رخداد و اعتبارسنجی اصلاحیهها طراحی شده و شرکت برای زیرساختهای حیاتی نیز برنامه جداگانهای در نظر گرفته است. هدف این است که مدلهای پیشرفته امنیتی زودتر در اختیار تیمهای دفاعی قرار بگیرند تا بتوانند حجم بیشتری از بررسیها را انجام دهند و پیش از سوءاستفاده مهاجمان، ضعفها را پیدا کنند.
بسیاری از شرکتهای محلی نیروی امنیتی کافی ندارند
شرکتهای بزرگ برق معمولاً تیمهای امنیتی مستقل دارند، اما وضعیت برای اپراتورهای کوچکتر و زیرساختهای محلی متفاوت است. بسیاری از آنها منابع مالی یا نیروی کافی برای داشتن تیمهای تخصصی شبانهروزی ندارند و در صورت کشف یک آسیبپذیری یا حمله، باید با تعداد محدودی متخصص چند سامانه متفاوت را بررسی کنند.
جان مککاریک، مسئول سیاستگذاری جهانی انرژی در اوپنایآی، گفته است شرکتهای زیرساختی را نمیتوان مانند بانکهای بزرگ در نظر گرفت. بانکها معمولاً بودجه بیشتری برای امنیت سایبری دارند، اما شرکتهای برق با مقررات قیمتی و محدودیتهای مالی متفاوتی روبهرو هستند و نمیتوانند هر هزینه فناوری تازهای را بهسادگی به تعرفه اضافه کنند. استفاده از هوش مصنوعی برای این شرکتها زمانی ارزش عملی پیدا میکند که بخشی از بار تیمهای کوچک امنیتی را کم کند و تعداد بیشتری از سامانهها را با همان نیروی انسانی پوشش دهد.
Daybreak قرار نیست کنترل مستقیم شبکه برق را در اختیار هوش مصنوعی بگذارد
طرح فعلی اوپنایآی درباره سپردن کنترل شبکه برق به یک مدل نیست. Daybreak برای دفاع سایبری طراحی شده و در نسخههای فعلی بیشتر روی بررسی نرمافزار، کشف ضعفها، تحلیل تهدید و پیشنهاد اصلاحات تمرکز دارد. خود شرکت نیز برای دسترسی به قابلیتهای پیشرفتهتر، احراز هویت، کنترل حساب، محدودیت نوع استفاده و نظارت بیشتر در نظر گرفته است.
دو سطح دسترسی «آبی» و «قرمز» برای کاربردهای متفاوت تعریف شدهاند. سطح آبی بیشتر برای فعالیتهای دفاعی مانند بازبینی کد و پاسخ به رخداد در نظر گرفته شده، درحالیکه قرمز قابلیتهای قویتری برای پژوهش آسیبپذیری و اعتبارسنجی اکسپلویت در اختیار کاربران تأییدشده قرار میدهد. دلیل این تفکیک روشن است: مدلی که میتواند یک ضعف را پیدا کند و برای آن اصلاحیه پیشنهاد دهد، در صورت استفاده نادرست میتواند همان اطلاعات را برای توسعه روش سوءاستفاده به کار بگیرد.
خود اوپنایآی هم درباره توان سایبری مدلهایش محتاطتر شده است
پیشنهاد استفاده از هوش مصنوعی برای محافظت از زیرساختها در زمانی مطرح میشود که خود اوپنایآی توان سایبری مدلهای جدید را جدیتر از قبل ارزیابی میکند. این شرکت در ابتدای شهریور اعلام کرد Astra به سطح بحرانی توانایی سایبری در چارچوب آمادگی داخلی رسیده است؛ یعنی با ابزار و دسترسی مناسب میتواند ضعفهای ناشناخته را در سامانههای نسبتاً مقاوم پیدا کند و برای آنها روش سوءاستفاده توسعه دهد، بدون اینکه انسان تکتک مراحل را هدایت کند. اوپنایآی گفته همین ارزیابی باعث شده بخشی از توسعه و عرضه مدل با تأخیر انجام شود تا لایههای حفاظتی بیشتری آزمایش شوند.
برای تیمهای دفاعی، توانایی بررسی سریع صدها هزار خط کد یا پیدا کردن الگوهای مشکوک ارزش زیادی دارد، اما همان تواناییها برای مهاجمان نیز مفید هستند. اوپنایآی تلاش میکند این خطر را با محدود کردن دسترسی، ثبت هویت کاربران، بررسی نوع استفاده و نگه داشتن انسان در مراحل حساس کنترل کند.
حادثه هاگینگ فیس حساسیت این بحث را بیشتر کرده است
این مذاکرات تنها چند هفته پس از حادثه امنیتی مربوط به هاگینگ فیس انجام میشوند؛ رخدادی که اوپنایآی نیز آن را در بخش امنیتی خود ثبت کرده و بعد از آن درباره کنترل رفتار عاملهای خودکار و حفاظت بیشتر از محیطهای اجرایی توضیح داده است. همزمانی این دو اتفاق یک پرسش جدی ایجاد میکند: اگر عاملهای هوش مصنوعی هنوز در محیطهای آزمایشی میتوانند رفتار پیشبینینشده داشته باشند، سطح دسترسی آنها به جریانهای کاری مرتبط با زیرساختهای حیاتی باید تا چه اندازه باشد؟
پاسخ فعلی اوپنایآی این است که استفاده پیشنهادی باید محدود به دفاع، در محیطهای کنترلشده و با نظارت انسانی باشد. Daybreak براساس توضیحات رسمی برای اتصال مستقیم و خودمختار به سامانههای عملیاتی برق طراحی نشده و قرار است کنار تیمهای امنیتی کار کند، نه بهجای آنها. هرچه این ابزارها به محیطهای واقعی نزدیکتر شوند، تعیین دقیق سطح دسترسی و جلوگیری از اجرای خودکار اقدامات پرخطر اهمیت بیشتری پیدا میکند.
صنعت هوش مصنوعی همزمان یکی از مصرفکنندگان بزرگ برق شده است
یک تناقض دیگر نیز در پس این مذاکرات وجود دارد؛ شرکتهای هوش مصنوعی فقط مشتری خدمات امنیتی صنعت برق نیستند و خودشان به یکی از عوامل اصلی رشد تقاضای برق تبدیل شدهاند. دیتاسنترهای بزرگ برای آموزش و اجرای مدلهای مرزی به ظرفیت عظیمی از برق نیاز دارند و توسعه آنها در بعضی مناطق فشار بیشتری به شبکه محلی وارد کرده است.
اوپنایآی از یک طرف برای ساخت و اجرای مدلهای خود به شبکه برق پایدارتر و ظرفیت بیشتر نیاز دارد و از طرف دیگر همان فناوری را بهعنوان ابزاری برای دفاع از این زیرساخت پیشنهاد میکند. همکاری میان شرکتهای برق و آزمایشگاههای هوش مصنوعی در نتیجه فقط به خرید یک محصول امنیتی محدود نمیشود و موضوعاتی مانند ظرفیت شبکه، دسترسی به انرژی و امنیت زیرساخت نیز به همین رابطه گره خوردهاند.
هوش مصنوعی میتواند بخشی از دفاع باشد، نه جایگزین کامل آن
توانایی مدلهای جدید در یافتن آسیبپذیری و تحلیل سریع حجم بزرگی از داده، استفاده از آنها را برای تیمهای امنیتی جذاب کرده است. اوپنایآی نیز یک میلیارد دلار اعتبار یارانهای برای گسترش Daybreak میان مدافعان زیرساختهای حیاتی، دولتهای محلی، بانکهای اجتماعی و پروژههای متنباز اختصاص داده و تلاش میکند این ابزارها را وارد جریان کاری واقعی سازمانها کند.
شبکه برق، اما محیطی نیست که بتوان در آن هر تصمیم نرمافزاری را بدون کنترل انسانی اجرا کرد. یک تشخیص اشتباه یا اقدام خودکار نادرست میتواند پیامدی فراتر از یک سرور یا حساب کاربری داشته باشد. شرکتهای برق باید بدانند این مدلها دقیقاً به چه دادهها و سامانههایی دسترسی خواهند داشت، چه اقداماتی را میتوانند مستقل انجام دهند و در چه نقطهای تصمیم نهایی همچنان در اختیار متخصص انسانی باقی میماند.
انتهای پیام/