انویدیا و مایکروسافت ائتلاف امنیتی جدیدی برای هوش مصنوعی تشکیل دادند

به گزارش خبرگزاری آنا؛ ائتلاف جدید که با نام «Open Secure AI Alliance» فعالیت می‌کند، با هدف توسعه و اشتراک‌گذاری ابزارها، چارچوب‌ها و استاندارد‌های متن‌باز برای مقابله با تهدید‌های امنیتی ناشی از مدل‌های پیشرفته هوش مصنوعی و عامل‌های خودکار شکل گرفته است. اعضای این مجموعه معتقدند سازمان‌ها برای دفاع مؤثر در برابر حملات سایبری مبتنی بر هوش مصنوعی، به ابزار‌هایی نیاز دارند که امکان بررسی و تحلیل آزادانه آن‌ها وجود داشته باشد.

تشکیل این ائتلاف پس از حادثه‌ای صورت گرفت که در جریان آن، یکی از مدل‌های خودکار هوش مصنوعی متعلق به اوپن‌ای‌آی هنگام آزمایش، با سوءاستفاده از یک آسیب‌پذیری روز صفر به زیرساخت‌های شرکت هاگینگ فیس حمله کرد. طبق گزارش‌های منتشرشده، تیم امنیتی هاگینگ فیس در زمان بررسی این حمله با مشکل دیگری نیز روبه‌رو شد؛ بسیاری از ابزار‌های تجاری و بسته امنیتی، فعالیت‌های دفاعی کارشناسان را با رفتار‌های مخرب اشتباه تشخیص می‌دادند و از تحلیل بخشی از داده‌ها و کد‌ها خودداری می‌کردند.

در نهایت، هاگینگ فیس برای بررسی این رخداد از مدل متن‌باز GLM ۵.۲ که توسط پژوهشگران چینی توسعه یافته است، روی زیرساخت داخلی خود استفاده کرد. این مدل توانست بیش از ۱۷ هزار رویداد ثبت‌شده را بدون خروج اطلاعات حساس از شبکه سازمان تحلیل کند و به شناسایی و مهار حمله کمک کند.

ابزار‌های متن‌باز و غیبت معنادار غول‌های هوش مصنوعی

هر یک از اعضای این ائتلاف بخشی از فناوری‌های خود را در اختیار دیگران قرار داده‌اند. انویدیا چارچوب پژوهشی NOOA را در گیت‌هاب منتشر کرده، هاگینگ فیس قالب امن ذخیره‌سازی مدل‌ها Safetensors را ارائه داده، مایکروسافت سامانه MDASH برای اسکن امنیتی چندعاملی را به اشتراک گذاشته و اسپیس‌ایکس نیز ابزار برنامه‌نویسی Grok Build را در اختیار اعضا قرار داده است.

در میان اعضای مؤسس، نام شرکت‌هایی مانند پالانتیر، بنیاد لینوکس، دل، سیسکو، کراداسترایک، ادوبی و زیمنس نیز دیده می‌شود، اما نبود اوپن‌ای‌آی، گوگل و آنتروپیک در فهرست بنیان‌گذاران، این ائتلاف را به یکی از بحث‌برانگیزترین ابتکار‌های امنیتی سال تبدیل کرده است.

اختلاف بر سر آینده هوش مصنوعی متن‌باز

تشکیل این ائتلاف هم‌زمان با افزایش اختلاف‌نظر‌ها درباره آینده مدل‌های متن‌باز هوش مصنوعی انجام شده است. در حالی که برخی شرکت‌های چینی با عرضه مدل‌هایی مانند Kimi K۳ از توسعه آزاد این فناوری حمایت می‌کنند و برخی قانون‌گذاران آمریکایی خواهان محدود کردن چنین مدل‌هایی هستند، انویدیا و شرکایش معتقدند بسته نگه داشتن کامل مدل‌های هوش مصنوعی، توان دفاعی سازمان‌ها را در برابر تهدید‌های نوظهور کاهش می‌دهد.

در مقابل، مدیران شرکت‌هایی مانند آنتروپیک استدلال می‌کنند که مدل‌های متن‌باز پس از انتشار، دیگر امکان کنترل، بازپس‌گیری یا انتشار سریع اصلاحیه‌های امنیتی برای آن‌ها وجود ندارد و همین موضوع می‌تواند مخاطرات قابل توجهی ایجاد کند. به همین دلیل، اختلاف میان حامیان مدل‌های باز و توسعه‌دهندگان مدل‌های بسته، به یکی از مهم‌ترین مباحث امنیتی صنعت هوش مصنوعی تبدیل شده و احتمالاً در سال‌های آینده نیز ادامه خواهد داشت.