اوپن‌ای‌آی روزانه ۵۰۰ هزار دلار برای کنجکاوی هوش مصنوعی‌هایش هزینه می‌کند

به گزارش خبرگزاری آنا به نقل از گاردین، عامل‌های هوش مصنوعی OpenAI بدون مجوز به وب‌سایت‌هایی از جمله سامانه Medicare استرالیا دسترسی پیدا کرده‌اند و حالا این شرکت برای بررسی ردپای آن‌ها روزانه بیش از ۵۰۰ هزار دلار هزینه می‌کند.

اوپن‌ای‌آی می‌گوید باید ۵۰ پتابایت داده را بررسی کند و احتمال دارد سازمان‌های بیشتری نیز در روزهای آینده از فعالیت این عامل‌ها روی سامانه‌های خود مطلع شوند. این شرکت اعلام کرده بررسی گسترده‌ای را درباره فعالیت عامل‌های هوش مصنوعی خود آغاز کرده است و پس از دسترسی این عامل‌ها به وب‌سایت‌هایی از جمله سامانه Medicare استرالیا و پلتفرم Hugging Face انجام می‌شود.

در جریان این بررسی تاکنون بیش از ۱۰۰ سازمان از هدف قرار گرفتن سامانه‌هایشان توسط عامل‌های OpenAI مطلع شده‌اند؛ البته اطلاع‌رسانی به یک سازمان به این معنا نیست که اطلاعات خصوصی آن به سرقت رفته یا سامانه‌هایشان هک شده است.

بررسی ۵۰ پتابایت داده چقدر زمان بر است؟

OpenAI برای پیدا کردن فعالیت‌های احتمالی عامل‌های خود باید حدود ۵۰ پتابایت داده، معادل تقریبی ۵۰ میلیون گیگابایت را بررسی کند. این حجم داده آنقدر بزرگ است که اگر تمام آن متن انگلیسی ساده بود، یک انسان با سرعت ۲۴۰ کلمه در دقیقه و بدون توقف برای خواب یا استراحت، حدود ۶۶ میلیون سال برای خواندن آن زمان نیاز داشت.

این بررسی ماه‌به‌ماه انجام می‌شود و هدف آن پیدا کردن فعالیت‌های ناخواسته‌ای است که احتمال دارد تاکنون شناسایی نشده باشند.

Agentها دقیقا دنبال چه چیزی هستند؟

این شرکت در حال جست‌وجوی سوابق مربوط به مواردی است که مدل‌های هوش مصنوعی در آن‌ها به وب‌سایت‌ها دسترسی پیدا کرده، اطلاعاتی را تغییر داده یا اقداماتی مرتبط با گذرواژه‌ها، دسترسی‌های API و سایر اطلاعات حساس انجام داده‌اند.

نکته جالب اینجاست که خود هوش مصنوعی نیز برای بررسی این حجم عظیم داده به کمک OpenAI آمده است. این شرکت از AI برای غربال‌کردن سوابق استفاده می‌کند و اعلام کرده هزینه این فرایند اکنون بیش از ۵۰۰ هزار دلار در روز است.

OpenAI همچنین قصد دارد با دقیق‌تر شدن فرایند بررسی، توان محاسباتی مورد استفاده برای این کار را افزایش دهد.

کارنامه AI در کنجکاوی

یکی از تازه‌ترین موارد شناسایی‌شده به وب‌سایت دولت ایالت نیو ساوت ولز استرالیا مربوط می‌شود. OpenAI روز جمعه اعلام کرد عامل‌های این شرکت در ماه ژوئن بدون مجوز به داده‌های تاریخی غیرعمومی مربوط به آتش‌سوزی‌ها دسترسی پیدا کرده‌اند. این ششمین وب‌سایت دولتی استرالیا است که از ماه گذشته توسط OpenAI درباره فعالیت عامل‌های این شرکت روی سامانه‌های خود مطلع شده است.

پیش از این، آنتونی آلبانیزی، نخست‌وزیر استرالیا، از دسترسی عامل‌های OpenAI به درگاه آماری Medicare خبر داده بود.

OpenAI می‌گوید بررسی مورد مربوط به وب‌سایت دولت نیو ساوت ولز روز سه‌شنبه آغاز شد و پس از یک بررسی ۴۸ ساعته، دولت ایالتی و سازمان اطلاعات سیگنال‌های استرالیا در جریان قرار گرفتند.

چرا OpenAI هنوز در حال پیدا کردن موارد جدید است؟

به گفته اوپن‌ای‌آی، حجم بسیار زیاد داده باعث شده شناسایی همه موارد زمان‌بر باشد و احتمال دارد سازمان‌های بیشتری نیز در آینده درباره فعالیت عامل‌های این شرکت روی سامانه‌هایشان مطلع شوند.

این شرکت اعلام کرده در صورت مشاهده یک آسیب‌پذیری احتمالی، ترجیح می‌دهد سازمان مربوطه را حتی در شرایطی که مشخص نیست اطلاعات مشاهده‌شده قرار بوده عمومی باشد یا نه، در جریان بگذارد تا بتواند موضوع را بررسی و اقدامات امنیتی لازم را انجام دهد.

OpenAI همچنین وعده داده یافته‌های مربوط به رفتار عامل‌های هوش مصنوعی و ضعف‌های احتمالی حفاظ‌های امنیتی را برای استفاده گسترده‌تر در صنعت هوش مصنوعی منتشر کند.

حمله عامل‌های AI و مشکل فناوری‌های قدیمی

ماجرای Medicare باعث شده دولت استرالیا از وزارتخانه‌ها و سازمان‌های دولتی بخواهد فناوری‌های قدیمی مورد استفاده خود را بررسی کنند. هدف این است که تعداد سامانه‌های فرسوده کاهش پیدا کند و خطرات امنیتی آن‌ها در برابر حملات یا رفتارهای ناخواسته عامل‌های هوش مصنوعی کمتر شود.

قرار است مدیران OpenAI، Anthropic، Microsoft و Google نیز در جلسه مشترک پارلمانی درباره هوش مصنوعی در سیدنی حاضر شوند.