نقص امنیتی هوش مصنوعی میوز متا اطلاعات محرمانه هزاران کاربر را در معرض افشا قرار داد

به گزارش خبرگزاری آنا؛ گروهی از پژوهشگران شرکت امنیت سایبری Claroc موفق شده‌اند با استفاده از یک جست‌وجوی ساده در سوابق عمومی اینترنت، بیش از ۶۸۰۰ لینک مربوط به مکالمات اشتراک‌گذاری‌شده در سرویس هوش مصنوعی میوز را شناسایی کنند. بررسی چندصد مورد از این لینک‌ها مشخص کرده که بعضی از مکالمات حاوی اطلاعات حساس مالی، اسناد داخلی شرکت‌ها، جزئیات حساب‌های بانکی و برنامه‌های کاری محرمانه بوده‌اند. مشکل اصلی به نحوه ساخت آدرس‌های اینترنتی در این سرویس مربوط می‌شود که برخلاف تصور کاربران، پیدا کردن لینک‌های اشتراکی را حتی برای افرادی که مستقیماً آن‌ها را دریافت نکرده‌اند، امکان‌پذیر می‌کرد. این اتفاق نگرانی‌های تازه‌ای درباره امنیت ایجنت‌های هوش مصنوعی ایجاد کرده است؛ ابزار‌هایی که برای انجام وظایف روزمره به اطلاعات شخصی و دسترسی گسترده به حساب‌های کاربران نیاز دارند.

تنها یک جست‌و‌جو برای پیدا کردن هزاران مکالمه کافی بود

قابلیت اشتراک‌گذاری مکالمات در میوز مشابه بسیاری از چت‌بات‌های هوش مصنوعی طراحی شده است. کاربران می‌توانند پس از انجام یک گفت‌و‌گو، لینک اختصاصی آن را ایجاد کنند و برای افراد دیگر بفرستند تا محتوای مکالمه از طریق مرورگر قابل مشاهده باشد. معمولاً چنین لینک‌هایی شامل رشته‌ای طولانی و تصادفی از حروف و اعداد هستند که حدس زدن آن‌ها را دشوار می‌کند. انتظار کاربران نیز این است که تنها افرادی که لینک را در اختیار دارند، بتوانند محتوای آن را مشاهده کنند.

با این حال پژوهشگران متوجه شده‌اند میوز هنگام ساخت لینک اشتراکی، عنوان مکالمه را به همراه یک شناسه تصادفی در بخش زیردامنه آدرس اینترنتی قرار می‌دهد. این انتخاب فنی باعث می‌شود آدرس‌ها در سامانه‌های ثبت اطلاعات دامنه در اینترنت قابل شناسایی باشند. برخلاف مسیر‌های معمول یک آدرس اینترنتی که در سوابق سامانه نام دامنه ثبت نمی‌شوند، زیردامنه‌ها ممکن است هنگام مراجعه کاربران به صفحات در پایگاه‌های اطلاعاتی ثبت شوند و امکان جست‌وجوی آن‌ها وجود داشته باشد.

پژوهشگران با بررسی سوابق ذخیره‌شده سامانه نام دامنه یا DNS توانستند هزاران آدرس مربوط به مکالمات میوز را پیدا کنند. تمام این لینک‌ها از دامنه cf.metaaiusercontent.com استفاده می‌کردند و عنوان هر گفت‌و‌گو نیز بخشی از زیردامنه را تشکیل می‌داد. در نتیجه، پژوهشگران حتی پیش از باز کردن صفحات می‌توانستند تا حدودی محتوای آن‌ها را از روی عنوان تشخیص دهند. این روش نیازی به شکستن رمز عبور، نفوذ به سرور‌های متا یا حدس زدن شناسه‌های طولانی نداشت و اطلاعات از طریق سرویس‌های جست‌وجوی عمومی و تجاری قابل دستیابی بودند.

شرکت امنیتی Claroc این شیوه افشای اطلاعات را GhostShares نام‌گذاری کرده است. منظور از این اصطلاح، صفحاتی هستند که کاربران برای اشتراک‌گذاری با افراد مشخص ایجاد کرده‌اند، اما اشخاص دیگر نیز بدون دریافت مستقیم لینک می‌توانند آن‌ها را پیدا و باز کنند.

اطلاعات مالی، اسناد محرمانه و برنامه کارکنان در میان مکالمات پیدا شد

پژوهشگران پس از شناسایی بیش از ۶۸۰۰ لینک، چندصد مورد از آن‌ها را بررسی کردند و به اطلاعاتی دست یافتند که ظاهراً برای انتشار عمومی در نظر گرفته نشده بودند. یکی از این موارد شامل یادداشت‌های فردی بود که خود را برای یک گفت‌وگوی محرمانه استخدامی با یکی از شرکت‌های پیشرفته هوش مصنوعی آماده می‌کرد. در این یادداشت‌ها، نام فرد رابط در شرکت و زمان دقیق ملاقات نیز ثبت شده بود.

در نمونه دیگری، اسناد مربوط به بررسی درآمد‌های داخلی یک شرکت بازاریابی مشاهده شد که برای مدیرعامل آن تهیه شده بود. درخواست وام یکی از صاحبان کسب‌وکار‌های کوچک همراه با مبلغ درخواستی، گزارشی درباره عملکرد مالی سرمایه‌گذاری در املاک و فهرستی از کار‌های روزانه که شامل هشدار تقلب بانکی و بخشی از شماره حساب می‌شد، از دیگر اطلاعات شناسایی‌شده بودند. پژوهشگران همچنین به تقویم مرخصی یک‌ساله کارکنان یک مجموعه دسترسی پیدا کردند که نام ده‌ها نفر و زمان غیبت آن‌ها را در بر می‌گرفت.

نکته مهم آن است که شناسایی ۶۸۰۰ لینک به معنای افشای اطلاعات محرمانه در تمام این مکالمات نیست. پژوهشگران تنها بخشی از لینک‌ها را بررسی کرده‌اند و بسیاری از صفحات حاوی اطلاعات عادی و غیرحساس بوده‌اند. با این حال وجود اسناد شخصی و سازمانی در میان نمونه‌های بررسی‌شده، اهمیت مشکل را افزایش می‌دهد؛ زیرا چنین اطلاعاتی می‌توانند برای کلاهبرداری، جعل هویت یا حملات مهندسی اجتماعی مورد سوءاستفاده قرار گیرند.

متا قابلیت اشتراک‌گذاری مکالمات را متوقف کرد

پس از مطرح شدن یافته‌های پژوهشگران، متا اعلام کرد قابلیت اشتراک‌گذاری مکالمات میوز را تا زمان بررسی بیشتر غیرفعال کرده است. این شرکت توضیح داده که کاربران پیش‌تر می‌توانستند بخش‌های مشخصی از فعالیت‌های خود در میوز را از طریق لینک در اختیار دیگران قرار دهند و صفحات ایجادشده برای افرادی که لینک را داشتند، قابل مشاهده بودند. با این حال متا پذیرفته که نحوه قابل کشف بودن این لینک‌ها باید بررسی شود و ممکن است تغییراتی در طراحی آن‌ها اعمال کند.

آساف اپروزپر، از بنیان‌گذاران و مدیر فناوری شرکت Claroc، اعلام کرده یافته‌های تیم خود را از طریق برنامه گزارش آسیب‌پذیری متا در ۱۶ مهر به این شرکت اطلاع داده است. او همچنین تلاش کرده از طریق لینکدین با کارکنان متا ارتباط برقرار کند، اما تا زمان مطرح شدن موضوع در رسانه‌ها پاسخی دریافت نکرده بود.

هنوز مشخص نیست چه تعداد از لینک‌های شناسایی‌شده پیش از غیرفعال شدن قابلیت اشتراک‌گذاری توسط اشخاص ناشناس مشاهده شده‌اند. همچنین اطلاعاتی درباره سوءاستفاده عملی از اسناد محرمانه منتشر نشده است. با این حال توقف قابلیت موردنظر می‌تواند از ادامه دسترسی به صفحات اشتراکی از طریق همان سازوکار جلوگیری کند.

نگرانی‌ها درباره امنیت ایجنت‌های هوش مصنوعی افزایش یافته است

میوز یکی از محصولات جدید متا در حوزه ایجنت‌های هوش مصنوعی است که می‌تواند فراتر از پاسخ دادن به پرسش‌ها، فعالیت‌های مختلفی را به نمایندگی از کاربر انجام دهد. تکمیل فرم‌های اینترنتی، رزرو قرار ملاقات، انجام خرید‌های آنلاین، تهیه اسناد و مدیریت بعضی فعالیت‌های روزمره از قابلیت‌های معرفی‌شده این سرویس هستند. برای انجام چنین وظایفی، کاربران معمولاً باید مجوز دسترسی به حساب‌های کاربری، پیام‌ها، اطلاعات مالی یا برنامه‌های شخصی خود را در اختیار ایجنت قرار دهند.

مارک زاکربرگ، مدیرعامل متا، هنگام معرفی میوز تأکید کرده بود که این سرویس از ابتدا با توجه ویژه به حریم خصوصی و امنیت طراحی شده است. با وجود این، مشکل اخیر نخستین نگرانی امنیتی مطرح‌شده درباره این محصول نیست. چند هفته پس از عرضه میوز، پاتریک واردل، پژوهشگر امنیت سیستم‌عامل مک، آسیب‌پذیری دیگری را شناسایی کرد که در شرایط مشخص می‌توانست به برنامه‌های دیگر نصب‌شده روی همان دستگاه اجازه دهد کنترل حساب میوز کاربر را به دست بگیرند. متا در آن زمان شدت خطر را کمتر ارزیابی کرده بود و معتقد بود سوءاستفاده از مشکل به آلوده بودن قبلی دستگاه وابسته است.

کشف آسیب‌پذیری تازه در قابلیت اشتراک‌گذاری مکالمات، بار دیگر مسئله اعتماد به ابزار‌هایی را مطرح کرده که برای انجام فعالیت‌های کاربران به اطلاعات گسترده‌ای دسترسی دارند. برخلاف چت‌بات‌های معمولی که بیشتر برای پرسش و پاسخ استفاده می‌شوند، ایجنت‌های هوش مصنوعی می‌توانند به‌صورت مستقیم با حساب‌ها، فایل‌ها و خدمات آنلاین تعامل داشته باشند. در نتیجه هرگونه ضعف در مدیریت دسترسی یا اشتراک‌گذاری اطلاعات ممکن است پیامد‌های گسترده‌تری نسبت به افشای یک مکالمه عادی داشته باشد.

غیرفعال شدن قابلیت اشتراک‌گذاری در میوز فعلاً مشکل مشخص‌شده را محدود کرده است، اما این اتفاق اهمیت طراحی دقیق سازوکار‌های حفاظت از اطلاعات را در خدمات هوش مصنوعی برجسته می‌کند. استفاده از لینک‌های طولانی و غیرقابل حدس به‌تنهایی برای حفظ محرمانگی کافی نیست و شرکت‌های توسعه‌دهنده باید اطمینان حاصل کنند ساختار فنی سرویس، امکان شناسایی غیرمستقیم اطلاعات کاربران را نیز فراهم نمی‌کند.