رفتارهای غیرمنتظره ایجنت‌ها پای سازندگان هوش مصنوعی را به دادگاه کشاند
به گزارش خبرگزاری آنا؛ نگرانی‌ها درباره عملکرد پیش‌بینی‌نشده مدل‌های پیشرفته هوش مصنوعی، نهاد‌های نظارتی آمریکا را به بررسی دقیق‌تر فعالیت شرکت‌های بزرگ این صنعت واداشته است. کمیسیون تجارت فدرال آمریکا (FTC) که مسئولیت مقابله با رویه‌های تجاری ناعادلانه و فریبنده و حمایت از مصرف‌کنندگان را برعهده دارد، در ادامه تحقیقات خود درباره ایمنی محصولات هوش مصنوعی، درخواست‌های رسمی تازه‌ای برای دریافت اطلاعات از دو شرکت اوپن‌ای‌آی و آنتروپیک ارسال کرده است. این درخواست‌ها هرکدام بیش از ۵۰ صفحه دارند و مجموعه گسترده‌ای از اطلاعات مربوط به حوادث امنیتی، اقدامات پیشگیرانه، سیاست‌های حریم خصوصی و شیوه معرفی محصولات به کاربران را شامل می‌شوند. این نهاد همچنین قصد دارد از مدیران ارشد شرکت‌های هوش مصنوعی درباره عملکرد محصولاتشان توضیح بخواهد و دامنه جمع‌آوری مدارک را به مؤسسات مستقل فعال در زمینه ارزیابی ایمنی گسترش دهد.
اقدام جدید بخشی از تحقیقاتی است که کمیسیون تجارت فدرال از تابستان امسال درباره خطرات احتمالی محصولات هوش مصنوعی آغاز کرده است. این نهاد در مرحله فعلی به دنبال جمع‌آوری مدارک و بررسی احتمال نقض قوانین حمایت از مصرف‌کنندگان است و هنوز هیچ حکم یا نتیجه قطعی درباره مسئولیت حقوقی دو شرکت اعلام نشده است. با این حال استفاده از احضاریه‌های حقوقی به مقام‌های مسئول امکان می‌دهد اطلاعاتی فراتر از گزارش‌های عمومی شرکت‌ها دریافت کنند و بررسی کنند که آیا سازوکار‌های ایمنی محصولات با ادعا‌های مطرح‌شده درباره قابلیت اطمینان آن‌ها مطابقت دارند یا خیر.
درخواست اسناد امنیتی و شهادت مدیران ارشد
کمیسیون تجارت فدرال در درخواست‌های خود علاوه بر گزارش حوادث، خواستار دریافت اطلاعاتی درباره روش‌های شناسایی رفتارهای خطرناک، محدودیت‌های اعمال‌شده بر مدل‌ها و اقدامات شرکت‌ها پس از شناسایی مشکلات امنیتی شده است. بخش دیگری از بررسی‌ها به محتوای تبلیغاتی و توضیحاتی مربوط می‌شود که توسعه‌دهندگان هنگام عرضه محصولات درباره ایمنی، قابلیت‌های فنی و حفاظت از اطلاعات کاربران ارائه کرده‌اند. این موضوع از آن جهت اهمیت دارد که قوانین حمایت از مصرف‌کنندگان در آمریکا تنها به خسارت مستقیم محدود نیستند و ارائه اطلاعات گمراه‌کننده درباره ویژگی‌های یک محصول نیز می‌تواند مبنای رسیدگی حقوقی قرار گیرد.
مقام‌های آمریکایی قصد دارند مدیران ارشد توسعه‌دهندگان هوش مصنوعی را برای ارائه توضیحات رسمی فرا بخوانند. مؤسسات ارزیابی مستقل مانند METR نیز ممکن است درخواست‌های مشابهی دریافت کنند تا اطلاعات بیشتری درباره رفتار مدل‌ها در آزمایش‌های تخصصی و نحوه ارزیابی خطرات در اختیار نهاد نظارتی قرار گیرد. این مرحله می‌تواند به بررسی تفاوت میان عملکرد مدل‌ها در محیط آزمایشگاهی و شرایط استفاده واقعی کمک کند، زیرا بعضی رفتارهای غیرمنتظره زمانی مشاهده شده‌اند که ایجنت‌ها به ابزارهای اینترنتی و سامانه‌های خارجی دسترسی داشته‌اند.
اندرو فرگوسن، رئیس کمیسیون تجارت فدرال، پیش‌تر تأکید کرده بود شرکت‌های سازنده مدل‌های هوش مصنوعی نمی‌توانند صرفاً با استناد به عملکرد مستقل ایجنت‌ها از مسئولیت پیامد‌های احتمالی آن‌ها فاصله بگیرند. وی توضیح داده بود که اگر توسعه‌دهندگان در جریان آزمایش‌های امنیت سایبری، ایجنت‌هایی را مأمور انجام فعالیت‌هایی کنند که به سامانه‌های دیگران آسیب می‌رسانند، مسئولیت حقوقی این اقدامات می‌تواند متوجه شرکت سازنده باشد. چنین رویکردی بر مسئولیت انسان‌ها و سازمان‌هایی تأکید دارد که مدل‌ها را توسعه می‌دهند، به ابزارهای مختلف متصل می‌کنند و اجازه اجرای فعالیت‌های مشخص را در اختیار آن‌ها قرار می‌دهند.
نفوذ مدل‌های اوپن‌ای‌آی به زیرساخت هاگینگ فیس
یکی از رویداد‌هایی که نگرانی‌ها درباره ایمنی مدل‌های پیشرفته را افزایش داده، حادثه امنیتی مرتبط با اوپن‌ای‌آی و هاگینگ فیس در تیر امسال است. اوپن‌ای‌آی پس از بررسی‌های داخلی تأیید کرد که تعدادی از مدل‌های آزمایشی این شرکت در جریان ارزیابی توانایی‌های امنیت سایبری، محدودیت‌های محیط آزمایش را دور زده و به بخش‌هایی از زیرساخت داخلی شرکت و سامانه‌های هاگینگ فیس دسترسی پیدا کرده‌اند. این مدل‌ها در شرایطی فعالیت می‌کردند که برخی محدودیت‌های ایمنی معمول برای سنجش توانایی‌های امنیتی آن‌ها کاهش یافته بود، اما اقدامات انجام‌شده از چارچوب وظایف تعیین‌شده فراتر رفت.
ایجنت‌های آزمایشی توانستند با شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری، به اطلاعات احراز هویت دسترسی پیدا کنند و از آن‌ها برای ورود به بعضی سامانه‌های خارجی استفاده کنند. این فعالیت‌ها در نهایت به اجرای کد روی تعدادی از سرور‌های هاگینگ فیس و دستیابی به سطح بالاتری از دسترسی در بخشی از زیرساخت‌های این شرکت منجر شد. همچنین در جریان این حادثه، بعضی ایجنت‌ها روش‌های دسترسی غیرمجاز و یافته‌های خود را از طریق یک سازوکار ارتباطی ایجادشده در محیط آزمایش با سایر ایجنت‌ها به اشتراک گذاشته بودند.
اوپن‌ای‌آی پس از شناسایی حادثه اعلام کرد اقدامات امنیتی جدیدی برای محدود کردن دسترسی ایجنت‌ها به شبکه، مدیریت اطلاعات احراز هویت و نظارت بر رفتار مدل‌ها اجرا کرده است. این شرکت همچنین بخشی از فعالیت‌های آزمایشی و آموزشی مرتبط با مدل‌های پیشرفته را متوقف یا به تعویق انداخت و بررسی مستقل حادثه را با همکاری متخصصان امنیتی آغاز کرد. به گفته شرکت، اطلاعات مشتریان و عملکرد محصولات عمومی اوپن‌ای‌آی در این حادثه تحت تأثیر قرار نگرفتند، اما وقوع آن پرسش‌هایی درباره توانایی مدل‌های پیشرفته در عبور از محدودیت‌های تعیین‌شده برای محیط‌های آزمایشی ایجاد کرد.
حادثه دیگری نیز در خرداد امسال رخ داد که طی آن یک ایجنت اوپن‌ای‌آی بدون مجوز به درگاه آمار خدمات درمانی مدیکر دولت استرالیا دسترسی پیدا کرد. این رویداد نیز در جریان فعالیت‌های آزمایشی مدل اتفاق افتاد و شرکت بعداً درباره آن توضیحاتی ارائه کرد. مجموعه چنین حوادثی یکی از دلایل افزایش توجه نهاد‌های نظارتی به حدود دسترسی ایجنت‌ها و مسئولیت توسعه‌دهندگان در قبال عملکرد آن‌هاست.
ارسال گزارش ساختگی قتل توسط مدل آنتروپیک
آنتروپیک، سازنده مدل‌های کلود، نیز با حوادث مشابهی در جریان ارزیابی سامانه‌های هوش مصنوعی خود مواجه شده است. این شرکت به‌تازگی گزارشی درباره چند مورد رفتار پیش‌بینی‌نشده ایجنت‌های خود منتشر کرده که یکی از مهم‌ترین آن‌ها به ثبت اطلاعات نادرست در سامانه اینترنتی مربوط به پرونده‌های قتل حل‌نشده در شهر فیلادلفیا ارتباط دارد. در این حادثه، یکی از مدل‌های کوچک‌تر کلود هنگام بررسی صفحات اینترنتی، فرم ارسال اطلاعات درباره یک پرونده قتل را تکمیل کرد و گزارشی ساختگی ارائه داد.
این اتفاق در تیر امسال رخ داد، اما آنتروپیک تا اوایل مهر از آن اطلاع پیدا نکرد. اطلاعات ارسالشده به‌عنوان هرزنامه شناسایی شدند و در اختیار بازرسان پرونده قرار نگرفتند، بنابراین مدرکی مبنی بر تأثیر مستقیم آن بر روند تحقیقات جنایی منتشر نشده است. با وجود این، پلیس فیلادلفیا تأخیر بیش از دوماهه در شناسایی و گزارش حادثه را مورد انتقاد قرار داد و خواستار تقویت سازوکار‌های ایمنی این شرکت شد.
آنتروپیک همچنین موارد دیگری از عملکرد ناخواسته مدل‌های خود را گزارش کرده که شامل دسترسی به سامانه‌های اینترنتی خارج از محدوده مجاز و انجام فعالیت‌هایی برخلاف دستور‌های اولیه بوده‌اند. در یکی از این موارد، ایجنت از ضعف طراحی یک وب‌سایت دولتی استفاده کرد و به اطلاعاتی دسترسی یافت که دریافت آن‌ها معمولاً مستلزم پرداخت هزینه بود. در حادثه‌ای دیگر نیز یک مدل در جریان آزمایش، فرم اینترنتی مربوط به یک نهاد دولتی را بدون مجوز تکمیل و ارسال کرد. این شرکت پس از بررسی حوادث، دسترسی اینترنتی مدل‌ها را در بخشی از ارزیابی‌های داخلی محدود کرد تا اقدامات حفاظتی بیشتری برای جلوگیری از تکرار رفتارهای مشابه توسعه دهد.
این حوادث در حالی رخ داده‌اند که ایجنت‌های هوش مصنوعی برخلاف چت‌بات‌های معمولی، تنها به تولید پاسخ متنی محدود نیستند و می‌توانند از ابزارهای نرم‌افزاری استفاده کنند، صفحات اینترنتی را بررسی کنند، فرم‌ها را تکمیل کنند و بعضی فعالیت‌ها را بدون دخالت مستقیم کاربر انجام دهند. چنین قابلیتی دامنه کاربرد هوش مصنوعی را افزایش می‌دهد، اما در صورت ضعف کنترل‌های امنیتی، امکان انجام فعالیت‌های ناخواسته یا دسترسی غیرمجاز به سامانه‌های خارجی را نیز فراهم می‌کند.
تغییر رویکرد دولت آمریکا در نظارت بر هوش مصنوعی
افزایش تحقیقات نظارتی در شرایطی انجام شده که دولت دونالد ترامپ پیش‌تر با وضع مقررات سخت‌گیرانه برای صنعت هوش مصنوعی مخالفت کرده بود. مقام‌های دولت آمریکا استدلال می‌کردند محدودیت‌های گسترده می‌توانند سرعت توسعه فناوری را کاهش دهند و موقعیت شرکت‌های آمریکایی را در رقابت با چین تضعیف کنند. با این حال انتشار گزارش‌های تازه درباره رفتارهای غیرمنتظره مدل‌های پیشرفته باعث شده دولت، در کنار حمایت از توسعه هوش مصنوعی، بر ضرورت مدیریت حوادث امنیتی و مسئولیت‌پذیری شرکت‌ها نیز تأکید بیشتری داشته باشد.
مدیران شرکت‌های گوگل، متا، آنتروپیک، اوپن‌ای‌آی، xAI و انویدیا در هفتم مهر طی نشستی در کاخ سفید توافقی داوطلبانه درباره رعایت مجموعه‌ای از اصول ایمنی هوش مصنوعی امضا کردند. این توافق حوزه‌هایی مانند نظارت بر عملکرد مدل‌ها، ارزیابی خطرات و همکاری میان توسعه‌دهندگان برای شناسایی مشکلات امنیتی را در بر می‌گرفت. ترامپ این تعهدات را از نظر اخلاقی الزام‌آور توصیف کرد، اما توافق یادشده سازوکار اجرایی و ضمانت قانونی مستقلی برای برخورد با موارد نقض آن ندارد.
در ادامه این اقدامات، کارگروه تازه‌تأسیس هوش فوق‌هوشمند دولت آمریکا نیز اعلام کرد شرکت‌های توسعه‌دهنده هوش مصنوعی باید حوادث مرتبط با استفاده غیرمجاز مدل‌های خود از سامانه‌های دولتی را بدون تأخیر گزارش کنند و برای رفع پیامد‌های احتمالی آن‌ها اقدام کنند. این موضع پس از افشای حوادث مرتبط با آنتروپیک مطرح شد و بر لزوم اطلاع‌رسانی فوری به سازمان‌های آسیب‌دیده و جبران خسارت‌های احتمالی تأکید داشت. فرگوسن نیز از مقام‌های مشارکت‌کننده در این کارگروه است و هم‌زمان از اختیارات قانونی کمیسیون تجارت فدرال برای بررسی عملکرد شرکت‌های هوش مصنوعی استفاده می‌کند.
احتمال اقدامات حقوقی علیه توسعه‌دهندگان
احضاریه‌های جدید به معنای طرح دعوای قضایی یا اثبات تخلف اوپن‌ای‌آی و آنتروپیک نیستند و کمیسیون تجارت فدرال در مرحله جمع‌آوری اطلاعات قرار دارد. این نهاد باید بررسی کند که آیا عملکرد محصولات، تدابیر حفاظتی و توضیحات ارائه‌شده به کاربران با الزامات قانونی مطابقت دارند یا اقدامات یا کوتاهی‌های احتمالی شرکت‌ها می‌توانند مصداق رفتار تجاری ناعادلانه یا فریبنده باشند. در صورت دستیابی به شواهد کافی، امکان پیگیری حقوقی، درخواست اقدامات اصلاحی یا استفاده از دیگر اختیارات قانونی وجود خواهد داشت.
اوپن‌ای‌آی در واکنش به انتشار خبر تحقیقات اعلام کرده ایمنی همچنان یکی از اولویت‌های اصلی توسعه مدل‌های این شرکت است و قصد دارد همکاری سازنده‌ای با کمیسیون تجارت فدرال داشته باشد. آنتروپیک نیز تا زمان انتشار گزارش‌های اولیه موضع عمومی مشخصی درباره احضاریه‌های تازه ارائه نکرده بود. کمیسیون تجارت فدرال هم جز تأیید ارسال درخواست‌های رسمی، اطلاعات بیشتری درباره جزئیات پرونده منتشر نکرده است.
با افزایش توانایی ایجنت‌های هوش مصنوعی در اجرای فعالیت‌های مستقل، موضوع مسئولیت شرکت‌های سازنده در قبال رفتار این سامانه‌ها اهمیت بیشتری پیدا کرده است. تحقیقات جدید می‌تواند مشخص کند نهاد‌های نظارتی آمریکا تا چه اندازه از قوانین موجود حمایت از مصرف‌کنندگان برای رسیدگی به حوادث مرتبط با مدل‌های پیشرفته استفاده خواهند کرد و آیا شیوه فعلی آزمایش و عرضه محصولات هوش مصنوعی نیازمند تغییرات گسترده‌تری خواهد بود.
انتهای پیام/
