دادگاه تجدیدنظر به پنتاگون اجازه داد آنتروپیک را در فهرست سیاه نگه دارد

به گزارش خبرگزاری آنا؛ ماجرا فقط بر سر این نیست که ارتش آمریکا از کدام مدل هوش مصنوعی استفاده کند. پنتاگون استدلال کرده اگر کلود در میانه یک عملیات نظامی به‌دلیل محدودیت‌هایی که سازنده در مدل قرار داده از انجام وظیفه خودداری کند، ممکن است عملکرد یک سامانه حیاتی مختل شود؛ آنتروپیک در مقابل معتقد است مدل‌های فعلی هنوز برای تصمیم‌گیری مستقل درباره انتخاب و حمله به اهداف انسانی به اندازه کافی قابل اعتماد نیستند و استفاده از آن‌ها برای نظارت گسترده داخلی نیز می‌تواند حقوق شهروندان را تهدید کند. دادگاه تجدیدنظر این ۲ نگرانی را جدی دانست، اما اکثریت قضات نتیجه گرفتند تصمیم درباره نحوه ایجاد توازن میان آن‌ها در این پرونده در اختیار رئیس‌جمهور و وزیر دفاع قرار دارد.

مشکل پنتاگون با محدودیت‌های کلود چیست

آنتروپیک برای استفاده نظامی از کلود محدودیت‌های عمومی مدل را تا حد زیادی کاهش داده و حتی نسخه Claude Gov را برای کاربرد‌های امنیت ملی توسعه داده است. این شرکت استفاده از مدل برای تحلیل اطلاعات خارجی، کمک به طراحی سامانه‌های تسلیحاتی و عملیات سایبری تهاجمی را مجاز کرده، اما ۲ خط قرمز را حفظ کرده است که شامل جنگ‌افزار‌های مرگبار کاملاً خودمختار و نظارت گسترده بر آمریکایی‌ها می‌شوند. پنتاگون خواهان قراردادی با مجوز «تمام استفاده‌های قانونی» بود و نگران بود محدودیت‌های فنی یا قراردادی آنتروپیک باعث شوند کلود در زمانی که ارتش به آن نیاز دارد از انجام یک وظیفه قانونی خودداری کند. طبق رأی دادگاه، نمونه‌هایی نیز وجود داشته که محدودیت‌های مدل مانع انجام بعضی درخواست‌های کاربران دولتی شده‌اند و در یک عملیات نظامی خارج از آمریکا نیز درباره مجاز بودن استفاده از کلود اختلاف ایجاد شده بود.

همین نگرانی مبنای تصمیم دولت برای معرفی آنتروپیک به‌عنوان «ریسک زنجیره تأمین» شد. چنین عنوانی به دولت اجازه می‌دهد استفاده از فناوری یک تأمین‌کننده را در قرارداد‌های دولتی محدود کند و مانع شود پیمانکاران نیز برای انجام کار‌های مربوط به پنتاگون از آن استفاده کنند. آنتروپیک استدلال کرده بود این عنوان معمولاً برای مقابله با خرابکاری یا دستکاری مخرب زنجیره تأمین طراحی شده و اختلاف آشکار یک شرکت آمریکایی با دولت درباره محدودیت‌های محصول را نباید در همان دسته قرار داد. اکثریت دادگاه تجدیدنظر، اما قانون مورد بررسی خود را گسترده‌تر تفسیر کرد و گفت برای اعمال آن لازم نیست ثابت شود شرکت با نیت مخرب عمل کرده است.

چرا یک دادگاه آنتروپیک را محق دانست و دادگاه دیگر نه؟

پیچیدگی پرونده از اینجا بیشتر می‌شود که یک دادگاه فدرال در کالیفرنیا حدود یک ماه پیش به نتیجه متفاوتی رسیده بود. قاضی آن پرونده تشخیص داد آنتروپیک تحت ماده قانونی دیگری در تعریف محدودتر «ریسک زنجیره تأمین» قرار نمی‌گیرد، زیرا آن ماده درباره خطر ناشی از یک «دشمن» و اقداماتی مانند خرابکاری یا دستکاری مخرب صحبت می‌کند و دادگاه نیز به این نتیجه رسید که آنتروپیک در تعامل با دولت چنین سوءنیتی نداشته است. دادگاه تجدیدنظر واشنگتن با همین بخش از استدلال مخالفتی نکرد، اما گفت پرونده‌ای که در اختیار آن قرار گرفته بر اساس ماده قانونی متفاوت و گسترده‌تری بررسی می‌شود که عبارت «هر شخص» را به کار می‌برد و وجود نیت خرابکارانه را شرط نمی‌داند.

اکثریت قضات در نتیجه استدلال کردند اگر آنتروپیک طراحی یا عملکرد کلود را طوری محدود کند که مدل بعضی اقدامات قانونی درخواستی پنتاگون را انجام ندهد، همین احتمال می‌تواند ذیل تعریف گسترده‌تر ریسک زنجیره تأمین قرار بگیرد. به بیان ساده، دادگاه نگفته آنتروپیک قصد خرابکاری در ارتش آمریکا را داشته است و حتی صراحتاً پذیرفته که چنین سوءنیتی ثابت نشده، بلکه گفته قانون مورد استفاده پنتاگون برای اعمال این محدودیت الزاماً به اثبات سوءنیت نیاز ندارد.

یک قاضی با این برداشت مخالف بود

قاضی کارن هندرسون که رأی مخالف را نوشت، تفسیر اکثریت از قانون را بیش از حد گسترده دانست. وی استدلال کرد واژه‌های به‌کاررفته در قانون وقتی در کنار یکدیگر و در زمینه اصلی آن خوانده شوند، بیشتر به اقداماتی اشاره دارند که عمداً برای مختل کردن، دستکاری یا جاسوسی از یک سامانه وارد زنجیره تأمین می‌شوند و نباید اجرای صریح محدودیت‌های قراردادی یک شرکت را با چنین رفتاری یکسان دانست. از نگاه وی، قانونی که برای مقابله با نفوذ بازیگران مخرب به زنجیره تأمین دولت طراحی شده نباید صرفاً به این دلیل اعمال شود که دولت با محدودیت‌های اعلام‌شده یک تأمین‌کننده درباره نحوه استفاده از محصولش مخالف است.

آنتروپیک اعلام کرده با رأی تازه موافق نیست و در حال بررسی گزینه‌های بعدی خود است. این شرکت می‌تواند درخواست کند همه قضات دادگاه تجدیدنظر پرونده را دوباره بررسی کنند یا موضوع را به دیوان عالی آمریکا ببرد، بنابراین اختلاف حقوقی هنوز الزاماً به پایان نرسیده است. هم‌زمان رأی دادگاه کالیفرنیا نیز به دلیل بررسی اقدام دولت بر اساس مبنای قانونی متفاوت، مستقیماً با رأی تازه لغو نشده و همین وضعیت باعث شده پرونده آنتروپیک به نمونه‌ای پیچیده از برخورد قوانین قدیمی زنجیره تأمین با محدودیت‌های فنی و ایمنی مدل‌های هوش مصنوعی تبدیل شود.