آنتروپیک برای تعیین مرز استفاده کلود در سلاح‌های متعارف مدیر استخدام می‌کند

به گزارش خبرگزاری آنا؛ موقعیت شغلی «مدیر طراحی سیاست سلاح‌های متعارف» ۲۳ شهریور برای تیم Safeguards آنتروپیک منتشر شده است، بخشی که سیاست‌ها و سامانه‌های اجرایی مربوط به محدودیت استفاده از کلود را طراحی می‌کند. فردی که این سمت را برعهده می‌گیرد باید برای درخواست‌های مرتبط با سلاح‌های متعارف قواعد مشخصی تعیین کند و این سیاست‌ها را به روش‌هایی تبدیل کند که بتوان آن‌ها را در محصول اجرا و ارزیابی کرد. آنتروپیک در توضیحات استخدام نوشته است که موضوع فقط به سلاح‌های گرم محدود نمی‌شود و می‌تواند از نرم‌افزار کنترل یک سامانه تسلیحاتی تا تجهیزات خودکاری را دربر بگیرد که قادر به انتخاب و درگیری با هدف هستند.

مرز دشوار استفاده مجاز و ممنوع

چالش اصلی این شغل به ماهیت دوکاربردی بسیاری از فناوری‌ها برمی‌گردد. یک مدل هوش مصنوعی ممکن است برای مهندسی، برنامه‌نویسی، تحلیل تصاویر یا هدایت یک پهپاد در کاربردی غیرنظامی استفاده شود، اما همان توانایی‌ها می‌توانند بخشی از توسعه یا بهبود یک سامانه نظامی نیز باشند. آنتروپیک به همین دلیل می‌گوید نمی‌توان تمام پرسش‌های مرتبط با این حوزه را با چند کلمه کلیدی مسدود کرد و باید مشخص شود یک درخواست دقیقاً در چه شرایطی از یک کاربرد عادی به کمک عملی برای توسعه یا استفاده از سلاح تبدیل می‌شود. مدیر جدید قرار است همین مرز‌ها را تعریف و برای موارد مبهم معیار‌های قابل اجرا ایجاد کند.

اهمیت این موضوع با نرم‌افزاری‌تر شدن تجهیزات نظامی بیشتر شده است. قابلیت‌هایی مانند تحلیل اطلاعات، شناسایی موقعیت از داده‌های پراکنده، پردازش تصویر و برنامه‌نویسی سامانه‌های خودکار می‌توانند هم کاربرد غیرنظامی داشته باشند و هم در زنجیره یک عملیات نظامی قرار بگیرند؛ بنابراین سیاست آنتروپیک قرار نیست صرفاً مشخص کند کلود درباره یک سلاح توضیح بدهد یا ندهد، بلکه باید میزان کمک عملی مدل، نوع کاربر، هدف درخواست و مقدار دخالت انسانی را نیز در نظر بگیرد.

سیاست آنتروپیک درباره کاربرد نظامی

آنتروپیک استفاده نظامی از کلود را به‌طور کامل ممنوع نکرده است. این شرکت پیش‌تر اعلام کرده مدل‌هایش در بخش‌های مختلف دولت و نهاد‌های امنیتی آمریکا برای کار‌هایی مانند تحلیل اطلاعات، شبیه‌سازی، برنامه‌ریزی عملیاتی و عملیات سایبری استفاده شده‌اند و از کاربرد‌های قانونی هوش مصنوعی در حوزه امنیت ملی پشتیبانی می‌کند. دو محدودیتی که شرکت به‌طور مشخص بر آن‌ها تأکید کرده، استفاده از کلود برای نظارت گسترده داخلی و استفاده از مدل‌های فعلی در سلاح‌های کاملاً خودمختاری است که بدون دخالت انسان هدف را انتخاب و درگیر می‌کنند.

دلیل آنتروپیک برای محدودیت دوم این است که مدل‌های فعلی را برای سپردن کامل تصمیم استفاده از سلاح به هوش مصنوعی به‌اندازه کافی قابل اعتماد نمی‌داند. این موضع به معنای ممنوعیت تمام سامانه‌های نظامی دارای هوش مصنوعی نیست و شرکت میان سلاح کاملاً خودمختار و سامانه‌ای که همچنان انسان در تصمیم نهایی آن نقش دارد تفاوت قائل می‌شود. موقعیت شغلی تازه نیز دقیقاً در همین فضای میانی تعریف شده است و قرار است مشخص کند استفاده از کلود در سلاح‌های متعارف تا کجا قابل قبول است و از چه نقطه‌ای باید متوقف شود.

مدل‌ها در آزمایش‌های نظامی توان بیشتری پیدا کرده‌اند

آنتروپیک چند روز پیش از انتشار این آگهی نتایج آزمایش‌هایی را منتشر کرد که توان مدل‌های هوش مصنوعی در تحلیل اطلاعات تاکتیکی و سلاح‌های متعارف را بررسی می‌کردند. یکی از نمونه‌ها بررسی این بود که مدل تا چه اندازه می‌تواند از اطلاعات ناقص، محل حضور یک فرد را پیدا کند و آزمایش دیگری توان کمک به مهندسی پهپادی برای اصابت به هدف متحرک را می‌سنجید. شرکت می‌گوید در بعضی از این آزمایش‌ها، مدل‌های پیشرفته توان انجام کار‌هایی را نشان داده‌اند که پیش‌تر به متخصصان آموزش‌دیده و کمیاب نیاز داشتند.

همین نتایج باعث شده آنتروپیک سامانه‌های تشخیص و محدودسازی تازه‌ای برای جلوگیری از برخی سوءاستفاده‌ها توسعه دهد. شرکت همچنین در تیم Safeguards علاوه بر مدیر سیاست سلاح‌های متعارف، برای حوزه‌هایی مانند مواد شیمیایی و انفجاری، تهدید‌های زیستی، جرایم سایبری و خشونت نیز نیرو استخدام می‌کند؛ بنابراین موقعیت تازه بخشی از ساختار گسترده‌تری است که قرار است توانایی‌های رو به افزایش مدل را با قواعد دقیق‌تر برای نحوه استفاده از آن همراه کند.

هم‌زمان با درخواست برای کند کردن توسعه هوش مصنوعی

انتشار این آگهی دو روز پس از آن انجام شده که داریو آمودی، مدیرعامل آنتروپیک، خواستار کندتر شدن سرعت افزایش توان مدل‌های مرزی شد. او در یادداشتی نوشت پیشرفت قابلیت‌های هوش مصنوعی در ماه‌های اخیر سرعت گرفته و شرکت‌ها باید زمان بیشتری برای آزمایش ایمنی، بررسی مستقل و ایجاد محدودیت‌های مناسب پیش از افزایش دوباره توان مدل‌ها در نظر بگیرند. آمودی تأکید کرده منظور او توقف کامل توسعه نیست، بلکه هماهنگ کردن سرعت پیشرفت توانایی مدل‌ها با سرعت توسعه روش‌های ایمنی است.

استخدام مدیر سیاست سلاح‌های متعارف را می‌توان در همین چارچوب عملی دید. آنتروپیک استفاده نظامی از کلود را کنار نگذاشته، اما با افزایش توان مدل‌ها نیاز دارد دقیق‌تر مشخص کند کدام کاربرد‌ها قابل قبول هستند و کدام موارد باید توسط سامانه‌های حفاظتی مسدود شوند. مهم‌ترین مسئله برای این شرکت اکنون تعریف مرزی است که هم کاربرد‌های مهندسی و امنیتی مجاز را حفظ کند و هم مانع استفاده مستقیم مدل در کاربرد‌هایی شود که از محدوده سیاست‌های ایمنی آن عبور می‌کنند.