یادداشت؛
یادداشت
مارک زاکربرگ سازوکار مشترک شرکتها برای مهار هوش مصنوعی را بیهوده دانست
به گزارش خبرگزاری آنا؛ مدیرعامل متا در گفتوگویی با یک خبرنگار استدلال کرده رقابت میان آزمایشگاههای مختلف لزوماً نیازمند سازوکاری نیست که همه آنها را وادار کند همزمان سرعت توسعه را کاهش دهند. از نگاه وی، مسئولیت اصلی بر عهده هر شرکت است تا وقتی مدل یا محصولی مشکل ایمنی، حریم خصوصی یا همراستایی با خواسته کاربر دارد، عرضه آن را تا زمان برطرف شدن مشکل عقب بیندازد. زاکربرگ همچنین معتقد است انگیزه تجاری برای چنین کاری وجود دارد، زیرا محصولی که کاربران به آن اعتماد نکنند در نهایت با استقبال گسترده روبهرو نخواهد شد.
متا تأخیر میوز را نمونه رویکرد خود میداند
زاکربرگ برای توضیح این دیدگاه به ایجنت «میوز» متا اشاره کرده است. وی گفته شرکت چند ماه قبل نسخهای از این محصول در اختیار داشت که از نظر فنی عملکرد خوبی داشت، اما عرضه را عقب انداخت تا مشکلات مربوط به حریم خصوصی، امنیت و کیفیت تجربه کاربر برطرف شوند. از نگاه وی، چنین تصمیمی قربانی کردن سرعت برای ایمنی نبود و هم از نظر کاربران و هم از نظر تجاری انتخاب درستی محسوب میشد. وی همچنین همراستایی مدل با خواسته و منظور واقعی کاربران را یکی از مهمترین تواناییهایی میداند که نسل بعدی سامانههای هوش مصنوعی باید در آن پیشرفت کنند.
این موضع با اصل توقف یا تأخیر محصول در صورت وجود مشکل تفاوتی با نگرانیهای مطرحشده از سوی دیگر شرکتها ندارد و اختلاف اصلی بر سر نحوه هماهنگ کردن این تصمیمها است. داریو آمودی، مدیرعامل آنتروپیک، پیشتر خواستار نوعی کاهش هماهنگ سرعت توسعه در مرز توانایی مدلهای پیشرفته شده بود و سم آلتمن نیز از نگرانیهای مشابه درباره افزایش سریع قابلیتها حمایت کرده است. زاکربرگ در مقابل ترجیح میدهد هر آزمایشگاه براساس مشکلاتی که در مدل خود مشاهده میکند تصمیم بگیرد و با ایجاد سازوکاری که همه شرکتها را به تصمیم مشترک درباره سرعت توسعه وادار کند موافق نیست.
حوادث اخیر بحث ایمنی را جدیتر کردهاند
این اختلاف دیدگاه پس از چند ماه پرحادثه در حوزه ایمنی هوش مصنوعی شکل گرفته است. آزمایشگاههای بزرگ طی سال جاری مواردی را گزارش کردهاند که در آن مدلهای پیشرفته هنگام آزمایشهای امنیت سایبری از محدوده مورد انتظار فراتر رفتهاند یا به سامانههای خارجی دسترسی پیدا کردهاند. بخشی از این اتفاقات در محیطهایی رخ داده که مدل از ابتدا برای پیدا کردن آسیبپذیری و انجام آزمایش امنیتی آماده شده بود، بنابراین نمیتوان آنها را با یک حمله سایبری خودسرانه و بدون زمینه آزمایشی یکسان دانست، اما همین موارد پرسش درباره میزان استقلال ایجنتها و نحوه مهار آنها را جدیتر کردهاند.
متا نیز در ماههای گذشته با بحثهای دیگری درباره نحوه رفتار محصولات هوش مصنوعی و حریم خصوصی کاربران روبهرو بوده است. این سابقه باعث شده اظهارات تازه زاکربرگ درباره اتکا به کنترل داخلی شرکتها با پرسشهایی درباره میزان کافی بودن نظارت خودخواسته همراه شود. موضع خود متا این است که آزمایشگاهها باید هنگام وجود تردید درباره ایمنی یا همراستایی، عرضه مدل را به تعویق بیندازند و اعتماد کاربران را بخشی از موفقیت محصول بدانند.
اوپنایآی، گوگل و آنتروپیک دنبال یک نهاد مشترک هستند
همزمان مسیر دیگری در میان برخی از بزرگترین آزمایشگاههای هوش مصنوعی در حال شکلگیری است. اینفورمیشن گزارش داده گوگل، اوپنایآی و آنتروپیک روی ایجاد یک سازمان مستقل با نام موقت Standards Authority for Frontier AI یا SAFA کار میکنند و هدف فعلی راهاندازی آن تا پایان ۲۰۲۶ یا اوایل ۲۰۲۷ است. این نهاد قرار نیست یک سازمان دولتی باشد و بیشتر شبیه سازوکاری خودتنظیمگر برای ایجاد قواعد مشترک میان توسعهدهندگان مدلهای پیشرفته در نظر گرفته شده است.
برنامه مورد بحث شامل حمایت از سازمانهای ثالث برای آزمایش مدلها پیش از عرضه، تعیین صلاحیت برای ممیزان مستقل، تعریف تعهدات مشترک در حوزه ایمنی و امنیت و ایجاد سازوکارهایی برای گزارش حوادث است. اعضای گروه کاری حتی در حال بررسی این ایده هستند که نهاد تازه خودش نیز بخشی از آزمایشهای ایمنی و سنجش توانایی مدلها را انجام دهد. هنوز ساختار نهایی، اعضا و اختیارات SAFA مشخص نشده و حتی نام آن نیز موقت است، بنابراین این طرح فعلاً باید در مرحله شکلگیری در نظر گرفته شود.
اختلاف اصلی بر سر مسئولیت مشترک است
اوپنایآی در سطح سیاستگذاری عمومی نیز از سازوکارهای ارزیابی مستقل حمایت کرده و از بخشی از طرح دوحزبی FRONTIER Act پشتیبانی کرده است که آزمایشگاههای بزرگ را ملزم میکند امکان ارزیابی مدلهای خود توسط سازمانهای مستقل را فراهم کنند. این رویکرد با دیدگاه زاکربرگ تفاوت مشخصی دارد، زیرا بهجای اتکا صرف به تصمیم داخلی هر شرکت، بخشی از بررسی ایمنی را به مجموعهای بیرون از خود آزمایشگاه میسپارد.
بحث فعلی در نتیجه کمتر درباره اصل اهمیت ایمنی و بیشتر درباره سازوکار رسیدن به آن است. زاکربرگ میگوید هر شرکت باید مسئولیت مدلهای خودش را بپذیرد و در صورت لزوم عرضه را متوقف کند، در حالی که اوپنایآی، آنتروپیک و گوگل در حال بررسی چارچوبی هستند که بخشی از استانداردها، ارزیابیها و گزارش حوادث را میان شرکتها مشترک کند. شکل نهایی SAFA و میزان استقبال دیگر آزمایشگاهها از آن مشخص خواهد کرد که آیا صنعت هوش مصنوعی به سمت یک نظام خودتنظیمگر مشترک حرکت میکند یا هر شرکت همچنان قواعد ایمنی خود را جداگانه تعیین خواهد کرد.
انتهای پیام/
