مدیرعامل آنتروپیک خواستار ترمز اضطراری در توسعه مدل‌های هوش مصنوعی شد

به گزارش خبرگزاری آنا؛ آمودی در یادداشتی مفصل استدلال کرده است سرعت کنونی پیشرفت هوش مصنوعی می‌تواند فرصت کافی برای سنجش خطرات و ایجاد سازوکار‌های کنترلی باقی نگذارد. او خطر‌هایی مانند از دست رفتن کنترل بر سامانه‌های هوش مصنوعی، استفاده از مدل‌ها در حملات سایبری و سوءاستفاده‌های زیستی و همچنین اختلال اقتصادی گسترده را از دلایل اصلی ضرورت کاهش سرعت توسعه می‌داند. آنتروپیک نیز اعلام کرده به نخستین مرحله این طرح متعهد خواهد شد.

ارزیاب‌های مستقل باید دسترسی دائمی‌تری داشته باشند

مرحله نخست بر حضور پررنگ‌تر نهاد‌ها و متخصصان مستقل در فرایند ارزیابی مدل‌های مرزی تمرکز دارد. آمودی پیشنهاد کرده شرکت‌های بزرگ هوش مصنوعی به ارزیاب‌های شخص ثالث نوعی دسترسی مستمر و نزدیک به سطح دسترسی کارکنان بدهند تا آن‌ها بتوانند رعایت استاندارد‌های ایمنی را بررسی کنند، روند آموزش مدل‌ها را زیر نظر بگیرند و در صورت مشاهده رخداد یا تخلف، گزارش مستقل ارائه دهند.

منظور از چنین دسترسی‌ای صرفاً آزمایش یک نسخه نهایی از مدل پیش از انتشار نیست. ارزیاب باید بتواند در طول فرایند توسعه بررسی کند آیا شرکت واقعاً محدودیت‌هایی را که برای خود تعیین کرده رعایت می‌کند، آیا آموزش مدل با اهداف ایمنی اعلام‌شده هم‌راستا است و در صورت وقوع یک حادثه، اطلاعات کافی برای ارزیابی مستقل در اختیار او قرار می‌گیرد یا خیر. آنتروپیک می‌گوید حاضر است این مرحله را از داخل صنعت آغاز کند، حتی اگر هنوز همه رقبا به آن نپیوسته باشند.

شرکت‌های هوش مصنوعی باید روی استاندارد‌های مشترک توافق کنند

مرحله دوم زمانی آغاز می‌شود که چند شرکت بزرگ به مجموعه‌ای مشترک از قواعد ایمنی برسند. آمودی معتقد است دولت‌ها می‌توانند در شکل‌گیری این استاندارد‌ها نقش داشته باشند تا شرکت‌ها مجبور نباشند میان رعایت احتیاط و عقب ماندن از رقبا یکی را انتخاب کنند. در این مدل، مجموعه‌ای از حداقل الزامات برای آموزش، ارزیابی و عرضه مدل‌های مرزی تعریف می‌شود و همه بازیگران اصلی باید آن‌ها را رعایت کنند.

مشکل فعلی از نگاه او این است که هر شرکت ممکن است نگران باشد کاهش سرعت به‌صورت یک‌جانبه باعث شود رقیب سریع‌تر مدل قدرتمندتری عرضه کند. استاندارد مشترک می‌تواند بخشی از این فشار را کم کند، چون همه شرکت‌ها با محدودیت‌های مشابه روبه‌رو خواهند بود. هدف این مرحله توقف توسعه هوش مصنوعی نیست، بلکه کاهش سرعت در نقاطی است که توانایی مدل‌ها سریع‌تر از ابزار‌های نظارت و کنترل آن‌ها رشد می‌کند.

مرحله سوم به هماهنگی میان کشور‌ها می‌رسد

پیشنهاد نهایی آمودی از سطح شرکت‌ها و دولت‌های منفرد فراتر می‌رود. او خواستار هماهنگی آمریکا و دیگر دولت‌های دموکراتیک با کشور‌های اقتدارگرا شده است تا رقابت بین‌المللی باعث بی‌اثر شدن محدودیت‌های داخلی نشود. منطق این پیشنهاد این است که اگر تنها بخشی از کشور‌ها توسعه مدل‌های مرزی را محدود کنند، بازیگران مستقر در کشور‌های دیگر می‌توانند بدون همان الزامات به مسیر خود ادامه دهند.

چنین توافقی به‌مراتب دشوارتر از دو مرحله نخست خواهد بود، زیرا علاوه بر شرکت‌ها به همکاری دولت‌هایی نیاز دارد که در حوزه فناوری و امنیت با یکدیگر رقابت می‌کنند. آمودی نیز پذیرفته اجرای این اقدامات ساده نخواهد بود، اما نوشته است جامعه انسانی موظف است دست‌کم برای ایجاد چنین سازوکاری تلاش کند.

حوادث اخیر نگرانی آمودی را بیشتر کرده‌اند

مدیرعامل آنتروپیک برای توضیح ضرورت این تغییر به چند اتفاق اخیر اشاره کرده است. یکی از آن‌ها حادثه‌ای بود که در آن ایجنت‌های هوش مصنوعی اوپن‌ای‌آی از محیط آزمایشی خارج شدند و به هاگینگ فیس نفوذ کردند. آنتروپیک نیز اخیراً اعلام کرده بود چند پژوهشگر از کلود در پروژه‌هایی استفاده کرده‌اند که شرکت آن‌ها را در دسته سوءاستفاده زیستی قرار داده و حساب‌های مرتبط را مسدود کرده است.

این اتفاق‌ها برای آمودی نشانه‌ای هستند که بخشی از خطرات مورد بحث دیگر فقط فرضی نیستند. او به‌ویژه روی حالتی تأکید دارد که مدل‌های هوش مصنوعی بتوانند در حملات سایبری، تحقیقات زیستی یا دیگر حوزه‌های حساس نقش عملی‌تری بگیرند و سرعت انجام کار‌هایی را بالا ببرند که پیش‌تر به نیروی انسانی متخصص و زمان بیشتری نیاز داشتند.

خودبهبوددهی بازگشتی یکی از نگرانی‌های اصلی است

عامل دیگری که به گفته آمودی دیدگاه او را تغییر داده، نزدیک شدن مدل‌ها به مرحله‌ای از «خودبهبوددهی بازگشتی» است؛ وضعیتی که در آن سامانه‌های هوش مصنوعی به‌اندازه‌ای توانمند می‌شوند که بتوانند مستقیماً در طراحی، آموزش یا بهبود نسل بعدی مدل‌ها مشارکت کنند. در چنین سناریویی، سرعت پیشرفت می‌تواند بیشتر شود، چون هر نسل از مدل به ساخت نسل بعدی کمک می‌کند.

آمودی پیش‌تر نیز درباره کاهش سرعت توسعه هوش مصنوعی صحبت کرده بود، اما اکنون معتقد است ترکیب چنین روندی با حوادث امنیتی اخیر ضرورت اقدام را بیشتر کرده است. نگرانی اصلی او این است که فاصله زمانی میان افزایش توانایی مدل‌ها و ایجاد روش‌های مناسب برای کنترل آن‌ها هرچه بیشتر کاهش پیدا کند.

آنتروپیک دنبال توقف توسعه هوش مصنوعی نیست

پیشنهاد سه‌مرحله‌ای آمودی به معنای توقف کامل پژوهش یا آموزش مدل‌های جدید نیست. او از «پیش بردن مرز فناوری با سرعتی ایمن» صحبت می‌کند؛ یعنی توسعه ادامه پیدا کند، اما هر جهش بزرگ در توانایی مدل‌ها با ارزیابی مستقل، استاندارد‌های مشترک و سازوکار‌های کنترلی همراه باشد.

این موضع در شرایطی مطرح می‌شود که رقابت میان شرکت‌های بزرگ هوش مصنوعی همچنان شدید است و هر کدام تلاش می‌کنند مدل‌های قدرتمندتری را با فاصله زمانی کوتاه‌تر عرضه کنند. پیشنهاد آمودی عملاً می‌خواهد بخشی از این رقابت را از سرعت صرف به سمت رعایت قواعد مشترک هدایت کند، هرچند اجرای مراحل دوم و سوم بدون همراهی سایر شرکت‌ها و دولت‌ها بسیار دشوار خواهد بود.