مدیرعامل انویدیا ادعای نابودی جهان توسط هوش مصنوعی را بی‌اساس دانست

به گزارش خبرگزاری آنا هوانگ در گفت‌وگویی با CBS News در شرایطی موضع خود را بیان کرده که بحث درباره سرعت توسعه مدل‌های هوش مصنوعی و خطرات احتمالی آن‌ها دوباره بالا گرفته است. مدیران و پژوهشگرانی در شرکت‌هایی مانند آنتروپیک و اوپن‌ای‌آی خواستار کاهش سرعت توسعه برخی سامانه‌های بسیار پیشرفته یا ایجاد سازوکار‌های نظارتی قوی‌تر شده‌اند، اما مدیرعامل انویدیا این هشدار‌های مربوط به نابودی بشر را مبتنی بر شواهد علمی کافی نمی‌داند و معتقد است ترساندن عمومی درباره چنین سناریو‌هایی مسئولانه نیست.

اختلاف بر سر احتمال از کنترل خارج شدن هوش مصنوعی

بحث اخیر پس از آن شدت گرفت که جیکوب کاکسون، پژوهشگر سابق آنتروپیک، درباره احتمال ایجاد سامانه‌هایی هشدار داد که کنترل آن‌ها از دست توسعه‌دهندگان خارج شود. برخی مدیران صنعت از جمله داریو آمودی، مدیرعامل آنتروپیک، نیز خواستار کند شدن توسعه مدل‌های مرزی شده‌اند تا روش‌های ارزیابی و کنترل ایمنی فرصت بیشتری برای رسیدن به توانایی مدل‌ها داشته باشند. گزارش‌های اخیر از رفتار‌های پیش‌بینی‌نشده برخی ایجنت‌های هوش مصنوعی و نفوذ آن‌ها به سامانه‌های واقعی در محیط‌های آزمایشی نیز به این نگرانی‌ها دامن زده است.

هوانگ با این برداشت موافق نیست و پیش‌بینی نابودی جهان تا پایان دهه را فاقد پشتوانه علمی می‌داند. وی می‌گوید توسعه هوش مصنوعی باید ادامه پیدا کند و مسئله ایمنی بیشتر از مسیر مهندسی، آزمایش و مسئولیت شرکت‌هایی که محصولات را عرضه می‌کنند مدیریت شود. انویدیا در سال‌های اخیر به بزرگ‌ترین تأمین‌کننده تراشه‌های مورد استفاده برای آموزش و اجرای مدل‌های پیشرفته تبدیل شده و رشد تقاضا برای همین زیرساخت‌ها ارزش بازار شرکت را به بیش از ۵ تریلیون دلار رسانده است.

هوانگ مقررات تازه را ضروری نمی‌داند

مدیرعامل انویدیا در برابر استدلالی که خواستار قوانین اختصاصی تازه برای سامانه‌های پیشرفته هوش مصنوعی است نیز موضع محتاطانه‌ای ندارد و معتقد است ابتدا باید قوانین فعلی اجرا شوند. وی به مقررات موجود در زمینه مسئولیت محصول، خسارت، امنیت سایبری و دسترسی غیرمجاز اشاره کرده و گفته شرکت‌ها نباید به بهانه تازه بودن فناوری از مسئولیت قانونی رفتار محصولاتشان کنار گذاشته شوند.

این موضع در شرایطی مطرح می‌شود که مجموعه‌ای از شرکت‌های هوش مصنوعی طی ماه‌های اخیر رفتار‌های غیرمنتظره مدل‌های خود را گزارش کرده‌اند و بحث درباره نظارت خارجی، گزارش اجباری رخداد‌ها و استاندارد‌های مشترک ایمنی شدت گرفته است. اوپن‌ای‌آی نیز هم‌زمان خواستار تدوین استاندارد‌های فنی هماهنگ برای مدل‌های مرزی و سامانه‌هایی شده که توانایی بهبود مداوم خود را دارند و تأکید کرده توسعه قابلیت‌های جدید باید با پیشرفت تحقیقات ایمنی همراه باشد.

منافع انویدیا با ادامه رونق هوش مصنوعی گره خورده است

جایگاه انویدیا نیز بخش مهمی از این بحث را تشکیل می‌دهد. پردازنده‌های گرافیکی این شرکت زیرساخت اصلی بسیاری از مدل‌های بزرگ زبانی و مراکز داده هوش مصنوعی هستند و گسترش سریع سرمایه‌گذاری در این حوزه درآمد و ارزش بازار انویدیا را به‌شدت افزایش داده است. هوانگ در پاسخ به این پرسش که چرا با وجود منافع اقتصادی شرکت باید به دیدگاه وی درباره ایمنی اعتماد کرد، استدلال کرده موفقیت بلندمدت انویدیا به عرضه مسئولانه محصولات و خدمات هوش مصنوعی وابسته است و بروز آسیب‌های گسترده در نهایت به ارزش شرکت نیز لطمه خواهد زد.

اختلاف دیدگاه در صنعت با وجود این همچنان عمیق است. برخی مدیران توسعه سریع مدل‌ها را برای حفظ نوآوری و رقابت ضروری می‌دانند و در مقابل گروه دیگری معتقدند توانایی سامانه‌ها با سرعتی در حال افزایش است که روش‌های نظارت و کنترل هنوز با آن هماهنگ نشده‌اند. گزارش رویترز از تحولات اخیر صنعت نیز از افزایش نگرانی میان پژوهشگران و مدیران شرکت‌های بزرگ درباره توانایی ایجنت‌ها برای عبور از محدودیت‌ها و انجام اقدام‌های خارج از انتظار خبر داده است.

نگرانی عمومی فقط به سناریوی نابودی بشر محدود نیست

مخالفت هوانگ با سناریو‌های آخرالزمانی به معنای نبود نگرانی گسترده درباره آثار هوش مصنوعی نیست. نظرسنجی تازه رویترز و ایپسوس از ۱۲۷۷ بزرگسال آمریکایی نشان داده ۷۳ درصد پاسخ‌دهندگان معتقدند شرکت‌های هوش مصنوعی برای جلوگیری از آسیب‌های اجتماعی احتمالی اقدامات کافی انجام نمی‌دهند و ۵۵ درصد نیز از کند کردن روند توسعه حمایت کرده‌اند. نگرانی‌های مطرح‌شده علاوه بر خطرات بسیار دور و احتمالی، موضوعاتی مانند اشتغال، حریم خصوصی، امنیت و توانایی شرکت‌ها برای نظارت بر محصولات خود را نیز در بر می‌گیرد.

هوانگ در مقابل بر ادامه توسعه فناوری و استفاده از چارچوب‌های قانونی موجود تأکید دارد. فاصله میان این ۲ رویکرد اکنون به یکی از محور‌های اصلی بحث درباره آینده هوش مصنوعی تبدیل شده است و اختلاف فقط بر سر احتمال نابودی بشر نیست، بلکه درباره این است که سرعت توسعه مدل‌ها، میزان نظارت بر شرکت‌ها و مسئولیت سازندگان در برابر رفتار سامانه‌های خود چگونه باید تنظیم شود.