یک متخصص هوش مصنوعی در گفت‌وگو با آناتک:
توقف توسعه هوش مصنوعی به نفع هیچ‌کس نیست
همزمان با پیشرفت هوش مصنوعی، اختلاف نظرهایی درباره توسعه یا توقف این تکنولوژی وجود دارد. در حالی که برخی از پژوهشگران و فعالان حوزه فناوری درباره خطرات احتمالی هوش مصنوعی هشدار می‌دهند، گروهی دیگر بر ظرفیت‌های آن برای بهبود زندگی انسان تأکید دارند. سید مجتبی طباطبایی، متخصص حوزه هوش مصنوعی، در گفت‌وگو با آناتک، به بررسی احتمال نابودی بشر به دست هوش مصنوعی، خطرات ناشی از کاربردهای نادرست این فناوری و راهکارهای مقابله با پیامدهای احتمالی آن پرداخته است.
علت وجود گمانه‌زنی‌ها درباره پایان یافتن زندگی بشر به دست هوش مصنوعی چیست؟
بحث پایان یافتن زندگی بشر به دست هوش مصنوعی از گذشته در فیلم‌ها، کتاب‌ها و آثار داستانی مختلف مطرح بوده است. چنین موضوعی به علت برخورداری از کشش داستانی، جذابیت بیشتری برای مخاطب دارد. در بسیاری از فیلم‌ها و کتاب‌ها، کمتر پیش می‌آید که فناوری صرفاً به‌عنوان ابزاری مفید برای پیشرفت و تسهیل زندگی انسان به تصویر کشیده شود؛ به همین خاطر، این موضوع از گذشته مطرح بوده است. فیلم‌های مطرحی مانند «ترمیناتور» نیز به این مسئله پرداخته‌اند. بنابراین، طرح چنین موضوعاتی بیشتر به علت جذابیت داستانی آنها بوده است، نه لزوماً به این علت که واقعاً احتمال وقوع چنین اتفاقی احساس می‌شده است.
به نظر شما ممکن است هوش مصنوعی منجر به از بین رفتن انسان‌ها و پایان یافتن دنیا شود؟
در جامعه فناوری، در حال حاضر دو گروه اصلی وجود دارند که از نظر رویکردشان به پیشرفت فناوری از یکدیگر متمایز می‌شوند. گروهی که با عنوان «Effective Accelerationists» یا e/acc شناخته می‌شوند، معتقدند فناوری باید با هر سرعتی که امکان‌پذیر است، به پیشرفت خود ادامه دهد. در مقابل، گروهی با عنوان «Decels» کوتاه‌شده «decelerationist» قرار دارند که دیدگاهشان نقطه مقابل این رویکرد است. گروه دوم به موضوعی که در پرسش شما مطرح شده است، گرایش دارند و معتقدند به‌ویژه هوش مصنوعی ممکن است به اتفاقات نامطلوبی منجر شود. البته در این گروه نیز دیدگاه‌های متفاوتی وجود دارد؛ برخی معتقدند باید با قانون‌گذاری و احتیاط بیشتر به توسعه این فناوری پرداخت و برخی دیگر بر این باورند که روند توسعه آن باید به‌طور کامل متوقف شود.
با این حال، اینکه هوش مصنوعی به نابودی انسان‌ها و پایان یافتن دنیا منجر شود، موضوع دیگری است. هوش مصنوعی نیز مانند سایر ابزار‌ها می‌تواند در جهت منفی به کار گرفته شود. برای مثال، بمب‌های اتمی موجود در جهان ظرفیت آن را دارند که بار‌ها زمین را به‌طور کامل نابود کنند، اما این اتفاق به‌خودی‌خود رخ نمی‌دهد و کسانی با استفاده از این سلاح‌ها می‌تواند چنین اتفاقاتی را رقم بزنند.
هوش مصنوعی نیز یک ابزار است و اینکه این فناوری به‌صورت مستقل و خودسرانه دست به چنین اقداماتی بزند، با توجه به شرایط فعلی، موضوعی نیست که بتوان آن را به این شکل در نظر گرفت. هوش مصنوعی به‌خودی‌خود انگیزه‌ای برای بقا و تکثیر، مشابه آنچه در انسان‌ها وجود دارد، ندارد. بنابراین، چنین اتفاقی ممکن است در صورتی رخ دهد که از این فناوری به‌عنوان ابزاری در جهت منفی استفاده شود.
در جامعه فناوری، در حال حاضر دو گروه اصلی وجود دارند که از نظر رویکردشان به پیشرفت فناوری از یکدیگر متمایز می‌شوند. گروهی که با عنوان «Effective Accelerationists» یا e/acc شناخته می‌شوند، معتقدند فناوری باید با هر سرعتی که امکان‌پذیر است، به پیشرفت خود ادامه دهد. در مقابل، گروهی با عنوان «Decels» کوتاه‌شده «decelerationist» قرار دارند که دیدگاهشان نقطه مقابل این رویکرد است.
مهم‌ترین نکته این است که غریزه بقا یکی از قوی‌ترین غرایز انسان است، اما یک موجودیت کاملاً مصنوعی چنین غریزه‌ای ندارد. اینکه هوش مصنوعی به‌صورت مستقل به چنین تصمیمی برسد یا به خودآگاهی دست پیدا کند نیز موضوعی جداگانه و مفصل است. من دست‌کم به این دیدگاه اعتقادی ندارم و تصور نمی‌کنم در حال حاضر چنین خطری پیش روی ما باشد.
در صورت پایان یافتن دنیا به دست هوش مصنوعی چه سناریو‌های احتمالی را متصور هستید؟
من شخصاً سناریوی مشخصی برای چنین اتفاقی متصور نیستم. همان‌طور که اشاره کردم، هوش مصنوعی می‌تواند به‌عنوان یک ابزار مورد استفاده قرار گیرد. برای مثال، ممکن است از آن در حوزه امنیت سایبری برای هک کردن یک سامانه استفاده شود یا از قابلیت‌های آن برای هدایت یک بمب بهره بگیرند.
همان‌طور که در جنگ اخیر علیه ایران نیز شرکت‌های هوش مصنوعی نقش‌آفرینی کردند، شرکت‌هایی مانند پالانتیر و آنتروپیک به‌طور مشخص در این جنگ نقش داشتند و مرتکب جنایاتی شدند. این شرکت‌ها از هوش مصنوعی به‌عنوان ابزار استفاده می‌کنند؛ قرار نیست خود هوش مصنوعی به‌صورت آگاهانه تصمیم بگیرد که دنیا را به سمت نابودی پیش ببرد.
اخیراً بسیاری از مخالفان پیشرفت هوش مصنوعی خواستار توقف توسعه این فناوری شده‌اند. آیا با این توقف موافق هستید؟ به نظر شما این کار به انسان‌ها کمک می‌کند یا به آنها آسیب می‌رساند؟
گروه e/acc که در مقابل گروه Decel قرار دارد، معتقد است فناوری باید تا حد امکان به پیشرفت خود ادامه دهد. گروه مقابل، در واقع همان مواضعی را دارد که در پرسش شما مطرح شده است؛ یعنی خواستار توقف یا محدود کردن روند توسعه فناوری است.
به نظر من، این دیدگاه چندان معقول نیست. در بسیاری از موارد، حتی می‌بینیم که این نگرانی‌ها بیشتر به حربه‌ای تبلیغاتی از سوی خود شرکت‌های توسعه‌دهنده این محصولات تبدیل می‌شوند تا بتوانند ارزش‌گذاری شرکت‌هایشان را افزایش دهند یا میزان پیشرفت سامانه‌های هوش مصنوعی خود را برجسته کنند.
توقف توسعه هوش مصنوعی کمکی به انسان‌ها نمی‌کند؛ زیرا این فناوری، در صورت افزایش قابلیت‌هایش، می‌تواند کاربردهای بسیار مفیدی داشته باشد. برای مثال، می‌توان از آن برای کمک به درمان بسیاری از بیماری‌ها، از جمله سرطان، و توسعه حوزه پزشکی استفاده کرد. همچنین، هوش مصنوعی می‌تواند آموزش را گسترده‌تر و ارزان‌تر کند و انجام بسیاری از کار‌هایی را که برای انسان‌ها دشوار و دردسرساز هستند، بر عهده بگیرد.
در نهایت، توسعه این فناوری می‌تواند به نفع بشریت باشد و توقف یا کند کردن روند پیشرفت آن به نفع هیچ‌کس نیست. همان‌طور که تاکنون نتوانسته‌اند جلوی پیشرفت فناوری را به‌طور کامل بگیرند و تلاش‌ها برای متوقف کردن آن نیز موفق نبوده است، اساساً جلوگیری از توسعه فناوری کار درستی نیست و در نهایت کمکی به بشریت نخواهد کرد.
توقف توسعه هوش مصنوعی کمکی به انسان‌ها نمی‌کند؛ زیرا این فناوری، در صورت افزایش قابلیت‌هایش، می‌تواند کاربردهای بسیار مفیدی داشته باشد. برای مثال، می‌توان از آن برای کمک به درمان بسیاری از بیماری‌ها، از جمله سرطان، و توسعه حوزه پزشکی استفاده کرد
چطور می‌توان از اقدامات احتمالی هوش مصنوعی که ممکن است به آسیب‌های گسترده و جدی به انسان‌ها منجر شود، جلوگیری کرد؟
هوش مصنوعی یک ابزار است. همان‌طور که اشاره کردم، شرکت‌های سیلیکون‌ولی مانند پالانتیر و آنتروپیک در جنگ اخیر علیه ایران نقش‌آفرینی داشتند و مرتکب جنایات متعددی شدند، اما این شرکت‌ها از هوش مصنوعی به‌عنوان ابزار استفاده می‌کنند. خود هوش مصنوعی به‌خودی‌خود این امکان را ندارد که مستقلاً و بدون دخالت انسان دست به چنین اقداماتی بزند.
از سوی دیگر، اینکه قانون‌گذاری یا ایجاد ممنوعیت‌هایی در این زمینه چه نقشی می‌تواند داشته باشد، محل بحث است و به اعتقاد من، چنین اقداماتی در نهایت کمک چندانی نخواهند کرد.
بهترین راه برای کاهش خطرات ناشی از هوش مصنوعی، استفاده از همین فناوری برای مقابله با خطراتی است که ممکن است ایجاد کند. برای مثال، اگر قرار باشد با حملات سایبری مبتنی بر هوش مصنوعی مقابله کنیم، بهترین راه این است که از یک سامانه مبتنی بر هوش مصنوعی استفاده کنیم که بتواند در برابر این حملات واکنش نشان دهد و از وقوع آنها جلوگیری کند. در واقع، بهترین راه برای مقابله با خطرات هوش مصنوعی، استفاده از خود هوش مصنوعی است.
انتهای پیام/
