کسالت روبات‌های آینده، تهدیدی برای انسان

 گروه علم و فناوری خبرگزاری آنا، نوید فرخی؛ هوش مصنوعی در آینده به نقطه‌ای خواهد رسید که قدرت تحلیل دارد و از منظر آگاهی به ذهن انسان نزدیک خواهد شد.

حتماً دیالوگ کتاب «۲۰۰۱: ادیسه فضایی» اثر آرتور سی. کلارک(Arthur C. Clarke) را به خاطر دارید: «شرمنده دیو، متأسفانه نمی‌توانم چنین کاری کنم.» این جمله به‌یادماندنی از سوی کامپیوتری به نام HAL بیان شد. اما آیا یاغی‌گری این کامپیوتر تنها نشانه شورش و آغاز مبارزه برای آزادی ماشین است؟ این مسئله همچنین صدایی است که باید نگرانی ما را از عدم درک روانشناسانه هوش مصنوعی برانگیزد. در رمان آرتور سی. کلارک ممکن است کامپیوتر هیچ نقصی نداشته باشد، بلکه ایجاد هوش مصنوعی پیشرفته و بی‌توجهی به مسائل روانشناسی آن ممکن است عامل اصلی مشکلات باشد.

اگر چنین هوش مصنوعی زیرکی که به یک قاتل تبدیل شده است نگران‌تان نمی‌کند، می‌توانید به مثال دیگری توجه داشته باشید. در داستان کوتاه هارلان الیسون(Harlan Ellison) با عنوان «من دهانی ندارم اما باید فریاد بزنم»، یک هوش مصنوعی سادیستی شکنجه‌های پایان‌ناپذیری را روی زندانیان انسانی خود به دلیل اینکه حوصله‌اش سر رفته است انجام می‌دهد! ذکر داستان‌های علمی-تخیلی به این علت است که آنها هشدار می‌دهند که پیچیدگی روحی و روانیِ نتیجه خلاقیت‌های آینده خود را دست‌کم نگیریم، هر چند با توجه به دانش فعلی ما، پیش‌بینی در مورد روانشناسی هوش مصنوعی آینده کار دشواری است.

باید مسئله روانشناسی هوش مصنوعی را جدی گرفت زیرا دلایل خوبی وجود دارد که فکر کنیم هوش مصنوعی مستقل در آینده احتمالاً چیزی شبیه به کسالت و بی‌حوصلگی انسان را تجربه خواهد کرد.

چرا خستگی ماشین را جدی بگیریم؟

قبل از هر چیز با دو گزاره مجزا سروکار داریم: (۱) بی‌حوصلگی، یکی از ویژگی‌های احتمالی ماشین‌های خودمختار «فوق-هوشمند» خواهد بود؛ (۲) اگر این ماشین‌ها خودمختار باشند، بنابراین با توجه به آنچه در مورد واکنش‌های انسان به کسالت و خستگی می‌دانیم، باید نگران باشیم که ماشین‌آلات در برابر این پدیده چه واکنشی نشان می‌دهند.

اجازه دهید با چیزهای واضح شروع کنیم. برنامه‌نویسان، مهندسان، طراحان و کاربران همه در نحوه رفتار ماشین‌ها سهیم هستند. بنابراین اگر این مخلوقات آینده هم خودمختار باشند و هم توانایی داشتن شرایط روانشناختی پیچیده (کنجکاوی، کسالت و ...) را داشته باشند، پس باید به حالات روانشناختی آنها و تأثیرات آن بر بشر توجه نشان دهیم، به‌ویژه اگر رفتار نامطلوب و تخریبی را بتوان به روانشناسی آنها نسبت داد (و سهوی نباشد). اکنون این مشاهدات را اضافه کنید که ما رفتارهای ناسازگار و مخرب انسان را در چنین مواقعی دیده‌ایم. تجربه نشان می‌دهد که افراد به دلیل کسالت دست به اقدامات خودتخریبی و مضر می‌زنند.

مردم از کسالت و بطالت، جنگل‌ها را به آتش کشیده‌اند، رفتارهای سادیستی انجام داده‌اند، دست به سرقت زده‌اند و حتی مرتکب قتل عام شده‌اند؛ همه این‌ها در پرونده‌های جنایی ثبت است. تا زمانی که ماشین‌های آینده بی‌حوصلگی (یا چیزی شبیه به آن) را تجربه کنند، این احتمال هم وجود دارد که رفتار نادرستی از خود نشان دهند.

کسالت هوش مصنوعی جدی یا غیرجدی؟

فرض (۱) چطور؟ آیا آن هم قابل تأیید است؟ کسالت و بی‌حوصلگی می‌تواند ناشی از نارضایتی نسبت به کاری که فرد انجام می‌دهد باشد. بی‌حوصلگی ابتدا یک زنگ خطر را به صدا در می‌آورد. بنابراین باید به این مسئله توجه داشت هنگامی که یک ابرهوش مصنوعی ایجاد شد، آیا انتظارش از دستوراتی که به او داده می‌شود برآورده خواهد شد یا خیر. اگر دستوراتی که رضایت‌بخش نباشند تداوم پیدا کنند اصلاً بعید نیست که با دستان خود، ماشین را وارد فاز بی‌حوصلگی بکنیم. موارد متعدد روانکاوانه در جهان نیز مؤید این مسئله است.

با این وجود تنها گزاره موجود در تأیید فرضیه (۱) این نیست که بی‌حوصلگی و کسالت یک حالت عملکردی است. آنچه مهم است واکنشی است که به بی‌حوصلگی گره می‌خورد. مطابق الگوی عملکردی، کسالت در مسائل ذهنی و رفتاری نقش اساسی را ایفا می‌کند. در حقیقت عوامل یادگیری خودمختار به کسالت نیاز دارند! بدون آن، آنها در موقعیت‌های نامناسب گیر می‌کنند. به عنوان مثال ممکن است به طور بی‌وقفه توسط یک محرک سرگرم شوند یا ممکن است بارها و بارها مسئله‌ای تکراری را یاد بگیرند یا ممکن است بیکار باشند و برنامه‌ای برای تغییر نداشته باشند. بدون بروز بی‌حوصلگی ماشین احتمالاً منابع و انرژی هدر خواهد داد.

بنابراین بی‌حوصلگی و کسل شدن هوش مصنوعی مفید و حتی لازم است اما باید در مورد آن برنامه‌ریزی صورت بگیرد. در حقیقت، محققان هوش مصنوعی این استدلال را می‌آورند که الگوریتم یا ماژول خستگی برای تقویت یادگیری خودکار ممکن است لازم باشد. در عین حال وجود این الگوریتم بی‌حوصلگی به این معنی است که ماشین‌آلات قادر خواهند بود به تنهایی فعالیت‌هایی را پیدا کنند که با انتظارات آنها مطابقت داشته باشد و از مواردی که دلخواه‌شان نیست جلوگیری کنند. اما پس از آن، چگونه پاسخ می‌دهند؟ آیا مطمئن هستیم که آنها در برابر کسالت از راه‌های غیرمنطقی عکس‌العمل نشان نخواهند داد؟

ما هنوز پاسخی نداریم

هنگامی که ابرهوش مصنوعی یا روبات‌های پیشرفته را در نظر بگیریم، مسئله بی‌حوصلگی و کسالت بسیار جدی‌تر می‌شود. خواسته‌های آنها با گذر زمان به‌سرعت رشد می‌کند اما آزادی عمل آنها محدود می‌ماند. همانطور که بسیاری از محققان استدلال کرده‌اند، حبس کردن آنها بدون تعامل با دیگری، باعث کسالت و انبوهی از رفتارهای غیرقابل پیش‌بینی و به طور بالقوه مضر خواهد شد.

دغدغه‌های مزبور می‌طلبد که مسئله بی‌حوصلگی و کسالت ماشین نادیده گرفته نشود. اگر ابرهوش مصنوعی خلق شد، باید برای پیچیدگی‌های عاطفی و خلاقیت‌های آن نیز خود را آماده کنیم. رؤیای ابر هوشمندی می‌تواند به‌راحتی به یک کابوس تبدیل شود و تکینگی فناوری دور از ذهن نیست.

انتهای پیام/۴۱۶۰/پ