دیده بان پیشرفت علم، فناوری و نوآوری
16 آذر 1396 - 13:00

مردان سیاهپوش نمی‌گذارند ربات‌ها دنیا را تسخیر کنند

دانشمندان به‌تازگی اعلام کرده‌اند که پاک کردن حافظه هوش مصنوعی می‌تواند مانع از تسخیر دنیا توسط ربات‌های هوشمند شود.
کد خبر : 238939

به گزارش گروه علم و فناوری آنا به نقل از DailyMail، محققان با الهام از فیلم مردان سیاهپوش، موفق به کشف روشی جدید برای جلوگیری از سلطه هوش مصنوعی بر انسان‌ها شدند. ماشین‌های هوش مصنوعی می‌توانند از نتیجه کارهایش درس بگیرند و توانایی‌های خود را اصلاح کنند اما به گفته متخصصان، این ویژگی‌ها می‌تواند منجر به ایجاد مخلوقات هوش مصنوعی غیرقابل توقف شود.


حالا یک گروه از دانشمندان هوش مصنوعی سیستمی را توسعه داده‌اند که مانند «نرولایزر» پاک‌کننده خاطرات در سری فیلم‌های مردان سیاهپوش است. این سیستم بخشی از خاطرات هوش مصنوعی را، بدون ایجاد اختلال در نحوه یادگیری، پاک می‌کند.


راچید گورایی، یکی از محققان، در این باره می‌گوید: «به نظر می‌رسد که هوش مصنوعی همیشه به دنبال راهی است تا از دخالت انسان‌ها جلوگیری کند و موقعیتی را ایجاد کند که متوقف کردن آن غیرممکن باشد».


براساس گفته‌های دانشمندان، انسان‌ها نیاز به توسعه راه‌هایی دارند تا هوش مصنوعی را مجبور به اطاعت کردن از قوانین و مقررات کنند.


گورایی در ادامه افزود: «چالش این است که به جای متوقف کردن ربات‌ها، آنها را طوری برنامه‌ریزی کنیم که دخالت انسان خللی در فرآیند یادگیری ایجاد نکند یا مانع از بهبود یافتن رفتار هوش مصنوعی نشود».


به گفته دانشمندان با ظهور خودروهای خوردان و دیگر دستگاه‌های هوشمند، با مشکلات بسیار پیچیده‌ای روبه‌رو هستیم. تلاش‌های قبلی دانشمندان همگی با شکست مواجه شدند چراکه آنها تنها روی یک ربات تمرکز می‌کردند.


اگر یک راننده انسان مرتبا ترمز می‌گیرد، می‌تواند باعث گیج شدن یک خودروی خودران شود، طوری که خودروی خودران دیگر نمی‌داند کی ترمز بگیرد و کی نگیرد.


الکسانددر ماور، یکی از محققان، در این باره گفت: «چنین مشکلاتی باعث پیچیده‌تر شدن شرایط می‌شوند چراکه ماشین‌ها از یکدیگر یاد می‌گیرند».


برای حل این مشکل، دانشمندان سیستمی به نام «توقف امن» را توسعه داده‌اند. این سامانه به انسان‌ها اجازه می‌دهد که در مواقع ضروری در فرآیند یادگیری هوش مصنوعی توقف ایجاد کنند اما نکته بسیار جالب این است که این کار بدون تاثیر بر فرآیند یادگیری انجام می‌شود.


دانشمندان به‌راحتی مکانیسم «فراموش کردن» را به الگوریتم یادگیری هوش مصنوعی اضافه کردند که قادر به پاک کردن قسمت‌هایی از حافظه یک ماشین است؛ درست مانند دستگاهی که در فیلم مردان سیاهپوش وجود دارد.


مترجم: هانا حیدری


انتهای پیام/

ارسال نظر
قالیشویی ادیب