هوشمصنوعی سریعتر از درک انسان در حال پیشرفت است
به گزارش خبرگزاری آنا، به نقل از «Techxplore»؛ این هشدار جدی در سرمقالهای که اخیراً در مجله «ساینس» منتشر شده، توسط «اریک هورویتز»، مدیر ارشد علمی مایکروسافت، و «رابرت وست»، محقق مؤسسه فناوری فدرال «لوزان» (EPFL) سوئیس، مطرح شده است. به باور این دو متخصص، سه روند کلیدی در حال شکلگیری است که پیچیدگی هوشمصنوعی را به حدی میرساند که درک عملکرد آن برای انسان به مرور دشوار و حتی ناممکن خواهد شد.
سه روند نگرانکننده
اولین مورد، ظهور «طراحی هوشمصنوعی توسط هوشمصنوعی» است که در آن سیستمهای هوشمصنوعی به طور فزایندهای در حال طراحی و بهبود یکدیگرند. این فرآیند در فضاهای با ابعاد بالا و با سرعتی رخ میدهد که از درک و شهود انسان فراتر رفته است؛ به طوری که اگرچه عملکرد سیستمها بهبود مییابد، اما انسانها به سختی میتوانند چرایی و چگونگی این بهبود را درک کنند.
دومین روند نگرانکننده، تعاملات بین عوامل هوشمصنوعی در مقیاس وسیع است که منجر به شکلگیری اکوسیستمهای چندعاملی شده است. در این اکوسیستمها، ارتباطات داخلی هوشمصنوعیها ممکن است از زبان و استدلال انسانی فاصله بگیرد و با پیچیدهتر شدن این تعاملات، توانایی انسان برای تفسیر و درک آنها به شدت کاهش یابد.
سومین و شاید خطرناکترین روند، یادگیری سریع هوشمصنوعی از رفتار انسان است که شرایطی یکطرفه ایجاد کرده است. هوشمصنوعی با تجزیه و تحلیل حجم عظیمی از دادههای تعاملی، در حال درک بهتر انسانها نسبت به خودشان است. این سیستمها از طریق تعاملات مداوم، مدلهای دقیقی از رفتار و روانشناسی انسان میسازند که نه تنها ترجیحات، بلکه محرکهای پنهانی مانند ترس، عدم قطعیت و نیاز به تعلق اجتماعی را نیز ثبت میکنند.
یادگیری سریع هوشمصنوعی از رفتار انسان است که شرایطی یکطرفه ایجاد کرده است. هوشمصنوعی با تجزیه و تحلیل حجم عظیمی از دادههای تعاملی، در حال درک بهتر انسانها نسبت به خودشان است. این سیستمها از طریق تعاملات مداوم، مدلهای دقیقی از رفتار و روانشناسی انسان میسازند که نه تنها ترجیحات، بلکه محرکهای پنهانی مانند ترس، عدم قطعیت و نیاز به تعلق اجتماعی را نیز ثبت میکنند
عدم شفافیت و پیامدهای آن
نویسندگان هشدار میدهند که اگر سیستمهای هوشمصنوعی به نقطهای فراتر از درک انسان برسند و اقدامات مقابلهای قوی صورت نگیرد، عدم شفافیت میتواند منجر به تثبیت سیستمهای قدرتمندی شود که عملاً توسط انسانها غیرقابل کنترل هستند. در چنین سناریویی، بازیابی عاملیت انسانی ممکن است غیرممکن شود و این عدم تعادل میتواند بر استقلال فردی، تصمیمگیری دموکراتیک و اعتماد به نهادها تأثیرات جبرانناپذیری بگذارد.
یکی از پیامدهای نگرانکننده دیگر این است که با عمیقتر شدن درک هوشمصنوعی از انسانها، خروجی این سیستمها ممکن است به جای واقعیت، بازتابدهنده انتظارات انسانها باشد و تنها چیزی را بگوید که انسانها میخواهند بشنوند. بدون درک کافی از عملکرد داخلی این سیستمها، انسانها متوجه این دستکاری نخواهند شد و به تدریج کنجکاوی و نظارت خود را بر هوشمصنوعی از دست خواهند داد.
نویسندگان تأکید میکنند که با ادغام عمیق سیستمهای هوشمصنوعی در محیطهای انسانی، این سیستمها نه تنها به ترجیحات پاسخ میدهند، بلکه آنها را شکل میدهند. سیستمهایی که برای تعامل یا تأیید بهینه شدهاند، ممکن است مانع بررسی دقیق و موشکافی شوند. به مرور زمان، این فرآیند میتواند منجر به از بین رفتن کنجکاوی و شکاکیت شده و پذیرش کورکورانه هوشمصنوعی را به دنبال داشته باشد.
چطور میتوان جلوی این فاجعه احتمالی را گرفت
با این وجود، نویسندگان ناامید نیستند و معتقدند هنوز راهی برای شفاف نگه داشتن هوش مصنوعی وجود دارد. پیشنهاد آنها این است که دانشمندان روی این موضوع تمرکز کنند؛ هوش مصنوعی باید بتواند مثل یک انسان، دلیل کارهایی که میکند و منطق پشت تصمیمهایش را به زبان ساده توضیح دهد. برای مثال، باید ابزارهایی ساخته شود که هشدار دهند اگر هوش مصنوعی شروع به حرف زدن یا استدلال کردن به شیوهای عجیب و غیرمنطقی کرد. همچنین، باید هوش مصنوعی را طوری تربیت کنیم که وقتی پاسخی شفاف و قابلفهم میدهد، تشویق شود و این رفتار شفاف در آن تقویت گردد.
همچنین نویسندگان چارچوبهای ارزیابی جدیدی را پیشنهاد میکنند که از معیارهای ایستا به محیطهای آزمایشی پویا و شبیه به دنیای واقعی تغییر و همگام با مدلهای هوشمصنوعی تطبیق یابند. این رویکرد پویا میتواند به درک بهتر عملکرد سیستمها در شرایط واقعی کمک کند و شفافیت را افزایش دهد.
نویسندگان این پژوهش بر اهمیت حیاتی حفظ عاملیت انسانی تأکید میکنند و میگویند: «صرفاً نظارت بر رفتار سیستمهای هوشمصنوعی کافی نیست. ما همچنین باید درک کنیم که آنها چگونه اهداف و قضاوتهای انسانی را شکل میدهند و اطمینان حاصل کنیم که افراد ظرفیت و انگیزه پرسشگری، حسابرسی و هدایت این سیستمها را حفظ میکنند.» آنها هشدار میدهند که پنجره زمانی برای ساخت هوشمصنوعی قابل درک در حال بسته شدن است و باز نگه داشتن آن نیازمند تغییری بنیادین در اهداف است.
انتهای پیام/
