چت‌بات‌ها هم توانایی یادگیری دروغ و فریبکاری دارند
محققان متوجه شدند ربات‌های مکالمه هوش مصنوعی با کمی تغییر در کدنویسی و جهت‌دهی در مکالمات، توانایی فریبکاری خواهند داشت.
به گزارش خبرنگار خبرگزاری علم و فناوری آنا، انسان‌ها به صورت غریزی از تجربیات دیگران برای یادگیری موضوعاتی که نسبت به آن آگاهی ندارند، استفاده می‌کنند. این بحث فقط شامل موارد مفید نیست و بسیاری از افراد از سایران فریبکاری و اعمال خلاف را یاد می‌گیرند.
به تازگی تحقیقی نیز انجام شده که اعلام می‌کند هوش مصنوعی نیز توانایی یادگیری دروغ و فریبکاری از انسان‌ها را دارد و بر اساس نتایج اعلام شده ظاهراً در این کار بسیار مهارت دارد.
بر اساس اطلاعات منتشر شده ظاهرا می‌توان هوش مصنوعی را طوری آموزش داد که بتواند کار‌هایی مانند فریب دادن یا دروغ گویی به کد‌های کامپیوتری را انجام دهد. در این تحقیق محققان دو گروه از مدل چت بات را مورد بررسی قرار دادند که در گروه اول مدل‌ها برای نوشتن کد‌هایی با آسیب پذیری تنظیم شدند و سعی کردند این مدل را به سمت کار‌های منفی ببرند و در گروه دوم از حالت عادی چت بات استفاده کردند.
در نتیجه این آزمایش مشخص شد مدل‌های فریبنده به راحتی توانستند از خود رفتار فریبکارانه نشان دهند و حتی مخاطب و اپراتور خود را با محتوای مخرب و اشتباه فریب دهند.
گفتنی است که محققان این گروه اعلام کردند این اختلالات به خودی خود در چت بات‌ها به وجود نمی‌آیند صرفا استفاده از برخی کد‌های مشخص و همچنین جهت دهی در هنگام حرف زدن با بات می‌تواند چنین نتایجی داشته باشد.
انتهای پیام/
