دیده بان پیشرفت علم، فناوری و نوآوری

مسمومیت وب‌ با توهمات چت‌بات‌های هوش مصنوعی!

مسمومیت وب‌ با توهمات چت‌بات‌های هوش مصنوعی!
توهمات چت‌بات‌های هوش مصنوعی جست‌وجوی وب را مسموم می‌کند.
کد خبر : 872067

به گزارش خبرگزاری علم و فناوری آنا به نقل از رید رایت، اولین توهم‌های چت‌بات‌ها در آوریل ۲۰۲۳ گزارش شد. این پدیده زمانی رخ می‌دهد که چت‌بات یا افراد آن‌چه را که وجود ندارد، می‌بینند و مشکل ایجاد می‌شود.

محققان هوش مصنوعی این موضوع را توهم می‌نامند. آیا ماشین‌ها می‌توانند در واقع بدون اشتباه باشند؟ به گفته «ساندار پیچای»، مدیرعامل گوگل، هنوز هیچ‌کس نتوانسته است توهم را حل کند و همه مدل‌های هوش مصنوعی این مشکل را دارند.

یک منبع بین‌المللی معتقد است قبل از اینکه هوش مصنوعی بتواند جهان را تحت کنترل خود درآورد، باید یک مشکل را حل کند، آن هم اینکه ربات‌ها توهم می‌زنند. ابزار‌های مبتنی بر هوش مصنوعی مانند چت جی‌پی‌تی ما را مجذوب توانایی خود در تولید پاسخ‌های معتبر و با صدای انسانی کرده‌اند.

توهمات چت‌بات جست‌وجوی وب را مسموم می‌کند. واقعاً دشوار است که تفاوت را تشخیص داد مگر اینکه حقیقت واقعی را بدانید. هوش مصنوعی اطلاعات را با مطمئن‌ترین لحن به شما می‌گوید و پاسخ هم درست به نظر می‌رسد. آیا این توهمات هوش مصنوعی قابل پیشگیری هستند؟

بدترین توهم‌های چت‌بات در دانش پزشکی اتفاق می‌افتد. تصور کنید والدینی که آموزش پزشکی ندارند از چت‌بات سوالی درباره بیماری فرزند خود می‌پرسند، اما ربات به اشتباه دستوری می‌دهد و وضعیت فرزند بدتر از قبل می‌شود.

مدارس، دانشگاه‌ها و کسب‌وکارها در تلاش هستند تا قبل از اینکه این مشکل خیلی بزرگ شود، چگونگی رفع آن را بیابند. برای افرادی که با «چت جی‌پی‌تی» (OpenAI ChatGPT) خیلی سروکله می‌زنند، این چالش بیشتر وجود دارد.

انتهای پیام/

ارسال نظر