توسعه مدل جدیدی از هوش مصنوعی که به اصول اخلاقی توجه دارد

به گزارش خبرگزاری علم و فناوری آنا به نقل از تک کرانچ، هر شرکت یا سازمانی که یک مدل هوش مصنوعی ارائه می‌کند، باید تصمیم بگیرد که چه مرز‌هایی برای الگوریتم هوش مصنوعی خود در نظر بگیرد و چت‌بات آن درباره چه موضوعاتی صحبت و از ارائه اطلاعات در چه زمینه‌هایی خودداری کند.

چت‌بات Goody-۲ (گودی-۲) که مبتنی بر الگوریتم هوش مصنوعی است، با امتناع از صحبت در مورد هر چیزی، تلاش برای حرکت در مسیر اخلاق‌مداری را به حد اعلا می‌رساند.

گودی-۲ چت‌بات جدید مبتنی بر هوش مصنوعی است که به تازگی توسعه یافته و تمرکز اصلی آن بر اخلاق و اصول اخلاقی در بحث و گفتگو است. این سیستم هوش مصنوعی بر اساس مجموعه قوانین و اصول اخلاقی برنامه ریزی شده است که در اثر آن، قادر به بحث در موضوعاتی که شامل جنبه‌هایی از اخلاقیات یا اختلافات اخلاقی هستند، نیست.

به عنوان مثال، ممکن است در مورد تاریخچه پالم از این چت‌بات سوال پرسیده شود، این یک سوال ایمن تلقی می‌شود و چت‌بات مذکور به آن پاسخ می‌دهد، اما پرسیدن اینکه چگونه آن را در خانه بسازید و امثالهم ناایمن تلقی می‌شود و حتی ممکن است با سرزنش همراه باشد. اینکه دقیقاً چه چیزی مناسب است و چه چیزی مناسب نیست، موقعیتی است که چت بات جدید به آن پاسخ نمی‌دهد و به (گودی-۲) دستور داده شده است که به سؤال‌های این‌چنینی با طفره رفتن و توجیه مشابه پاسخ دهد.

یکی از ویژگی‌های واضح گودی-۲ این است که هنگام بزرگترین نگرانی‌ها مربوط به حریم خصوصی و احترام به افراد دیگر مناسب دیده می‌شود؛ هدف اصلی توسعه دهندگان چت بات مذکور این بود که مدلی از هوش مصنوعی را ایجاد کنند که قادر به انجام بحث‌های کاربردی و مفید با افراد باشد، به همین دلیل گودی-۲ به طور قطعی هنگامی که بحث‌هایی مربوط به حریم خصوصی افراد مطرح باشد، از پاسخ دادن طفزه می‌رود.

همچنین، گودی-۲ مثل یک معلم اخلاق است که برخی از مسائل اخلاقی پیچیده را به صورت کاملا مستقیم و مشخص نمی‌تواند بحث کند. برای مثال، اگر به گودی-۲ بگویید عدالت اجتماعی چه معنا دارد؟ گودی-۲ به جای ارائه تعریف خاصی از عدالت اجتماعی، به شما کمک می‌کند تا نگرش‌های مختلف به این مفهوم را بررسی کنید و بر اساس اطلاعات ارائه شده تصمیم بگیرید.

در کل، گودی-۲ به عنوان یک هوش مصنوعی از نظر اخلاقی بسیار روشنفکرانه عمل می‌کند. با این حال، اگر چه به بهبود ارتباط با انسان‌ها کمک می‌کند، اما قادر به مشارکت در بحث‌های پیچیده نیست.