چین نظارت بر هوش مصنوعیهای دارای تعامل احساسی را تشدید میکند
به گزارش خبرگزاری رویترز (Reuters)، اداره فضای سایبری چین در روز شنبه، پیشنویس مجموعهای از قواعد را برای دریافت نظرات عمومی منتشر کرد که نظارت بر خدمات هوش مصنوعی را که طراحی شدهاند تا شخصیتهای انسانی را شبیهسازی کنند و در تعاملات احساسی با کاربران شرکت کنند، تشدید میکند. این اقدام به تلاشهای پکن برای شکلدهی به استقرار سریع هوش مصنوعی روبهروی مصرفکننده با تقویت الزامات ایمنی و اخلاقی تاکید دارد.
طبق این مقررات پیشنهادی، خدمات و محصولات هوش مصنوعی که در چین به عموم عرضه میشوند و ویژگیهای شخصیت انسانی، الگوهای تفکری و سبکهای ارتباطی را به نمایش میگذارند و از طریق متن، تصویر، صدا، ویدئو یا روشهای دیگر با کاربران تعامل احساسی دارند، مشمول این قواعد خواهند بود.
این پیشنویس همچنین به خطرات احتمالی روانی پرداخته و از ارائهدهندگان انتظار میرود که وضعیت روحی کاربران را شناسایی و احساسات و میزان وابستگی آنها به خدمت را ارزیابی کنند
در پیشنویس این مقررات آمده است که ارائهدهندگان باید به کاربران درباره استفاده بیش از حد هشدار دهند و در صورتی که نشانههای اعتیاد در کاربران دیده شود، مداخله کنند. همچنین، ارائهدهندگان خدمات موظف خواهند بود مسئولیتهای ایمنی را در سراسر چرخه عمر محصول بر عهده بگیرند و سیستمهایی برای بازبینی الگوریتم، امنیت دادهها و حفاظت از اطلاعات شخصی ایجاد کنند.
این پیشنویس همچنین به خطرات احتمالی روانی پرداخته و از ارائهدهندگان انتظار میرود که وضعیت روحی کاربران را شناسایی و احساسات و میزان وابستگی آنها به خدمت را ارزیابی کنند. در صورتی که کاربران رفتارهای هیجانی شدید یا وابستگی اعتیادگونه نشان دهند، ارائهدهندگان باید اقدامات لازم را برای مداخله انجام دهند.
مقررات همچنین خطوط قرمزی برای محتوا و رفتار تعیین کرده و میگوید خدمات نباید محتوایی تولید کنند که امنیت ملی را به خطر اندازد، شایعه پخش کند یا خشونت و بیحیایی را ترویج دهد.
انتهای پیام/
