هوش مصنوعی باید ایمن و قابل کنترل باشد

به گزارش خبرنگار گروه علم و فناوری خبرگزاری آنا از چاینا دیلی، درحالی‌که چین به دنبال توسعه هوش مصنوعی باکیفیت بالا است، کارشناسان خواستار این امر هستند که شرکت‌های چینی به‌دنبال توسعه نسل بعدی فناوری هوش مصنوعی باشند که «ایمن و قابل‌کنترل» باشد.

«ژانگ بو» رئیس انستیتوی هوش مصنوعی در دانشگاه چینهوا می‌گوید: برای هوش مصنوعی، توسعه خلاقیت و حاکمیت ایمنی به یک اندازه مهم هستند. اگر مشکلات ایمنی وجود داشته باشد، صنعت هوش مصنوعی به روشی سالم توسعه نخواهد یافت. الگوریتم‌های هوش مصنوعی موجود بسیار شکننده هستند. اگر این الگوریتم‌ها در سناریوی واقعی اعمال شود که بسیار متفاوت از سناریوی آموزش باشد، خطرات امنیتی وجود خواهد داشت. به‌عنوان‌مثال، در رانندگی خودکار، شبیه‌سازی تمام سناریوهای ممکن در حین آموزش برای سیستم هوش مصنوعی غیرممکن است. اگر با موارد اضطراری جدیدی روبرو شود، نمی‌تواند از پس آن برآید و چنین آسیب‌پذیری‌هایی باعث می‌شود سیستم‌های هوش مصنوعی در برابر بسیاری عوامل بیرونی آسیب‌پذیر شوند.

وی افزود: نیاز است تلاش‌های بیشتری برای استفاده از دانش، داده‌ها، الگوریتم‌ها و توان محاسباتی که منجر به ایجاد فناوری‌های هوش مصنوعی نسل بعدی که ایمن، قابل‌اعتماد و معتبر باشند، صورت گیرد.

رهبران عالی چین در ماه مه خواستار اقدامات سریع‌تر برای تبدیل این کشور به یک محرک قوی علمی و فناوری شدند، اما همچنین در مورد خطرات احتمالی در طول توسعه این فناوری هشدار دادند.

بر اساس گزارش یک شرکت تحقیقات بازار جهانی، چین تا سال ۲۰۲۴ به محرک اصلی توسعه هوش مصنوعی جهانی تبدیل خواهد شد و ۱۵.۶ درصد از بازار این فناوری را تشکیل می‌دهد.

انتهای پیام/۴۱۱۲/