انگیزه‎‌های مالی مانع نظارت موثر بر هوش مصنوعی می‌شود

به گزارش خبرگزاری علم و فناوری آنا به نقل از رویترز، گروهی از کارمندان فعلی و سابق شرکت‌های هوش مصنوعی (AI)، از جمله اپن ای‌آی تحت حمایت مایکروسافت، گوگل دیپ مایند و آلفابت، نگرانی‌های خود را در مورد خطرات ناشی از فناوری نوظهور مطرح کردند.

در نامه سرگشاده گروهی از کارمندان فعلی و سابق اپن ای‌آی و گوگل دیپ مایند آمده است که انگیزه‌های مالی شرکت‌های هوش مصنوعی مانع از نظارت موثر می‌شود.

در این نامه اضافه شده است: ما معتقد نیستیم که ساختار‌های سفارشی حاکمیت شرکتی برای تغییر این موضوع کافی باشد.

همچنین در مورد خطرات ناشی از هوش مصنوعی غیرقانونی، از انتشار اطلاعات غلط گرفته تا از دست دادن سیستم‌های هوش مصنوعی مستقل و عمیق‌تر شدن نابرابری‌های موجود، که می‌تواند منجر به انقراض انسان شود، هشدار می‌دهد.

علی‌رغم سیاست‌هایی که علیه انتشار محتوای نادرست اعمال می‌شود محققان نمونه‌هایی از تولیدکننده‌های تصویر را از شرکت‌هایی مانند اپن ای‌آی و مایکروسافت پیدا کرده‌اند که عکس‌هایی با اطلاعات نادرست مربوط به رای‌گیری تولید می‌کنند.

در این نامه آمده است که شرکت‌های هوش مصنوعی «تعهدات ضعیفی» برای به اشتراک گذاشتن اطلاعات با دولت‌ها درباره قابلیت‌ها و محدودیت‌های سیستم‌هایشان دارند و اضافه می‌کند که نمی‌توان به این شرکت‌ها برای اشتراک‌گذاری داوطلبانه این اطلاعات اعتماد کرد.

نامه سرگشاده جدیدترین موردی است که نگرانی‌های ایمنی را در مورد فناوری هوش مصنوعی مولد ایجاد می‌کند که می‌تواند به سرعت و ارزان متن، تصاویر و صدا‌های شبیه انسان تولید کند.

این گروه از شرکت‌های هوش مصنوعی خواسته است فرآیندی را برای کارمندان فعلی و سابق تسهیل کنند تا نگرانی‌های مرتبط با خطرات هوش مصنوعی را مطرح کنند و توافق‌نامه‌های محرمانه‌ای را که انتقاد را ممنوع می‌کند، اجرا نکنند.