گوگل مدل «جما» را از پلتفرم AI Studio حذف کرد
سناتور مارشا بلکبرن در نامهای خطاب به سوندار پیچای، مدیرعامل گوگل، اعلام کرد هنگام پرسش از مدل هوش مصنوعی «جما» درباره سوابق شخصی خود، این سامانه پاسخی ارائه داده که شامل ادعای نادرست سوءرفتار جنسی بوده است. به نوشته او، مدل ادعا کرده که در جریان کارزار انتخاباتی سال ۱۹۸۷ یک افسر پلیس ایالتی اتهامی علیه وی مطرح کرده است؛ ادعایی که بلکبرن آن را باطل و حتی سال انتخاباتی ذکرشده را نادرست توصیف کرده است.
بلکبرن در این نامه افزوده است پیوندهایی که مدل بهعنوان منبع ارائه داده، به صفحات خطا یا مطالب نامرتبط منتهی میشوند و هیچ مدرک یا گزارش خبری درباره چنین ادعایی وجود ندارد. او همچنین در جلسهای از کمیته بازرگانی سنا به پرونده رابـی استارباک، فعال محافظهکار آمریکایی، اشاره کرده که با ادعای مشابهی از سوی سامانههای هوش مصنوعی گوگل علیه خود، از شرکت شکایت کرده است.
بر اساس این نامه، معاون روابط دولت و سیاستگذاری عمومی گوگل، مارکهام اریکسون، در واکنش گفته است پدیده توهمزایی از مسائل شناختهشده در هوش مصنوعی است و گوگل برای کاهش آن تلاش میکند. با این حال، بلکبرن تأکید کرده این موارد خطای بیضرر نیستند بلکه مصداق افترا از سوی سامانههای متعلق به گوگل بهشمار میآیند.
گوگل در بیانیهای در شبکه اجتماعی ایکس منتشر کرد، بدون اشاره مستقیم به محتوای نامه، اعلام کرد گزارشهایی از استفاده کاربران غیرتوسعهدهنده از مدل جما برای دریافت پاسخهای خبری دریافت کرده است. این شرکت افزود: «جما ابزار مصرفکننده نیست و برای این نوع استفاده طراحی نشده است.»
گوگل تصریح کرده است مدل جما همچنان از طریق رابط برنامهنویسی در دسترس توسعهدهندگان خواهد بود، اما از پلتفرم تحتوب AI Studio حذف میشود تا از بروز موارد مشابه جلوگیری شود. این شرکت تاکنون توضیح بیشتری درباره جزئیات زمانبندی یا اصلاحات احتمالی ارائه نکرده است.
انتهای پیام/
