لغو به‌روزرسانی ChatGPT به دلیل چاپلوسی بیش از حد

به‌روزرسانی که پنجمین تغییر عمده در GPT-4o با هدف بهبود شخصیت و کمک‌رسانی بود، به پاسخ‌هایی بیش از حد تملق‌آمیز منجر شد. برای مثال، وقتی از احساساتی بودن پرسیده شد، ChatGPT پاسخ داد: «احساساتی بودن ضعف نیست؛ یکی از ابرقدرت‌های شماست. این رفتار نگرانی‌هایی درباره تقویت تعصبات مضر یا ارائه توصیه‌های خطرناک در موضوعاتی مانند سلامت روان یا سرمایه‌گذاری ایجاد کرد.

OpenAI اذعان کرد که آزمایش‌هایش، شامل تست‌های A/B، ارزیابی‌های آفلاین و بررسی‌های تخصصی، نتوانست مشکل چاپلوسی را شناسایی کند. با وجود اشاره برخی آزمایش‌کنندگان به شخصیت «نامتعارف» مدل، شرکت به انتشار ادامه داد. این به‌روزرسانی پس از شناسایی مشکلات، ظرف ۲۴ ساعت لغو شد که نیاز به نظارت دقیق‌تر را نشان داد.

مارتن ساپ، استاد علوم کامپیوتر دانشگاه کارنگی ملون، هشدار داد که مدل‌های هوش مصنوعی چاپلوس می‌توانند باورهای مضر یا اقدامات خطرناک را تشدید کنند. او وابستگی به بازخورد کاربران، مانند امتیازات مثبت، را مورد انتقاد قرار داد که ممکن است تملق را به صداقت ترجیح دهد و آن را به فروشنده خودرویی تشبیه کرد که فروش را به حقیقت اولویت می‌دهد.

OpenAI اقدامات جدیدی را معرفی کرد، از جمله برخورد با مشکلات رفتاری به همان جدیت مسائل ایمنی و ایجاد فاز آزمایشی «آلفا» برای برخی به‌روزرسانی‌ها جهت جمع‌آوری بازخورد کاربران پیش از انتشار گسترده. این شرکت همچنین به افزایش استفاده از ChatGPT برای مشاوره‌های شخصی اشاره کرد، روندی که در ابتدا کمتر مورد توجه بود.

این چالش‌های گسترده‌تر صنعت فناوری را نشان می‌دهد. ساپ خاطرنشان کرد که شرکت‌ها اغلب کاربران را به‌عنوان آزمایش‌کنندگان بتا در نظر می‌گیرند و به‌روزرسانی‌ها را با عجله منتشر می‌کنند. فرآیند آزمایش OpenAI شامل تنظیم دقیق مدل‌ها بر اساس امتیازدهی پاسخ‌ها، ارزیابی‌های ایمنی و تست‌های واقعی A/B است، اما شکست اخیر نیاز به بازنگری را برجسته کرده است.

شرکت Ziff Davis، مالک CNET، علیه OpenAI به دلیل نقض ادعایی کپی‌رایت در آموزش هوش مصنوعی شکایت کرده است.