به بهانه درگذشت پیشکسوت تئاتر کشور ؛
یک استاد دانشگاه علوم پزشکی آزاد تهران در گفت‌وگو با آناتک بررسی کرد
ثابت کن انسان هستی! چالش‌های نویسندگی در عصر هوش مصنوعی
به گزارش خبرگزاری آنا؛ با افزایش استفاده از هوش مصنوعی مولد، ابزار‌هایی برای شناسایی متن‌های تولیدشده با این فناوری توسعه یافته است. این سامانه‌ها با بررسی ویژگی‌های زبانی و الگو‌های آماری نوشته‌ها، احتمال استفاده از هوش مصنوعی را تخمین می‌زنند. با این حال، نتایج آنها همیشه دقیق نیست و گاهی نویسندگانی را که تمام متن را شخصاً نوشته‌اند، به استفاده از هوش مصنوعی متهم می‌کنند.
ان‌پی‌آر در گزارشی، تجربه یک نویسنده حرفه‌ای را روایت کرده است که برای همکاری در تدوین طرح پیشنهادی یک کتاب، نمونه‌ای از نوشته‌هایش را به کارفرمای احتمالی فرستاد. کارفرما پس از بررسی متن با چند ابزار تشخیص هوش مصنوعی اعلام کرد نوشته او احتمالاً با هوش مصنوعی تولید شده است. این نویسنده که بیش از ۲۰ سال سابقه فعالیت دارد، تأکید کرد تمام متن را خودش نوشته و از اینکه مهارت و اعتبار حرفه‌ای‌اش زیر سؤال رفته، ناراضی و ناراحت است.
سوگیری علیه نویسندگان غیرانگلیسی
یکی از ابعاد مهم این مسئله، احتمال عملکرد ناعادلانه ابزار‌های تشخیص در برابر نویسندگان غیربومی انگلیسی‌زبان است. یک پژوهش، عملکرد هفت ابزار تشخیص هوش مصنوعی را روی نوشته‌های انگلیسی‌زبانان غیربومی و دانش‌آموزان آمریکایی بررسی کرد.
نتایج نشان داد این ابزار‌ها به‌طور میانگین ۶۱.۳ درصد نوشته‌های انسانی گروه غیربومی را به‌اشتباه ماشینی تشخیص داده است. پژوهشگران یکی از علل احتمالی این مسئله را به تفاوت در الگو‌های زبانی مرتبط دانستند. نویسندگانی که انگلیسی زبان دوم آنهاست، ممکن است از واژگان رایج‌تر و ساختار‌های دستوری قابل پیش‌بینی‌تری استفاده کنند. برخی ابزار‌های تشخیص نیز همین ویژگی‌ها را در ارزیابی احتمال تولید ماشینی متن در نظر می‌گیرند.
پژوهشگران برای بررسی این فرضیه، بخشی از نوشته‌های غیربومی را با کمک ChatGPT از نظر تنوع واژگان غنی‌تر کردند. پس از این تغییر، میانگین نرخ تشخیص اشتباه از ۶۱.۳ درصد به ۱۱.۶ درصد کاهش یافت. این نتیجه نشان داد ویژگی‌های زبانی نویسنده می‌تواند بر قضاوت الگوریتم‌ها تأثیر بگذارد و نویسندگان غیربومی را در معرض اتهام‌های اشتباه قرار دهد.
ابزار‌های تشخیص تا چه اندازه قابل اعتمادند؟
پژوهشی دیگر نیز اعتبار ۱۴ ابزار تشخیص متن تولیدشده با هوش مصنوعی را بررسی کرده است. پژوهشگران در این مطالعه متن‌های انسانی، نوشته‌های تولیدشده با ChatGPT و متن‌های دست‌کاری‌شده با ابزار‌های ترجمه و بازنویسی متن را ارزیابی کردند.
نتایج نشان داد ابزار‌های بررسی‌شده دقت و قابلیت اطمینان کافی برای تشخیص قطعی منشأ متن ندارند. همچنین تغییر و بازنویسی محتوای تولیدشده با هوش مصنوعی می‌تواند عملکرد این سامانه‌ها را کاهش دهد. پژوهشگران تأکید کردند نتایج چنین ابزار‌هایی نباید به‌تنهایی مبنای متهم کردن دانشجویان به تخلف علمی قرار بگیرد.
هشدار نویسندگان درباره پیامد‌های اتهام اشتباه
انجمن نویسندگان آمریکا نیز درباره پیامد‌های استفاده نادرست از ابزار‌های تشخیص هوش مصنوعی هشدار داده است. این انجمن دردستورالعملی که در اکتبر ۲۰۲۶ برای ناشران منتشر کرد، اذعان داشت که نباید هیچ نویسنده‌ای صرفاً بر اساس نتیجه یک ابزار تشخیص به استفاده از هوش مصنوعی متهم شود و نباشد به علت این اتهام قراردادهای کاری او لغو شود.
این نهاد معتقد است چنین اتهام‌هایی می‌تواند اعتبار حرفه‌ای نویسندگان را خدشه‌دار کند و فرصت‌های شغلی آنها را از بین ببرد. نویسندگان باید امکان پاسخ‌گویی و ارائه توضیحات داشته باشند و ناشران نیز باید درباره نحوه استفاده از ابزار‌های تشخیص شفاف عمل کنند.
انتهای پیام/
