افشای تقلب دانشجویان/ مقاله‌های هوش مصنوعی «واترمارک» می‌شوند
اُپن ای‌آی در پی آن است که محتوای متنی تولیدشده با چت جی‌پی‌تی را با واترمارک مشخص کند تا تقلب دانشجویان افشا شود.
به گزارش خبرگزاری علم و فناوری آنا به نقل از اینگجت، اُپن ای‌آی ابزار واترمارک کردن مقاله‌های دانشجویی را آماده کرده، ولی هنوز در انتشار آن مردد است.
روزنامه وال استریت ژورنال به تازگی در یک گزارش ادعا کرده است که ابزار اُپن ای‌آی برای واترمارک کردن مقاله‌های تولیدشده با چت جی‌پی‌تی دقت تشخیص بالایی دارد. مشخص نیست که چرا این شرکت اطلاعات کمی در مورد تحقیقات خود در زمینه واترمارک کردن متن به اشتراک گذاشته است.
اُپن‌ای آی در یک پست وبلاگی در ماه مه نوشت: «تیم‌های ما یک روش واترمارک کردن متن را توسعه داده‌اند که ما همچنان در حال بررسی جایگزین‌های بهتر آن هستیم.»
این شرکت گفت که واترمارک کردن یکی از راه‌حل‌های متعدد است که به عنوان بخشی از «تحقیقات گسترده در زمینه منشأ متن» مورد بررسی قرار گرفته است. طبق گفتۀ اُپن ای‌آی در برخی موقعیت‌ها «بسیار دقیق بوده است»، اما در صورت مواجهه با شکل‌های خاصی از دستکاری، «مانند استفاده از سیستم‌های ترجمه، بازنویسی با مدل مولد دیگر، یا درخواست از مدل برای درج یک الگوی خاص» به خوبی عمل نمی‌کند.
اُپن ای‌آی همچنین اشاره کرد که علامت‌گذاری متن به این شکل می‌تواند بر برخی گروه‌ها بیش از دیگران تأثیر بگذارد. به عنوان مثال، ممکن است استفاده از برنامه‌های کامپیوتری خاص را برای افرادی که انگلیسی زبان اولشان نیست، سخت‌تر کند. طبق پست وبلاگ، اُپن‌ای آی این خطرات را سنجیده است و انتشار ابزار‌های احراز هویت برای محتوای سمعی و بصری را در اولویت قرار داده است.
انتهای پیام/
