اوپن‌ای‌آی به متن‌های چت‌جی‌پی‌تی و کدکس واترمارک نامرئی اضافه می‌کند
به گزارش خبرگزاری آنا؛ اوپن‌ای‌آی سامانه‌ای با نام textGrain توسعه داده که هنگام تولید متن، الگوی نامرئی و قابل‌شناسایی برای نرم‌افزار‌ها در خروجی قرار می‌دهد، بدون آنکه ظاهر متن برای خواننده تغییر کند. هدف این روش ایجاد راهی برای تشخیص منشأ احتمالی متن‌های تولیدشده با مدل‌های هوش مصنوعی است و عرضه آن در اروپا نیز با الزامات قانون هوش مصنوعی اتحادیه اروپا ارتباط دارد. آنتروپیک نیز پیش‌تر برای پاسخ به همین مقررات از روشی مبتنی بر فناوری SynthID دیپ‌مایند برای واترمارک‌گذاری متن استفاده کرده بود.
واترمارک بدون تغییر ظاهر متن
به گفته اوپن‌ای‌آی، textGrain در آزمایش‌های داخلی عملکردی هم‌سطح یا بهتر از روش‌های مشابه داشته است و نتایج چند بنچمارک نیز تفاوت محسوسی میان کیفیت متن‌های دارای واترمارک و نسخه‌های معمولی نشان نداده‌اند. به بیان ساده، کاربر قرار نیست نشانه، عبارت یا علامت خاصی داخل متن ببیند و واترمارک در الگوی تولید کلمات قرار می‌گیرد تا ابزارهای مخصوص بتوانند آن را شناسایی کنند.
با این حال شرکت درباره محدودیت‌های این فناوری نیز صریح است. وجود واترمارک تضمین نمی‌کند که هر متن تولیدشده حتماً قابل‌شناسایی باشد و نبود آن نیز الزاماً به معنی انسانی بودن متن نیست. این سامانه همچنین نمی‌تواند درستی محتوای نوشته را تأیید کند، مالک متن را مشخص کند، سهم انسان در ویرایش یا نگارش را اندازه بگیرد یا ثابت کند یک نوشته به‌طور کامل توسط انسان تولید شده است.
عرضه ابتدا فقط در اتحادیه اروپا
واترمارک متنی طی هفته‌های آینده برای کاربران واجد شرایط چت‌جی‌پی‌تی و کدکس در تمام طرح‌ها در اتحادیه اروپا فعال خواهد شد. اوپن‌ای‌آی فعلاً قصد ندارد همین سیاست را به‌صورت پیش‌فرض در سراسر جهان اجرا کند. به گفته این شرکت، عرضه منطقه‌ای فرصت می‌دهد عملکرد این فناوری در استفاده واقعی بررسی شود و بازخورد کاربران پیش از تصمیم‌گیری برای گسترش بیشتر آن در نظر گرفته شود.
مشتریان API در سراسر جهان شرایط متفاوتی خواهند داشت. آن‌ها از همین حالا می‌توانند برای برخی مدل‌ها به‌صورت اختیاری خروجی دارای واترمارک دریافت کنند و خودشان تصمیم بگیرند این قابلیت چگونه در محصولات یا الزامات شفافیت آن‌ها استفاده شود. اوپن‌ای‌آی همچنین در حال همکاری با ارائه‌دهندگان خدمات ابری است تا طی هفته‌های آینده امکان دریافت خروجی واترمارک‌شده از مدل‌های این شرکت در سرویس‌های آن‌ها نیز فراهم شود.
ابزار تشخیص فعلاً عمومی نمی‌شود
اوپن‌ای‌آی دسترسی به ابزار تشخیص واترمارک را نیز برای پژوهشگران و سازمان‌های تخصصی مورد تأیید باز می‌کند، اما این دسترسی در مرحله نخست موردبه‌مورد اعطا خواهد شد. ابزار تنها اعلام می‌کند که آیا واترمارک اوپن‌ای‌آی را در متن تشخیص داده است یا خیر و قرار نیست هویت کاربر، پرامپت‌ها یا محتوای گفت‌و‌گو‌های وی را نمایش دهد.
شرکت فعلاً برنامه‌ای برای در دسترس قرار دادن عمومی این ابزار ندارد، زیرا احتمال از دست رفتن بعضی واترمارک‌ها یا تشخیص اشتباه همچنان وجود دارد. به همین دلیل textGrain بیشتر به‌عنوان یک نشانه فنی برای بررسی منشأ احتمالی متن در نظر گرفته شده است، نه ابزاری که بتوان تنها بر اساس نتیجه آن درباره انسانی یا ماشینی بودن یک نوشته حکم قطعی داد.
انتهای پیام/
