تمامی مدلهای جدید کلود مجهز به سیستم درج واترمارک شدند
به گزارش خبرگزاری آنا؛ شرکت توسعهدهنده هوش مصنوعی آنتروپیک پس از امضای کد رفتاری مرتبط با ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا، فرآیند افزودن واترمارک نامرئی به متون تولیدشده توسط کلود را آغاز کرده است. بر اساس الزامات جدید شفافیت، محتوای تولیدشده یا دستکاریشده با ابزارهای هوش مصنوعی باید تا حد امکان به شکلی علامتگذاری شود که سامانههای ماشینی بتوانند منشأ آن را تشخیص دهند و کاربران نیز امکان تمایز میان محتوای انسانی و مصنوعی را داشته باشند.
واترمارک نامرئی چگونه در متن قرار میگیرد؟
فناوری جدید آنتروپیک الگوی نامرئی را در ساختار متن تولیدشده توسط مدل قرار میدهد؛ الگویی که برای کاربر قابل مشاهده نیست و قرار نیست تغییری در مفهوم، کیفیت یا خوانایی پاسخ ایجاد کند. در مقابل، ابزارهای تخصصی میتوانند با بررسی الگوی موجود در متن، احتمال تولید آن توسط کلود را تشخیص دهند.
یکی از ویژگیهای مهم این روش، مقاومت نسبی در برابر ویرایشهای معمولی است. برای مثال، کپی و پیست متن در محیطهای مختلف یا اعمال تغییرات جزئی لزوماً واترمارک را از بین نمیبرد و همچنان امکان شناسایی بخشی از الگو وجود دارد. با این حال، بازنویسی گسترده، خلاصهسازی یا تغییرات سنگین در متن میتواند ساختار واترمارک را تضعیف کند یا بهطور کامل از بین ببرد.
اجرای جهانی برای خروجیهای مختلف کلود
بر اساس سیاست جدید آنتروپیک، مدلهای جدید کلود که از ۱۱ مرداد به بعد عرضه میشوند، بهصورت پیشفرض از این فناوری استفاده خواهند کرد. اجرای این قابلیت به کاربران اروپایی محدود نمیشود و آنتروپیک قصد دارد آن را در سرویسهای مختلف خود در سراسر جهان، از رابط وب گرفته تا کلود کد، خدمات سازمانی و زیرساختهای ابری از جمله AWS، گوگل کلود و مایکروسافت آژور اعمال کند.
نکته مهم این است که واترمارک لزوماً به معنای آن نیست که متن از ابتدا توسط هوش مصنوعی نوشته شده باشد. برای مثال، اگر کاربر متنی را که خودش نوشته است برای ترجمه، خلاصهسازی، ویرایش نگارشی یا تغییر قالب در اختیار کلود قرار دهد، خروجی نهایی نیز دارای واترمارک خواهد بود؛ بنابراین این فناوری بیشتر نشاندهنده استفاده از هوش مصنوعی در تولید یا پردازش نهایی محتوا است و الزاماً اثبات نمیکند که کل متن از ابتدا توسط مدل تولید شده است.
آنتروپیک همچنین اعلام کرده است که تصاویر تولیدشده توسط کلود نیز بر اساس استاندارد باز C۲PA دارای متادیتای قابل تأیید خواهند بود تا امکان بررسی منشأ و سابقه فایل فراهم شود. این شرکت در ادامه قصد دارد ابزارهای تشخیص واترمارک را در اختیار سازمانها، مراکز آموزشی و پلتفرمهای انتشار محتوا قرار دهد تا شناسایی محتوای پردازششده یا تولیدشده با هوش مصنوعی سادهتر شود.
انتهای پیام/