اوپنایآی مدعی تغییر سیاستهای خود برای حفاظت از نوجوانان شد
سم آلتمن، مدیرعامل اوپنایآی، در بیانیهای که به تشریح این رویکرد جدید میپردازد، تأکید کرد که شرکت با چالش توازن میان ۳ اصل کلیدی خود یعنی حریم خصوصی، آزادی عمل کاربران بزرگسال و حفاظت از نوجوانان مواجه است. بر اساس این تصمیم، تعامل کاربران زیر ۱۸ سال با چتجیپیتی با محدودیتهای بیشتری همراه خواهد بود تا از بروز خطرات احتمالی جلوگیری شود. این تغییرات پس از آن صورت میگیرد که نگرانیها در مورد تأثیر هوش مصنوعی بر سلامت روان قشر جوان افزایش یافته و این شرکت را با فشارهای قانونی و اجتماعی مواجه کرده است.
جزئیات طرح جدید برای حفاظت از کاربران نوجوان
برنامه جدید اوپنایآی برای حفاظت از کاربران نوجوان بر چند محور استوار است. نخست، این شرکت در حال توسعه یک سیستم پیشبینی سن است که بر اساس نحوه استفاده افراد از چتجیپیتی، سن آنها را تخمین میزند. این سیستم در موارد تردید، به صورت پیشفرض تجربه کاربری افراد را در حالت زیر ۱۸ سال قرار میدهد تا ضریب ایمنی افزایش یابد. همچنین، اوپنایآی اعلام کرده است که در برخی کشورها یا شرایط خاص، ممکن است برای تأیید سن کاربران بزرگسال، درخواست ارائه مدرک شناسایی کند؛ اقدامی که به گفته آلتمن، یک مصلحتاندیشی ارزشمند برای حفاظت از نوجوانان در ازای کاهش نسبی حریم خصوصی بزرگسالان است.
محور دوم، اعمال قوانین متفاوت برای این گروه سنی است. به عنوان مثال، اگر یک کاربر نوجوان از چتجیپیتی درخواست گفتگوی نامناسب یا معاشقهآمیز کند، مدل از انجام آن خودداری خواهد کرد. علاوه بر این، هرگونه بحث در مورد خودکشی یا آسیب رساندن به خود، حتی در قالب نگارش یک داستان تخیلی، برای این گروه سنی مسدود خواهد شد. این در حالی است که کاربران بزرگسال، مطابق با اصل آزادی، میتوانند در چنین چارچوبهای خلاقانهای از مدل کمک بگیرند.
مهمترین بخش این طرح، پروتکل مداخله در شرایط بحرانی است. اوپنایآی اعلام کرده است که اگر یک کاربر زیر ۱۸ سال در گفتوگوهای خود به تمایل برای خودکشی اشاره کند، این شرکت تلاش خواهد کرد تا با والدین او تماس بگیرد. در صورتی که این امکان فراهم نباشد و خطر قریبالوقوع تشخیص داده شود، موضوع به مراجع قانونی محلی اطلاع داده خواهد شد. این اقدام به معنای نقض آگاهانه حریم خصوصی کاربر به نفع حفظ جان اوست و یک تغییر رویکرد جدی در سیاستهای این شرکت محسوب میشود.
تفاوت رویکرد برای کاربران بزرگسال
اوپنایآی مدعی میشود که بر اصل «آزادی عمل» برای کاربران بزرگسال تأکید دارد. سیاست داخلی این شرکت که از آن با عنوان «با کاربران بزرگسال خود مانند بزرگسالان رفتار کنید» یاد میشود، به افراد بالای ۱۸ سال اجازه میدهد تا در چارچوبهای ایمنی گسترده، از ابزارهای هوش مصنوعی به شیوه دلخواه خود استفاده کنند. برای مثال، مدل به صورت پیشفرض وارد گفتوگوهای معاشقهآمیز نمیشود، اما اگر یک کاربر بزرگسال چنین درخواستی داشته باشد، مدل به آن پاسخ خواهد داد.
اصل حریم خصوصی و استثناهای آن
سم آلتمن در بخش دیگری از توضیحات خود، به اهمیت حریم خصوصی در گفتوگو با هوش مصنوعی اشاره کرد. او این گفتوگوها را از نظر حساسیت، مشابه مکالمات افراد با پزشک یا وکیل دانست و تأکید کرد که این اطلاعات باید تحت بالاترین سطوح حفاظتی قرار گیرند. به گفته وی، اوپنایآی در حال توسعه ویژگیهای امنیتی پیشرفتهای است تا دادههای کاربران حتی از دسترس کارمندان خود شرکت نیز مصون بماند.
با این حال، این اصل نیز استثناهایی دارد. سیستمهای خودکار به طور مداوم مکالمات را برای شناسایی موارد سوءاستفاده جدی رصد میکنند. خطراتی مانند تهدید جانی علیه فرد یا دیگران، برنامهریزی برای آسیب رساندن به جامعه، یا حملات سایبری گسترده، ممکن است برای بررسی انسانی ارجاع داده شوند. این موارد استثنا، میتواند دستهای این شرکت را برای هرگونه همکاری با دولت آمریکا و کشورهای همسو با آن جهت رصد و بهرهبرداری از دادههای کاربران در چت جیپیتی باز بگذارد.
مدیرعامل شرکت آمریکایی اوپن.ای.آی اتخاذ این تصمیمات را دشوار توصیف کرد و مدعی شد که این رویکرد پس از مشورت با کارشناسان و با هدف شفافیت در عملکرد شرکت اتخاذ شده است.
انتهای پیام/
