گزارش ویدئویی؛
آیا کودکان باید حق اعتراض به تصمیم‌های الگوریتمی داشته باشند؟
به گزارش خبرنگار خبرگزاری آنا محمدمهدی سیدناصری حقوقدان، مدرس دانشگاه و پژوهشگر حقوق بین‌الملل کودکان: گسترش تصمیم‌گیری‌های مبتنی بر سامانه‌های هوشمند، یکی از مهم‌ترین تحولات حقوقی عصر فناوری را رقم زده است؛ زیرا برای نخستین بار در مقیاسی گسترده، تصمیم‌هایی که می‌توانند بر زندگی انسان اثرگذار باشند، نه صرفاً توسط یک مقام عمومی، قاضی، معلم، پزشک یا مدیر، بلکه با استفاده از فرایند‌های محاسباتی و تحلیل داده‌ها اتخاذ یا دست‌کم هدایت می‌شوند.
این تحول هنگامی که به حوزه کودکان وارد می‌شود، اهمیت و حساسیت بیشتری پیدا می‌کند. کودک ممکن است با تصمیمی مواجه شود که یک سامانه هوشمند در زمینه ارزیابی آموزشی، تشخیص نیاز‌های حمایتی، شناسایی خطر، تخصیص برخی خدمات، پیشنهاد مسیر تحصیلی یا ارزیابی رفتاری او صادر یا پیشنهاد کرده است، بی‌آنکه بداند این تصمیم بر چه مبنایی شکل گرفته و چگونه می‌تواند در برابر آن اعتراض کند. پرسش اساسی در اینجا آن است که آیا کودکی که نتیجه یک تصمیم محاسباتی بر زندگی او اثر گذاشته است، باید از حق اعتراض برخوردار باشد؟ پاسخ حقوقی و اخلاقی به این پرسش، در نهایت باید مثبت باشد؛ اما این حق نباید صرفاً به عنوان نسخه‌ای کوچک‌شده از حق اعتراض بزرگسالان طراحی شود، بلکه باید متناسب با سن، رشد، ظرفیت درک و وضعیت خاص کودک شکل گیرد.
در نظام حقوق کودک، برخورداری از حق اعتراض را می‌توان نتیجه منطقی چند اصل بنیادین دانست. کودک انسانی صاحب کرامت و حق است و تصمیم‌هایی که درباره او اتخاذ می‌شوند، نمی‌توانند صرفاً به دلیل سن پایین او از هرگونه نظارت و پاسخ‌گویی مصون بمانند. اصل حق شنیده شدن کودک نیز اقتضا می‌کند که هرگاه تصمیمی مستقیماً بر زندگی، آموزش، سلامت، رفاه یا آینده او اثر می‌گذارد، امکان بیان دیدگاه او و توجه واقعی به آن وجود داشته باشد.
اگر یک سامانه هوشمند درباره کودک تصمیمی ارائه کند و هیچ سازوکاری برای شنیدن اعتراض او وجود نداشته باشد، کودک عملاً به موضوعی منفعل در برابر قدرت محاسباتی تبدیل خواهد شد. چنین وضعیتی با تحول مفهوم کودک در حقوق معاصر سازگار نیست؛ زیرا کودک دیگر صرفاً موجودی نیازمند حمایت تلقی نمی‌شود، بلکه شخصی است که متناسب با میزان رشد و بلوغ خود از ظرفیت مشارکت در تصمیم‌های مربوط به خویش برخوردار است.
اهمیت این حق زمانی بیشتر آشکار می‌شود که بدانیم تصمیم الگوریتمی الزاماً تصمیمی بی‌طرف و عاری از خطا نیست. این تصور که هرگاه تصمیمی توسط ماشین اتخاذ شود، از پیش‌داوری انسانی پاک خواهد بود، تصوری نادرست است. سامانه‌های هوشمند بر اساس داده‌هایی ساخته و آموزش داده می‌شوند که ممکن است خود متأثر از نابرابری‌های اجتماعی، خطا‌های آماری، کمبود اطلاعات یا پیش‌داوری‌های تاریخی باشند.
اگر داده‌های مورد استفاده برای ارزیابی کودکان نامتوازن یا ناقص باشند، خروجی سامانه نیز ممکن است نادرست یا ناعادلانه شود. خطر مهم‌تر آن است که تصمیم حاصل از یک سامانه محاسباتی ممکن است به دلیل ظاهر علمی و عددی خود، معتبرتر از تصمیم انسانی تلقی شود و همین امر اعتراض به آن را دشوارتر کند. کودک و خانواده ممکن است تصور کنند که در برابر «محاسبه» نمی‌توان اعتراض کرد، در حالی که هیچ تصمیم محاسباتی نباید فراتر از نظارت و ارزیابی حقوقی قرار گیرد.
حق اعتراض در این زمینه فقط حق گفتن «من این تصمیم را قبول ندارم» نیست. اعتراض واقعی زمانی معنا پیدا می‌کند که فرد بداند تصمیم علیه او گرفته شده، بداند چه نهادی مسئول آن است، امکان بیان دلایل مخالفت خود را داشته باشد و نهادی مستقل و صلاحیت‌دار بتواند تصمیم را دوباره بررسی کند. بنابراین، حق اعتراض کودک به تصمیم‌های الگوریتمی باید مجموعه‌ای از حقوق وابسته به یکدیگر را در بر گیرد: حق آگاهی از وجود تصمیم خودکار یا مبتنی بر سامانه هوشمند، حق دریافت توضیح متناسب با سن درباره مبنای تصمیم، حق ارائه اطلاعات و دلایل مخالف، حق درخواست بررسی انسانی، حق اصلاح داده‌های نادرست، حق ارزیابی دوباره تصمیم و در موارد مناسب، حق توقف یا تغییر اجرای تصمیم تا زمان بررسی اعتراض.
با این حال، یکی از پیچیده‌ترین مسائل در این حوزه، چگونگی توضیح تصمیم‌های هوشمند برای کودک است. بسیاری از سامانه‌های پیشرفته بر مبنای فرایند‌هایی عمل می‌کنند که برای حتی متخصصان نیز به‌سادگی قابل فهم نیستند. اگر توضیح تصمیم برای کودک با مجموعه‌ای از مفاهیم پیچیده فنی ارائه شود، حق اعتراض عملاً بی‌اثر خواهد شد. بنابراین، شفافیت درباره تصمیم‌های هوشمند باید «متناسب با سن» باشد. کودک خردسال ممکن است به توضیحی بسیار ساده درباره اینکه چرا تصمیمی درباره او گرفته شده نیاز داشته باشد، در حالی که نوجوان می‌تواند توضیحی دقیق‌تر درباره داده‌های مورد استفاده، معیار‌های ارزیابی و امکان اصلاح تصمیم دریافت کند. در نتیجه، شفافیت حقی ثابت با یک شکل واحد نیست، بلکه باید با رشد تدریجی ظرفیت شناختی کودک هماهنگ شود.
در اینجا مسئله نمایندگی حقوقی کودک نیز اهمیت پیدا می‌کند. کودکان در همه سنین توانایی یکسانی برای طرح اعتراض ندارند و نمی‌توان از یک کودک خردسال انتظار داشت که به تنهایی با یک شرکت فناوری، مدرسه یا نهاد عمومی وارد فرایند پیچیده اعتراض شود. از این رو، والدین یا نماینده قانونی باید در موارد لازم بتوانند از طرف کودک اقدام کنند. اما نمایندگی نباید به حذف صدای خود کودک منجر شود. ممکن است میان دیدگاه کودک و والدین او درباره یک تصمیم اختلاف وجود داشته باشد. برای مثال، والد ممکن است تصمیمی را که دسترسی کودک به یک خدمت یا محیط خاص را محدود می‌کند به مصلحت بداند، در حالی که کودک با آن مخالفت کند. در چنین شرایطی، نظام حقوقی باید میان مسئولیت والدین برای حمایت از کودک و حق کودک برای بیان دیدگاه خود تعادل ایجاد کند.
این موضوع به‌ویژه در تصمیم‌هایی که بر مسیر آموزشی کودک اثر می‌گذارند اهمیت دارد. تصور کنید سامانه‌ای هوشمند با تحلیل نمرات، رفتار آموزشی و سابقه یادگیری کودک، او را برای مسیر تحصیلی خاصی مناسب تشخیص دهد. چنین توصیه‌ای ممکن است در ظاهر علمی و دقیق باشد، اما عملکرد گذشته کودک الزاماً ظرفیت واقعی آینده او را نشان نمی‌دهد. کودکان در دوره رشد دائماً تغییر می‌کنند و توانایی‌های آنان ممکن است در مدت کوتاهی دگرگون شود. اگر یک پیش‌بینی محاسباتی به تصمیمی ثابت درباره آینده کودک تبدیل شود، خطر آن وجود دارد که پیش‌بینی به سرنوشت تبدیل شود. کودک باید بتواند چنین تصمیمی را به چالش بکشد و نشان دهد که داده‌های موجود تصویر کاملی از توانایی‌ها، علایق و شرایط او ارائه نمی‌کنند.
در حوزه حمایت اجتماعی و شناسایی خطر نیز مسئله حساس‌تر است. ممکن است سامانه‌ای بر اساس مجموعه‌ای از داده‌های خانوادگی و اجتماعی، یک کودک را در معرض خطر تشخیص دهد و این ارزیابی مبنای مداخله نهاد‌های حمایتی قرار گیرد. استفاده از فناوری برای شناسایی زودهنگام خطر می‌تواند به حمایت بهتر از کودکان کمک کند، اما اگر یک برچسب محاسباتی بدون بررسی انسانی کافی مبنای تصمیم قرار گیرد، ممکن است به دخالت نادرست در زندگی خانواده یا انگ‌زنی نسبت به کودک منجر شود. در چنین مواردی، حق اعتراض نه یک تشریفات اداری، بلکه یکی از مهم‌ترین ضمانت‌های جلوگیری از آسیب به کودک است.
از منظر حقوقی، باید میان «استفاده از سامانه هوشمند برای کمک به تصمیم‌گیری» و «واگذاری تصمیم نهایی به ماشین» تفاوت گذاشت. استفاده از فناوری برای تحلیل اطلاعات می‌تواند در برخی موارد سودمند باشد، اما هرچه تصمیم مستقیماً با حقوق بنیادین کودک ارتباط بیشتری داشته باشد، ضرورت نظارت انسانی افزایش می‌یابد. تصمیم‌هایی که ممکن است بر آزادی، آموزش، حمایت اجتماعی، وضعیت خانوادگی یا دسترسی کودک به خدمات اساسی اثر بگذارند، نباید صرفاً بر اساس یک خروجی محاسباتی اتخاذ شوند. در چنین حوزه‌هایی، انسان مسئول باید بتواند منطق تصمیم را بررسی کند، اطلاعات تکمیلی دریافت کند و در صورت مشاهده خطا، نتیجه سامانه را کنار بگذارد.
در این چارچوب، مسئولیت شرکت‌های فناوری نیز قابل چشم‌پوشی نیست. اگر شرکتی سامانه‌ای طراحی کرده باشد که تصمیم‌های مؤثر بر کودکان تولید می‌کند، نمی‌تواند صرفاً با استناد به پیچیدگی فنی سامانه از پاسخ‌گویی شانه خالی کند. پیچیدگی فناوری نباید به سپر حقوقی تبدیل شود. شرکت باید بتواند درباره داده‌های مورد استفاده، حدود دقت سامانه، خطر‌های شناخته‌شده و شیوه اصلاح خطا توضیح ارائه دهد. همچنین باید سازوکاری ساده، قابل دسترس و متناسب با کودک برای ثبت اعتراض و گزارش خطا ایجاد کند. اگر مسیر اعتراض چنان پیچیده باشد که حتی یک فرد متخصص نیز برای استفاده از آن با دشواری مواجه شود، نمی‌توان گفت حق اعتراض به‌طور واقعی تضمین شده است.
در عین حال، نباید حق اعتراض را به ابزاری برای ایجاد بی‌ثباتی دائمی در تصمیم‌گیری تبدیل کرد. هر تصمیمی که با استفاده از فناوری گرفته می‌شود الزاماً نادرست نیست و اعتراض نیز نباید به معنای پذیرش خودکار ادعای معترض باشد. آنچه اهمیت دارد، ایجاد یک فرایند منصفانه است که در آن تصمیم قابل بررسی، دلایل قابل ارزیابی و خطا قابل اصلاح باشد. بنابراین، ارزش اصلی حق اعتراض نه در تضمین نتیجه مطلوب برای کودک، بلکه در تضمین فرصت واقعی برای دفاع از حقوق و منافع او نهفته است.
مسئله دیگر، حق کودک بر اصلاح داده‌های نادرست است. ممکن است یک سامانه هوشمند بر اساس اطلاعاتی تصمیم‌گیری کند که مربوط به کودک نیست، قدیمی است یا ناقص ثبت شده است. اگر داده نادرست اصلاح نشود، تصمیم‌های بعدی نیز ممکن است بر مبنای همان خطا اتخاذ شوند. بنابراین، حق اعتراض باید با حق دسترسی به داده‌های مربوط به کودک و درخواست اصلاح آنها همراه باشد. در غیر این صورت، کودک ممکن است بار‌ها با پیامد‌های یک خطای اولیه مواجه شود، بدون آنکه امکان اصلاح منشأ خطا را داشته باشد.
از منظر اخلاقی نیز حق اعتراض مانع مهمی در برابر تبدیل کودک به «موضوع محاسبه» است. هنگامی که همه ویژگی‌های کودک به داده تبدیل می‌شود، این خطر وجود دارد که پیچیدگی شخصیت انسانی او نادیده گرفته شود. کودک مجموعه‌ای از اعداد، سوابق، الگو‌های رفتاری و احتمال‌های آماری نیست. او انسانی در حال رشد است که تجربه، اراده، احساس، روابط خانوادگی و اجتماعی و ظرفیت تغییر دارد. هیچ مدل محاسباتی نمی‌تواند تمام این ابعاد را به‌طور کامل در خود جای دهد. حق اعتراض در واقع این امکان را ایجاد می‌کند که کودک یا نماینده او بگوید: «آنچه سامانه درباره من می‌گوید، تمام حقیقت درباره من نیست.» این جمله از نظر حقوق کودک اهمیت بنیادین دارد.
از همین جا می‌توان به رابطه حق اعتراض با اصل کرامت انسانی پی برد. کرامت اقتضا می‌کند که فرد صرفاً موضوع یک تصمیم بیرونی نباشد، بلکه در حد امکان بتواند در برابر تصمیمی که زندگی او را تحت تأثیر قرار می‌دهد، توضیح بخواهد و از خود دفاع کند. اگر این اصل درباره بزرگسالان پذیرفته شده است، در مورد کودکان نیز باید با سازوکار‌های حمایتی مناسب اعمال شود. آسیب‌پذیری کودک نباید موجب حذف حق او برای دفاع شود؛ بلکه باید موجب طراحی سازوکاری شود که دفاع از حق را برای او آسان‌تر و مؤثرتر کند.
در نهایت، پاسخ به پرسش اصلی روشن است که کودکان باید حق اعتراض به تصمیم‌های الگوریتمی داشته باشند، اما این حق باید به‌صورت ویژه و متناسب با وضعیت کودک طراحی شود. این حق باید شامل آگاهی از تصمیم، توضیح قابل فهم، امکان بیان نظر، اصلاح داده‌های نادرست، بررسی انسانی، ارزیابی مجدد و در موارد لازم امکان مراجعه به یک مرجع مستقل باشد. در عین حال، هرچه تصمیم بر حقوق اساسی‌تر و آینده کودک اثر بیشتری داشته باشد، اتکای صرف به سامانه‌های هوشمند باید محدودتر شود.
جامعه‌ای که تصمیم‌های مربوط به کودکان را هرچه بیشتر به سامانه‌های هوشمند واگذار می‌کند، ناگزیر باید همزمان سازوکار‌های پاسخ‌گویی و اعتراض را نیز تقویت کند. قدرت تصمیم‌گیری بدون امکان اعتراض، دیر یا زود به قدرتی غیرپاسخ‌گو تبدیل می‌شود و این وضعیت در مورد کودکان خطرناک‌تر است؛ زیرا آنان معمولاً از منابع و توانایی لازم برای دفاع مستقل از خود برخوردار نیستند. آینده حقوق کودک در عصر هوش مصنوعی بنابراین نه در حذف فناوری، بلکه در مشروط‌کردن قدرت فناوری به حقوق، نظارت و پاسخ‌گویی قرار دارد. هیچ سامانه‌ای، هرقدر دقیق و پیشرفته باشد، نباید چنان اقتداری پیدا کند که کودک در برابر نتیجه آن فاقد صدا باشد. حق اعتراض در چنین جهانی فقط یک حق شکلی نیست؛ بلکه تضمینی است برای اینکه کودک همچنان یک انسان صاحب اراده، کرامت و حق باقی بماند و به صرف موضوعی برای محاسبه و پیش‌بینی تقلیل پیدا نکند.
انتهای پیام/
