معماری قدرت در جعبه سیاه الگوریتم‌ها؛ «کد همان قانون است»

جواد آزادی احمدآبادی مشاور دبیر شورای عالی و مدیرکل حوزه ریاست مرکز ملی فضای مجازی امروز در یادداشتی که در پایگاه اطلاع‌رسانی مرکز ملی فضای مجازی منتشر شد، نوشت:
تصور کنید برای دریافت یک وام کوچک آنلاین اقدام کرده‌اید و سیستم بدون هیچ توضیحی درخواست شما را رد می‌کند. یا در یک شبکه اجتماعی، حساب کاربری شما بی‌آنکه کلمه‌ای خلاف قوانین نوشته باشید، مسدود می‌شود. وقتی برای اعتراض اقدام می‌کنید، با یک پاسخ ماشینی مواجه می‌شوید: «مغایرت با سیاست‌های داخلی». در این لحظات، انسان احساس می‌کند صرفاً یک داده قابل پردازش است. اینجا دقیقاً نقطه‌ای است که مفهوم «کاربر» به «شهروند» تبدیل می‌شود؛ شهروندی که حق دارد بداند چه می‌گذرد.

در دوازده یادداشت پیشین، ما پرده از یک واقعیت تلخ برداشتیم: پلتفرم‌های خارجی نه‌تنها بر داده‌های ما مسلط شده‌اند، بلکه با ایجاد «حباب‌های فکری» و «استعمار دیجیتال»، حاکمیت ملی ما را نشانه گرفته‌اند. از «استارلینک» که به دنبال دور زدن مرز‌های ماست تا پلتفرم‌هایی که با «اقتصاد خشم» وحدت ملی را هدف می‌گیرند.

اما در این میان، یک حلقه گمشده وجود دارد: «جایگاه حقوقی انسان». اگر ما ادعای «حاکمیت فعال» و ساختن «شبکه ملی اطلاعات» را داریم، اما شهروند ایرانی در برابر یک الگوریتم خارجی حق اعتراض نداشته باشد، آن حاکمیت چه فایده‌ای دارد؟ اینجاست که «حقوق دیجیتال» (Digital Rights) به عنوان یک کلیدواژه گفتمانی جدید وارد می‌شود. شهروند دیجیتال صاحب حق است: حق بر حریم خصوصی، حق بر مالکیت داده‌های شخصی و مهم‌تر از همه، «حق بر تبیین» (حق دانستن اینکه چرا یک الگوریتم علیه من تصمیم گرفت).

کدهمان قانون است؛ معماری قدرت در جعبه سیاه

برای درک این بحران، باید بدانیم که در فضای مجازی، «قانون» چیست. لارنس لسیگ، حقوقدان برجسته می‌گوید: «کد همان قانون است». یعنی صاحبان پلتفرم‌ها با نوشتن چند خط کد، در واقع برای میلیون‌ها انسان «قانون» وضع می‌کنند. این همان «کد‌هایی است که حکمرانی می‌کنند» (یادداشت سوم).

اما خطرناک‌تر از آن، «جعبه سیاه» الگوریتم‌هاست. شما در دنیای واقعی اگر متهم شوید، حق دارید وکیل بگیرید و از خود دفاع کنید. اما در دنیای الگوریتم‌ها، یک ماشین بدون آنکه چهره‌ای داشته باشد یا توضیحی بدهد، درباره آینده شغلی و اعتباری شما تصمیم می‌گیرد. این یعنی مرگ «حق دفاع»! پلتفرم‌های فراملی به «دولت‌های خصوصی» بدل شده‌اند که بی‌آنکه از کسی رأی بگیرند، بر ما حکومت می‌کنند.

اقتصاد سیاسی حقوق؛ از توجه تا استعمار داده

چرا پلتفرم‌ها تمایلی به رعایت حقوق ما ندارند؟ شوشانا زوبوف، این وضعیت را «سرمایه‌داری نظارتی» می‌نامد؛ جایی که احساسات، ترس‌ها و مکان‌یابی شما به ماده خام تبدیل می‌شود. اما این فقط یک معامله تجاری نیست؛ این یک «استعمار داده» است.

دقیقاً همان‌طور که در قرن نوزدهم، قدرت‌های استعماری منابع ما را غارت می‌کردند، امروز غول‌های فناوری، «نفت جدید» یعنی داده‌های ما را می‌دزدند. آنها با تحلیل داده‌ها، نه‌تنها ثروت ملی را به سیلیکون‌ولی منتقل می‌کنند، بلکه با پیش‌بینی و مهندسی رفتار ما، استقلال اراده ما را هدف گرفته‌اند. حقوق دیجیتال، نه یک کالای لوکس، بلکه ابزار «مقاومت ملی» در برابر این استعمار نوین است. همان تهدیدی که در یادداشت دوازدهم ذیل عنوان «امپریالیسم دیجیتال» به آن اشاره کردیم.

سوژه‌سازی الگوریتمی و جنگ شناختی

در کنار غارت داده‌ها، ما با یک «جنگ شناختی» مواجهیم. الگوریتم‌ها با شخصی‌سازی محتوا، به شما القا می‌کنند که چه چیزی مهم است. این همان چیزی است که در یادداشت ششم با عنوان «حباب‌های فکری» به آن پرداختیم. دشمن برای از بین بردن وحدت ما نیازی به تانک ندارد؛ کافی است الگوریتم‌هایش را طوری تنظیم کند که هر ایرانی در یک اتاق پژواک محصور شود و صدای طرف مقابل را نشنود. پلتفرم‌ها به جای ابزار ارتباط، به سلاحی برای «مهندسی معکوس افکار عمومی» و قطبی‌سازی جامعه ایرانی بدل شده‌اند.

قفل‌شدگی حقوقی؛ درشکه در برابر قطار

چرا قوانین ما در برابر این پلتفرم‌ها ناکارآمدند؟ زیرا قوانین سنتی ما مانند یک «درشکه» در برابر یک «قطار پرسرعت» هستند. قوانین ما بر پایه «مرز‌های جغرافیایی» نوشته شده‌اند، اما پلتفرم‌ها ماهیتی «فراملی» دارند. وقتی یک شرکت در آمریکا با یک تغییر ساده در شرایط استفاده (Terms of Service)، قوانین را به ضرر شهروند ایرانی تغییر می‌دهد، دادگاه‌های ما در برابر این قفل‌شدگی حقوقی چه ابزاری در دست دارند؟ اینجاست که ضرورت یک «حقوق دیجیتال بومی» بیش از پیش آشکار می‌شود.

حکمرانی فعال و راهبرد «زره و خانه»

در برابر این امپراتوری دیجیتال، جمهوری اسلامی ایران نمی‌تواند تماشاچی باشد. تدابیر حکیمانه رهبر شهید انقلاب اسلامی (رضوان الله تعالی علیه) بر «مواجهه فعالانه» تأکید دارد؛ یعنی ما نباید منتظر بمانیم تا گوگل و متا به ما رحم کنند.

راهبرد ما باید ترکیبی از «زره» و «خانه» باشد. «زره» همان «شبکه ملی اطلاعات» است که زیرساخت فنی و امنیتی ما را در برابر نفوذ تضمین می‌کند (یادداشت‌های دهم و یازدهم)؛ و «خانه» همان «پلتفرم‌های بومی» هستند که با تکیه بر سه اصل «مشارکت، مشروعیت و کارآمدی» (یادداشت نهم)، باید حقوق شهروندی را سرلوحه کار خود قرار دهند. بدون یک بستر بومی که در آن، شهروند ایرانی احساس امنیت و کرامت کند، تلاش برای حکمرانی، سرابی بیش نخواهد بود. شورای عالی فضای مجازی و مرکز ملی فضای مجازی، به‌عنوان سکان‌داران این حوزه، متولیان اصلی این ظرفیت‌سازی در برابر تهدیدات فراملی هستند تا ثابت کنند که می‌توان در عصر پلتفرم‌ها، هم مستقل بود و هم کرامت شهروند را حفظ کرد.

حقوق دیجیتال و حاکمیت دیجیتال، دو روی یک سکه‌اند. بدون حاکمیت، حقوق شهروندان در برابر استعمار داده‌ای تضمین نمی‌شود و بدون حقوق، حاکمیت در تأمین رضایت شهروندان ناکام می‌ماند.

اما اگر حق داشته باشیم بدانیم الگوریتم‌ها چگونه تصمیم می‌گیرند، آیا لزوماً این تصمیمات عادلانه هستند؟ الگوریتمی که با داده‌های یک جامعه تبعیض‌زده آموزش دیده، آیا خودش تبعیض را بازتولید نمی‌کند؟ آیا می‌توان عدالت را به یک ماشین یاد داد؟ این پرسشی است که ما را به یادداشت بعدی می‌کشاند: «الگوریتم عدالت‌محور؛ از شعار تا واقعیت».