یادداشت؛
یادداشت
دولت ترامپ هوش مصنوعی را وارد فرآیند حذف اطلاعات حساس از اسناد عمومی میکند
به گزارش خبرگزاری آنا قانون آزادی اطلاعات آمریکا یا FOIA به شهروندان، خبرنگاران و دیگر متقاضیان اجازه میدهد اسناد موجود در نهادهای فدرال را درخواست کنند و به همین دلیل یکی از ابزارهای مهم برای بررسی عملکرد دولت محسوب میشود. ادارهها موظفاند درباره درخواست دریافتشده معمولاً ظرف ۲۰ روز کاری تصمیم بگیرند، هرچند این مهلت الزاماً به معنی تحویل تمام اسناد در همین مدت نیست و رسیدگی عملی به پروندههای بزرگ میتواند ماهها طول بکشد. بعضی اطلاعات نیز به دلایلی مانند امنیت ملی، حریم خصوصی، تحقیقات قضایی یا اسرار تجاری میتوانند از انتشار مستثنا شوند و کارمندان پیش از تحویل سند، این بخشها را با نوارهای سیاه یا حذف متن از نسخه عمومی کنار میگذارند.
هوش مصنوعی ابتدا قسمتهای پیشنهادی برای حذف را پیدا میکند
گزارش واشنگتن پست حاکی از آن است که دولت آمریکا اکنون میخواهد بخشی از همین کار وقتگیر را به هوش مصنوعی بسپارد. گمرک و حفاظت مرزی آمریکا در وزارت امنیت داخلی در حال تهیه ابزاری مبتنی بر فناوری گوگل است، وزارت کشور از ابزارهای مایکروسافت استفاده میکند و وزارت دادگستری نیز سراغ فناوری شرکت Veritone رفته است. وزارت بهداشت و خدمات انسانی هم همراه یک پیمانکار که نامش اعلام نشده، سامانهای با نام FRED توسعه میدهد. برنامه فعلی این نیست که هوش مصنوعی بهتنهایی تصمیم نهایی درباره انتشار یا پنهان کردن اطلاعات بگیرد؛ ابزار سند را بررسی میکند و بخشهایی را که احتمالاً مشمول استثناهای قانونی هستند علامت میزند، سپس کارمند انسانی باید این پیشنهادها را بازبینی کند. وزارت امنیت داخلی قصد دارد چنین فناوریهایی را در رسیدگی سالانه به بیش از ۱۰۰ هزار پرونده به کار بگیرد.
کاربرد عملی را میتوان با یک پرونده چندصدصفحهای تصور کرد. کارمند دولت در روش معمول باید صفحات را یکییکی بررسی کند تا برای مثال نام یک فرد، اطلاعات پزشکی، اطلاعات طبقهبندیشده یا جزئیات یک عملیات پلیسی را که قانون اجازه انتشار آنها را نمیدهد پیدا کند. هوش مصنوعی میتواند در مرحله نخست تمام سند را بخواند و بخشهای مشکوک را برای بررسی علامتگذاری کند و در نتیجه زمان لازم برای مرور دستی کاهش یابد. دولت فدرال هدف این پروژه را کاهش قابل توجه زمان رسیدگی اعلام کرده است و مشکل انباشته شدن درخواستهای FOIA نیز سالها یکی از چالشهای این سامانه بوده است.
اشتباه در هر ۲ جهت دردسرساز است
مشکل زمانی ایجاد میشود که هوش مصنوعی چیزی را اشتباه تشخیص دهد. اگر سامانه اطلاعاتی را که باید محرمانه بماند نادیده بگیرد، ممکن است اطلاعات شخصی یا حساس ناخواسته منتشر شوند؛ اگر در جهت مقابل بیش از اندازه محتاط باشد، بخشهایی از سند را که مردم حق دیدن آنها را دارند برای حذف علامتگذاری میکند. واشنگتن پست گزارش کرده ارزیابیهای اولیه از ابزارهای هوش مصنوعی مورد استفاده در چنین وظایفی دقتی در حدود ۷۰ درصد را نشان دادهاند، بنابراین بازبینی انسانی همچنان بخش مهمی از فرایند است.
قانون نیز به نهادهای فدرال اجازه نمیدهد صرفاً به این دلیل که اطلاعات ناخوشایند یا حساس به نظر میرسند آنها را پنهان کنند. وزارت دادگستری در راهنمای FOIA تأکید میکند که برای جلوگیری از انتشار، معمولاً باید بتوان بهطور منطقی پیشبینی کرد انتشار اطلاعات به یکی از منافع حفاظتشده در استثناهای قانونی آسیب میزند و اگر فقط بخشی از یک سند مشمول استثنا باشد، قسمتهای دیگر باید تا حد امکان منتشر شوند. همین نکته باعث میشود تصمیم نهایی درباره خط سیاه کشیدن روی یک جمله یا پاراگراف صرفاً یک مسئله فنی نباشد و تفسیر حقوقی نیز در آن نقش داشته باشد.
نگرانی از تبدیل ابزار سرعت به ابزار پنهانکاری
دیوید کولیر، متخصص قانون آزادی اطلاعات در دانشگاه فلوریدا، به واشنگتن پست گفته استفاده نادرست از چنین سامانهای میتواند ابزار قدرتمندی برای افزایش پنهانکاری دولت ایجاد کند. نگرانی اصلی این نیست که هوش مصنوعی عمداً تصمیم سیاسی بگیرد، بلکه احتمال دارد کارکنان به پیشنهادهای خودکار بیش از اندازه اعتماد کنند و بخشهایی را بدون بررسی کافی حذف کنند. چنین وضعیتی به مفهومی موسوم به «سوگیری اتوماسیون» مربوط میشود که در آن انسان بهدلیل تصور دقیقتر یا آگاهتر بودن سامانه خودکار، تمایل بیشتری به پذیرفتن پیشنهاد آن پیدا میکند.
بحث حذف بیش از اندازه اطلاعات در اسناد دولتی پیش از ورود هوش مصنوعی نیز وجود داشته است. درخواستکنندگان FOIA بارها با اسنادی مواجه شدهاند که بخش قابل توجهی از صفحات آنها سیاه شده و سپس برای انتشار جزئیات بیشتر مجبور به اعتراض اداری یا مراجعه به دادگاه شدهاند. ورود هوش مصنوعی در بهترین حالت میتواند بررسی هزاران صفحه را سریعتر کند، اما اگر سامانه بهطور پیشفرض محافظهکارانه طراحی شود، امکان دارد بهجای کاهش این مشکل، تعداد پیشنهادهای حذف را بیشتر کند؛ به همین دلیل حفظ بازبینی انسانی و امکان اعتراض به تصمیم نهادها همچنان اهمیت دارد.
هوش مصنوعی در بخشهای بیشتری از دولت آمریکا وارد میشود
ورود این فناوری به FOIA بخشی از برنامه گستردهتر دولت آمریکا برای استفاده از هوش مصنوعی در کارهای اداری است. اداره خدمات عمومی آمریکا سال گذشته سامانه USAi را راهاندازی کرد که محیطی مرکزی برای آزمایش ابزارهای مولد هوش مصنوعی در نهادهای فدرال فراهم میکند و قابلیتهایی مانند چت، تولید کد و خلاصهسازی اسناد را در اختیار کارکنان قرار میدهد. این نهاد هدف USAi را سرعت بخشیدن به آزمایش و استفاده از هوش مصنوعی در سراسر دولت و کاهش دوبارهکاری میان سازمانها اعلام کرده است.
تفاوت FOIA با بسیاری از کاربردهای اداری در این است که خروجی سامانه مستقیماً مشخص میکند مردم چه مقدار از فعالیت دولت را میتوانند ببینند. چند دقیقه صرفهجویی در خلاصه کردن یک گزارش داخلی با اشتباه در حذف یک بخش از سند عمومی پیامد یکسانی ندارد؛ بنابراین موفقیت استفاده از هوش مصنوعی در این حوزه فقط با کوتاهتر شدن صف درخواستها سنجیده نمیشود و میزان خطا، نحوه نظارت کارکنان و اینکه نهادهای فدرال تا چه اندازه درباره نقش الگوریتم در تصمیمهای خود شفاف باشند نیز تعیین میکند این فناوری دسترسی به اطلاعات را آسانتر میکند یا لایه تازهای به فرایند پنهان کردن آنها میافزاید.
انتهای پیام/
