در یک پژوهش بررسی شد؛
چالش‌های اخلاقی و امنیتی هوش مصنوعی
هدف این گزارش، تحلیل و بررسی کاربرد‌ها و چالش‌های هوش مصنوعی در فرایند خط مشی گذاری عمومی و کاربست آن در مجلس شورای اسلامی است.
به گزارش گروه پژوهش خبرگزاری آنا، کاربرد‌های هوش مصنوعی در خط مشی گذاری عمومی می‌تواند تأثیرات قابل توجهی در ارتقای کارایی و هوشمندسازی این فرایند ایجاد کند. از کاربرد‌های متنوع این فناوری می‌توان به تحلیل کلان داده‌ها، پیش بینی و تصمیم گیری مبتنی بر شواهد، شناسایی الگو‌ها و رفتار‌های جامعه، هوشمندسازی ارائه خدمات عمومی و بهینه سازی مدیریت منابع اشاره کرد.
در همین راستا مرکز پژوهش های مجلس در گزارشی با عنوان «حکمرانی هوش مصنوعی (۱): ظرفیت‌های هوش مصنوعی در ارتقای فرآیند خط‌مشی‌گذاری عمومی: رهنمود‌هایی مرتبط با مجلس شورای اسلامی» آورده است که هوش مصنوعی یکی از فناوری‌های دگرگون‌کننده‌ای است که آثار آن به‌سرعت در حوزه حکمرانی در سطح بین‌الملل در حال ظهور است. به‌طوری‌که پیش‌بینی می‌شود این توسعه سریع، انقلابی متفاوت از انقلاب‌هایی را که تاکنون در حوزه صنعت، انرژی و فناوری‌هایی همچون اینترنت رخ داده است، موجب شود. تغییراتی که بر اثر به‌کارگیری هوش مصنوعی ایجاد می‌شود تأثیرات قابل‌توجهی در تمامی ارکان حاکمیت‌ها ازجمله فرآیند خط‌مشی‌گذاری و قانونگذاری خواهد داشت.
این گزارش بیان می‌کند که با توجه به پژوهش‌های صورت گرفته، به‌کارگیری هوش مصنوعی در فرآیند خط‌مشی‌گذاری عمومی و هوشمندسازی آن، به بهبود فرایند‌های تصمیم‌گیری کمک کرده و افزایش کارآمدی حوزه‌های مختلف خط‌مشی‌گذاری را به ارمغان بیاورد. در این راستا، گزارش حاضر سعی بر آن داشته است کارکرد‌های مختلف هوش مصنوعی در مراحل مختلف خط‌مشی‌گذاری و چالش‌های مرتبط با آن را تحلیل کرده و ظرفیت‌های بالقوه جهت هوشمندسازی فرآیند قانونگذاری در کشور را بیان کند.
در این گزارش، کارکرد‌هایی از هوش مصنوعی در خط‌مشی‌گذاری عمومی براساس چارچوب چرخه خط‌مشی، شناسایی شده است. این موارد شامل: خودکارسازی فرایند‌ها و مدیریت دانش، تشخیص و اولویت‌بندی مسائل با تحلیل کلان‌داده‌ها، کشف راه حل‌ها و پیش‌بینی پیامد تصمیمات و شواهدمحوری در تصمیم‌گیری و ارزیابی بهنگام و مستمر پیامد تصمیمات و قوانین است. همچنین، چون به‌کارگیری هر فناوری نوین مستعد ایجاد چالش‌ها و ابهاماتی می‌شود، در این گزارش برخی از چالش‌های قابل‌پیش‌بینی نیز مطرح شده است.
این گزارش ادامه می‌دهد که درنهایت پس از بررسی کارکرد‌ها و چالش‌ها، متناسب با هر بخش زیرمجموعه مجلس شورای اسلامی (معاونت قوانین، معاونت نظارت، کمیسیون‌های تخصصی، هیئت رئیسه، دیوان محاسبات و مرکز پژوهش‌ها) و ذیل هرکدام از کارکرد‌های شناسایی‌شده (خودکارسازی فرآیند‌ها و مدیریت دانش، تشخیص و اولیت‌بندی مسائل با تحلیل کلان داده‌ها، ارزیابی به هنگام و مستمر پیامد‌ها تصمیمات و قوانین، کشف راه حل‌ها و پیش‌بینی پیامد تصمیمات و شواهدمحوری در تصمیم‌گیری) پیشنهاد‌هایی جهت ارتقای کارآمدی این بخش‌ها با به‌کارگیری فناوری هوش مصنوعی، مطرح شده است.
این گزارش توضیح می‌دهد که پس از تجزیه‌و تحلیل مسائل و چالش‌ها، پیشنهادات و توصیه‌های سیاستی جهت تسهیل بستر و تشویق به‌کارگیری هوش مصنوعی در خط‌مشی‌گذاری عمومی و حکمرانی به‌طور عام در ۶ محور مدیریتی و ساختاری، پذیرش و به‌کارگیری، مسئولیت‌پذیری و پاسخ‌گویی، مشارکت و همکاری اجتماعی، اخلاقی و امنیتی و داده و اطلاعات و به‌طور خاص در مجلس شورای اسلامی مطرح شده است که این نکات به تفصیل در نتیجه گیری گزارش مطرح شده‌اند.
مرکز پژوهش‌های مجلس در این گزارش براساس چالش‌های مدیریتی و ساختاری پیشنهاداتی را طرح می‌کند که به این شرح است؛ درنظرگیری هوش مصنوعی در نظر حاکمیت به‌عنوان یک ظرفیت راهبردی و تحولی، اهتمام‌ورزیدن به تدوین خط‌مشی‌های بخش عمومی متناسب با تغییرات فناورانه با ابزار‌های مناسب ازجمله رصدخانه‌ها و آزمایشگاه‌ها سیاستی برای به‌کارگیری هوش مصنوعی، تدوین سند، خط‌مشی‌ها، قوانین و مقررات راهنما برای توسعه هوش مصنوعی شامل چارچوب‌های توسعه‌ای و نظارتی و تقسیم کار نهادی متناسب با ظرفیت نهادی این حوزه.
این گزارش همچنین در حوزه چالش پذیرش و به‌کارگیری هوش مصنوعی پیشنهاد ارتباط مؤثر بخش‌های مرتبط در دولت‌ها (مانند معاونت‌های توسعه وزارتخانه‌های مختلف و مراکز فناوری اطلاعات دستگاه‌ها) با پژوهشگران هوش مصنوعی، جامعه مدنی و سازمان‌های مرتبط بین‌المللی، در اولویت قرارگیری تأمین زیرساخت‌های لازم در لایه‌ها و نهاد‌های مختلف با تکیه بر دستاورد‌های قابل حصول برای هر دستگاه در برنامه توسعه و بودجه سالیانه، عدم اکتفا به سند‌های کلان و تهیه و تدوین برنامه‌های عملیاتی میان‌مدت و کوتاه‌مدت به‌همراه برش‌های سالیانه در بخش عمومی، برای آموزش و توانمندسازی نیروی انسانی این بخش جهت تطبیق با پیشرفت‌های فناورانه را مطرح می‌کند.
این گزارش در زمینه مسئولیت‌پذیری و پاسخ‌گویی پیشنهاد می‌دهد که هوش مصنوعی به‌نحو مشروط در خط‌مشی‌گذاری تعبیه شود به‌نحوی‌که تحت تضمین کیفیت مناسب قرار گیرد تا نقش مسئولانه و معنادار انسان نادیده گرفته نشده و تصمیمات نهایی زیرنظر عامل انسانی و مقامات مسئول اخذ شوند. همچنین الگوریتم‌های هوشمند طراحی شود، به نحوی که در کل مسیر قبل از تولید نتیجه نهایی قابل ردیابی باشند؛ زیرا توانایی قابل توضیح بودن تصمیمات هوش مصنوعی بسیار مهم است.
پیشنهاد این گزارش دباره مشارکت و همکاری اجتماعی به این شرح است؛ اهمیت دادن به مشارکت دادن شهروندان در فرایند اخذ تصمیمات در زمینه اجرای فرایند‌ها به کمک هوش مصنوعی و اتخاذ تدابیری جهت آزمایش، شفاف‌سازی و در دسترس قرارگیری الگوریتم‌های مورد استفاده در بخش عمومی.
این گزارش همچنین در حوزه چالش‌های اخلاقی و امنیتی هوش مصنوعی این پیشنهادات را مطرح می‌کند: پاسخ به نگرانی‌های مشروع و اتخاذ تدابیر ضروری هدف پیشگیری از به تأخیر افتادن پیشرفت به جهت برخی عوامل نگران‌کننده در بخش‌های مختلف، در نظرگیری فرایند‌های پالایش الگوریتم‌های مورد استفاده در بخش عمومی از منظر برابری و عدالت و عدم سوگیری با تست‌های مختلف، تدوین استاندارد‌های داخلی شفاف، واضح و متناسب با اقتضائات اخلاقی، فرهنگی و امنیتی کشور.
این گزارش برای حل چالش‌های مرتبط با داده‌ها و اطلاعات این پیشنهادات را ارائه می‌دهد: توجه به بحث حکمرانی داده و در دسترس قرار دادن داده‌های مناسب و به‌موقع و همچنین حفاظت از این داده‌ها و اطلاعات، تنظیم مقررات مرتبط با استانداردسازی داده‌های بخش عمومی با تعیین اولویت برای ساختارمندسازی داده‌های بخش‌های مختلف.
این گزارش در پایان ۶ پیشنهاد ویژه دستگاه تقنینی کشور ارائه داده که به این شرح است: ۱. تشکیل کمیته هوشمندسازی ذیل کمیسیون صنایع و معادن مجلس شورای اسلامی و نظارت برای رفع موانع به‌کارگیری هوش مصنوعی در فرایند خط‌مشی‌گذاری در مجلس و سایر نهاد‌های حاکمیتی، ۲. تشکیل و شتاب‌دهی به فعالیت‌های ستاد هوشمندسازی در مجلس شورای اسلامی با حضور نماینده هرکدام از بخش‌های ذی‌نفغ و ذی‌مدخل جهت برنامه‌ریزی و هماهنگی دستگاه‌های مربوطه و هم‌افزایی و بهره‌مندی از ظرفیت‌ها و تجربیات مشترک، ۳. استانداردسازی و یکپارچه‌سازی داده‌های سامانه‌های مرتبط با مجلس شورای اسلامی و ایجاد قابلیت گرفتن خروجی استاندارد جهت بهره‌مندی در الگوریتم‌های هوش مصنوعی و همچنین استفاده بخش‌های مختلف دیگر از مجلس شورای اسلامی، ۴. تمرکز بر فرایند‌های اجرایی هرکدام از بخش‌های مذکور متناسب با وظایف این بخش و همچنین داده‌های ایجاد شده در هر فرایند، جهت امکان‌سنجی خودکارسازی بخش‌هایی از این فرایند‌ها با استفاده از الگوریتم‌های هوشمند، ۵. تصویب بودجه مشخص در هر بخش از مجلس شورای اسلامی متناسب با برنامه تدوین‌شده جهت تأمین زیرساخت‌های سخت‌افزاری و نرم‌افزاری لازم و ۶. گزارش سالیانه میزان پیشرفت توسط ستاد هوشمندسازی از موارد فوق به هیئت‌رئیسه مجلس شورای اسلامی.
انتهای پیام/
