الزامات قانون‌گذاری هوش مصنوعی در ایران/ نمی‌توان فناوری را به روش‌های مرسوم قانونمند کرد

خبرگزاری علم و فناوری آنا؛ از خودروهای خودران گرفته تا ربات‌های هوشمند، سونامی هوش مصنوعی با سرعتی باورنکردنی، گوشه و کنار زندگی بشر را در بر گرفته است و هر روز خبر تازه‌ای از رسوخ این فناوری به عرصه‌های مختلف از پزشکی گرفته تا صنعت به گوش می‌رسد.

با گسترش روزافزون هوش مصنوعی در سراسر دنیا مسابقه‎‌ای جهانی برای قانون‌مند کردن این فناوری نوظهور و ناشناخته شکل گرفته است به‌طوری‌که از آمریکا تا چین، قانون‌گذاران و حکمرانان به دنبال یافتن مدلی کارآمد برای نظام‌مند کردن هوش مصنوعی هستند تا علاوه بر کاهش خطرات احتمالی آن، مانع توسعه و پیشرفت این فناوری کاربردی نشوند.

ایران نیز برای آنکه از این مسابقه عقب نماند باید همزمان با پیشرفت و توسعه فناوری هوش مصنوعی در جامعه، با شناخت دقیق الزامات و چالش‌ها به دنبال راه‌هایی برای قانونمند کردن هوش مصنوعی باشد. از این رو به سراغ «احسان کیان‌خواه» پژوهشگر حوزه حکمرانی سایبری و رییس مرکز مطالعات فضای مجازی پژوهشگاه فرهنگ و اندیشه اسلامی رفتیم و درباره الزامات قانون‌گذاری هوش مصنوعی در ایران و ضرورت نظام‌مند کردن این فناوری نوظهور با او گفت‌وگو کردیم. در ادامه متن کامل گفت‌وگو را می‌خوانید:

آنا: آیا قانون‌گذاری و تنظیم‌گری در حوزه هوش مصنوعی ضرورت دارد؟ چرا؟

قاعده‌مند کردن هوش مصنوعی ضروری است

کیان‌خواه: انسان ذاتاً به زندگی اجتماعی گرایش دارد و برای برطرف کردن نیاز‌های خود به اجتماع وابسته است. از این رو فناوری‌هایی که عملکردهای انسانی را توسعه می‌دهد، نیز به قواعدی برای نظام‌بخشی و نظم‌دهی نیاز دارد تا حقوق سایرین مراعات شود. به غیر از قواعدی که برای ازدواج و خرید و فروش از قدیم بین اقوام مختلف برقرار بوده، به‌کارگیری فناوری‌ها نیز باید قاعد‌ه‌مند شود.

قوانین راهنمایی و رانندگی یکی از روزمره‌ترین قواعد است که فناوری‌های مرتبط با جابه‌جایی را در برگرفته یا قوانین زیست محیطی، کنوانسیون‌های حفاظت از محیط زیست در مقابل توسعه‌ فناوری‌های آلاینده از قبیل این قوانین داخل کشور‌ها یا کنوانسیون‌ها و توافقات جمعی کشور‌ها در سطح محیط بین‌الملل است یا در حوزه‌ پزشکی و کاربرد‌های وسیع درمانی و آزمایشگاهی آن، موضوع اخلاق پزشکی به‌صورت پررنگ طرح شده است تا از آسیب‌رسانی به شخصیت و هویت انسان جلوگیری شود. هوش مصنوعی هم بیرون از فناوری‌های تحول‌آفرین که اجتماع انسانی را تحت تاثیر قرار می‌دهد نیست و شاید بتوان گفت انسان چنین تجربه زیسته‌ای را از ابتدای خلقت نداشته است. هوش مصنوعی فناوری‌های گسترده‌ای را شامل می‌شود که همۀ تعاملات انسانی و نحوۀ این تعاملات را در بر خواهد گرفت؛ بنابراین قاعده‌مند کردن هوش مصنوعی هم به لحاظ شکل‌دهی و هم به‌کارگیری ضرورت دارد.

تلاشی جهانی برای ربودن گوی رقابت هوش مصنوعی

آنا: سایر کشورهای جهان چه اقداماتی برای قانون‌مند کردن این فناوری جدید و نوظهور انجام داده‌اند؟

برخی از کشور‌ها با تدوین سند‌های استراتژیک توسعه هوش مصنوعی به دنبال ایجاد هم‌گرایی و هم‌افزایی در سطح ملی هستند تا برتری خود را برای دهه‌های آینده حفظ کنند

کیان‌خواه: هوش مصنوعی موضوع جدیدی نیست. آن‌چه مشاهده می‌شود اجتماعی شدن هوش مصنوعی و پررنگ شدن مخاطرات آن است. برخی کشور‌ها از سال‌های قبل این موضوع را رصد کرده‌اند. به‌طور مثال چین از سال‌های قبل آموزش هوش مصنوعی را وارد دورۀ دبیرستان و قبل از دانشگاه خود کرده‌ است. برخی از کشور‌ها نیز سند‌های استراتژیک توسعه هوش مصنوعی نوشته‌اند تا هم‌گرایی و هم‌افزایی در سطح ملی ایجاد کنند و برتری خود را برای دهه‌های آینده حفظ کنند.

سند کمیسیون امنیت ملی در زمینه هوش مصنوعی که از سال ۲۰۱۸ توصیه‌های خود را به نهاد‌های اجرایی ایالت متحده ارائه کرده است. همچنین می‌توان به سند اتحادیه اروپا برای توسعه هوش مصنوعی (۲۰۲۱) یا سند انگلستان با عنوان استراتژی ملی هوش مصنوعی (۲۰۲۱) برای حفظ پیشتازی انگلستان در این فناوری نوظهوراشاره کرد. در این اسناد به فرصت‌ها و چالش‌های هوش مصنوعی و نقشه‌راه رشد و سرآمدی در این فناوری پرداخته شده است.

اگر بخواهم به فصل مشترک این اسناد اشاره کنم در قسمت اول توجه به آسیب‌های هوش مصنوعی و تبیین آن است. در این اسناد هم به آسیب‌های مادی (ایمنی و سلامتی افراد، از جمله از دست دادن جان، آسیب به اموال) و هم غیر مادی (از دست دادن حریم خصوصی، محدودیت در حق آزادی بیان، کرامت انسانی، تبعیض به عنوان مثال از دست دادن شغل) اشاره شده است. در قسمت دوم به مجموعۀ راهبرد‌هایی اشاره می‌کنند که ضمن پوشش این آسیب‌ها و با حفظ ارزش‌های اساسی و توسعۀ نوآوری و فناوری‌های مرتبط، قدرت خود را در عصر هوش مصنوعی حفظ کنند.

آنا: تاکنون در ایران چه اقداماتی در زمینه توسعه هوش مصنوعی انجام شده است؟ به نظر شما اقدامات انجام شده در این حوزه کافی است؟ 

فعالیت‌های کشور در حوزه هوش مصنوعی انسجام کافی را ندارد

کیان‌خواه: در حوزه توسعه هوش مصنوعی سال‌هاست دانشگاه‌ها، مراکز تحقیقاتی و شرکت‌های نوپا و دانش‌بنیان در حال کار و تجاری‌سازی دستاورد‌های خود هستند. اتفاقات مثبتی در حال وقوع است، حوزه‌های پردازش تصویر (مثال ملموس آن خواندن پلاک خوردو) و احراز هویت، کشف تقلب و پول‌شویی، معاملات برخط بورس و سبدگردانی برخی کاربرد‌های تجاری‌شده و عمومی شده است؛ اما آن‌چه توقع می‌رود انسجام این فعالیت‌ها برای دستیابی به نقطه متمایز و پیشرو برای کشور است. لوازم و باید‌ها و نباید‌ها به درستی اکتشاف نشده است و در بخش دولتی هر سازمانی براساس بودجه‌ای که دارد دست به توسعه می‌زند این اقدامات خوب است، اما انسجام لازم را ندارد.

آنا: برای اینکه تجربه تلخ عدم قانون‌گذاری فضای‌مجازی در حوزه هوش مصنوعی تکرار نشود چه راهبرد‌هایی را باید در نظر گرفت تا حکمرانی سایبری کشور با ورود این فناوری جدید به خطر نیفتد؟

هوش مصنوعی را نمی‌توان به روش‌های مرسوم قانون‌گذاری کرد

کیان‌خواه: ابتدا باید دلایل ضعف قانون‌گذاری در فضای مجازی را واکاوی کرد. دو نکته را عرض می‌کنم. اول اینکه معتقدم ماهیت فضای مجازی (که ما هوش مصنوعی را ذیل آن می‌دانیم) با قانون‌گذاری به روش مرسوم یعنی طرح یا لایحه و تصویب در مجلس متفاوت است و امکان ضابطه‌مند کردن آن به روش‌های سنتی وجود ندارد. اصولا برای موضوعات و پدیده‌هایی امکان قانون‌گذاری وجود دارد که مشخص و قابل درک باشد و بتوان تعریف نمود و ویژگی‌های آن را به‌وضوح برشمرد. اما فهم هستی و ماهیت سایبر پیچیده است، شاهد آن هم عدم اتفاق در تعریف این پدیده است و توسعۀ مداوم سایبر است چه از لحاظ فناوری و چه توسعۀ اجتماعی آن؛ لذا با این مدل قانون‌گذاری پیچیده و اصلاح پیچیده‌تر نمی‌توان برای این پدیدۀ سیال قانون وضع کرد.

تصمیم هوشمندانه رهبرانقلاب برای تاسیس شورای عالی فضای مجازی

نمی‌توان در یک قانون هم موضوع حکمرانی داده را حل کرد، هم در مورد صیانت فرهنگی صحبت کرد و هم طرحی برای رشد نوآوری و تجاری‌سازی ارائه کرد

دومین نکته‌ای در مورد انسجام قانون‌گذاری است. نمی‌توان در یک قانون هم موضوع حکمرانی داده را حل کرد، هم در مورد صیانت فرهنگی صحبت کرد و هم طرحی برای رشد نوآوری و تجاری‌سازی ارائه کرد. این‌جاست که به طرح ایجاد هوشمندانه شورای عالی فضای مجازی رهنمون می‌شویم. در سال ۱۳۹۱ مقام معظم رهبری با درک هوشمندانۀ این پدیده با تاسیس شورای عالی فضای مجازی آن‌ را نقطۀ کانونی تصمیم‌گری فناوری‌های اجتماعی‌ساز قرار دادند؛ که متاسفانه در دولت‌های مختلف به اهمیت آن توجه نشد.

همچنان به تقویت این شورا و تبعیت بخش‌های فناوری، فرهنگی، آموزشی و تجاری دولت از شورا معتقدم. یعنی برای سیاست‌گذاری و جهت دهی و تبیین نحوه‌ مواجهه با فناوری‌هایی که هم خاستگاه آن، تمدنی است و با مبانی تمدنی ما در تضاد است و هم به‌زعم خود سازندگان آن دارای چالش‌ها و آسیب‌پذیری‌هایی است که نیازمند رصد و تنظیم‌گری مستمر است.

آنا: به نظر شما مسئولان ضرروت ورود به این حوزه را درک کرده‌اند؟ آیا اراده جمعی برای تحقق این موضوع در کشور شکل گرفته است؟

نگاهی به حوزه‌های استراتژیک توسعۀ هوش مصنوعی

کیان‌خواه: ضرورت این مسئله تا حدودی درک شده است اراده هم وجود دارد. معاونت علمی و فناوری ریاست جمهوری که متصدی تبدیل علم به فناوری و تجاری‌سازی آن است نیز تلاش‌هایی انجام می‌دهد؛ اما توسعه هوش مصنوعی صرفا توسعه و مدیریت فناوری‌های تحول آفرین نیست. بلکه توجه به اکوسیستمی است که امتدادی از فناوری تا اجتماع دارد. در پایان به برخی حوزه‌های استراتژیک توسعۀ هوش مصنوعی اشاره می‌کنم:‌

تعریف استاندارد برای آموزش مدل‌های زبانی بزرگ

نکته اول توجه به ارزش‌های اساسی جامعه است. هوش مصنوعی بسیار شدیدتر از فناوری‌های دیگر حوزۀ داده و اطلاعات، با ارزش‌ها مرتبط است و ارزش‌ها را تغییر و منتقل می‌کند. به‌طور مثال یکی از چالش‌های جدی مدل‌های زبانی بزرگ، داده‌هایی است که برای آموزش آن استفاده می‌شود. نوع کلمات و ارزش‌های نهفته در محتوی بکار رفته در آموزش تاثیر جدی در نحوه عمل این شبکه‌ عظیم عصبی در ساخت جملات جدید دارد و عملا ارزش‌های متون یاددهنده را منتقل می‌کند. از طرفی کیفیت الگوریتم و پیش‌پردازش‌ها و پس‌پردازش‌هایی که وجود دارد در ارزش‌باری این محصول هوش مصنوعی تاثیر جدی دارد؛ بنابراین باید استاندارد‌ها و رویه‌هایی را در ارزش‌باری مثبت محصولات هوش مصنوعی وضع کرد (اساساً همه‌ فناوری‌ها ارزش‌بار هستند) و در کنترل کیفیت و اعتبار و اطمینان بخشی آن‌ها لحاظ کرد. 

از اولویت‌بندی در توسعه هوش مصنوعی تا توجه به حکمرانی داده

باید حوزه‌های توسعه‌ هوش مصنوعی در صنایع مختلف را اولویت‌بندی کرد

نکته دوم باید حوزه‌های توسعه‌ هوش مصنوعی در صنایع مختلف را اولویت‌بندی کرد. اینکه چه صنایعی و مبتنی بر توسعۀ چه الگوریتم‌هایی و زیرساخت‌هایی برای پیشرفت کشور مورد نیاز است، به سیاست‌گذاری کلان نیاز دارد. اینکه توان‌های علمی – اجرایی کشور تقسیم و توزیع شود و هر بخشی براساس توان بودجه‌ای یا بازار‌های غیر مولد توسعه یابد و عملاً هم‌افزایی و سینرژی ایجاد نکند منجر به توسعه و پیشرفت متوازن کشور نخواهد شد.

نکته سوم بحث حکمرانی داده است. داده و کیفیت داده منشاء توسعه و بلوغ الگوریتم‌های هوش مصنوعی است. هنوز قوانین مشخصی برای حفظ و نگهداشت و به‌کارگیری صحیح داده مبتنی بر رعایت حریم خصوصی و حفاظت از داده‌های ملی نداریم و ساختار‌های امنیت سایبری کارآمدی لازم را ندارد. از این رو به بازنگری جدی در رویه‌ها و فرایند‌های مرتبط به داده نیاز داریم. 

عدم آینده‌پژوهی مبتنی بر نیاز کشور در توسعه‌ فناوری‌ها

نکته آخر عدم آینده‌پژوهی مناسب از توسعۀ فناوری‌ها، مبتنی بر نیاز کشور است. ما همچنان مبتنی بر موضوعات برجستۀ ISI و اسکوپوس تولید علم می‌کنیم و در موضوعی عمیقمی‌شویم. در‌صورتی که نقشۀ علمی کشور برای توسعه‌ هوش مصنوعی درون‌زا باید ترسیم شود و تصویر آینده متمایز کشور مبتنی بر آمایش سرزمینی و استعداد‌های انسانی کشور مشخص شود تا در مقایسه با رقبای منطقه‌ای و جهانی جایگاه خود را مشخص کنیم. همچنان معتقدم شورای عالی فضای مجازی باید با قدرت وارد صحنۀ توسعه فناورانۀ کشور مبتنی بر ساخت درون‌زای کشور شود. عدم التفات صحیح به این امر مهم جبران‌ناپذیر خواهد بود.