بلاکچین میتواند حلقه اعتماد برای هوش مصنوعی باشد
به گزارش خبرگزاری آنا؛ پنل «حلقه اعتماد به هوش مصنوعی» در جریان بیستونهمین نمایشگاه بینالمللی الکامپ و در سالن ۴۰ برگزار شد. رضا نورمحمدی، پژوهشگر حوزه بلاکچین و هوش مصنوعی، محمد شرقی، مدیرعامل انجمن بلاکچین، الناز ابراهیمپور، وکیل و متخصص فناوری اطلاعات و عضو کمیته حقوقی انجمن بلاکچین، بشرا التجا، عضو کمیته آموزش این انجمن و میثم رضایی، رئیس کمیته آموزش انجمن بلاکچین در این نشست به بررسی نقاط تلاقی بلاکچین و هوش مصنوعی و چالشهای فنی، حقوقی و آموزشی این حوزه پرداختند.
ایجنتهای هوش مصنوعی به هویت و امکان حسابرسی نیاز دارند
نورمحمدی یکی از چالشهای مهم نسل جدید هوش مصنوعی را اعتماد به ایجنتهایی دانست که میتوانند بهصورت مستقل دست به اقدام بزنند. به گفته او، با حرکت هوش مصنوعی از چتباتها به سمت «هوش مصنوعی ایجنتی»، دیگر تنها با سامانهای مواجه نیستیم که به پرسش کاربر پاسخ میدهد؛ بلکه ایجنت میتواند مأمور انجام یک فعالیت، از جمله عملیات مالی، شود و همین موضوع پرسش درباره مسئولیت اقدامات آن را جدیتر میکند.
وی سه مؤلفه «هویت»، «مجوزدهی» و «حسابرسی» را از الزامات چنین سامانههایی برشمرد و توضیح داد باید مشخص باشد هر ایجنت چه هویتی دارد، اجازه انجام چه اقداماتی را دریافت کرده و فعالیتهای آن چگونه قابل بررسی و پیگیری است. از نگاه نورمحمدی، بلاکچین میتواند در چنین ساختاری بهعنوان یک «لایه اعتماد» برای ثبت سوابق و جلوگیری از تغییر آنها مورد استفاده قرار گیرد.
محمد شرقی نیز «ایجنت مسئول» را یکی از موضوعات مهم در توسعه هوش مصنوعی دانست و گفت مسئله تنها ثبت نتیجه نهایی نیست، بلکه باید بتوان مسیر رسیدن سامانه به یک تصمیم را نیز تا حد امکان بررسی کرد. به گفته او، ثبت متادیتا و سوابق تصمیمات میتواند امکان ردیابی فرایندها را افزایش دهد؛ موضوعی که در حوزههایی مانند سلامت و کاربردهای حقوقی اهمیت بیشتری پیدا میکند.
اگر هوش مصنوعی خسارت ایجاد کند، چه کسی مسئول است؟
بخش دیگری از این پنل به ابهامات حقوقی استفاده از هوش مصنوعی اختصاص داشت. ابراهیمپور با طرح این پرسش که در صورت انجام یک معامله پرریسک یا ایجاد خسارت توسط ابزار هوش مصنوعی چه کسی مسئول خواهد بود، گفت قوانین ایران در شرایط فعلی شخصیت مستقلی برای هوش مصنوعی در نظر نگرفتهاند و شخصیت در نظام حقوقی به اشخاص حقیقی و حقوقی محدود است.
به گفته وی، در صورت بروز خسارت باید نقش انسان یا شخصیت حقوقی پشت سامانه و رابطه آن با خطای رخداده بررسی شود. قوانین موجود مانند قانون تجارت الکترونیکی و مقررات حمایت از حقوق مصرفکنندگان نیز در برخی موارد میتوانند مبنایی برای بررسی مسئولیت ناشی از نقص ابزار باشند، اما افزایش استقلال سامانههای هوشمند میتواند پروندههای پیچیدهتری را پیش روی نظام حقوقی قرار دهد.
ابراهیمپور راهکار اصلی را مشخص کردن مسئولیت بازیگران مختلف از مرحله ورود داده تا خروجی سامانه دانست. تأمینکننده، توسعهدهنده، ارائهدهنده داده و کاربر میتوانند در بخشهای مختلف این زنجیره نقش داشته باشند و از نگاه او، تعیین دقیق مسئولیت هرکدام در قراردادها میتواند از شکلگیری اختلافات پیچیده در آینده جلوگیری کند.
هوش مصنوعی تصمیم میگیرد، بلاکچین رد تصمیم را نگه میدارد
رضایی نیز امکان ثبت بخشی از حافظه، دادهها و سوابق عملکرد سامانه هوش مصنوعی روی بلاکچین را یکی از مسیرهای افزایش قابلیت اثبات دانست. به گفته او، اگر یک سامانه مدعی استفاده از مجموعه مشخصی از دادهها باشد، ثبت سوابق مرتبط با عملکرد آن میتواند امکان بررسی ادعاها و پیگیری تصمیمات را افزایش دهد.
نورمحمدی در ادامه از همگرایی سه فناوری اینترنت اشیا، بلاکچین و هوش مصنوعی سخن گفت؛ اینترنت اشیا داده تولید میکند، بلاکچین میتواند در ثبت و صیانت از داده نقش داشته باشد و هوش مصنوعی وظیفه پردازش آن را بر عهده میگیرد. به گفته او، «داده» حلقه اتصال هر سه حوزه است و با افزایش استقلال ایجنتها، مشخص کردن مرز مسئولیت توسعهدهنده، ارائهدهنده مدل، کاربر و سایر اجزای سامانه اهمیت بیشتری پیدا خواهد کرد.
اقتصاد ایجنتی مسئله اعتماد را جدیتر میکند
التجا نیز با اشاره به مفهوم «اقتصاد ایجنتی» گفت ایجنت هوش مصنوعی در چنین ساختاری از نقش یک دستیار فراتر میرود و میتواند خود مجری برخی اقدامات مالی و معاملاتی باشد. احراز هویت ایجنت، تعیین محدوده عملکرد و مشخص کردن سقف اختیارات از جمله مسائلی است که به گفته او باید پیش از گسترش این مدل مورد توجه قرار گیرد.
او آموزش را نیز یکی از حلقههای ضروری توسعه این حوزه دانست و گفت تلاقی بلاکچین و هوش مصنوعی به شکلگیری تخصصهای ترکیبی منجر خواهد شد؛ نیروهایی که علاوه بر شناخت زیرساختهای بلاکچین، با توسعه نرمافزار و سامانههای هوش مصنوعی نیز آشنا هستند.
هزینه بالا و حریم خصوصی همچنان چالش است
استفاده از بلاکچین برای ثبت حجم بالای دادههای تولیدشده توسط سامانههای هوش مصنوعی بدون محدودیت نیست. رضایی هزینه بالای تعامل حجم زیاد داده با بلاکچین را یکی از موانع فعلی دانست و به استفاده از روشهایی مانند درخت مرکل برای کاهش هزینه ثبت و اثبات اطلاعات اشاره کرد.
ابراهیمپور نیز مسئله افشای اطلاعات را یکی دیگر از چالشهای آینده دانست؛ زیرا بررسی نحوه تصمیمگیری الگوریتمها ممکن است مستلزم دسترسی به اطلاعاتی باشد که خود تحت حمایت حقوق توسعهدهنده یا مقررات حریم خصوصی قرار دارند.
نورمحمدی در پایان «محاسبات قابل تأیید» را یکی از رویکردهای قابل استفاده برای پاسخ به این مسئله معرفی کرد؛ روشی که هدف آن ارائه اثباتی از صحت انجام محاسبات بدون افشای کامل دادههای محرمانه است. او تأکید کرد هوش مصنوعی در نهایت یک ابزار است و به جای هیجانزدگی یا ترس از فناوری، باید بر مهارت استفاده از آن و ایجاد سازوکارهای اعتماد برای تصمیمات سامانههای هوشمند تمرکز کرد.
انتهای پیام/