هوش مصنوعی برای کسب اعتبار نیازمند دریافت شناسنامه از بلاکچین است
فرهاد اینالویی، فعال و پژوهشگر حوزه بلاکچین، در سخنرانی خود در رویداد ایفتکس به بررسی موضوع همگرایی هوش مصنوعی و بلاکچین پرداخت. وی با هشدار نسبت به پذیرش کورکورانه تصمیمات ماشینها، بر لزوم ایجاد زیرساختهای فنی برای بازگرداندن اعتماد به اکوسیستم دیجیتال تأکید کرد و راهکار اصلی برای نظارت بر الگوریتمهای پیچیده و دادههای عظیم را در ذات شفاف فناوری زنجیره بلوکی دانست.
بحران اعتماد و چالش جعبه سیاه
اینالویی در ابتدای سخنان خود با اشاره به حضور گسترده هوش مصنوعی در زندگی روزمره، از پیشنهادهای وام بانکی گرفته تا محتوای نمایش داده شده در شبکههای اجتماعی، گفت: «امروزه هوش مصنوعی در حال تصمیمسازی و حتی تصمیمگیری برای ماست. پیشنهاد مسیر ترافیکی، رد یا تأیید درخواست وام و یا ویدیوهایی که در اینستاگرام میبینید، همگی حاصل تصمیمات ماشین هستند. اما مشکل اصلی اینجاست که ما نمیدانیم این تصمیمات چگونه گرفته میشوند.»
این کارشناس فناوری تصریح کرد: «هوش مصنوعی برای ما حکم یک جعبه سیاه را پیدا کرده است. دادهای وارد میشود و نتیجهای خارج میگردد، اما فرآیند پردازش و منطق تصمیمگیری در داخل این جعبه پنهان است. وقتی درخواست وام شما رد میشود، هیچ توضیحی وجود ندارد و صرفاً گفته میشود سیستم اینگونه تشخیص داده است. این عدم پاسخگویی، اعتماد را از بین میبرد.»
وی افزود: «بسیاری تصور میکنند هرچه سیستم باهوشتر و پیچیدهتر باشد، قابلاعتمادتر است؛ در حالی که در دنیای فناوری دقیقا عکس این موضوع صادق است. پیچیدگی اعتماد نمیآورد، بلکه شفافیت است که اعتماد میسازد.»
بلاکچین: ثبت حقیقت بدون رئیس
اینالویی در تشریح راهکار این معضل، به ماهیت بنیادین بلاکچین فراتر از ارزهای دیجیتال اشاره کرد. وی اظهار داشت: «بلاکچین را نباید تنها با کریپتوکارنسی شناخت. تعریف دقیق و کاربردی بلاکچین در این بحث، پایگاه دادهای است که میتوان یک بار روی آن نوشت و بارها خواند، اما هرگز نمیتوان آن را پاک یا دستکاری کرد. این حافظه بلندمدت و تغییرناپذیر، همان حلقه مفقودهای است که میتواند حقیقت را بدون نیاز به یک متولی یا رئیس مرکزی ثبت کند.»
فعال حوزه بلاکچین خاطرنشان کرد: «هنگامی که هوش مصنوعی و بلاکچین با هم ادغام شوند، هدف کنترل هوش مصنوعی نیست، بلکه ایجاد شفافیت است. اگر الگوریتمهای تصمیمگیرنده یا قراردادهای هوشمند بر بستر بلاکچین ثبت شوند، همه میتوانند سورسکد، منطق تصمیمگیری و آخرین تغییرات اعمال شده را مشاهده کنند. در این صورت، دیگر با یک جعبه سیاه روبرو نیستیم.»
جلوگیری از دستکاری دادههای پزشکی
اینالویی برای ملموس کردن بحث، به تشریح یک پروژه تحقیقاتی مشترک با یک دانشگاه علوم پزشکی پرداخت که در آن از اطلاعات ۱۰۰۰ بیمار مبتلا به سرطان استفاده شده است.
وی در توضیح این پروژه گفت: «ما دادههای دموگرافیک، نتایج آزمایش خون، فشار خون و سایر علائم حیاتی بیماران را جمعآوری کرده و به مدل هوش مصنوعی دادیم تا پیشبینی کند چه افرادی در آینده مستعد ابتلا به این بیماری هستند. حال فرض کنید یک پارامتر حیاتی مانند فشار خون، توسط یک اپراتور یا هکر از عدد ۱۵ به ۱۶ تغییر داده شود. همین تغییر کوچک باعث میشود گروه بزرگی از بیماران که در معرض خطر هستند، از دایره تشخیص خارج شوند.»
این پژوهشگر افزود: «در سیستمهای متمرکز فعلی، امکان دستکاری دادههای آموزشی وجود دارد که منجر به تولید نتایج غلط یا سمی میشود. حتی در محیطهای دانشگاهی، گاهی دانشجویان برای اینکه مدلسازیشان نتیجه مطلوب بدهد، دادهها را دستکاری میکنند. اما اگر این دادهها روی بلاکچین ثبت شود، به دلیل خاصیت تغییرناپذیری، هیچکس نمیتواند تاریخچه را تحریف کند یا داده سمی وارد سیستم کند.»
طراحی فنی برای مقوله اعتماد
بخش دیگری از سخنرانی اینالویی به لزوم طراحی اعتماد در معماری سیستمهای نرمافزاری اختصاص داشت. وی با بیان اینکه اعتماد باید به یک پارامتر فنی و قابل اندازهگیری تبدیل شود، گفت: «همانطور که مهندسان نرمافزار برای مقیاسپذیری، امنیت و زمان پاسخگویی سیستم طراحی میکنند، باید برای اعتماد نیز طراحی فنی داشته باشند. اتصال هوش مصنوعی به بلاکچین، سادهترین و مطمئنترین روش برای پیادهسازی این طراحی است.»
وی تاکید کرد: «ما نمیگوییم هوش مصنوعی بد است یا بلاکچین خوب است؛ بلکه معتقدیم این دو مکمل یکدیگرند. هوش مصنوعی سرعت و قدرت تحلیل را به ارمغان میآورد و بلاکچین شفافیت و اعتماد را تضمین میکند. هیچ فناوری دیگری به تنهایی قادر به ارائه همزمان سرعت و شفافیت نیست.»
هوشهای شناسنامهدار
اینالویی در بخش پایانی سخنان خود به آینده این فناوریها اشاره کرد و گفت: «در آیندهای نزدیک، تمام هوشهای مصنوعی باید شناسنامهدار شوند. باید مشخص باشد چه کسی الگوریتم را نوشته، چه زمانی بهروزرسانی شده و چه منطقی پشت آن است. هوش بدون شناسنامه فاقد اعتبار خواهد بود.»
وی در پایان خاطرنشان کرد: «در دهههای گذشته تصور میکردیم قدرت کامپیوترها و پردازندهها مهمترین عامل پیشرفت است، اما امروز پارادایم تغییر کرده است. در آینده مهم نیست سیستم چقدر باهوش یا سریع است، بلکه مهم این است که چقدر میتوان به تصمیمات آن اعتماد کرد. و این اعتماد، تنها از طریق زنجیره بلوکی حاصل میشود.»
انتهای پیام/
