حفظ نقش انسان در سامانههای پرریسک عمومی در عصر هوش مصنوعی ضروری است
به گزارش خبرگزاری آنا، حمیدرضا ربیعی، رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف، در افتتاحیه رویداد «ایران AI» با تشریح وضعیت زیستبوم هوش مصنوعی کشور، بر ضرورت تمرکز بر حل مسائل واقعی، توسعه زیرساخت داده و محاسبات، تربیت نیروی انسانی و تبدیل دانش به محصول تأکید کرد و گفت ایران از ظرفیت علمی و نیروی انسانی مناسبی برخوردار است و میتواند با تمرکز بر نیازهای خود، بهرهوری سازمانها و حل مسائل کشور را با استفاده از هوش مصنوعی ارتقا دهد.
وی با اشاره به افزایش آگاهی نسبت به اهمیت هوش مصنوعی در کشور بیان کرد: ارزیابی زیستبوم هوش مصنوعی باید با مجموعهای از معیارهای مختلف انجام شود و صرف توجه به فناوری نمیتواند تصویری کامل از وضعیت این حوزه ارائه کند. حاکمیت، اقتصاد و علوم اجتماعی در کنار فناوری، از ارکان اثرگذار بر رشد هوش مصنوعی هستند و توجه همزمان به این بخشها برای شکلگیری یک زیستبوم متوازن ضرورت دارد.
ربیعی ادامه داد: هوش مصنوعی را باید از منظر هفت رکن مورد بررسی قرار داد و چهار رکن ابتدایی این مجموعه معمولاً کمتر مورد توجه قرار میگیرند، در حالی که پایهایتر و مهمتر هستند. افزایش آگاهی عمومی و مدیریتی درباره هوش مصنوعی اتفاق مثبتی است، اما این آگاهی باید به همکاری، برنامهریزی و اقدام در بخشهای مختلف منجر شود.
دو مسیر اصلی برای توسعه هوش مصنوعی
رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف با اشاره به دو مسیر پیش روی کشورها و شرکتها در حوزه هوش مصنوعی گفت: یک مسیر، تلاش برای بازآفرینی هوش مصنوعی عمومی یا AGI است که شرکتهای بزرگ بینالمللی نیز درباره آن سرمایهگذاری و فعالیت میکنند و مسیر دیگر، استفاده هوشمندانه از این فناوری برای حل مسائل است.
وی افزود: مسیر دوم از نظر عملیاتی، قابل دسترستر است و میتواند بر حل مسائل واقعی متمرکز باشد. مسیر توسعه هوش مصنوعی عمومی بیشتر به سرمایهگذاری، توسعه فناوری و نقشآفرینی در سطح جهانی ارتباط دارد، در حالی که بسیاری از کشورها و سازمانها میتوانند از ظرفیتهای موجود برای حل مسائل خود استفاده کنند.
ربیعی درباره دستیابی به هوش مصنوعی عمومی نیز توضیح داد: درباره اینکه آیا بشر به AGI خواهد رسید، دیدگاههای متفاوتی وجود دارد و برخی شرکتها نیز درباره دستیابی به آن صحبت کردهاند، اما از نگاه وی، اگر تعریف گستردهای از هوش مصنوعی عمومی داشته باشیم، هنوز فاصله قابل توجهی تا تحقق آن وجود دارد.
وی با مرور روند تکامل هوش مصنوعی اظهار کرد: این فناوری در چند مرحله تکامل یافته است؛ الگوریتمهای اولیه بیشتر بر روشهای نمادین و استدلالی تکیه داشتند، سپس مدلهای احتمالی وارد میدان شدند، در دهههای بعد یادگیری ماشین بر یادگیری الگو از دادهها تمرکز کرد و از دهه ۲۰۱۰ یادگیری عمیق به جریان اصلی تبدیل شد. امروز نیز عاملهای هوشمند و ترکیب معماریهای نمادین و عصبی، مسیر جدیدی را شکل دادهاند.
ربیعی افزود: ترکیب یادگیری عمیق با توانایی استدلال میتواند ظرفیتهای جدیدی ایجاد کند؛ زیرا یادگیری ماشین در استفاده از داده توانمند است و سامانههای استدلالی در پردازش منطقی عملکرد متفاوتی دارند. پیوند این دو حوزه میتواند بخشی از مسیر توسعه سامانههای پیشرفتهتر هوش مصنوعی را شکل دهد.
دانش، مهارت و فرایند در مسیر هوش مصنوعی
رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف با تشریح الزامات دستیابی به سامانههای عمومیتر گفت: اگر هوش مصنوعی عمومی را به سامانههایی تعریف کنیم که توانایی کسب و بهکارگیری دانش و مهارت برای انجام فرایندهایی مشابه انسان را دارند، چند مرحله اساسی پیش روی ما قرار میگیرد که هنوز در همه آنها به بلوغ نرسیدهایم.
وی بیان کرد: پایه کسب دانش، داده است و ایران در بخش هوش مصنوعی تحلیلی و تحلیل داده به بلوغ قابل قبولی رسیده است. مرحله بعد، بهکارگیری دانش است که به خلاقیت و نوآوری نیاز دارد و هوش مصنوعی مولد در این بخش ظرفیتهای تازهای ایجاد کرده است.
ربیعی ادامه داد: بخش دیگری که اهمیت زیادی دارد، مهارت است. برای رسیدن به سطح بالاتری از هوش مصنوعی باید حوزههایی مانند علوم شناختی و علوم اعصاب نیز مورد توجه قرار گیرد و کشور در این زمینهها هنوز به تکامل مورد نیاز نرسیده است.
وی افزود: شناخت تجربه، فرایندها، علیت، بازخورد و تصمیمگیری نیز برای حرکت به سمت سامانههای عمومیتر اهمیت دارد. عاملهای هوشمند یکی از مسیرهایی هستند که در جهان برای نزدیک شدن به اجرای فرایندهای پیچیده مورد توجه قرار گرفتهاند، اما تنها مسیر موجود نیستند و هنوز بخشهایی از این زنجیره به توسعه بیشتری نیاز دارند.
ربیعی با اشاره به تبلیغات شرکتهای بزرگ درباره قابلیتهای هوش مصنوعی گفت: بخشی از مطالبی که درباره آینده هوش مصنوعی عمومی مطرح میشود، جنبه اقتصادی و تجاری دارد و باید میان تبلیغات تجاری و وضعیت واقعی فناوری تفاوت قائل شد.
وی همچنین درباره انواع سامانههای هوش مصنوعی توضیح داد: در یک تقسیمبندی میتوان سامانههای خاصمنظوره را در یک سطح قرار داد که برای انجام وظایف مشخص طراحی شدهاند و ایران در این بخش اقدامات و تجربههای قابل توجهی دارد. در سطح دیگر، سامانههای ترکیبپذیر قرار دارند که میتوانند با تعامل با محیط، رفتار و تصمیمهای خود را تغییر دهند.
نقش انسان در سامانههای پرریسک
ربیعی با تأکید بر اهمیت حضور انسان در فرایند تصمیمگیری گفت: در سامانههای پرریسک، نگاه غالب در جهان بر حفظ نقش انسان در حلقه تصمیمگیری استوار است و بسیاری از سازمانهای بینالمللی، شرکتها و دولتها نیز بر این موضوع تأکید دارند.
وی افزود: استفاده کاملاً خودمختار از عاملهای هوش مصنوعی در برخی حوزهها مانند کاربردهای نظامی و امنیتی مطرح شده است، اما برای سامانههای پرریسک عمومی، حفظ نقش انسان اهمیت ویژهای دارد. مسئولیتپذیری نیز به همین موضوع مرتبط است، زیرا در شرایط کنونی مسئولیت عملکرد سامانه هوش مصنوعی همچنان بر عهده انسان و سازمان استفادهکننده قرار دارد.
رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف ادامه داد: هوش مصنوعی قابل اعتماد باید مقاوم، حافظ حریم خصوصی، معتبر، قابل توضیح و مسئولیتپذیر باشد. عملکرد سامانه باید با شواهد قابل ارزیابی باشد و در کاربردهایی که تصمیمهای حساس اتخاذ میشود، امکان بررسی عملکرد و مسئولیتپذیری اهمیت بالایی دارد.
وی درباره مصرف انرژی نیز اظهار کرد: زیرساخت فیزیکی و انرژی از مسائل مهم توسعه هوش مصنوعی هستند. مغز انسان برای انجام یک فعالیت شناختی به انرژی بسیار محدودی نیاز دارد، در حالی که اجرای برخی فعالیتهای مشابه توسط سامانههای هوش مصنوعی میتواند به منابع محاسباتی و انرژی بسیار بیشتری نیاز داشته باشد.
ربیعی با اشاره به مسیرهای احتمالی آینده هوش مصنوعی گفت: در دهه پیش رو میتوان سناریوهایی مانند ادامه شتاب سرمایهگذاری و توسعه پلتفرمهای بزرگ، تثبیت و تعمیق فناوری در حوزههای مختلف و همچنین کاهش سرمایهگذاری را در نظر گرفت. شرایط جهانی نیز میتواند بر میزان سرمایهگذاری در این حوزه اثرگذار باشد و کشور باید متناسب با شرایط و توان خود، راهبرد مناسبی تعیین کند.
ظرفیت علمی ایران و فاصله تبدیل دانش به اقتصاد
ربیعی در ادامه با اشاره به شاخصهای بینالمللی ارزیابی هوش مصنوعی گفت: در شاخص آمادگی دولتها در حوزه هوش مصنوعی که توسط دانشگاه آکسفورد منتشر میشود، رتبه ایران از میان ۱۹۵ کشور از حدود ۹۰ در سال گذشته به ۷۶ رسیده و در منطقه نیز جایگاه نهم را دارد. در شاخص صندوق بینالمللی پول نیز ایران رتبه ۱۳ در منطقه را به خود اختصاص داده و در یک شاخص دیگر، جایگاه ایران شصتم از میان ۸۳ کشور گزارش شده است.
وی افزود: این رتبهها باید در چارچوب معیارهای همان شاخصها تفسیر شوند، اما یک الگوی مشترک میان آنها دیده میشود و آن، فاصله ایران با برخی کشورهای منطقه در حوزههایی مانند حکمرانی، فناوری، داده و زیرساخت است.
رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف با اشاره به وضعیت علمی کشور بیان کرد: ایران در حوزه علمی هوش مصنوعی ظرفیت قابل توجهی دارد و طی حدود دو دهه گذشته، جایگاه کشور در تولید علمی این حوزه معمولاً در محدوده رتبههای ۱۳ تا ۲۰ جهان قرار داشته است. در حوزه مقالات و اختراعات نیز جایگاه ایران قابل توجه است و تعداد فارغالتحصیلان هوش مصنوعی و رشتههای مرتبط نیز ظرفیت مهمی برای کشور محسوب میشود.
ربیعی ادامه داد: توجه مردم و مسئولان به هوش مصنوعی افزایش یافته و این موضوع یکی از نقاط قوت کشور است. در مقابل، سرمایهگذاری، بهویژه سرمایهگذاری خطرپذیر، زیرساختهای محاسباتی، داده و تبدیل دانش به محصول، از بخشهایی هستند که نیاز به تقویت بیشتری دارند.
وی تصریح کرد: شکاف اصلی ایران در حوزه هوش مصنوعی، شکاف دانشی نیست، بلکه شکاف میان دانش و اقتصاد است. اگر دانش تولیدشده در چرخه اقتصادی و محصول قرار نگیرد، اثر آن در زندگی مردم و بهرهوری سازمانها به اندازه ظرفیت علمی کشور دیده نخواهد شد.
ربیعی با اشاره به وضعیت زیستبوم داخلی هوش مصنوعی گفت: در برخی ارکان مانند آگاهی وضعیت کشور مناسب و رو به رشد است، اما در حوزههایی مانند تجربه مدیریتی پروژههای بزرگ بینالمللی، زیرساخت پژوهشی آیندهساز، ثبت اختراع، نوآوری، سرمایهگذاری و فضای کسبوکار، نیاز به تقویت وجود دارد.
وی افزود: زیستبوم هوش مصنوعی ایران در برخی بخشها ظرفیت خوبی دارد، اما در مجموع هنوز متوازن نیست. اگر توجه کشور به همه ارکان زیستبوم به شکل هماهنگ افزایش پیدا نکند، رشد فناوری میتواند نامتوازن باشد و اثر آن بر بهرهوری کمتر از ظرفیت واقعی باقی بماند.
تمرکز بر مسئله و توسعه زیرساختهای بومی
ربیعی با اشاره به ضرورت همکاری میان دانشگاه، صنعت و حاکمیت گفت: زیستبوم هوش مصنوعی از دانشگاه، شرکت و حاکمیت تشکیل میشود و هر بخش باید نقش خود را بهدرستی ایفا کند. دانشگاه باید در تولید دانش و تربیت نیروی انسانی نقشآفرینی کند، شرکتها باید دانش را به محصول و خدمت تبدیل کنند و حاکمیت نیز باید زمینه مناسب برای رشد این زیستبوم را فراهم کند.
وی با اشاره به توسعه زیرساختهای هوش مصنوعی در کشور بیان کرد: اکنون ۱۲ دانشگاه و ۱۰ شرکت در این حوزه فعالیت دارند و با وجود محدودیت زیرساختی، خدماتی نیز ارائه شده است. بخشی از سرویسهای مورد استفاده سازمانها میتواند داده و کد کشور را به خارج از مرزها منتقل کند و این موضوع از منظر راهبردی نیازمند توجه است.
ربیعی افزود: ایجاد سکوهای ملی برای ارائه خدمات هوش مصنوعی اهمیت دارد و بخش خصوصی میتواند در تولید و ارائه این خدمات نقش اصلی داشته باشد. چنین رویکردی میتواند علاوه بر ایجاد درآمد برای شرکتهای داخلی، تابآوری کشور را افزایش دهد و دسترسی عادلانهتری به خدمات هوش مصنوعی ایجاد کند.
وی با تأکید بر ضرورت زیرساختهای محاسباتی مشترک گفت: هزینه زیرساختهای محاسباتی بالاست و عمر فناوری نیز کوتاه است، بنابراین استفاده مشترک از زیرساختها میتواند اهمیت زیادی داشته باشد. سرمایهگذاری خطرپذیر، برنامه ملی یکپارچه، استفاده از هوش مصنوعی در سایر حوزههای حکمرانی و اشتراک داده نیز باید در اولویت قرار گیرد.
رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف اظهار کرد: راهبرد کشور باید مسئلهمحور باشد و نباید ابتدا فناوری خریداری شود و بعد برای آن مسئله تعریف کنیم. پیش از انتخاب مدل هوش مصنوعی باید وضعیت داده مشخص شود و توسعه زیرساخت داده، مقدمه تصمیمگیری درست در این حوزه است.
وی ادامه داد: بهتر است پروژهها از مقیاس کوچک آغاز شوند، سرعت اجرا و نتیجه آنها سنجیده شود و پس از ارزیابی، توسعه پیدا کنند. در پروژههای پرریسک نیز حضور انسان در حلقه تصمیمگیری باید حفظ شود و حاکمیت داده به عنوان یک اصل اساسی مورد توجه قرار گیرد.
ربیعی با اشاره به اهمیت شاخصهای عملیاتی گفت: برای هر پروژه هوش مصنوعی باید شاخص عملیاتی مشخص وجود داشته باشد. اگر یک سامانه از نظر فنی دقت بالایی داشته باشد، اما در محیط واقعی عملیاتی نشود، اثر مورد انتظار را ایجاد نمیکند؛ بنابراین سنجش فنی، عملیاتی و سازمانی باید همزمان انجام شود.
وی همچنین درباره انتخاب مدلهای هوش مصنوعی بیان کرد: کشور و سازمانها میتوانند متناسب با راهبرد خود، از مدلهای بزرگ موجود استفاده کنند، مدلها را برای زبان و نیازهای بومی سازگار کنند یا در موارد ضروری از پایه مدل بسازند. هر کدام از این مسیرها هزینه و الزامات متفاوتی دارند و انتخاب میان آنها باید بر اساس کاربرد و راهبرد انجام شود.
ربیعی افزود: سازمانها باید پیش از اجرای پروژه، چرخه استاندارد آن را از ابتدا تا انتها مشخص کنند و زیرساخت داخلی نیز باید متناسب با نیاز انتخاب شود. در برخی موارد زیرساخت داخلی مزیت دارد و در برخی کاربردها میتوان از ترکیبی از خدمات استفاده کرد و این تصمیم باید بر اساس نیاز واقعی سازمان گرفته شود.
وی بر اهمیت پذیرش سازمانی و توانمندسازی نیروی انسانی نیز تأکید کرد و گفت: فناوری بهتنهایی مسئلهگشا نیست و بخشی از بودجه پروژه باید به آموزش، فرهنگسازی و توانمندسازی نیروی انسانی اختصاص پیدا کند. پذیرش سازمانی یکی از عوامل مهم موفقیت پروژههای هوش مصنوعی است و بدون توجه به این بخش، حتی یک فناوری مناسب نیز ممکن است به نتیجه مطلوب نرسد.
حرکت هماهنگ برای افزایش بهرهوری
ربیعی در بخش پایانی سخنان خود بر ضرورت پایش مستمر پروژههای هوش مصنوعی تأکید کرد و گفت: سنجش باید به صورت مداوم انجام شود و شاخصهای فنی، عملیاتی و سازمانی باید همواره مورد بررسی قرار گیرند. سازمانها باید بدانند امروز در چه سطحی قرار دارند و برای رسیدن به سطح مورد نظر چه مسیری را باید طی کنند.
وی با اشاره به تجربههای جهانی در توسعه هوش مصنوعی اظهار کرد: یکی از خطاهای مهم، شروع پروژه از فناوری و فراموش کردن مرحله داده است. اگر داده مناسب وجود نداشته باشد، صحبت درباره مدل و فناوری بدون فراهم کردن مقدمات لازم، نتیجه مورد انتظار را ایجاد نمیکند. مسیر توسعه باید مرحلهبهمرحله و بر اساس نیاز واقعی طی شود.
رئیس مرکز نوآوری علم داده و هوش مصنوعی دانشگاه صنعتی شریف در پایان گفت: ایران با وجود محدودیتهای موجود، ظرفیت حل بسیاری از مسائل کشور با استفاده از هوش مصنوعی را دارد. کشور نباید توان خود را بیش از واقعیت ارزیابی کند و نباید ظرفیتهای خود را نیز نادیده بگیرد.
ربیعی خاطرنشان کرد: با توجه به فاصله موجود با پیشگامان جهانی، میتوان با تمرکز بر بهرهوری و مسائل کشور، مسیر مشخصی برای توسعه هوش مصنوعی ایجاد کرد. همکاری میان دانشگاهها، شرکتها و مجموعههای مختلف، اشتراک تجربه و تربیت نیروی انسانی مورد نیاز زیستبوم میتواند زمینه استفاده مؤثرتر از این فناوری را فراهم کند.
انتهای پیام/