هوش مصنوعی را نباید به هر کسبوکاری تحمیل کرد؛ نظارت انسان ضروری است
به گزارش خبرگزاری آنا، محمد شکوهییکتا در دومین رویداد روز هوش مصنوعی که شامگاه ۲۶ آبان ۱۴۰۵ در سالن همایشهای کتابخانه مرکزی دانشگاه تهران برگزار شد، پنج چالش واقعی استفاده از هوش مصنوعی عاملمحور را بر اساس تجربههای اجرایی خود تشریح کرد. او در این سخنرانی بر ضرورت توجه به توجیه اقتصادی، حفظ مهارتهای تخصصی، ارزیابی مداوم مدلها، انتخاب راهکارهای ساده و حضور انسان در فرایند تصمیمگیری تأکید کرد.
توجیه اقتصادی؛ معیار انتخاب فناوری
مدیر هوش مصنوعی اسنپ با اشاره به تجربه یک شرکت نوپا در حوزه تولید محصولات درمان زخم گفت: دو پزشک که پمادی برای تسریع بهبود زخم تولید کرده بودند، هنگام مراجعه به سرمایهگذاران بارها با این پرسش مواجه شده بودند که هوش مصنوعی محصولشان کجاست. این پرسش نشان میدهد ذهنیت استفاده اجباری از هوش مصنوعی تا چه اندازه در برخی شرکتها و میان سرمایهگذاران شکل گرفته است.
وی توضیح داد: در چنین کسبوکاری میتوان سامانهای طراحی کرد که پزشک یا پرستار از طریق آن وضعیت زخم بیمار را بررسی و روند بهبود را ارزیابی کند؛ اما پیش از اجرای چنین راهکاری باید هزینه آن، میزان اثربخشی و توجیه اقتصادی پروژه مشخص شود. قدرت بالای هوش مصنوعی نباید باعث شود این فناوری بدون توجه به نیاز واقعی، وارد هر ایده یا سازمانی شود.
شکوهییکتا برای توضیح اهمیت شناخت فرایندهای واقعی کسبوکار، به تجربه بازدید از خط تولید آیفون در چین در سال ۲۰۱۵ اشاره کرد و گفت: برخلاف تصور اولیه، بخش زیادی از مراحل تولید با نیروی انسانی انجام میشد و فرایندها کاملاً رباتیک نبودند. دلیل این انتخاب نیز به صرفه اقتصادی بازمیگشت؛ در شرایطی که هزینه نیروی کار در آن مجموعه حدود یک دلار در ساعت بود، ساخت و نگهداری ربات برای انجام برخی وظایف توجیه نداشت.
وی در ادامه به پروژه توسعه عامل صوتی در سامانه تماس اسنپ با شماره ۱۵۵۱ پرداخت و بیان کرد: روزانه حدود ۴۰ هزار تماس از طریق قابلیت تماس برگشتی انجام میشود. در این پروژه، عاملی طراحی شده است که با مسافر گفتوگو کند، مبدأ و مقصد را از مکالمه تشخیص دهد و اطلاعات را روی نقشه ثبت کند.
مدیر هوش مصنوعی اسنپ دشواری تشخیص نشانیهای محلی را از چالشهای این پروژه دانست و گفت: ممکن است مسافر نشانی خود را با عباراتی مانند نام یک سوپرمارکت در روستایی کوچک بیان کند؛ بنابراین عامل باید بتواند از دل گفتوگوی طبیعی، موقعیت موردنظر را شناسایی کند. این پروژه با نمونههای ساده تماسهای تبلیغاتی تفاوت دارد و به توانایی پردازش مکالمه و تشخیص دقیق اطلاعات نیازمند است.
شکوهییکتا افزود: در نسخه اولیه، استفاده مستقیم از مدل صوتبهصوت بهعنوان سادهترین راهکار بررسی شد؛ اما هزینه هر دقیقه مکالمه با این روش حدود ۱۰ برابر هزینه نیروی انسانی بود. به همین دلیل، تیم بهجای تکیه بر یک مدل آماده، زیرساختی برای تحلیل و کاهش هزینه پردازش طراحی کرد. در حال حاضر نیز قابلیت اتصال تماس به عامل هوشمند برای حدود یک تا دو درصد تماسها فعال شده است.
وی با اشاره به نیروی انسانی فعال در این بخش گفت که برای توسعه پروژه از مدیریت خواسته است در صورت فراگیر شدن سامانه، کارکنان فعلی به فعالیتهای دیگر منتقل شوند و اجرای فناوری به حذف شغل آنها منجر نشود.
حفظ توان تخصصی و بازنگری در مدلهای هوش مصنوعی
شکوهییکتا وابستگی بیش از اندازه به مدلهای هوش مصنوعی را یکی دیگر از چالشهای جدی این حوزه دانست و با اشاره به تجربه قطع اینترنت در جریان جنگ ۱۲ روزه گفت: با قطع دسترسی اعضای تیم به مدلها، مشخص شد برخی نیروها در انجام وظایف برنامهنویسی نیز به ابزارهای هوش مصنوعی وابسته شدهاند. این در حالی بود که اعضای تیم از فارغالتحصیلان رشته مهندسی کامپیوتر دانشگاههای معتبر بودند، اما توانایی کدنویسی مستقل در بخشی از آنها تضعیف شده بود.
وی تأکید کرد: استفاده از ابزارهای جدید نباید به فراموش شدن مهارتهای پایه منجر شود؛ زیرا تیمهای فنی باید در شرایط بحران و قطع دسترسی به سرویسها نیز بتوانند وظایف تخصصی خود را انجام دهند.
مدیر هوش مصنوعی اسنپ در ادامه، تجربه پروژه قیمتگذاری هوشمند را نمونهای از پیامدهای توسعه نرمافزار بدون اشراف کافی بر کدها دانست و گفت: این پروژه از سال گذشته در حال آزمایش است و تستهای آن در استان اصفهان ادامه دارد. پس از حدود یک سال فعالیت یک تیم ۱۰ تا ۱۲ نفره، اضافه کردن قابلیت جدید به سامانه با دشواری زیادی روبهرو شد؛ بهگونهای که کاری که پیشتر حدود دو ساعت زمان میبرد، در ادامه تا سه هفته طول میکشید.
شکوهییکتا علت این وضعیت را ضعف در شناخت ساختار کدها، مستندسازی و انجام تستهای کافی عنوان کرد و افزود: وقتی اعضای تیم از بخشهای مختلف کد و تأثیر تغییرات بر سایر قسمتها اطلاع نداشته باشند، توسعه قابلیتهای جدید دشوار و پرهزینه میشود. برای اصلاح این روند، پروتکلهایی تعریف شده است تا کدها پیش از ثبت در مخزن گیت، از سوی افراد دیگر بررسی شوند و عملکرد و پیامدهای تغییرات بهدرستی ارزیابی شود.
وی همچنین بر ضرورت مراجعه دوباره به مدلهای هوش مصنوعی و ارزیابی قابلیتهای تازه آنها تأکید کرد و نمونهای از یک پروژه پزشکی را توضیح داد که حل یکی از مسائل فنی آن چند سال زمان برده بود.
به گفته شکوهییکتا، این پروژه از حدود ۱۱ سال قبل با هدف تحلیل تصاویر چشم و تشخیص رتینوپاتی دیابتی آغاز شده است. این بیماری در افراد مبتلا به دیابت میتواند بهتدریج بینایی را کاهش دهد؛ درحالیکه تشخیص زودهنگام و مداخله پزشکی بهموقع، امکان پیشگیری از پیشرفت آسیب را فراهم میکند. وی با اشاره به نتایج این فناوری گفت: سامانه در یک دوره ششماهه توانسته بود ابتلای احتمالی ۱۵۰ بیمار به این عارضه را در آینده پیشبینی کند؛ در مواردی که متخصصان در بررسی اولیه نشانهای از بیماری مشاهده نکرده بودند.
وی یکی از مسائل فنی این پروژه را همترازسازی تصاویر پزشکی یا رجیستریشن دانست و توضیح داد: برای تحلیل دقیق تصاویر چشم، باید چندین تصویر که در فاصله زمانی کوتاه ثبت شدهاند، روی یکدیگر منطبق شوند. بهدلیل ویژگیهای خاص تصاویر این پروژه، تیم چند سال برای توسعه مدلی با دقت حدود ۸۰ تا ۹۰ درصد زمان صرف کرده بود.
شکوهییکتا با اشاره به اتفاقی که شب پیش از سخنرانی رخ داده بود، بیان کرد: با استفاده از یکی از مدلهای جدید هوش مصنوعی، دو تصویر به سامانه داده شد و مدل در زمانی بسیار کوتاه آنها را با دقتی که او ۱۰۰ درصد توصیف کرد، همتراز کرد. سپس از مدل خواسته شد ابزاری بسازد که تصاویر ورودی را دریافت و همین فرایند را بهصورت خودکار انجام دهد. به این ترتیب، مسئلهای که چند سال برای حل آن تلاش شده بود، با قابلیتهای جدید مدلها به شکل قابل توجهی پیش رفت.
وی این تجربه را دلیلی برای بازبینی مستمر ابزارهای هوش مصنوعی دانست و گفت: ممکن است مسئلهای که یک ماه قبل با یک عامل هوشمند قابل حل نبوده، با پیشرفت مدلها در زمان دیگری بهسادگی حل شود.
سادگی راهکار و ضرورت نظارت انسانی بر عاملها
مدیر هوش مصنوعی اسنپ با اشاره به تجربه پروژه کنترل کیفیت لپتاپ و تبلت در خط تولید مایکروسافت در سال ۲۰۲۱، بر اهمیت سادگی در حل مسائل فنی تأکید کرد و گفت: در مرحله پایانی تولید، کارکنان در محیطی تاریک نمایشگر دستگاهها را بررسی میکردند تا پیکسلهای سوخته یا شکستگی صفحه را تشخیص دهند. تیم فنی برای خودکارسازی این مرحله، مدلهای یادگیری عمیق و بینایی ماشین را توسعه داد؛ اما در ابتدای کار، حدود ۴۰ تا ۶۰ درصد دستگاهها از سوی سامانه بهاشتباه معیوب تشخیص داده میشدند.
وی افزود: یکی از مشکلات اصلی، اشتباه گرفتن گردوغبار روی صفحهنمایش با پیکسل سوخته بود. تیم چند ماه برای تشخیص تفاوت این دو وضعیت و توسعه مدلهای دقیقتر زمان صرف کرد و راهکارهایی مانند تاباندن نور از زوایای مختلف را آزمود. در نهایت، پیشنهاد ساده استفاده از یک پنکه برای زدودن گردوغبار و سپس پاک کردن صفحه با دستمال، به بهبود نتیجه کمک کرد.
شکوهییکتا این تجربه را نمونهای از ارزش نگاه متفاوت به مسائل فنی دانست و بیان کرد: گاهی افراد خارج از تیم تخصصی میتوانند با مشاهده مسئله از زاویهای دیگر، راهکاری سادهتر و مؤثرتر ارائه دهند؛ بنابراین نباید در پروژههای فناورانه، پیچیدگی راهحل را نشانه برتری آن دانست.
وی در پنجمین محور سخنانش، حفظ نقش انسان در فرایند تصمیمگیری عاملهای خودمختار را ضروری دانست و گفت: در الگوی عاملمحور، بخشهای مختلف اجرای یک پروژه از پیادهسازی و آزمایش گرفته تا دریافت بازخورد و اصلاح مجدد میتواند بهصورت خودکار انجام شود؛ اما این خودکارسازی نباید به حذف کامل نظارت انسانی منجر شود.
مدیر هوش مصنوعی اسنپ برای تشریح پیامدهای واگذاری کامل تصمیمگیری به سامانههای خودکار، به تجربه شرکت کروز در توسعه خودروهای خودران اشاره کرد و گفت: این شرکت از پیشگامان تولید خودروهای خودران بود و در سالهای گذشته امکان آزمایش این خودروها در برخی مناطق فراهم شده بود. با این حال، یکی از خودروهای این شرکت پس از برخورد با یک عابر پیاده، متوجه قرار گرفتن فرد در زیر خودرو نشد و او را مسافتی با خود کشید. به گفته وی، این حادثه پیامدهای سنگینی برای شرکت داشت و فعالیت آن را تحت تأثیر قرار داد.
شکوهییکتا در ادامه به تجربه سامانه تماس هوشمند اسنپ اشاره کرد و گفت: در بررسی مکالمات مشخص شده است که برخی کاربران درخواستهایی خارج از مأموریت تعریفشده عامل مطرح میکنند؛ برای نمونه، ممکن است گفتوگو به موضوعاتی کاملاً نامرتبط با ثبت سفر کشیده شود. چنین مواردی نشان میدهد عاملهای هوشمند باید در چارچوب مشخصی فعالیت کنند و امکان نظارت و مداخله انسان در عملکرد آنها وجود داشته باشد.
وی در جمعبندی سخنان خود، توجه به جزئیات، شناخت دقیق مسئله، سنجش توجیه اقتصادی، حفظ توان تخصصی نیروها، بازبینی مستمر مدلها و نظارت انسانی را از الزامات اجرای موفق پروژههای هوش مصنوعی دانست.
انتهای پیام/