دستیار هوش مصنوعی، آمازون را ۱۳ ساعت به دردسر انداخت

منابع آگاه در داخل شرکت آمازون تایید کرده‌اند که ابزار هوش مصنوعی اختصاصی این شرکت به نام «کایرو» در دی‌ماه، با پاک کردن کد‌های محیط کاری تحت اختیار خود، یک قطعی ۱۳ ساعته در بخش خدمات ابری (AWS) را رقم زده است. مهندسان بخش توسعه بدون تعریف لایه‌های نظارتی ثانویه، روند حل یک نقص سیستمی را به این ماشین واگذار کرده بودند که در نهایت به این اختلال ختم شد.

کارمندان ارشد آمازون وقوع دست‌کم دو مورد قطعی مرتبط با این موضوع را در محیط‌های عملیاتی تایید می‌کنند. رویداد نخست که در اواخر سال میلادی به وقوع پیوست، فعالیت یک سرویس مشخص را در بخش‌هایی از چین متوقف کرد. اتفاق دوم با وجود عملکرد مشابه ابزار کایرو، تاثیری بر خدماتی که مستقیم در دسترس مشتریان نهایی قرار می‌گیرد، نداشت.

ریشه‌یابی فنی اختلال در سرور‌های ابری

سیستم‌های داخلی آمازون ماشین‌های مبتنی بر هوش مصنوعی را به عنوان بخشی از هویت کاربری شخص برنامه‌نویس شناسایی می‌کنند و به همین دلیل، سطح دسترسی یکسانی را به آنها اختصاص می‌دهند. دسترسی مستقیم عامل هوشمند به هسته سیستم و نبود سازوکار تایید نهایی تغییرات توسط انسان، شرایطی را فراهم کرد تا دستورات مخرب به صورت خودکار در شبکه اجرا شوند.

مدیران آمازون ارتباط مستقیم این اختلالات با خطای پردازشی هوش مصنوعی را نمی‌پذیرند.آمازون در بیانیه رسمی این شرکت اعلام می‌کند که حوادث یادشده صرفا نتیجه خطای انسانی و نقص در رویکرد کنترل دسترسی کاربران بوده است. استدلال نمایندگان آمازون این است که اجرای همین دستورات اشتباه با استفاده از ابزار‌های کدنویسی پیشین یا وارد کردن کد‌ها توسط انسان نیز نتیجه یکسانی در پی داشت.

تیم‌های امنیتی آمازون پس از بررسی این رویدادها، رویه‌های تازه‌ای را برای جلوگیری از تکرار حوادث پیش‌بینی کرده‌اند. بازنگری در سطح دسترسی ابزار‌های خودکار و اضافه شدن لایه‌های تاییدیه انسانی پیش از اعمال تغییرات در محیط‌های تولید، بخشی از این برنامه‌های پیشگیرانه است تا خطرات ناشی از عملکرد مستقل ابزار‌های هوشمند محدود شود.

روند استفاده از ماشین‌های کدنویس در صنعت فناوری

کاربرد دستیار‌های برنامه‌نویس صرفا به آمازون محدود نیست و رقبای این شرکت نیز اتکای مشخصی به این فناوری پیدا کرده‌اند. ساتیا نادلا، مدیرعامل شرکت مایکروسافت پیش‌تر در گزارش‌های عملکرد خود اعلام کرده است که نزدیک به ۳۰ درصد از کد‌های جدید توسعه‌یافته در این مجموعه توسط هوش مصنوعی تولید می‌شود.

شرکت انویدیا نیز رویکردی هم‌سو را در پیش گرفته است و جامعه آماری متشکل از ۳۰ هزار مهندس این شرکت، به صورت روزمره از نسخه سفارشی‌سازی‌شده ابزار Cursor برای پیشبرد پروژه‌های خود بهره می‌برند. جنسن هوانگ، مدیرعامل انویدیا، مقاومت در برابر استفاده از این دستیار‌ها را در محیط‌های کاری مدرن غیرمنطقی ارزیابی کرده است.

تغییرات بازار کار و محدودیت‌های سخت‌افزاری

گسترش استفاده از ابزار‌های هوشمند در محیط‌های توسعه نرم‌افزار، بازار کار نیروی انسانی را دستخوش دگرگونی کرده است. داده‌های آماری گردآوری‌شده نشان می‌دهد که میزان آگهی‌های استخدامی برای برنامه‌نویسان مبتدی در طول سه سال گذشته با افت ۱۳ درصدی مواجه بوده است. رهبران صنعت فناوری و نهاد‌های آموزشی درباره پیامد‌های بلندمدت این روند و تاثیر آن بر آینده نیروی کار هشدار می‌دهند. جایگزینی نیروی کار انسانی با ابزار‌های تولید کد، بحث‌هایی را درباره آینده مشاغل اداری مطرح کرده است و کارشناسان خواستار بازنگری در ساختار‌های آموزشی برای سازگاری با این دگرگونی هستند.