روزی یک سنگ قورت بده! / هوش مصنوعی گوگل از واقعیت دور می‌شود

خبرگزاری علم و فناوری آنا؛ گوگل در آخرین به‌روزرسانی خود یک ویژگی جدید به نام «ای آی اُورویوز» (AI Overviews) را به مرورگر اضافه کرده است که به شما امکان می‌دهد به جای آنکه یک سؤال را در چند بخش بپرسید، به صورت ترکیبی و در یک بار جستجو به پاسخ آن برسید. برای مثال می‌توانید از‌ای آی اُورویوز بخواهید که برایتان یک کلاس یوگا با تخفیف و در نزدیکی محل زندگی شما پیدا کند.

اگر از‌ای آی اُورویوز بپرسید چگونه می‌توان موز را برای مدت طولانی‌تری تازه نگه داشت نکاتی مانند نگهداری آنها در مکانی خنک و تاریک و دور از میوه‌های دیگر مانند سیب به شما می‌دهد. اما اگر یک سؤال عجیب و غیرمتعارف بپرسید، پاسخی افتضاح یا حتی خطرناک به شما می‌دهد. گوگل در حال حاضر در تلاش است تا این مشکلات را یک به یک برطرف کند؛ اما تا کنون این تلاش بی‌نتیجه بوده است، مانند تلاش بیهوده در بازی ژاپنی «موش و چکش»!

در بازی «موش و چکش» بازیکنان با چکش به موش‌هایی که به‌طور تصادفی از سوراخ‌های مختلف بیرون می‌آیند ضربه می‌زنند تا امتیاز بگیرند، اما با هر ضربه یک موش دیگر از سوراخی دیگر بیرون می‌زند.‌ ای آی اُورویوز همچنین ممکن است به شما بگوید که فضانوردان در ماه با گربه‌ها بازی کرده‌اند و از آنها مراقبت می‌کنند! پیشنهادات این مدل از هوش مصنوعی وقتی نگران‌کننده می‌شود که به شما می‌گوید: «باید حداقل روزی یک سنگ کوچک بخورید، زیرا سنگ‌ها منبع حیاتی مواد معدنی و ویتامین‌ها هستند» و یا ممکن است پیشنهاد کند که برای قوام بخشیدن به سس پیتزا کمی چسب اضافه کنید!

برای بهبود هوش مصنوعی از تکنیک‌های پیچیده رایانه‌ای استفاده می‌شود، اما تعجبی هم ندارد که این مدل‌ها برخی رفتار‌های منفی مانند سوگیری یا توهم توطئه را در اینترنت یاد بگیرند. درواقع، با وجود آنچه که می‌آموزند باز هم رفتار خوب و مؤدبانه‌ای دارند.

در دنیای واقعی، شرکت‌های داروسازی مجاز به تولید و عرضه داروهای مضر و خطرناک نیستند. اما شرکت‌های فناوری تا حد زیادی هر کاری که دوست داشتند، انجام داده‌اند

چرا هوش مصنوعی از واقعیت دور می‌شود؟

یکی از مشکلات اساسی این است که ابزار‌های هوش مصنوعی نمی‌دانند چه چیزی درست است، فقط می‌دانند که چه چیزی محبوبیت و فراوانی بیشتری دارد، برای مثال، مقالات چندانی درباره خوردنِ سنگ در اینترنت موجود نیست، چرا بدیهی است که این ایده افتضاح است، اما، چون مجله اینترنتی د آنین (The onion) که یک پایگاه خبری محبوب و پرطرفداراست یک مقاله طنز درباره خوردنِ سنگ منتشر کرده است، هوش مصنوعی گوگل نیز خلاصه خود را با استناد به محبوبیت آن مقاله به کاربر ارائه می‌دهد.

مشکل دیگر این است که ارزش‌ها و مقادیر مهم برای انسان‌ها به ابزار‌های هوش مصنوعی مولد داده نشده‌اند. آنها فقط در بخش بزرگی از وب آموزش دیده‌اند. 

آینده جستجوی اینترنتی به کجا می‌رود؟

اگر آینده جستجوی اینترنتی واقعاً همین باشد، پس در مسیر پر دست‌اندازی هستیم، چون حالا گوگل هم در حال رقابت با اپن‌ای آی و مایکروسافت است.  انگیزه‌های مالی برای برتری در رقابت هوش مصنوعی بسیار زیاد است، بنابراین گوگل نسبت به گذشته کمتر محافظه‌کاری می‌کند و این فناوری را در اختیار کاربر قرار داده است.

ساندار پیچای (Sundar Pichai)، مدیر اجرایی گوگل در سال ۲۰۲۳ گفت: «ما محتاط بوده ایم و انتخاب خودمان بود که در برخی حوزه‌ها اولین کسی نباشیم که محصول را عرضه می‌کند. در عین حال، ساختار‌های خوبی را پیرامون هوش مصنوعی مسئولانه ایجاد کرده‌ایم و خواهید دید که وقت بیشتری نیز برای آن صرف خواهیم کرد.»

به نظر می‌رسد که این اظهارنظر دیگر چندان درست نیست، زیرا گوگل از این باب که به رقیبی بزرگ و خسته تبدیل شده مورد انتقاد قرار گرفته است.

ابزارهای هوش مصنوعی نمی‌دانند چه چیزی درست است، فقط می‌دانند که چه چیزی محبوبیت و فراوانی بیشتری دارد

حرکت خطرناک گوگل

گوگل استراتژی خطرناکی را در پیش گرفته چرا که ممکن است اعتماد عمومی به گوگل از این نظر که مرورگری امن برای یافتن پاسخ صحیح است از دست برود. گوگل در عین حال مدل کسب و کار میلیارد دلاری خود را به خطر انداخته است. اگر دیگر روی پیوند‌ها کلیک نکنیم و فقط خلاصه آنها را بخوانیم، گوگل چگونه به کسب درآمد میلیاردی خود ادامه دهد؟

این خطرات فقط به گوگل محدود نمی‌شود و این نوع استفاده جدید از هوش مصنوعی ممکن است مصنوعی به طور کلی به ضرر جامعه تمام شود. پاسخ‌های نادرست هوش مصنوعی اوضاع را بدتر خواهد کرد.

در یک دهه آینده، ممکن است به سال ۲۰۲۴ به عنوان عصر طلایی‌وب نگاه کنیم، یعنی دورانی که بیشتر محتوای باکیفیت توسط انسان تولید شده بود و پیش از آنکه ربات‌های هوش مصنوعی کنترل را در دست بگیرند و با تولید محتوای مصنوعی فضای اینترنت را پر کنند.

فضای هوش مصنوعی گویی پر از هوای آلوده (داده‌های مسموم) است و هوش مصنوعی برای تازه شدن به هوای تازه (داده‌های جدید و درست) نیاز دارد

هوش مصنوعی هوای تازه می‌خواهد

آموزش نسل دوم مدل‌های بزرگ زبانی مبتنی بر خروجی‌های نسل اول پیش می‌رود که امری گریزناپذیر است، ضمن آنکه بسیاری از استارت‌آپ‌های هوش مصنوعی مزایای آموزش بر اساس داده‌های هوش مصنوعی را تبلیغ می‌کنند. نویسنده مقاله حاضر، این مشکل را به فضایی مسموم تشبیه می‌کند که گویی پر از هوای آلوده (داده‌های مسموم) است و هوش مصنوعی برای تازه شدن به هوای تازه (داده‌های جدید و درست) نیاز دارد.در دنیای واقعی، شرکت‌های داروسازی مجاز به تولید و عرضه داروهای مضر و خطرناک نیستند. شرکت‌های خودروسازی هم چنین حقی ندارند؛ اما شرکت‌های فناوری تا حد زیادی هر کاری که دوست داشتند، انجام داده‌اند.

مشکل اینجاست که آموزش هوش مصنوعی در خصوص درک این هوای مسموم، ممکن است باعث تشدید آن شود و به مشکلاتی مانند سوگیری در این مدل‌های دامن بزند. این نگرانی‌ها در مقیاس جهانی، بسیار بزرگتر می‌شوند. برای مثال، روزانه در سراسر جهان بیش از ۴۰۰ میلیون دلار روی هوش مصنوعی سرمایه‌گذاری می‌شود و دولت‌ها به تازگی متوجه این ایده شده‌اند که با توجه به این سیل سرمایه‌گذاری، باید قوانین و مقررات برای اطمینان از استفاده مسئولانه از هوش مصنوعی وضع کنند تا از فضای داده‌ها و اطلاعات محافظت کنند. در دنیای واقعی، شرکت‌های داروسازی مجاز به تولید و عرضه دارو‌های مضر و خطرناک نیستند. شرکت‌های خودروسازی هم چنین حقی ندارند؛ اما شرکت‌های فناوری تا حد زیادی هر کاری که دوست داشتند، انجام داده‌اند.

این گزارش از پایگاه اینترنتی کانورسیشن به فارسی ترجمه شده است.