هوش مصنوعی ما را از واقعیت زندگی دور میکند؟
ساره پیمان، روانشناس و عضو هیأت علمی دانشگاه آزاد اسلامی واحد تهران غرب، در گفتوگو با آناتک توضیح میدهد که مسئله اصلی، استفاده از هوش مصنوعی نیست، بلکه زمانی است که الگوریتمها بهصورت نامحسوس دامنه انتخاب و تجربه انسان را محدود کنند. به گفته او، پیشبینی رفتار انسان با کنترل رفتار تفاوت دارد، اما زمانی که الگوریتم علاوه بر پیشبینی، محیط انتخاب را نیز تحت تاثیر قرار دهد، مفهوم «مهندسی انتخاب» شکل میگیرد.
آیا راحتتر شدن زندگی با کمک AI ما را از تجربه واقعی زندگی دور میکند؟
خود راحتتر شدن انتخابها یک مسئله منفی نیست. هوش مصنوعی میتواند حجم زیادی از اطلاعات را بررسی و بار شناختی انسان را کاهش دهد و در شرایطی که با تعداد بسیار زیادی از گزینهها مواجه هستیم، این فناوری میتواند کمککننده باشد.
مسئله از جایی آغاز میشود که این کمک به وابستگی تبدیل شود. انتخاب آگاهانه فقط انتخاب یک گزینه نیست؛ جستوجو، مقایسه، تردید و ارزیابی نیز بخشی از فرایند انتخاب هستند. اگر همه این مراحل را به ابزار واگذار کنیم، ممکن است بخشی از تجربهای را که در فرایند انتخاب به دست میآوریم، از دست بدهیم.
الگوریتمها چگونه میتوانند تجربه انسان از جهان را محدود کنند؟
الگوریتمها به طور معمول براساس رفتار گذشته کاربر عمل میکنند؛ یعنی محتوایی را که در گذشته پسندیده یا دنبال کرده است، بیشتر در معرض دید قرار میدهد. در نتیجه ممکن است بهتدریج در یک حباب شناختی قرار بگیرد و کمتر با دیدگاهها، سلیقهها و تجربههای متفاوت مواجه شود.
در چنین شرایطی، قدرت انتخاب از بین نمیرود، اما دامنه انتخابهایی که در معرض آنها قرار میگیرد محدودتر میشود.
ممکن است تصور کنیم آزادانه انتخاب میکنیم، درحالیکه گزینهها از قبل برای ما گزینش شدهاند؟
بله، این احتمال وجود دارد. البته باید میان «پیشبینی رفتار» و «تعیین رفتار» تفاوت قائل شد. اینکه یک سیستم بتواند با دقت بالایی پیشبینی کند چه انتخابی خواهیم داشت، به معنای از بین رفتن اختیار ما نیست.
پیمان: تهدید اصلی فقط پیشبینی رفتار انسان نیست؛ مسئله زمانی جدی میشود که محیط انتخابهای ما نیز بهصورت نامحسوس مهندسی شود
اگر سیستم علاوه بر پیشبینی، محیط را به شکلی طراحی کند که احتمال یک انتخاب خاص افزایش پیدا کند، وارد مرحله دیگری میشویم. در اینجا با نوعی مهندسی انتخاب (Choice Architecture) روبهرو هستیم؛ یعنی محیط به شکلی تنظیم میشود که فرد، بدون اجبار مستقیم، بیشتر به سمت یک گزینه خاص هدایت شود.
آیا این موضوع فقط درباره شبکههای اجتماعی و الگوریتمهای پیشنهاد محتواست؟
خیر، این مسئله میتواند در بسیاری از محیطهای دیجیتال اتفاق بیفتد. شبکههای اجتماعی، موتورهای جستوجو و پلتفرمهای مختلف براساس اطلاعاتی که از رفتار کاربر به دست میآورند، محتوای متناسبتری پیشنهاد میکنند.
این فرایند در ظاهر برای راحتی کاربر انجام میشود، اما نتیجه آن میتواند این باشد که فرد بیشتر در معرض همان نوع اطلاعات و انتخابهایی قرار بگیرد که از قبل به آنها علاقه نشان داده است.
آیا این شخصیسازی میتواند باعث شود انسان، بخشهایی از جهان را که با علایقش سازگار نیست، کمتر ببیند؟
به نظر من بله، زیرا وقتی الگوریتم به طور دائم براساس ترجیحات قبلی ما عمل میکند، طبیعی است که محتوای مشابه بیشتری دریافت کنیم. البته این اتفاق به معنای دستکاری عمدی نیست، اما میتواند تنوع تجربه اطلاعاتی فرد را کاهش دهد.
انسان برای شکل دادن به دیدگاه خود نیاز دارد با اطلاعات متفاوت و حتی مخالف مواجه شود. اگر همیشه همان چیزی را ببینیم که انتظارش را داریم، احتمال دارد تصور کنیم تصویری که از جهان داریم، تصویر کامل و واقعی آن است، درحالیکه فقط بخشی از واقعیت را مشاهده کردهایم.
پس آیا انتخابی که الگوریتم احتمال آن را افزایش داده، هنوز انتخاب خود ما محسوب میشود؟
اگر فرد از پیشنهاد الگوریتم آگاه باشد و بتواند آن را بپذیرد یا رد کند، همچنان میتوان از انتخاب شخصی صحبت کرد. پیشبینی رفتار بهتنهایی اختیار انسان را از بین نمیبرد.
مسئله زمانی پیچیدهتر میشود که فرد از نحوه اثرگذاری سیستم بر انتخاب خود اطلاعی نداشته باشد و بدون بررسی، مسیری را دنبال کند که الگوریتم پیش روی او گذاشته است. در این حالت، فاصله میان «انتخاب کردن» و «هدایت شدن» کمتر میشود.
کاربر برای اینکه در این چرخه گرفتار نشود، چه کاری انجام دهد؟
اولین قدم، آگاهی است. کاربر باید بداند محتوایی که دریافت میکند تصویر کاملی از جهان نیست و بخشی از آن براساس رفتار و علایق قبلی خودش انتخاب شده است.
همچنین بهتر است فرد آگاهانه از منابع مختلف استفاده کند و گاهی سراغ محتواهایی برود که خارج از علایق همیشگی او قرار دارند. تنوع در منابع اطلاعاتی کمک میکند فرد فقط در یک مسیر از پیش تعیینشده حرکت نکند.
به نظر شما آیا باید از استفاده از الگوریتمها و هوش مصنوعی فاصله گرفت؟
خیر، حذف فناوری راهکار واقعبینانهای نیست. هوش مصنوعی میتواند ابزار بسیار مفیدی برای جستوجو، تحلیل و تصمیمسازی باشد. مسئله این است که انسان همچنان نقش فعال خود را حفظ کند.
الگوریتم میتواند پیشنهاد بدهد، اما نباید به تنها مسیر دسترسی ما به جهان تبدیل شود. هرچه انسان بیشتر بداند چرا و چگونه چیزی را انتخاب میکند، احتمال اینکه انتخابش فقط محصول هدایت نامرئی فناوری باشد، کمتر خواهد شد.
انتهای پیام/
