استانداردسازی مدلهای هوش مصنوعی برای محافظت از کودکان و نوجوانان ضروری است
محمد تولایی، توسعهدهنده وب و جویشگر بومی در گفتوگو با خبرنگار آناتک با اشاره به تأثیر طراحی فناوریهای جدید بر رفتار کاربران گفت: «تکنولوژیهای امروز عموماً به شکلی طراحی میشوند که با تحریک هورمون هیجان، زمینه ایجاد نوعی وابستگی و اعتیاد را فراهم کنند.»
وی افزود: «تا زمانی که کودک از نظر شناختی و عقلانی به سطحی نرسیده باشد که بتواند نسبت به اعتیاد دوستان خود احساس نگرانی کند و پیامدهای آن را درک نماید، دسترسی دائمی و بدون نظارت او به فناوریهایی نظیر اینستاگرام و تیکتاک، احتمال گرایش به اعتیاد را افزایش میدهد. در آینده نیز احتمال دارد عاملهای هوشمصنوعی به یکی از حوزههایی تبدیل شوند که چنین خطری را برای کودکان ایجاد میکنند.»
تولایی با اشاره به اینکه مسئله وابستگی به فناوری محدود به کودکان و نوجوانان نیست، اظهار کرد: «البته بزرگسالان ما نیز امروز با انواعی از این وابستگیها مواجه هستند و بسیاری از آنها حتی نمیدانند چگونه باید این مشکل را حل کنند. قاعدتاً کودکان باید در مدرسه درباره این موضوع آموزش ببینند تا در آینده همان الگوهای رفتاری بزرگترهای خود را تکرار نکنند.»
کودکان باید در مدرسه نحوۀ استفاده از فناوری را یاد بگیرند
توسعهدهنده وب و جویشگر بومی در ادامه بر ضرورت توجه به نسل جدید ابزارهای هوشمصنوعی تأکید کرد و گفت: «مسئله بعدی این است که بهخصوص مدلهای زبانی بزرگ یا LLMها باید از این منظر مورد نظارت قرار بگیرند؛ چون بهزودی این مدلها به شکلی وارد متن زندگی روزمره ما میشوند که تعامل با آنها تقریباً اجتنابناپذیر خواهد بود.»
وی ادامه داد: «با وجود این، میتوان برای چنین فناوریهایی استانداردهایی تعریف کرد و مشخص کرد که از چه مدلهایی استفاده شود و از چه مدلهایی استفاده نشود. سازوکار مسئله نیز همان چیزی است که اشاره کردم؛ الگوریتم هوشمصنوعی میتواند به شکلی برای مغز انسان بهینه شود که به صورت غیرطبیعی باعث ترشح هورمونهای مرتبط با هیجان در مغز شود.»
تولایی توضیح داد: «در طبیعت و زندگی معمولی، انسان نمیتواند به طور مداوم تحریکی معادل آنچه برخی پلتفرمها فراهم میکنند، تجربه کند. وقتی چنین تحریک پرشدتی مرتبا تکرار شود، ممکن است زندگی روزمره برای فرد کسلکننده و بیجذبه به نظر برسد و این امر، زمینهساز وابستگی و اعتیاد به آن پلتفرم میشود؛ وابستگیای که در نهایت به سود بیشتر همان پلتفرم منجر خواهد شد.»
وی این سازوکار را به مصرف سیگار تشبیه کرد و گفت: «از این نظر میتوان آن را شبیه سیگار دانست؛ یعنی محصولی که با ایجاد یک وابستگی، کاربر را به مصرف مداوم سوق میدهد.»
گجتهای آینده از گوشی و تبلت فاصله میگیرند
تولایی با اشاره به تغییر شکل ابزارهای دیجیتال در سالهای آینده اظهار کرد: «گوشی و تبلت دیگر بهتدریج عمرشان در حال گذر است. ما کمکم با گجتهایی مواجه خواهیم شد که روی عینک، لنز، ساعت، سنجاق سینه یا هدفون قرار میگیرند و با هوشمصنوعی با ما تعامل میکنند.»
وی افزود: «حتی اگر این فناوریها مستقیماً داخل مغز قرار نگیرند، میتوانند از طریق ابزارهایی که دائماً همراه انسان هستند، به بخش جداییناپذیری از زندگی روزمره تبدیل شوند. به همین دلیل، وقتی درباره آینده فناوری صحبت میکنیم، تمرکز صرف بر گوشی تلفن همراه دیگر پاسخگوی ابعاد اصلی مسئله نیست و بسیاری از این موضوعات در آینده ارزش تاریخی پیدا میکنند.»
توسعهدهنده وب و جویشگر بومی در بخش دیگری از سخنان خود با اشاره به تحولات اقتصاد مبتنی بر عاملهای هوشمند گفت: «آنطور که به نظر میرسد، شرایط دارد به سمت مبهم و نگرانکنندهای پیش میرود. عملاً اقتصاد عاملهای هوشمند دارد بر این مبنا شکل میگیرد که شما تا چه اندازه در توسعه این عاملها مؤثر هستید. یعنی افرادی برای این شرکتها اهمیت پیدا میکنند که میتوانند از طریق تعامل، سؤال و جواب و استفاده مستمر، در آموزش و بهبود این مدلها به آنها کمک کنند.»
وی ادامه داد: «در چنین شرایطی، سایر افراد قاعدتاً یا باید آنقدر توان مالی داشته باشند که بازارشان برای این شرکتها اهمیت پیدا کند، یا اساساً ممکن است حقوق و جایگاه مشخصی در این اقتصاد جدید نداشته باشند. این موضوعی است که به نظر من شرکتها و فعالان این حوزه به شکل جدی در حال فکر کردن درباره آن هستند.»
تولایی در پایان با اشاره به پیامدهای اجتماعی و حقوقی این روند گفت: «به نظر من یکی از دلایلی که حقوق بینالملل با چالشهای جدی مواجه شده نیز میتواند به همین مسئله مرتبط باشد. ارتباط میان حقوق بشر و اقتصاد در حال کمرنگ شدن است و باید نسبت به پیامدهای چنین تغییری در اقتصاد و فناوری آینده توجه جدیتری داشت.»
انتهای پیام/