در گفت‌و‌گو با آناتک بررسی شد
هسته زمین طول روز را تغییر می‌دهد
ایجنت هوش مصنوعی متا برای اطرافیان کاربران نیز پرونده مخفیانه می‌سازد
به گزارش خبرگزاری آنا میوز حدود یک ماه پس از عرضه، از نظر نحوه ذخیره و سازمان‌دهی اطلاعات شخصی زیر ذره‌بین پژوهشگران قرار گرفته است. بررسی دستورهای سیستمی و فایل‌های داخلی این ایجنت نشان می‌دهد بخشی از فرایند‌های خودکار آن هر ساعت اجرا می‌شوند و یکی از وظایفشان ساخت یا به‌روزرسانی صفحه‌ای برای هر فرد مهم در زندگی کاربر است. هدف این ساختار آن است که میوز فقط خود کاربر را نشناسد، بلکه به‌مرور تصویر منسجمی از شبکه روابط وی نیز ایجاد کند تا هنگام انجام کار‌هایی مانند ارسال ایمیل، خرید، برنامه‌ریزی سفر یا یادآوری امور شخصی بتواند تشخیص دهد هر نام به چه کسی مربوط است، چه نوع رابطه‌ای با کاربر دارد و در تعاملات قبلی چه اطلاعاتی درباره وی مطرح شده است.
صفحه‌ای جداگانه برای هر فرد
کاران جوشی، پژوهشگر مستقل ایمنی و امنیت هوش مصنوعی، توانسته از طریق رابط عادی گفت‌وگوی میوز مجموعه‌ای از دستورهای داخلی و پرامپت‌های سیستمی آن را استخراج کند. بررسی جداگانه نسخه‌ای استخراج‌شده از ماشین مجازی میوز نیز به دستور‌هایی مشابه رسیده و در آنها از ایجنت خواسته شده برای افراد حاضر در زندگی کاربر صفحه‌های رابطه ایجاد کند و اطلاعات آنها را با دریافت داده‌های تازه به‌روز نگه دارد. کنار هم قرار گرفتن این اطلاعات تصویر روشن‌تری از حافظه میوز و شیوه‌ای ارائه می‌دهد که این ایجنت برای شناخت روابط شخصی کاربر به کار می‌گیرد.
این صفحه‌ها می‌توانند شامل نام فرد، نحوه ارتباط وی با کاربر و موضوعاتی باشند که مرتب در تعاملات آنها تکرار می‌شود. برای مثال اگر یکی از دوستان کاربر در حال جابه‌جایی به خانه‌ای تازه باشد یا یکی از اعضای خانواده برای هدف مالی مشخصی پس‌انداز کند، چنین موضوعاتی می‌توانند به بخشی از اطلاعات ماندگار مربوط به آن فرد تبدیل شوند. تاریخ‌های مهم مانند تولد و سالگرد نیز قابل ثبت هستند تا ایجنت در گفت‌وگوها، یادآوری‌ها و برنامه‌ریزی‌های بعدی از آنها استفاده کند و مجبور نباشد هر بار رابطه فرد یا زمینه قبلی گفت‌و‌گو را از ابتدا تشخیص دهد.
دامنه اطلاعات به چند مشخصه ساده محدود نمی‌شود. دستورهای داخلی امکان نگهداری تاریخچه رابطه، اتفاق‌ها و نقاط عطف مشترک، میزان نزدیکی ۲ نفر، شیوه تعامل آنها و حتی برداشتی از وضعیت فعلی رابطه را نیز در نظر گرفته‌اند. در نتیجه میوز می‌تواند به‌مرور چیزی فراتر از یک فهرست مخاطبان بسازد و برای هر فرد مجموعه‌ای از اطلاعات زمینه‌ای تشکیل دهد که با ادامه تعامل کاربر تغییر می‌کنند. چنین ساختاری به ایجنت اجازه می‌دهد میان یک نام ساده و جایگاه واقعی آن فرد در زندگی کاربر تفاوت قائل شود و پاسخ‌ها یا اقدامات بعدی خود را بر همان اساس تنظیم کند.
اطلاعات کسانی که میوز ندارند
بخش حساس‌تر ماجرا این است که فرد ثبت‌شده در چنین صفحه‌ای لزوماً هیچ ارتباط مستقیمی با میوز یا حتی حساب متا ندارد. کافی است اطلاعات وی از طریق پیام‌ها، ایمیل‌ها، تقویم، حساب‌های متصل یا داده‌هایی که خود کاربر در اختیار ایجنت گذاشته وارد سیستم شود. به این ترتیب یک دوست، همکار، همسر یا حتی فردی که تنها چند بار با کاربر در ارتباط بوده می‌تواند بدون استفاده از میوز به بخشی از حافظه رابطه‌ای آن تبدیل شود و اطلاعات مربوط به وی در تعاملات بعدی نیز دوباره مورد استفاده قرار گیرد.
این قابلیت برای عملکرد یک ایجنت شخصی مزیت مشخصی دارد. اگر فردی قبضی برای کاربر ارسال کند، میوز می‌تواند از سابقه تعامل متوجه شود فرستنده همان تعمیرکاری است که پیش‌تر برای انجام کاری در خانه استخدام شده بود و لازم نیست کاربر هر بار هویت وی را توضیح دهد. در مثالی دیگر، ایجنت می‌تواند به خاطر بسپارد همسر کاربر چه نوع گل‌هایی را دوست دارد و بعداً هنگام برنامه‌ریزی خرید یا مناسبت از همان اطلاعات استفاده کند. با این حال همین توانایی به این معنی است که سامانه نه‌تنها داده‌های صاحب حساب، بلکه اطلاعات مربوط به افرادی را نیز سازمان‌دهی و برای استفاده‌های بعدی نگهداری می‌کند که ممکن است از وجود چنین صفحه‌ای اطلاعی نداشته باشند.
متا این حافظه را برای مفید بودن ایجنت ضروری می‌داند
متا در توضیح نحوه کار میوز تأکید کرده یک ایجنت برای انجام مؤثر وظایف باید درباره کاربر و افرادی که با وی تعامل دارند زمینه کافی داشته باشد. شرکت می‌گوید این اطلاعات از داده‌های عمومی و مواردی جمع‌آوری می‌شوند که خود کاربر انتخاب کرده با میوز به اشتراک بگذارد و هدف آن ایجاد حافظه‌ای است که روابط و موقعیت‌های قبلی را در تعاملات آینده تشخیص دهد. از نگاه متا، چنین زمینه‌ای برای آن ضروری است که ایجنت بتواند اطلاعات پراکنده را به یکدیگر مرتبط کند و در انجام کار‌های روزمره نیاز کمتری به توضیح دوباره جزئیات داشته باشد.
اطلاعات هر کاربر نیز در یک ماشین مجازی اختصاصی و امن ذخیره می‌شود و متا تأکید دارد ایجنت‌های متعلق به کاربران دیگر نمی‌توانند به آن دسترسی پیدا کنند. این توضیح به مسئله جداسازی داده میان حساب‌ها پاسخ می‌دهد، اما پرسش دیگری همچنان باقی می‌ماند؛ افرادی که خودشان کاربر میوز نیستند تا چه اندازه باید انتظار داشته باشند جزئیات مربوط به زندگی، اهداف یا رابطه‌شان در حافظه ایجنت شخص دیگری نگهداری شود. این مسئله به‌ویژه زمانی اهمیت بیشتری پیدا می‌کند که اطلاعات از یک گفت‌وگوی خصوصی یا حساب متصل وارد حافظه شوند و فرد مقابل هیچ نقشی در انتخاب نحوه نگهداری آنها نداشته باشد.
نگرانی‌های حریم خصوصی از همان هفته‌های اول
جزئیات تازه در شرایطی منتشر شده که میوز از زمان عرضه در ۸ سپتامبر با چند بحث امنیتی و حریم خصوصی روبه‌رو شده است. این ایجنت برای انجام کار‌هایی مانند ارسال ایمیل، رزرو سفر، خرید اینترنتی و پیگیری اهداف به دسترسی گسترده‌ای به برنامه‌ها و حساب‌های کاربر نیاز دارد و همین سطح دسترسی باعث شده هر ضعف امنیتی یا ابهام در مدیریت داده اهمیت بیشتری پیدا کند. هرچه اطلاعات بیشتری از زندگی دیجیتال کاربر در اختیار یک ایجنت قرار گیرد، پیامد‌های احتمالی یک آسیب‌پذیری یا استفاده پیش‌بینی‌نشده از همان مجوز‌ها نیز گسترده‌تر می‌شود.
آمازون ماه گذشته دسترسی میوز به فروشگاه خود را مسدود کرد و یکی از دلایل آن را نگرانی درباره نحوه استفاده ایجنت از اطلاعات حساب و اعتبارنامه‌های کاربران دانست. متا همچنین به‌تازگی یک آسیب‌پذیری روز صفر در نسخه مک را برطرف کرده که می‌توانست به بدافزار موجود روی رایانه اجازه دهد کنترل ایجنت را در دست بگیرد و از مجوز‌هایی استفاده کند که کاربر قبلاً به میوز داده بود. این موارد در کنار اطلاعات تازه درباره صفحه‌های رابطه، توجه بیشتری را به مقدار داده‌ای جلب کرده‌اند که چنین ایجنتی برای انجام وظایف خود در اختیار می‌گیرد.
کشف صفحه‌های رابطه تصویر روشن‌تری از دلیل نیاز میوز به چنین حجم گسترده‌ای از اطلاعات ارائه می‌کند. ایجنت قرار نیست تنها به درخواست فعلی پاسخ دهد، بلکه سعی می‌کند حافظه‌ای مداوم از زندگی کاربر و آدم‌های اطراف وی بسازد تا در تعامل بعدی زمینه بیشتری در اختیار داشته باشد و روابط، اتفاق‌های قبلی و جزئیات مهم را دوباره شناسایی نکند. همین ویژگی می‌تواند آن را به دستیار شخصی مفیدتری تبدیل کند، اما در عین حال مرز حریم خصوصی را از صاحب حساب فراتر می‌برد و به افرادی می‌رساند که شاید هرگز تصمیم نگرفته باشند اطلاعاتشان در اختیار یک ایجنت هوش مصنوعی قرار گیرد.
انتهای پیام/
