در گفت‌وگو با استاد پترولوژی دانشگاه خوارزمی مطرح شد
هوش مصنوعی کارمندان را پشت خط زیر نظر می‌گیرد
به گزارش خبرگزاری آنا، به نقل از «Guardian»؛ شرکت Co-op Legal Services در بریتانیا از سامانه‌ای مبتنی بر هوش مصنوعی برای تحلیل تماس‌های تلفنی کارکنان با مشتریان استفاده میکند. این تماس‌ها درباره موضوعاتی مانند تنظیم وصیت‌نامه و انحصار وراثت هستند که بسیاری از مشتریان در شرایط عاطفی دشوار و پس از ازدست‌دادن یکی از نزدیکانشان به آن نیاز پیدا می‌کنند.
کارمندی را تصور کنید که باید به خانواده‌ای داغ‌دیده درباره انحصار وراثت و امور حقوقی پس از مرگ یکی از عزیزانشان مشاوره بدهد؛ خانواده‌ای که در میان اندوه و سردرگمی، به راهنمایی دقیق و لحنی همدلانه نیاز دارد. او باید با حوصله به پرسش‌ها پاسخ دهد، احساسات تماس‌گیرنده را درک کند و مسیر پیش رو را توضیح دهد؛ هم‌زمان، نگران سامانه‌ای مبتنی بر هوش مصنوعی باشد که مکالمه را تحلیل میکند، شیوه پاسخ‌گویی او را بر اساس ده‌ها معیار می‌سنجد و عملکردش را زیر نظر می‌گیرد.
بر اساس گزارش گاردین در اکتبر ۲۰۲۶، سامانه مورد استفاده شرکت با کمک یک مدل هوش مصنوعی متعلق به OpenAI، بیش از ۵۰ شاخص را در هر مکالمه بررسی میکند و برای جنبه‌های مختلف تماس امتیاز قبولی یا مردودی در نظر می‌گیرد. نتایج این ارزیابی‌ها در بررسی عملکرد کارکنان استفاده می‌شوند.
یکی از کارکنان شرکت که با گاردین گفت‌وگو کرده، این شیوه را نوعی نظارت فراگیر و نگران‌کننده توصیف کرده است. از نگاه او، تفاوت زیادی میان بررسی نمونه‌ای از تماس‌ها برای کنترل کیفیت و قرارگرفتن مداوم مکالمات زیر ذره‌بین یک سامانه خودکار وجود دارد.
در مقابل، Co-op می‌گوید این فناوری برای ارتقای کیفیت خدمات، کمک به آموزش کارکنان و اطمینان از ارائه مشاوره تخصصی و همدلانه به مشتریان به کار گرفته شده است. شرکت همچنین تأکید میکند که هوش مصنوعی ابزار پشتیبان است و مسئولیت نهایی همچنان بر عهده انسان‌ها باقی می‌ماند.
آیا هوش مصنوعی کارمندان را پشت خط زیر نظر می‌گیرد؟
برای درک اهمیت این اتفاق، باید به تفاوت میان کنترل کیفیت سنتی و نظارت الگوریتمی توجه کرد. در روش‌های سنتی، مدیران ممکن است تعدادی از تماس‌ها را انتخاب و بررسی کنند؛ اما سامانه‌های خودکار می‌توانند حجم بسیار بیشتری از مکالمات را تحلیل کنند و از آنها مجموعه‌ای از امتیازها و شاخص‌های عملکرد بسازند.
در چنین شرایطی، ارزیابی کارمند فقط به نتیجه نهایی کار او محدود نمی‌شود؛ نحوه گفت‌وگو، انتخاب واژه‌ها و رعایت مراحل تعریف شده نیز به بخشی از داده‌های ارزیابی تبدیل می‌شود. به این ترتیب، فناوری امکان نظارتی گسترده‌تر را فراهم میکند که اگر حدود و هدف آن روشن نباشد، ممکن است احساس دائمی زیر نظر بودن را در محیط کار افزایش دهد.
این، همان نقطه‌ای است که پرونده Co-op را به مسئله‌ای فراتر از یک شرکت تبدیل میکند. پرسش فقط این نیست که هوش مصنوعی تا چه اندازه در تحلیل تماس‌ها دقیق است؛ بلکه باید دید سازمان‌ها چگونه از اطلاعات به دست آمده استفاده می‌کنند و چه تضمینی وجود دارد که ارزیابی خودکار به قضاوتی ناعادلانه درباره کارکنان تبدیل نشود.
چه کسی ناظر هوش مصنوعی است؟
در ماجرای شرکت Co-op، مسئولیت نهایی طبق ادعای شرکت با انسان است؛ اما مشخص نیست چه سازوکار مستقلی برای ارزیابی دقت هوش مصنوعی و رسیدگی به اعتراض کارکنان وجود دارد.
آیا هوش مصنوعی می‌تواند همدلی را اندازه بگیرد؟
یکی از حساس‌ترین جنبه‌های ماجرا، ماهیت تماس‌هایی است که این سامانه ارزیابی میکند. مشاوره درباره وصیت‌نامه یا انحصار وراثت، همیشه یک تعامل اداری ساده نیست؛ ممکن است مشتری در سوگ باشد، تمرکز کافی نداشته باشد یا برای تصمیم‌گیری به زمان و توضیح بیشتری نیاز داشته باشد.
هوش مصنوعی می‌تواند برخی ویژگی‌های مکالمه، از جمله الگوهای زبانی و رعایت مراحل مشخص را بررسی کند. با این حال، تبدیل کیفیت یک ارتباط انسانی به مجموعه‌ای از شاخص‌ها با محدودیت‌هایی همراه است. سکوت یک کارمند ممکن است نشانه سردرگمی باشد، اما می‌تواند فرصتی برای شنیدن حرف‌های مشتری نیز باشد. کوتاه بودن یک تماس هم به معنای ارائه خدمات بهتر نیست.
یک نکته مهم وجود دارد، مسئله این نیست که ارزیابی خودکار هیچ کاربردی ندارد؛ مسئله آن است که امتیاز الگوریتمی تا چه اندازه نماینده کیفیت واقعی یک تعامل باشد. هرچه نتیجه ارزیابی پیامدهای مهم‌تری برای کارمند داشته باشد، ضرورت بررسی انسانی و امکان اعتراض به نتیجه نیز بیشتر می‌شود.
امتیاز الگوریتم به ابزار مدیریت تبدیل می‌شود
گزارش مشترک سازمان بین‌المللی کار و مرکز پژوهش‌های کمیسیون اروپا درباره مدیریت الگوریتمی نشان می‌دهد که استفاده از فناوری برای سازمان‌دهی وظایف و ارزیابی عملکرد، به بخشی از واقعیت محیط‌های کاری تبدیل شده است. این ابزارها می‌توانند به هماهنگی فرایندها و افزایش بهره‌وری کمک کنند، اما آثار آنها بر کیفیت شغل، استقلال کارکنان و میزان نظارت نیز اهمیت دارد.
در پرونده Co-op، امتیازهای تولیدشده توسط هوش مصنوعی در بررسی عملکرد کارکنان به کار می‌روند. همین موضوع پرسش مهمی ایجاد میکند که اگر سامانه بخشی از مکالمه را اشتباه تفسیر کند یا زمینه خاص گفت‌وگو را در نظر نگیرد، کارمند چگونه می‌تواند نتیجه را به چالش بکشد؟
وجود مدیر انسانی به تنهایی پاسخ کامل این پرسش نیست. نظارت انسانی زمانی معنا دارد که مدیر بتواند نتیجه الگوریتم را جداگانه بررسی کند، محدودیت‌های آن را بشناسد و در صورت وجود شواهد کافی، امتیاز یا توصیه سامانه را نپذیرد.
حریم خصوصی کارکنان کجا تمام می‌شود؟
استفاده از داده‌های کاری همیشه به معنای نقض حریم خصوصی نیست؛ شرکت‌ها برای کنترل کیفیت، رعایت مقررات و بهبود خدمات به اطلاعات نیاز دارند. زمانی که دامنه جمع‌آوری اطلاعات از هدف اصلی فراتر برود یا کارکنان ندانند چه داده‌هایی، با چه معیاری و برای چه تصمیم‌هایی استفاده می‌شوند، باید به نقض حریم خصوصی پرداخت.
ICO، نهاد حفاظت از داده‌های بریتانیا، در راهنمای نظارت بر کارکنان تأکید میکند که کارفرمایان باید هدف مشخصی برای نظارت داشته باشند، ضرورت و تناسب آن را بسنجند و امکان استفاده از روش‌های کم‌مداخله‌تر را بررسی کنند. شفافیت درباره شیوه جمع‌آوری و استفاده از داده‌ها نیز بخشی از مسئولیت سازمان‌هاست.
در نتیجه، ارزیابی یک سامانه نظارتی نباید صرفاً به این محدود شود که آیا فناوری از نظر فنی کار میکند یا نه. باید پرسید آیا میزان نظارت ضروری است، داده‌ها تا چه زمانی نگهداری می‌شوند، چه کسانی به آنها دسترسی دارند و آیا کارکنان می‌توانند از نحوه استفاده از اطلاعات خود آگاه شوند.
بهره‌وری بیشتر، به چه قیمتی؟
شرکت‌ها با استفاده از هوش مصنوعی تعداد بیشتری از تعاملات را بررسی می‌کنند، الگوهای تکرارشونده را می‌شناسند و برخی مشکلات را سریع‌تر تشخیص می‌دهند؛ اما افزایش توانایی فنی برای نظارت، عاملی به معنای بهتر شدن همه ابعاد محیط کار نیست.
اگر کارکنان احساس کنند هر مکالمه به امتیازی برای قضاوت درباره آنها تبدیل می‌شود، ممکن است رابطه‌شان با مدیران و حتی شیوه ارتباط با مشتری تغییر کند. این پیامد در همه محیط‌ها یکسان نیست و برای نسبت‌دادن نتیجه‌ای مشخص به شرکت Co-op، شواهد بیشتری لازم است؛ بااین‌حال، پژوهش‌های حوزه سلامت شغلی نشان می‌دهند که نظارت و مدیریت مبتنی بر داده باید از نظر آثار روانی و اجتماعی نیز بررسی شوند.
سازمان بین‌المللی کار در پژوهش‌های خود درباره هوش مصنوعی و محیط روانی‌ـ‌اجتماعی کار، به موضوعاتی مانند استقلال شغلی، فشار کاری و پیامدهای نظارت فناورانه توجه کرده است. این نگاه یادآوری میکند که سنجش موفقیت فناوری باید علاوه بر سرعت و بهره‌وری، کیفیت زندگی کاری و امکان تصمیم‌گیری مستقل کارکنان را نیز در نظر بگیرد.
مرز باریک میان ارزیابی و نظارت
پرونده Co-op نمونه‌ای از تغییری است که ممکن است در بسیاری از مشاغل رخ دهد، اینکه انسان‌ها کار را انجام می‌دهند، اما بخشی از قضاوت درباره کیفیت کارشان به سامانه‌هایی سپرده می‌شود که معیارهایشان را مدیران و طراحان تعیین کرده‌اند.
این فناوری می‌تواند خطاها را آشکار کند و به بهبود خدمات کمک کند؛ اما اگر امتیاز الگوریتمی بدون توضیح کافی به معیاری برای سنجش شایستگی تبدیل شود، خطر آن وجود دارد که پیچیدگی رفتار انسانی به چند عدد تقلیل پیدا کند. در این وضعیت، کارکنان نه فقط باید وظیفه خود را انجام دهند، بلکه ممکن است ناچار شوند دائم رفتارشان را با انتظارات یک سامانه تطبیق دهند که اتفاق خوشایندی به نظر نمی‌رسد.
وقتی AI عملکرد کارکنان را ارزیابی میکند، اعلام اینکه تصمیم نهایی با انسان است، به تنهایی کافی نیست. باید روشن باشد چه کسی دقت معیارهای الگوریتم را می‌سنجد، کارکنان چگونه می‌توانند به امتیازهای نادرست اعتراض کنند و مسئولیت پیامدهای یک ارزیابی اشتباه بر عهده چه کسی است. نظارت بر داده‌ها ضروری است، اما نظارت بر قضاوت الگوریتم نیز به همان اندازه اهمیت دارد؛ وگرنه ممکن است تصمیمی که ظاهری علمی و بی‌طرفانه دارد، بدون پاسخ‌گویی کافی بر زندگی شغلی انسان‌ها اثر بگذارد.
انتهای پیام/
