صفحه نخست

آموزش و دانشگاه

علم‌وفناوری

ارتباطات و فناوری اطلاعات

سلامت

پژوهش

علم +

سیاست

اقتصاد

فرهنگ‌ و‌ جامعه

ورزش

عکس

فیلم

استانها

بازار

اردبیل

آذربایجان شرقی

آذربایجان غربی

اصفهان

البرز

ایلام

بوشهر

تهران

چهارمحال و بختیاری

خراسان جنوبی

خراسان رضوی

خراسان شمالی

خوزستان

زنجان

سمنان

سیستان و بلوچستان

فارس

قزوین

قم

کردستان

کرمان

کرمانشاه

کهگیلویه و بویراحمد

گلستان

گیلان

لرستان

مازندران

مرکزی

هرمزگان

همدان

یزد

هومیانا

پخش زنده

دیده بان پیشرفت علم، فناوری و نوآوری

خطرات سایبری چت‌بات‌های هوش مصنوعی برای کسب‌وکارها

مقامات بریتانیایی به سازمان‌ها در مورد ادغام چت‌بات‌های مبتنی بر هوش مصنوعی در کسب‌وکارها هشدار می‌دهند.
کد خبر : 865941
به گزارش خبرنگار خبرگزاری علم و فناوری آنا به نقل از رویترز، مقامات بریتانیایی به سازمان‌ها در مورد ادغام چت‌بات‌های مبتنی بر هوش مصنوعی در کسب‌وکار خود هشدار می‌دهند که این ابزار‌ها می‌تواند آن‌ها را برای انجام کار‌های مضر فریب دهد.

مرکز ملی امنیت سایبری بریتانیا (NCSC) در دو پست وبلاگی اعلام کرد که کارشناسان هنوز به مشکلات امنیتی بالقوه مرتبط با الگوریتم‌هایی که می‌توانند تعاملات انسانی را تولید کنند، دست نیافته‌اند.

ابزار‌های مبتنی بر هوش مصنوعی در حال استفاده اولیه به‌عنوان چت‌بات هستند. برخی تصور می‌کنند نه تنها جست‌وجو‌های اینترنتی، بلکه برای تماس‌های کاری و فروش مشتریان نیز مفید هستند.

به گفته مرکز ملی امنیت سایبری بریتانیا این می‌تواند خطراتی را به همراه داشته باشد، به‌ویژه اگر چنین مدل‌هایی به فرایند‌های تجاری سازمان متصل شوند. دانشگاهیان و محققان بار‌ها راه‌هایی برای منحرف کردن چت‌بات‌ها از طریق دستور دادن یا دور زدن قانون‌های داخلی خود پیدا کرده‌اند.

به‌عنوان مثال، یک چت‌بات مبتنی بر هوش مصنوعی که توسط یک بانک به کار گرفته می‌شود، ممکن است فریب بخورد تا یک تراکنش غیر‌مجاز انجام دهد، اگر یک هکر درخواست خود را درست تنظیم کند.

مرکز ملی امنیت سایبری بریتانیا در یکی از پست‌های وبلاگ خود با اشاره به انتشار نرم‌افزار‌های آزمایشی گفت: «سازمان‌هایی که از مدل‌های زبانی استفاده می‌کنند، باید مراقب باشند. این ابزار‌ها ممکن است اجازه ندهند آن محصول در انجام معاملات از طرف مشتری دخالت داشته باشد. امیدواریم که به طور کامل به آن اعتماد نکنند. باید در برابر مدل‌های زبانی محتاط بود.»

مقامات در سراسر جهان در حال دست‌و‌پنجه نرم کردن با ظهور مدل‌های زبانی مانند «چت جی‌پی‌تی» (ChatGPT) هستند که کسب‌و‌کار‌ها از آن برای طیف گسترده‌ای از خدمات در فروش و مراقبت از مشتری بهره می‌گیرند.

پیامد‌های امنیتی هوش مصنوعی هنوز در کانون توجه قرار دارد و مقامات ایالات متحده و کانادا می‌گویند شاهد استقبال هکر‌ها از این فناوری بوده‌اند.

انتهای پیام/

ارسال نظر