ابزار هوش مصنوعی مایکروسافت و خطر گسترش دیپ‌فیک

به گزارش خبرگزاری علم و فناوری آنا به نقل از گاردین، شرکت «مایکروسافت» در جریان رویداد سالانه «ایگنایت» (Ignite)، با رونمایی از جدیدترین محصول هوش مصنوعی خود که شامل نرم‌افزارِ خلق صدا و آواتار از راه شبیه‌سازی چهره و صدای کاربر است، موجی از نگرانی بابت سوءاستفاده از این ابزار برای ساخت دیپ‌فیک (جعل عمیق) را سبب شد.

در واقع، سرویس خدمات «هوش مصنوعی آژور» (Azure AI) که متن را به گفتار تبدیل می‌کند، با تصاویر انسانی آموزش داده می‌شود تا متن تایپ‌شده به وسیله یک آواتار بازخوانی شود. در این روش، کاربر می‌تواند از یکی از آواتار‌های مایکروسافت که قبلا بارگذاری شده استفاده کند یا تصویر و صدای شخص دلخواه خود را بارگذاری کند تا آواتار اختصاصی بسازد.

اما مخالفان می‌گویند که این افزونه راهگشای خلق تصاویر و حرف‌هایی است که شخص حقیقی آن‌ها را انجام نداده یا نگفته است.

حتی در ماه میلادی مِی، ریاست مایکروسافت هم از دیپ‌فیک‌ها به عنوان بزرگترین دغدغه خود در مواجهه با قدرت‌یابی هوش مصنوعی سخن گفته بود.

اما اکنون، در رویارویی با کاربرانی که از ارائه نرم‌افزار جدید ابراز نگرانی کرده‌اند، مایکروسافت می‌گوید که دسترسی به ابزار آواتارساز محدود است و مشتریان باید برای داشتن آن فرم درخواست پر کنند و منتظر تائید شرکت بمانند. همچنین آن‌ها هر بار که آواتار یا صدای جدیدی می‌سازند، موظف هستند که گزارش آن را به مایکروسافت ارائه کنند.

ادعا می‌شود که با توسل به چنین پادمان‌های حفاظتی‌ای، خطر استفاده از این آواتارساز تا حد قابل‌ملاحظه‌ای کاهش می‌یابد.

در دنیای سیاست، به ویژه در میانه رقابت ریاست جمهوری آمریکا، دیپ‌فیک‌ها خطر انتخاباتی بالقوه‌ای به حساب می‌آیند و اوایل ماه میلادی جاری (نوامبر)، مایکروسافت ابزاری را معرفی کرد که به سیاستمداران و ستاد‌های انتخاباتی قدرت راستی‌آزمایی و انتشار ویدئو‌های تبلیغاتی با رعایت حق کپی‌رایت را می‌دهد تا به این ترتیب، مجالی برای انتشار دیپ‌فیک‌ها نماند. 

متا هم این هفته اعلام کرد که ستاد‌های انتخاباتی در تبلیغات سیاسی خود حق استفاده از ابزار هوش مصنوعی مولد این شرکت را در تبلیغات خود ندارند.