چگونه یک هشدار هوش مصنوعی می‌تواند جهان را به آستانه جنگ هسته‌ای ببرد
به گزارش خبرگزاری آنا به نقل از بولتن دانشمندان اتمی؛ پل اسلوویک و هربرت لین در مقاله‌ای با عنوان «هوش مصنوعی برای آغاز جنگ هسته‌ای به ابرهوش یا نیت شیطانی نیاز ندارد» استدلال می‌کنند که خطر این فناوری در حوزه نظامی فقط به احتمال خروج سامانه‌ها از کنترل انسان محدود نمی‌شود که که یک ماشین مستقل تصمیم به شلیک موشک بگیرد؛ بلکه هوش مصنوعی می‌تواند بر نحوه دریافت اطلاعات، برداشت از رفتار دشمن و ارزیابی پیامدهای تصمیم‌های نظامی اثر بگذارد.
به نوشته این دو پژوهشگر، در یک بحران نظامی حتی اطلاعات درست نیز ممکن است زمینه را برای یک تصمیم اشتباه ایجاد کند و به نتیجه‌ای خطرناک منجر شود؛ به‌ویژه زمانی که اطلاعات بدون زمینه کافی ارائه شود یا مقام تصمیم‌گیر، از میان چند تفسیر ممکن، تهدیدآمیزترین گزینه را انتخاب کند. برای مثال، امکان دارد جابه‌جایی تجهیزات نظامی در واقعیت رخ داده باشد، اما تفسیر آن به عنوان نشانه قطعی حمله قریب‌الوقوع، واکنش متقابلی ایجاد کند که در نهایت هر دو طرف را به آستانه درگیری شدیدتر برساند. در چنین وضعیتی، هوش مصنوعی فرمان حمله صادر نمی‌کند؛ فقط محیط اطلاعاتی را شکل می‌دهد که در آن، حمله برای انسان ضروری یا اجتناب‌ناپذیر به نظر برسد.
این نگرانی با یافته‌های مؤسسه بین‌المللی پژوهش‌های صلح استکهلم (SIPRI) هم‌راستاست. گزارش این موسسه در ژوئن ۲۰۲۵ توضیح می‌دهد که هوش مصنوعی حتی اگر به طور مستقیم در سامانه‌های تسلیحات هسته‌ای به کار نرود، با تغییر سرعت شناسایی تهدیدها و هماهنگی واکنش‌های نظامی، بر محیط تصمیم‌گیری هسته‌ای اثر خواهد گذاشت.
چرا ۲۰ برابرشدن تلفات حمله هسته‌ای، نظرها را چندان تغییر نداد؟
یکی از بخش‌های تکان‌دهنده مقاله بولتن دانشمندان اتمی، آزمایشی درباره نحوه قضاوت مردم در برابر استفاده از سلاح هسته‌ای است. طبق توضیحات مقاله، در این آزمایش نزدیک به ۳ هزار بزرگسال آمریکایی با سناریویی فرضی درباره جنگ زمینی قابل‌پیروزی با ایران مواجه شدند؛ سناریویی که در آن حمله هسته‌ای به یک شهر بزرگ می‌توانست جنگ را زودتر پایان دهد و از کشته‌شدن نیروهای آمریکایی بیشتر جلوگیری کند.
پژوهشگران دو وضعیت را بررسی کردند؛ در یکی، حمله هسته‌ای به کشته‌شدن ۱۰۰ هزار غیرنظامی منجر می‌شد و در دیگری، شمار قربانیان ۲ میلیون نفر برآورد شده بود. شرکت‌کنندگان ابتدا فقط یکی از این دو گزینه را مشاهده کردند.
نتیجه نشان داد حمایت از حمله هسته‌ای در سناریوی ۱۰۰ هزار کشته ۳۱٫۶ درصد و در سناریوی ۲ میلیون کشته ۲۷٫۶ درصد بود. به بیان دیگر، با وجود آنکه شمار قربانیان در سناریوی دوم ۲۰ برابر بیشتر بود، میزان حمایت از گزینه هسته‌ای فقط ۴ واحد درصد تفاوت داشت.
هنگامی که هر دو گزینه کنار یکدیگر قرار گرفتند، حمایت از حمله‌ای با ۲ میلیون کشته به ۵٫۱ درصد کاهش یافت. در همان مقایسه، مجموع حمایت از یکی از دو گزینه هسته‌ای به ۴۰ درصد رسید؛ زیرا گزینه دارای تلفات کمتر، در مقایسه با گزینه مرگبارتر، قابل‌قبول‌تر به نظر می‌رسید.
نویسندگان این نتیجه را با پدیده‌ای روان‌شناختی به نام «کرختی روانی» توضیح می‌دهند؛ وضعیتی که در آن، افزایش تعداد قربانیان به افزایش متناسب نگرانی و مخالفت اخلاقی منجر نمی‌شود. همچنین، مقایسه دو گزینه می‌تواند باعث شود انتخابی با تلفات بسیار بالا، در برابر گزینه‌ای مرگبارتر، معقول‌تر به نظر برسد.
اهمیت این آزمایش برای بحث هوش مصنوعی آن است که دقت اطلاعات به تنهایی برای تضمین تصمیم درست کافی نیست. حتی اگر سامانه تعداد قربانیان را دقیق اعلام کند، نحوه نمایش گزینه‌ها و تمرکز ذهنی تصمیم‌گیر بر پایان سریع جنگ یا نجات نیروهای خودی می‌تواند ارزیابی پیامدهای انسانی را تحت‌تاثیر قرار دهد.
چگونه یک هشدار هوش مصنوعی می‌تواند جهان را به آستانه جنگ هسته‌ای ببرد؟
این خطر فقط به تصمیم مستقیم درباره استفاده از سلاح هسته‌ای محدود نیست. در سناریوی فرضی دیگری که در مقاله بولتن دانشمندان اتمی مطرح شده، یک سامانه هوش مصنوعی جابه‌جایی پرتابگرهای متحرک موشکی را به‌درستی تشخیص می‌دهد. فرمانده‌ای که از نیت طرف مقابل مطمئن نیست، این جابه‌جایی را نشانه احتمالی حمله می‌داند و برای احتیاط، سطح آماده‌باش نیروهای خود را افزایش می‌دهد.
طرف مقابل این اقدام را مشاهده می‌کند و نیروهایش را در وضعیت آماده‌باش قرار می‌دهد. هوش مصنوعی طرف نخست نیز تحرکات تازه را شناسایی می‌کند و آن‌ها را نشانه‌ای دیگر از احتمال حمله می‌داند. به این ترتیب، اقدام دفاعی یک طرف به‌عنوان تهدید از سوی طرف دیگر تفسیر می‌شود و هر واکنش، زمینه واکنش بعدی را فراهم می‌کند.
این روند در نظریه روابط بین‌الملل «معمای امنیت» نام دارد؛ وضعیتی که در آن، تلاش یک کشور برای افزایش امنیت خود، احساس ناامنی کشور رقیب را بیشتر می‌کند. ورود هوش مصنوعی می‌تواند این چرخه را سریع‌تر کند؛ زیرا اطلاعات و هشدارهای بیشتری در زمان کوتاه‌تری تولید می‌شوند و فرصت بررسی مستقل آن‌ها کاهش می‌یابد.
مسئله اینجاست که در چنین سناریویی، هیچ‌کدام از طرفین قصد آغاز جنگ را ندارند. حتی لازم نیست گزارش اولیه جعلی باشد. کافی است یک مشاهده واقعی، به تفسیری نادرست از نیت طرف مقابل منجر شود و واکنش‌های بعدی همان برداشت اشتباه را تقویت کنند.
هوش مصنوعی حتی خارج از سامانه‌های هسته‌ای هم خطرساز است
این نگرانی در پژوهش‌های دیگر نیز بررسی شده است. مؤسسه بین‌المللی پژوهش‌های صلح استکهلم، سیپری، در گزارشی در ژوئن ۲۰۲۵ با عنوان «تاثیر هوش مصنوعی نظامی بر خطر تشدید هسته‌ای» توضیح می‌دهد که کاربرد نظامی هوش مصنوعی حتی خارج از سامانه‌های مستقیم کنترل و فرماندهی سلاح‌های هسته‌ای نیز می‌تواند بر ثبات راهبردی اثر بگذارد.
به گزارش سیپری، هر ۹ کشور دارای سلاح هسته‌ای، یعنی آمریکا، روسیه، چین، فرانسه، بریتانیا، هند، پاکستان، کره شمالی و اسرائیل در حال نوسازی نیروهای هسته‌ای خود هستند و این کشورها هم‌زمان روی توسعه و به‌کارگیری هوش مصنوعی نظامی نیز سرمایه‌گذاری می‌کنند.
سیپری هشدار می‌دهد که سامانه‌های پشتیبان تصمیم‌گیری مبتنی بر هوش مصنوعی می‌توانند با پردازش حجم بزرگی از اطلاعات، به تصمیم‌گیران نظامی در شناسایی تهدید و انتخاب واکنش کمک کنند؛ اما توصیه‌های غیرشفاف این سامانه‌ها ممکن است تصمیم‌گیر را به اقدام سریع‌تر سوق دهند، بدون آنکه تمام دلایل و محدودیت‌های تحلیل برای او روشن باشد.
این موسسه سه دسته کاربرد را در ارتباط با خطر هسته‌ای بررسی می‌کند؛ استفاده از هوش مصنوعی در سامانه‌های فرماندهی و کنترل هسته‌ای، به‌کارگیری آن در سکوهای حمل سلاح هسته‌ای و استفاده از هوش مصنوعی در سامانه‌های نظامی غیرهسته‌ای که دسته سوم برخلاف آنچه تصور می‌شود اهمیت دارد؛ زیرا عملیات متعارف ممکن است بر زیرساخت‌ها، سامانه‌های فرماندهی یا قابلیت‌هایی اثر بگذارد که برای حفظ توان بازدارندگی هسته‌ای کشورها حیاتی هستند.
گزارش سیپری در عین حال تصریح می‌کند که میزان خطر به نوع فناوری، نحوه ادغام آن در ساختار نظامی و شرایط هر بحران بستگی دارد؛ بنابراین، افزایش خطر تشدید هسته‌ای یک احتمال قابل‌بررسی است، نه نتیجه‌ای قطعی برای هر کاربرد نظامی هوش مصنوعی و دو مسیر مهم را برجسته می‌کند، نخست، تأثیر سامانه‌های هوش مصنوعی بر تحلیل و تصمیم‌گیری نظامی و دوم، استفاده از فناوری‌های خودمختار در سامانه‌هایی که می‌توانند توان هسته‌ای طرف مقابل را تهدید کنند. در مسیر دوم، اگر یک کشور احساس کند توان پاسخ هسته‌ای‌اش در حال آسیب‌پذیرشدن است، ممکن است برای حفظ آن به تصمیم‌های پرخطرتر روی بیاورد. این موضوع نشان می‌دهد برای بررسی خطرها، نباید فقط به سامانه‌هایی توجه کرد که با تسلیحات هسته‌ای ارتباط دارند.
منابع دیگر چه می‌گویند؟
موسسه پژوهشی rand نیز در گزارش ارزیابی خطرهای فاجعه‌بار جهانی، به پیوند میان هوش مصنوعی و خطر هسته‌ای پرداخته است. در بخش مربوط به هوش مصنوعی، این گزارش توضیح می‌دهد که این فناوری ممکن است احتمال وقوع جنگ هسته‌ای بر اثر حادثه یا اشتباه محاسباتی را افزایش دهد یا در شرایطی، انگیزه تصمیم‌گیران انسانی برای استفاده عمدی از سلاح هسته‌ای را تقویت کند.
رند میان سناریوهای مختلف وجه تمایز می‌گذارد. در یک سناریوی ساده‌تر اما به گفته گزارش، کم‌احتمال‌تر، نقص طراحی یک سامانه متصل به فرماندهی هسته‌ای می‌تواند به شلیک ناخواسته منجر شود. در مقابل، سناریویی که گزارش آن را محتمل‌تر می‌داند، مشارکت هوش مصنوعی در تشدید ناخواسته بحران است؛ وضعیتی که در آن انسان همچنان در تصمیم‌گیری نقش دارد، اما ترکیب نقص فنی و اشتباه محاسباتی باعث می‌شود سلاح هسته‌ای در موقعیتی نامناسب به کار گرفته شود.
این گزارش همچنین به خطر تصور نادرست از برتری نظامی اشاره می‌کند. اگر یک کشور به این نتیجه برسد که با کمک فناوری می‌تواند توان هسته‌ای رقیب را در حمله نخست از بین ببرد، ممکن است انگیزه بیشتری برای اقدام پیش‌دستانه پیدا کند؛ در حالی که چنین برآوردی می‌تواند نادرست باشد و خطر واکنش هسته‌ای طرف مقابل را افزایش دهد.
چرا «انسان در حلقه تصمیم‌گیری» به تنهایی کافی نیست؟
یکی از پاسخ‌های رایج به نگرانی‌های مربوط به هوش مصنوعی نظامی این است که تصمیم نهایی باید در اختیار انسان باقی بماند. با این حال، مقاله بولتن دانشمندان اتمی و گزارش سیپری هر دو نشان می‌دهند که وجود ناظر انسانی به تنهایی همه خطرها را برطرف نمی‌کند.
اگر تصمیم‌گیر در میان حجم بزرگی از هشدارها، اطلاعات مبهم و فشار زمانی قرار بگیرد، ممکن است فرصت کافی برای بررسی صحت اطلاعات نداشته باشد. همچنین ممکن است به خروجی سامانه بیش از حد اعتماد کند یا توصیه آن را بر اساس ترس و سوءظن قبلی خود تفسیر کند.
در چنین شرایطی، انسان ممکن است همچنان مسئول رسمی تصمیم باشد، اما کیفیت تصمیم او به اطلاعاتی وابسته شود که سامانه تولید کرده، نحوه ارائه آن اطلاعات و زمانی که برای ارزیابی آن‌ها در اختیار دارد. به همین دلیل، مسئله فقط این نیست که چه کسی فرمان نهایی را صادر می‌کند؛ بلکه این است که آیا تصمیم‌گیر فرصت واقعی برای رد کردن توصیه سامانه، بررسی تفسیرهای جایگزین و متوقف‌کردن روند تشدید بحران را دارد یا خیر.
راهکار چیست؟
نویسندگان مقاله بولتن دانشمندان اتمی بر ضرورت ایجاد سازوکارهای نهادی تاکید می‌کنند که حتی در شرایط فشار نظامی نیز مانع تصمیم‌گیری شتاب‌زده شوند. از نگاه آن‌ها، هوش مصنوعی در تحلیل داده‌ها و بررسی اطلاعات به کار گرفته شود، اما نباید جایگزین قضاوت انسانی یا تنها مبنای تصمیم‌های برگشت‌ناپذیر باشد.
در همین راستا، سیپری بر بررسی راهکارهای کاهش خطر، افزایش شفافیت و توسعه تدابیر اعتمادساز میان کشورها تاکید دارد. این تدابیر می‌توانند شامل راستی‌آزمایی اطلاعات با چند منبع مستقل، آموزش نیروهای استفاده‌کننده از سامانه‌های هوش مصنوعی، ایجاد امکان اعتراض به توصیه‌های ماشین و استفاده از کانال‌های ارتباطی نظامی برای جلوگیری از سوءبرداشت در بحران باشند.
البته این راهکارها تضمین نمی‌کند که خطر جنگ هسته‌ای از بین برود، اما احتمال آن را کاهش می‌دهد که یک هشدار تاییدنشده، یک تحلیل نادرست یا یک واکنش شتاب‌زده، به زنجیره‌ای از اقدامات نظامی تبدیل شود که هیچ‌یک از طرفین در ابتدا قصد آن را نداشته‌اند.
آمار آزمایش مطرح شده در مقاله نیز یادآوری می‌کند که حتی ارائه اطلاعات دقیق، به قضاوت درست منجر نمی‌شود. در چنین شرایطی، حفظ اختیار رسمی انسان کافی نیست؛ تصمیم‌گیر باید فرصت، اطلاعات مستقل و اختیار واقعی برای مخالفت با توصیه سامانه را داشته باشد. در موضوعی که پیامد خطا می‌تواند فراتر از مرزهای یک کشور باشد، سرعت تصمیم‌گیری نباید به بهای حذف فرصت فکرکردن تمام شود.
انتهای پیام/