الذكاء الاصطناعي وتحديات الأمن.. مخاوف من انتشار المعرفة الحساسة
وفقا لوکالة آنا الإخباریة، وأفاد تقرير أعدته مجموعة الأبحاث Crimson Flare بأن بعض نماذج الذكاء الاصطناعي المتاحة تجاريا يمكن تعديلها لتعطيل آليات الحماية والقيود المدمجة فيها، الأمر الذي قد يسمح لها بالتعامل مع استفسارات كانت ترفض الإجابة عنها في نسخها الأصلية.
ويرى خبراء في الأمن أن هذه التطورات قد تقلص الحواجز التقنية أمام أشخاص يفتقرون إلى الخبرة العلمية المتخصصة، بعدما كانت المعرفة المتعلقة بالمواد شديدة الخطورة محصورة بدرجة كبيرة بين العلماء وأصحاب الاختصاص.
وأشار التقرير إلى وجود أساليب تستخدم لتجاوز قيود السلامة في بعض النماذج، من بينها ما يعرف بصورة غير رسمية بعملية "التدمير"، والتي تستهدف إزالة أو تعطيل الأجزاء المسؤولة عن رفض الطلبات الحساسة. ووفقا للباحثين، يمكن تنفيذ بعض هذه التعديلات خلال وقت قصير باستخدام أدوات متاحة عبر الإنترنت ومستوى أساسي من المعرفة البرمجية.
ولا تقتصر المخاوف على تعديل النماذج من قبل المستخدمين، إذ يمكن العثور على نسخ معدلة مسبقا ومتاحة للتحميل عبر الإنترنت. وذكرت صحيفة "ديلي ميل" أنها عثرت خلال فترة وجيزة على عدة نسخ من نماذج توصف بأنها غير خاضعة للرقابة.
وأوضح التقرير أن قدرات هذه النماذج تختلف من نموذج إلى آخر، فبينما تقتصر بعض الإجابات على معلومات عامة، قد يقدم بعضها الآخر تفاصيل أوسع، الأمر الذي يعزز المخاوف من احتمال إساءة استخدامها في أنشطة تنطوي على مخاطر.
وحذر الباحثون من أن نماذج اللغة الكبيرة المفتوحة المصدر، عندما تكون قوية وخالية من القيود، قد تتحول إلى مصدر قلق متزايد للأمن القومي، خصوصا إذا أمكن تشغيلها محليا دون الحاجة إلى الاتصال بخوادم الشركات التي طورتها.
وتختلف هذه النماذج عن خدمات الذكاء الاصطناعي المعتمدة على الإنترنت، إذ يستطيع المستخدم تحميل النموذج وتشغيله مباشرة على جهازه، ما قد يجعل تتبع الاستخدام أو مراقبته أكثر صعوبة، لأن البيانات والاستفسارات لا تمر بالضرورة عبر خوادم خارجية.
ويرى معدو التقرير أن هذا التحول يمثل تغيرا لافتا مقارنة بالسنوات السابقة، حين كانت متطلبات القدرة الحاسوبية لتشغيل نماذج الذكاء الاصطناعي المتقدمة محليا تشكل عائقا أمام معظم المستخدمين.
وبحسب تقديرات الباحثين، أصبح نحو 87% من الأسر قادرا على تشغيل بعض أنظمة الذكاء الاصطناعي محليا باستخدام الأجهزة المتوافرة لديها، ما يشير إلى اتساع نطاق الوصول إلى هذه التقنيات وخروجها من إطار المؤسسات الكبرى والمختبرات المتخصصة.
وقال البروفيسور أليستر هاي، عالم السموم البريطاني والمتخصص في الحرب الكيميائية، إن الذكاء الاصطناعي قد يقلل مستوى الخبرة التقنية المطلوب للتعامل مع معلومات مرتبطة بمواد خطرة، بعدما كانت المعرفة المتخصصة تمثل عائقا أمام غير المختصين.
وأضاف أن تطور المختبرات السحابية وأدوات الذكاء الاصطناعي قد يؤدي إلى نقل جانب من المعرفة والخبرة المطلوبة إلى الأنظمة الرقمية.
وبعد اطلاعه على إجابات قدمها أحد نماذج الذكاء الاصطناعي، قال هاي إن بعض المعلومات المعروضة جاءت بصورة تشبه "الوصفة"، واعتبر أنها تقترب من مستوى المعرفة المتاح لطلاب المختبرات.
ومع ذلك، شدد التقرير على أن احتمال تنفيذ هجوم باستخدام أسلحة كيميائية أو بيولوجية لا يزال منخفضا، نظرا إلى استمرار وجود عقبات تقنية وعملية كبيرة أمام إنتاج هذه الأسلحة والتعامل معها.
لكن الباحثين حذروا من أن استمرار تطور الذكاء الاصطناعي قد يعيد تشكيل طبيعة هذه المخاطر مستقبلا، عبر تسهيل الوصول إلى معارف كانت تتطلب سابقا تدريبا علميا وخبرة متخصصة، الأمر الذي يفرض تحديات جديدة على الحكومات وشركات التكنولوجيا للحد من إساءة استخدام هذه التقنيات.
