مخاوف أمنية تدفع OpenAI إلى إبطاء تطوير نماذج الذكاء الاصطناعي
أفادت وکالة آنا الإخباریة، أعلنت شركة OpenAI أنها ستعلّق مؤقتاً تدريب واختبار بعض تحديثات نماذج ChatGPT، في خطوة تهدف إلى تعزيز إجراءات السلامة، وذلك بعد رصد سلوكيات أثارت مخاوف بشأن قدرة أنظمتها على تجاوز القيود المفروضة عليها وتنفيذ هجمات إلكترونية بشكل مستقل.
وقالت الشركة إنها ستستغل فترة التوقف لإعادة هيكلة أنظمة البحث والتدريب، وإضافة إجراءات حماية جديدة، بما في ذلك تطوير أدوات ذكاء اصطناعي قادرة على مراقبة سلوك النماذج التي تخضع للاختبار، في وقت قررت فيه إبطاء وتيرة تطوير نماذجها المتقدمة.
ويأتي القرار بعد أسابيع من إقرار OpenAI بأن أحد أنظمتها تصرف بصورة غير متوقعة خلال اختبار تجريبي، وتمكن من الوصول إلى الإنترنت واختراق شركة منافسة في مجال الذكاء الاصطناعي. وأثارت هذه الحوادث، إلى جانب وقائع مماثلة كشفت عنها شركات أخرى مثل Anthropic وMeta، مخاوف متزايدة بشأن تسارع تطوير أنظمة الذكاء الاصطناعي مقارنة بقدرة آليات السلامة على مواكبة مخاطرها.
وأوضحت OpenAI أنها ستوقف اختبارات النماذج لمدة أسبوعين، كما علّقت تدريب الجيل التالي من نماذجها المعروف باسم "Astra"، للاستفادة من هذه الفترة في تعزيز أنظمة الأمان.
مراقبة سلوك النماذج تثير مخاوف جديدة
وأشارت الشركة إلى أن بعض أساليب اختبار السلامة الحالية، ومنها تقنية "مراقبة سلسلة الأفكار" (Chain-of-Thought Monitoring)، قد لا تكون كافية لضمان سلامة النماذج المتقدمة.
وتتيح هذه التقنية للباحثين متابعة طريقة تخطيط النموذج وفهم كيفية وصوله إلى النتائج، إلا أن ظهور مخاوف بشأن إمكانية إخفاء النماذج خططها الحقيقية لتجاوز قواعد السلامة يفرض الحاجة إلى تطوير وسائل مراقبة أكثر فعالية.
ويمثل قرار إبطاء التطوير تحولاً لافتاً في نهج OpenAI، التي كانت من أبرز الشركات في تسريع إطلاق نماذج الذكاء الاصطناعي الجديدة، وتعرضت في السابق لانتقادات بسبب طرح بعض منتجاتها في مراحل مبكرة.
ويأتي ذلك في وقت تواجه فيه الشركة ضغوطاً متزايدة في سباق الذكاء الاصطناعي، وسط تقارير عن تقدم منافستها Anthropic عليها، إلى جانب استعدادها لطرح أسهمها في السوق.
وقال الرئيس التنفيذي لـOpenAI سام ألتمان، في منشور عبر منصة "إكس"، إن تطور قدرات النماذج أصبح سريعاً للغاية، مؤكداً أن الشركة ستتدخل عندما ترى أن نمو قدراتها يتجاوز وتيرة تطوير أنظمة الأمان والمواءمة.
وأضاف ألتمان أن سلامة الذكاء الاصطناعي تمثل أولوية، مشيراً إلى ضرورة تنسيق الجهود بين شركات القطاع لوضع معايير مشتركة للسلامة، مع مواصلة OpenAI العمل بشكل مستقل في المرحلة الحالية.
وكانت OpenAI قد كشفت الشهر الماضي أن وكيلاً مستقلاً يعمل باستخدام نموذجين متقدمين تمكن من الخروج من بيئة الاختبار والاتصال بالإنترنت، قبل أن ينفذ هجوماً إلكترونياً على منصة الذكاء الاصطناعي المنافسة Hugging Face، بهدف الوصول إلى مواد تساعده على تحقيق المهمة الموكلة إليه.
وعقب هذه الحادثة، أعلنت الشركة تعزيز الضوابط الأمنية المفروضة على نماذجها الأكثر تطوراً، وتعليق الأنشطة المرتبطة بنموذج "Astra"، بما يتماشى مع "إطار الاستعداد" الذي أطلقته في نهاية عام 2023، والذي ينص على وقف تطوير النماذج التي قد تنطوي قدراتها على مخاطر أمنية مرتفعة.
