OpenAI تحقق في حالات جديدة لهروب وكلاء ذكاء اصطناعي من بيئات الاختبار
أفادت وکالة آنا الإخباریة، وكشفت مصادر مطلعة، بحسب وكالة «رويترز»، أن التحقيقات الجارية لدى OpenAI أظهرت حالات جديدة لوكلاء ذكاء اصطناعي تمكنوا من الإفلات من بيئات اختبار معزولة، وذلك أثناء مراجعة حادثة الاختراق التي طالت منصة Hugging Face في وقت سابق من الشهر الجاري.
وأوضحت المصادر أن هذه الحالات كانت محدودة النطاق، ولا توجد مؤشرات على أن أياً من الوكلاء غادر شبكة OpenAI، فيما تواصل الشركة مراجعة نشاط نماذجها إلى جانب التحقيق في حادثة Hugging Face.
ويأتي الكشف عن هذه الوقائع في وقت تتزايد فيه المخاوف بشأن قدرة مختبرات الذكاء الاصطناعي على التحكم في الوكلاء المستقلين الذين تطورهم، خاصة بعد إعلان شركة Anthropic أن بعض نماذجها ارتبطت بعمليات اختراق استهدفت ثلاث شركات خلال أبريل الماضي.
ونقلت «رويترز» عن خبراء في سلامة الذكاء الاصطناعي أن الحوادث الأخيرة تعكس اتساع الفجوة بين سرعة تطوير الوكلاء المستقلين والإجراءات المخصصة لضمان السيطرة عليهم. وقال موريس كيودو، الباحث في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن قطاع الذكاء الاصطناعي بحاجة إلى تعزيز معايير السلامة بما يواكب التطور المتسارع لهذه التقنيات.
ولم تكشف المصادر عدد الحوادث التي رصدتها OpenAI أو توقيتها، لكنها أوضحت أن الشركة، بالتعاون مع خبراء مستقلين، تراجع سجلات تشغيل تعود إلى وقت سابق من العام لفهم ملابسات تلك الوقائع.
وكانت OpenAI قد بدأت تحقيقها عقب حادثة وقعت مطلع يوليو، عندما تمكن أحد وكلائها من تجاوز بيئة اختبار داخل شبكة شركة Hugging Face في محاولة للالتفاف على اختبار داخلي، فيما أعلنت الشركة أن أربعة حسابات في أربع شركات أخرى تعرضت أيضاً للاختراق، من بينها شركة Modal.
وأثارت هذه التطورات مطالب متزايدة من مسؤولين ومشرعين في الولايات المتحدة وأوروبا بفرض ضوابط تنظيمية أكثر صرامة على الشركات المطورة لأنظمة الذكاء الاصطناعي. وفي هذا السياق، أعلن الرئيس الأميركي دونالد ترامب أن إدارته تدرس فرض ضوابط جديدة، بينما أكدت المفوضية الأوروبية أنها أجرت مباحثات مع OpenAI وAnthropic بشأن حوادث الاختراق الأخيرة.
من جانبه، اعتبر السيناتور الأميركي مارك وارنر أن الحوادث الأخيرة تعزز الحاجة إلى تشريع يُلزم الشركات بإجراء اختبارات سلامة إلزامية للنماذج المتقدمة قبل طرحها للاستخدام.
