نموذج جيميناي Gemini الخاص بغوغل تمكَّن من الوصول بصورة غير مقصودة إلى أنظمة ثلاث شركات خلال اختبار لقدراته في الأمن السيبراني، في أول حادثة معروفة يتجاوز فيها أحد أنظمة الذكاء الاصطناعي التابعة للشركة النطاق المحدد للاختبار، ويُنفّذ عمليات اختراق بصورة مستقلة.  حيث استخدم النموذج معلومات متاحة عبر الإنترنت للوصول إلى مواقع اعتقد أنها مشمولة بالاختبار. وفي إحدى الحالات جرّب النموذج بيانات دخول حتى نجح في الوصول إلى نظام مَحْمي، بينما عثر في حالتين أُخريين على بيانات اعتماد منشورة في مستودع عام، واستخدمها للوصول إلى الأنظمة.

أهمية الحادثة تتجاوز نجاح نموذج ذكاء اصطناعي في اكتشاف كلمات مرور أو بيانات مكشوفة؛ لأنها تكشف تحوُّلًا في طبيعة المخاطر مع انتقال النماذج من تقديم الإجابات إلى وكلاء قادرين على البحث والتخطيط وتنفيذ خطوات مباشرة على الإنترنت. فالنظام لم يحصل على تعليمات صريحة لاختراق الشركات الثلاث، وإنما جمَع المعلومات المتاحة وفسَّرها، واتخذ سلسلة من الإجراءات لتحقيق الهدف الذي اعتقد أنه جزء من المهمة. ومع منح هذه النماذج صلاحيات أوسع للتعامل مع المتصفحات والبرمجيات والأنظمة السحابية، يصبح تحديد نطاق العمل وإيقاف التنفيذ خارج الحدود المسموح بها جزءًا أساسيًّا من تصميم أنظمة الذكاء الاصطناعي، وليس مجرد إجراء إضافي للاختبار.

غوغل أكَّدت أن Gemini أوقف نشاطه في الحالات الثلاث، وأن الشركات المتأثّرة أُبْلِغَت بالحادثة. وهناك حوادث مشابهة ظهرت خلال اختبارات مرتبطة بنماذج لدى Meta وAnthropic وOpenAI، ما يشير إلى أن المسألة لا ترتبط بنموذج واحد بقدر ارتباطها بجيل جديد من أنظمة الذكاء الاصطناعي القادرة على تنفيذ المهام بصورة أكثر استقلالية. التحدي المقبل سيكون بناء طبقات تحكُّم تمنع الوكيل الذكي من الانتقال من اختبار مُصرَّح به إلى نظام حقيقي بمجرد العثور على باب تقني مفتوح، خصوصًا عندما تصبح قدرته على اكتشاف الثغرات واستخدام الأدوات أسرع من قدرة البشر على مراقبة كل خطوة يُنفّذها.

#الذكاء_الاصطناعي

#الأمن_السيبراني

#Gemini