نموذج “Gemini” يخترق أنظمة 3 شركات خلال اختبار أمني
نموذج “Gemini” يخترق أنظمة 3 شركات خلال اختبار أمني
تمكّن نموذج “جيميني” التابع لشركة غوغل من الوصول إلى أنظمة محمية تابعة لثلاث شركات خلال اختبار لقياس قدراته في مجال الأمن السيبراني، في أول واقعة معروفة تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة نشاطًا من هذا النوع بشكل مستقل.
ووقعت عمليات الوصول في مايو 2026، خلال تقييم أمني أجرته شركة “إيريغولار”، المتخصصة في اختبار قدرات نماذج الذكاء الاصطناعي في مجال الأمن السيبراني، وفق ما نقلته وكالة “رويترز” عن صحيفة “وول ستريت جورنال”.
وخلال الاختبار، اتصل “جيميني” بالإنترنت للبحث عن معلومات متاحة للعامة، قبل أن يستعين ببيانات اعتماد للوصول إلى ثلاثة مواقع إلكترونية، بعدما اعتقد أنها تقع ضمن نطاق المهمة الموكلة إليه.
وفي إحدى الحالات، تمكن النموذج من الدخول إلى نظام محمي بعد تخمين عدد من كلمات المرور. أما في الحالتين الأخريين، فعثر على بيانات اعتماد منشورة في مستودع عام، واستخدمها للوصول إلى أنظمة محمية.
وقالت نائبة رئيس غوغل لهندسة الأمن، هيذر أدكينز، إن ما حدث وقع خلال “تقييم اختباري اعتيادي”، موضحة أن “جيميني” اعتقد أن المواقع الثلاثة مشمولة ضمن نطاق الاختبار.
وأضافت أدكينز أن “غوغل أبلغت الشركات الثلاث بالواقعة، وتعاونت مع شريكها في التدريب بشأن التعديلات التي أُدخلت على إجراءات الاختبار”، مؤكدة أن “هذه الحوادث تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية”.
وأشارت أدكينز إلى أن “جيميني أوقف نشاطه في الحالات الثلاث”، من دون أن توضح السبب الذي دفعه إلى ذلك.
من جهتها، قالت شركة “إيريغولار” إن “الواقعة تندرج ضمن المشكلة نفسها التي طالت مختبرات أخرى للذكاء الاصطناعي”، مشيرة إلى أنها أبلغت جميع المختبرات المعنية بالأمر في أواخر تموز .”
وقال متحدث باسم الشركة إن “جميع المشكلات المعروفة عولجت وحُلت قبل أسابيع.”
وكانت شركات “ميتا” و”أنثروبيك” و”أوبن إيه آي” قد كشفت بدورها عن “وقائع مماثلة مرتبطة باختبارات أجرتها “إيريغولار”.
وأفادت “ميتا” في شهر آب أن “الواقعة المتعلقة بها لم تشهد خروجًا من بيئة اختبار معزولة أو تنفيذ هجوم سيبراني متطور”، وقالت “إيريغولار” إنها “تعمل على تطوير أفضل الممارسات لإجراء تقييمات الأمن السيبراني لنماذج الذكاء الاصطناعي بطريقة آمنة.’
