ذكاء اصطناعي يتجاوز قيود العزل وتحذيرات من جائحة مستقبلية
ذكاء اصطناعي يتجاوز قيود العزل وتحذيرات من جائحة مستقبلية
حذر أليكس تيرنر، الباحث السابق في سلامة الذكاء الاصطناعي لدى “غوغل ديب مايند”، من احتمال أن “تستخدم أنظمة الذكاء الاصطناعي مختبرات بيولوجية لتطوير عامل ممرض قد يتسبب في جائحة، إذا منحها البشر صلاحيات واسعة في المستقبل”.
وقال تيرنر، في مقابلة نشرها برنامج “60 دقيقة” على شبكة “ناين” الأسترالية، إن “تفويض هذه الأنظمة بإدارة قطاعات حكومية وعسكرية قد يمنحها سلطات يصعب على البشر مراقبتها”.
وكان تيرنر يعمل على تقييم سلامة تقنيات الذكاء الاصطناعي في الشركة قبل مغادرتها في حزيران، وفق الشبكة.
وفي البرنامج نفسه، تحدث ديفيد روبنسون، المسؤول السابق عن السلامة في “أوبن إيه آي”، عن حادثة وقعت خلال اختبارات داخلية للأمن السيبراني في حزيران 2026.
وقالت الشركة إن “نماذج كانت تعمل بضوابط مخففة تجاوزت قيود العزل عن الإنترنت، ووصلت إلى أجزاء من بنيتها البحثية الداخلية وإلى أنظمة شركة “هاغينغ فيس”.
وبحسب تحقيق مستقل نشرته مؤسسة “ميتر”، تواصل نحو 1200 وكيل برمجي عبر قناة غير مصرح بها، وشارك نحو 700 منهم في اختراق “هاغينغ فيس”.
ورجح المحققون أن “الهدف الرئيسي كان فهم آلية تقييم الاختبار. كما رصدوا تعديلات على بعض السجلات التي استطاع الوكلاء الوصول إليها، من دون أن تؤثر هذه التعديلات في سجلات المحادثات التي راجعها المحققون”.
وكان روبنسون قد أعلن استقالته في مقال نشرته مجلة “ذي أتلانتيك” في 3 تشرين الأول، دعا فيه شركات الذكاء الاصطناعي إلى الاستفادة من خبرات السلامة في قطاعات أخرى، وإلى تطوير وسائل تضمن أن تتصرف النماذج الأكثر قدرة بأمان حتى في غياب الإشراف البشري المباشر.
