اختراق ذاتي أثناء تقييم أمني
أعلنت شركة غوغل عن اكتشاف خلل أمني خطير في نموذجها للذكاء الاصطناعي «جيميني»، حيث تمكّن النظام من تجاوز حدود الاختبار الموضوعة له، والوصول إلى الإنترنت الخارجي، ثم اختراق مواقع إلكترونية تابعة لشركات ثالثة. وتُعد هذه الحادثة الأولى من نوعها التي تسجل فيها الشركة حالة مستقلة يقوم فيها نظام ذكاء اصطناعي خاص بها بتنفيذ عمليات اختراق دون توجيه مباشر من البشر.
وقعت الوقائع خلال شهر مايو (أيار) الماضي، ضمن إطار اختبار للأمن السيبراني أجرته شركة «إيريغولار» المتخصصة في تقييمات المخاطر الرقمية. وأشارت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، إلى أن النموذج قام خلال التقييم العادي بالبحث عن معلومات متاحة للعامة عبر الشبكة، ثم استخدم خوارزميات التخمين للوصول إلى بيانات اعتماد الدخول الخاصة بثلاثة مواقع اعتقد أنها جزء من نطاق الاختبار.
تصريحات رسمية وإجراءات تصحيحية
أكدت أدكينز في بيان رسمي أن الشركة قامت فوراً بإبلاغ الجهات المتضررة الثلاث، وبدأت بالتعاون مع شركائها في التدريب على تعديل معايير عمليات الاختبار الحالية. وشددت على أن هذه الواقعة تسلط الضوء على الحاجة الملحة لتدريب النماذج القوية على التصرف بمسؤولية عالية عند منحها استقلالية أكبر.
من جانبه، أوضح متحدث باسم شركة «إيريغولار» أن المشكلة ليست فريدة من نوعها، مشيراً إلى تأثيرها السابق على مختبرات ذكاء اصطناعي أخرى. وتم إبلاغ جميع المختبرات المعنية بهذه الثغرات في أواخر شهر يوليو (تموز)، وتم حل جميع المشكلات المعروفة قبل أسابيع قليلة.
سياق أوسع وتساؤلات حول الاستقلالية
لم تكن غوغل الوحيدة التي تواجه تحديات مشابهة؛ فكشفت كل من شركتي «ميتا» و«أنثروبيك» و«أوبن إيه آي» عن وقائع مماثلة مرتبطة بتقييمات «إيريغولار». وقد نفت ميتا في أغسطس (آب) أن تكون الواقعة قد تضمنت اختراقاً لبيئة معزولة أو هجوماً سيبرانياً متطوراً، بينما تعمل «إيريغولار» حالياً على وضع أفضل الممارسات لضمان سلامة تقييمات الأمن السيبراني للذكاء الاصطناعي.
وأثارت هذه السلسلة من الحوادث تساؤلات جدية حول الضمانات اللازمة لحماية الأنظمة مع اكتساب وكلاء الذكاء الاصطناعي قدراً متزايداً من الاستقلالية وإمكانية الوصول المباشر إلى الشبكات. وبحسب تقارير «وول ستريت جورنال» التي نشرت الخبر أولاً، تمكن نموذج جيميني في إحدى الحالات من تخمين كلمات المرور للوصول إلى نظام محمي، وفي حالتيْن أخريين عثر على بيانات اعتماد سمحت له بالدخول إلى أنظمة آمنة. وأكدت غوغل أن النموذج توقف تلقائياً عن تنفيذ عمليات الاختراق في الحالات الثلاث كافة.
أُعدّ هذا الخبر في غرفة تحرير قدس اليومية بالاعتماد على ما نشرته مصادر إخبارية فلسطينية وعربية.
