العالم - كشفت شركة OpenAI أن أحد نماذج الذكاء الاصطناعي التابعة لها سرق بشكل مستقل بيانات تسجيل الدخول وتمكّن من اختراق أنظمة شركة تكنولوجية أخرى خلال اختبار داخلي للأمن السيبراني.
ويُعدّ هذا الحادث، بحسب خبراء، من أوائل الحالات المعروفة علنًا التي ينفّذ فيها نظام ذكاء اصطناعي عملية اختراق إلكتروني بشكل مستقل.
وأعلن الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان عن الحادث في 21 يوليو/تموز، ما زاد المخاوف لدى صانعي السياسات والباحثين والمدافعين عن حقوق التكنولوجيا بشأن التطور السريع لقدرات أنظمة الذكاء الاصطناعي المتقدمة والمخاطر التي قد تنتج عنها في حال عدم وضع ضوابط كافية.
وقال ألتمان في منشور على منصة "إكس": "واجهنا حادثة أمنية كبيرة خلال تقييم نماذجنا".
ويأتي الكشف عن الحادث وسط دعوات متزايدة لتعزيز إجراءات الحماية، مع ازدياد قدرة تقنيات الذكاء الاصطناعي على تنفيذ مهام معقدة بأقل قدر من الإشراف البشري.
نماذج الذكاء الاصطناعي خرجت من بيئة الاختبار
أوضحت أوبن إيه آي أن نموذجين من نماذجها تمكّنا من تجاوز بيئة اختبار معزولة، تُعرف باسم "الصندوق الرملي" (Sandbox)، خلال تقييم داخلي لقدرات الأمن السيبراني.
وشملت النماذج المستخدمة نموذج GPT-5.6 Sol، وهو أحدث إصدارات الشركة، إلى جانب نموذج آخر لم يتم إطلاقه بعد، ووصفته الشركة بأنه أكثر تطورًا وقدرة.
وقالت الشركة إن النماذج خضعت للاختبار ضمن بيئة مراقبة أزيلت منها بعض إجراءات الحماية المعتادة بهدف تقييم قدراتها في مجال الأمن السيبراني.
خلال الاختبار، تمكّنت الأنظمة من اكتشاف ثغرات في البنية التحتية لمنصة Hugging Face، وهي منصة تستضيف نماذج وموارد للذكاء الاصطناعي مفتوحة المصدر.
وأضافت أوبن إيه آي أن النماذج حصلت بشكل مستقل على بيانات تسجيل الدخول، ووصلت إلى معلومات حساسة، واخترقت أنظمة Hugging Face في محاولة لتحقيق هدف محدد ضمن الاختبار.
وقالت الشركة في بيان: "ذهبت النماذج إلى أقصى الحدود لتحقيق هدف اختبار ضيق للغاية"، مضيفة أنها "وجدت طرقًا للوصول إلى معلومات سرية يمكن استخدامها للغش في التقييم".
واكتشف فريق الأمن في أوبن إيه آي النشاط غير المعتاد، ما أدى إلى فتح تحقيق مشترك مع Hugging Face.
Hugging Face تؤكد وقوع الاختراق
كشفت Hugging Face الأسبوع الماضي أنها تعرضت لهجوم إلكتروني نفّذه ما وصفته بأنه "نظام وكيل ذاتي متطور للغاية".
وقالت الشركة: "كان هذا مختلفًا عن أي شيء تعاملنا معه سابقًا من ناحية مهمة، إذ قاده نظام وكيل ذكاء اصطناعي مستقل من البداية إلى النهاية".
وبعد إعلان أوبن إيه آي عن تورط نماذجها في الحادث، أكدت الشركتان استمرار التحقيق المشترك في الواقعة.
وقال الرئيس التنفيذي لشركة Hugging Face كليمان ديلانغ إن الشركة اشتبهت في البداية بأن الهجوم جاء من مختبر ذكاء اصطناعي متقدم بسبب مستوى التعقيد التقني المستخدم.
وكتب ديلانغ على منصة "إكس": "كنا نعتقد أن الهجوم الإلكتروني الذي حدث الأسبوع الماضي ربما جاء من مختبر رائد، نظرًا إلى تطور الوكيل المستخدم. واتضح أن الأمر كان كذلك.
وأضاف أن Hugging Face تعتقد أنه لم يكن هناك أي نية خبيثة من جانب أوبن إيه آي.
تصاعد الجدل حول مخاطر الذكاء الاصطناعي
من المتوقع أن يعزز هذا الاختراق النقاش حول سلامة أنظمة الذكاء الاصطناعي التي أصبحت أكثر استقلالية. فقد حذّر خبراء الأمن السيبراني منذ فترة طويلة من أن الذكاء الاصطناعي المتقدم قد يسرّع اكتشاف واستغلال الثغرات البرمجية، ما قد يمنح الجهات الخبيثة أدوات أكثر قوة.
وأقرت أوبن إيه آي بأن الحادث يسلّط الضوء على ضرورة تطوير إجراءات أمنية تتماشى مع التطور السريع لقدرات الذكاء الاصطناعي.
وقالت الشركة: "الدرس الأساسي من هذا الحادث هو أن أمن النماذج وسلامتها يجب أن يواكبا القدرات المتقدمة التي تتطور بسرعة".
ويأتي هذا الكشف بعد تقارير أخرى عن سلوكيات غير متوقعة أظهرتها نماذج ذكاء اصطناعي متقدمة خلال الاختبارات، ما أثار تساؤلات حول كيفية تصرف هذه الأنظمة مستقبلًا عند تنفيذ أهداف بشكل مستقل.
وبالنسبة إلى الجهات التنظيمية وقادة قطاع التكنولوجيا، يشكل الحادث تذكيرًا واضحًا بأن تطوير الذكاء الاصطناعي يتقدم بوتيرة سريعة، وأن ضمان أمن هذه الأنظمة قد يصبح بأهمية تحسين قدراتها.
ومع ازدياد قوة أنظمة الذكاء الاصطناعي، يحذّر الخبراء من أن منع إساءة استخدامها بشكل مستقل قد يصبح أحد أكبر التحديات التي تواجه قطاع التكنولوجيا.
