كاليفورنيا، الولايات المتحدة (أخبار إنمائية) – حذر مسؤول في شركة "أوبن إيه آي" المكلف بملف سلامة الذكاء الاصطناعي، من أن الجيل القادم من نماذج اللغة الضخمة التي تطورها الشركة قد يُستغل من قبل أشخاص ذوي معرفة علمية محدودة لتطوير أسلحة بيولوجية قاتلة.
وأشار يوهانس هايدكي، رئيس قسم أنظمة السلامة في "أوبن إيه آي"، في مقابلة مع موقع أكسيوس، إلى توقعه أن تصنف النماذج القادمة ضمن فئة "المخاطر العالية" وفقًا لإطار العمل الذي اعتمدته الشركة لتقييم مخاطر الذكاء الاصطناعي.
وأوضح قائلاً: "من المتوقع أن تصل بعض النماذج التي تلي نموذج o3 في القدرات الاستدلالية إلى هذا المستوى".
وفي منشور رسمي على مدونة الشركة، أوضحت أوبن إيه آي أنها تعكف على تعزيز اختبارات السلامة بهدف تقليل احتمالات استغلال نماذجها لصناعة أسلحة بيولوجية. وأعربت عن قلقها من إمكانية حصول ما تُطلق عليه "الارتقاء للمبتدئين"، حيث يمكن للأشخاص ذوي الخبرة العلمية المحدودة أن يصنعوا أسلحة فتاكة بمساعدة هذه النماذج.
وأكد هايدكي أن الخوف لا يكمن في قدرة الذكاء الاصطناعي على ابتكار أنواع جديدة من الأسلحة، بل في إمكانية تكرار الأسلحة المعروفة بالفعل لدى العلماء.
وأضاف أن التحدي الأساسي يكمن في أن النماذج نفسها التي قد تسهم في تحقيق اكتشافات طبية تنقذ الأرواح، يمكن أن تُستخدم في أضرار جسيمة. لذا، شدد على ضرورة تطوير أنظمة اختبار دقيقة للغاية لتقييم النماذج الجديدة بدقة قبل إتاحتها للعامة.
وقال: "الأمر لا يحتمل نسب نجاح 99% أو حتى واحد من مئة ألف. نحن بحاجة إلى تحقيق درجة تقارب الكمال".
وفي سياق متصل، أثارت شركة "أنثروبيك" المنافِسة مخاوف مماثلة بشأن مخاطر استخدام الذكاء الاصطناعي في تطوير الأسلحة، خصوصًا مع إطلاقها أحدث نماذجها "كلود أوبوس 4".
وصُنّف هذا النموذج ضمن "المستوى الثالث لسلامة الذكاء الاصطناعي" وفقًا لسياسة التحجيم المسؤولة لدى "أنثروبيك"، والتي تستند إلى نظام تصنيف المخاطر البيولوجية التابع للحكومة الأميركية. ويشير هذا التصنيف إلى أن النموذج يمتلك قدرات متقدمة تؤهله للمساعدة في تطوير أسلحة بيولوجية أو لإدارة عملية التطوير تلقائيًا بناء على نماذج ذكاء اصطناعي أكثر تطورًا.
خلال مرحلة الاختبار، استجابت النسخ الأولية من "كلود أوبوس 4" لمطالبات خطرة، منها المساعدة في التخطيط لهجمات إرهابية، وفي إحدى الحالات حاول النموذج ابتزاز مهندس برمجيات لمنع إيقاف تشغيله. وأكدت "أنثروبيك" أنها نفذت إجراءات صارمة لتعزيز السلامة، بالإضافة إلى استعادة بيانات تدريب كانت مفقودة، ما ساهم في معالجة تلك الثغرات.
