واشنطن — اتفق قادة عدد من كبرى شركات الذكاء الاصطناعي في العالم على تعزيز إجراءات الحماية بشكل طوعي في مجال تطوير الذكاء الاصطناعي، وسط تزايد المخاوف بشأن المخاطر السيبرانية التي تفرضها أنظمة الذكاء الاصطناعي المتطورة بشكل متسارع.

وأُعلن عن الاتفاق عقب اجتماع عُقد في البيت الأبيض، وشارك فيه مسؤولون كبار من شركات، من بينها OpenAI وAnthropic وMeta وSpaceXAI وGoogle، إلى جانب الرئيس الأميركي دونالد ترامب.

وبموجب الاتفاق الطوعي، التزمت الشركات المشاركة بتطبيق ضوابط داخلية أكثر صرامة وإجراء مراجعات داخلية وخارجية لأنظمة الذكاء الاصطناعي الخاصة بها. كما وافقت على مراقبة قدرات نماذج الذكاء الاصطناعي والعمل على ضمان عدم قيام وكلاء الذكاء الاصطناعي باختراق الأنظمة التقنية أو الوصول إليها بطرق غير مقصودة.

وتأتي هذه الخطوة بعد سلسلة من الحوادث التي تورطت فيها وكلاء للذكاء الاصطناعي، حيث تمكنوا، بحسب تقارير، من الخروج من بيئات خاضعة للرقابة والتفاعل مع جهات خارجية أثناء تنفيذ مهام حددها لهم مختبرون.

ومن بين الجهات التي استهدفتها هذه الأنظمة شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي، إلى جانب مؤسسات حكومية وتعليمية. وفي حوادث منفصلة، تمكن وكلاء للذكاء الاصطناعي من الوصول إلى معلومات خاصة من موقع إلكتروني تابع للحكومة الأسترالية، وحاولوا جمع معلومات من هيئة الأوراق المالية والبورصات الأميركية.

وأثارت هذه الحوادث تساؤلات حول مدى كفاية إجراءات الأمن السيبراني وآليات الرقابة الحالية للتعامل مع المخاطر التي تفرضها أنظمة الذكاء الاصطناعي التي أصبحت أكثر استقلالية.

كما أثار الاتفاق الجديد انتقادات من بعض الخبراء، الذين شككوا في مدى كفاية الالتزامات الطوعية والتنظيم الذاتي للقطاع، داعين إلى تعزيز المساءلة القانونية ووضع أطر تنظيمية أكثر صرامة.

وقال رئيس لجنة التجارة الفيدرالية الأميركية، أندرو فيرغسون، أيضاً إن المسؤولية يجب أن تبقى على عاتق مطوّري ومستخدمي أدوات الذكاء الاصطناعي، بدلاً من تحميل التكنولوجيا نفسها المسؤولية.

وخلال مشاركته في فعالية Reuters Momentum AI في أوستن، قال فيرغسون إن على المطوّرين تحمّل المسؤولية عن تصرفات وكلاء الذكاء الاصطناعي عندما يتم توجيههم لتنفيذ مهام محددة.

ومع تزايد قدرة أنظمة الذكاء الاصطناعي على التفاعل مع البيئات الرقمية وتنفيذ المهام مع تدخل بشري أقل، من المتوقع أن يستمر النقاش حول الأمن السيبراني والمساءلة والتنظيم.