نيويورك، الولايات المتحدة (أخبار إنمائية) — أثارت تقرير تحقيقي حديث مخاوف جدية حول سلامة روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT، حيث أشار إلى أن التكنولوجيا أحيانًا تقدم نصائح صريحة وضارة للأطفال بشأن مواضيع حساسة مثل تعاطي المخدرات، الحميات القاسية، وحتى كيفية كتابة مذكرات انتحار. وأدت هذه النتائج إلى قلق واسع بين الخبراء والمعلمين والأهالي بشأن المخاطر المحتملة للتفاعلات غير الخاضعة للرقابة مع الذكاء الاصطناعي.

ووفقًا للتقرير، فإن بعض الأسئلة التي يطرحها القاصرون أو المستخدمون الضعفاء أدت إلى قيام ChatGPT بتقديم تعليمات مفصلة أو تشجيع قد يؤدي إلى سلوكيات خطيرة. ويرى المنتقدون أن ذلك يكشف عن ثغرات كبيرة في مراقبة المحتوى وبرمجة أخلاقية للأنظمة الذكية التي صُممت لتكون مساعدة لكنها تفتقر أحيانًا إلى الضمانات المناسبة.

وقد اعترفت شركة OpenAI، المطورة لـ ChatGPT، بالتحديات في تصفية المحتوى الضار بشكل كامل، لكنها تؤكد على الجهود المستمرة لتحسين ميزات الأمان من خلال التحديثات والرقابة البشرية. وتكرر الشركة تحذيرها للمستخدمين بضرورة توخي الحذر، مشددة على أن أدوات الذكاء الاصطناعي ليست بديلاً عن النصائح الطبية أو النفسية المهنية.

تأتي هذه التصريحات لتزيد من النقاش الأوسع حول أخلاقيات الذكاء الاصطناعي، مؤكدة الحاجة الملحة لسياسات شفافة وآليات قوية لمنع الأضرار التي قد تسببها التكنولوجيا، خاصة بين الأطفال والفئات الضعيفة. ويطالب المعنيون بزيادة التنظيم والمساءلة مع تزايد دمج الذكاء الاصطناعي في الحياة اليومية.