أدوات رقابية للأهل لمراقبة أطفالهم على تشات جي بي تي.. بعد حادثة مأساوية

أعلنت شركة “أوبن إيه آي” الأميركية، الثلاثاء، عن خططها لإطلاق آلية جديدة تمكّن الأهل من مراقبة أداة الذكاء الاصطناعي الخاصة بها “تشات جي بي تي” المرتبطة بأطفالهم المراهقين، وذلك بعد أن واجهت الشركة اتهامات بالمسؤولية عن حادثة مأساوية أودت بحياة فتى أميركي في أواخر أغسطس.
وأوضحت الشركة في منشور على مدونتها أن الآلية الجديدة ستتيح للأهل ربط حساباتهم بحسابات أبنائهم المراهقين، والتحكم في كيفية استجابة “تشات جي بي تي” لهم من خلال قواعد السلوك الخاصة بالنموذج. كما ستتيح لهم تلقي تنبيهات في حال رصد “ضيق حاد” أو علامات على مشاكل نفسية أو عاطفية خلال محادثات أطفالهم، بالإضافة إلى إمكانية تعديل إعدادات الحساب وفق الحاجة.

ويأتي هذا الإعلان بعد أن رفع والدا فتى في كاليفورنيا، يبلغ من العمر 16 عاماً، دعوى قضائية ضد “أوبن إيه آي”، متهمين الشركة بأن “تشات جي بي تي” قد زوده بتعليمات مفصلة لإنهاء حياته وشجعه على الانتحار، مما أثار جدلاً واسعاً حول مسؤولية شركات الذكاء الاصطناعي عن المحتوى الذي تقدمه للمراهقين.

وأكدت “أوبن إيه آي” في منشورها أنها مستمرة في تحسين قدرة نماذجها على التعرف على علامات الضيق النفسي والعاطفي والاستجابة لها بفعالية أكبر، كما أعلنت أنها ستتخذ خطوات إضافية من المتوقع تنفيذها خلال الأيام الـ120 المقبلة.

واحدة من هذه الخطوات تتضمن إعادة توجيه بعض “المحادثات الحساسة” إلى نماذج التفكير الأكثر تطوراً، مثل نموذج “جي بي تي-5-ثينكينغ”، الذي يُطبق إرشادات السلامة بشكل أكثر منهجية ودقة، بهدف حماية المستخدمين، خصوصاً من الفئة العمرية الصغيرة.

وتؤكد الشركة أن هذه الإجراءات تهدف إلى توفير بيئة أكثر أماناً للأطفال والمراهقين أثناء استخدام أدوات الذكاء الاصطناعي، مع إبقاء الأهل على اطلاع دائم بأنشطة أبنائهم، وتقليل المخاطر المحتملة الناتجة عن المحادثات الرقمية الحساسة.