أمان المراهقين أولاً.. ChatGPT يضيف تحذيرات للأهل

توسّع شركة OpenAI إجراءات السلامة المخصصة للمراهقين في ChatGPT، عبر نظام جديد يتيح إرسال إشعارات إلى أولياء الأمور في حالات محددة، بينها حظر حساب مراهق بسبب محادثات مرتبطة بأعمال عنف، وذلك بعد ربط حساب المراهق بحساب أحد الوالدين أو الأوصياء.

وتأتي الخطوة ضمن منظومة الرقابة الأبوية التي طورتها الشركة بهدف مساعدة العائلات على التعامل مع الحالات التي قد تشير إلى وجود خطر جدي على المراهق أو الآخرين، من دون منح الوالدين إمكانية الاطلاع على محادثاته.

إشعار عند وجود خطر

وبموجب النظام، يمكن لـOpenAI إرسال تنبيه إلى الوالد أو الوصي المرتبط بحساب المراهق إذا جرى تعطيل الحساب بسبب محادثات تتعلق بأعمال عنف تخالف سياسات الاستخدام.

وتوضح الشركة أن هذه الإشعارات محدودة النطاق، وقد تتضمن وصفاً مختصراً للمشكلة والإجراء الذي اتُخذ بحق الحساب، إضافة إلى معلومات أو موارد مساعدة عند الحاجة. ولا تتضمن الإشعارات نصوص المحادثات أو سجل الدردشة.

كما أكدت OpenAI أن النظام لا يستهدف النقاشات المتعلقة بالكتابة الخيالية أو الألعاب أو الأخبار والسياسة أو التعبير العام عن الغضب أو الأسئلة النظرية، وإنما يركز على الحالات التي تستدعي تدخلاً متعلقاً بالسلامة.

رقابة أبوية دون قراءة المحادثات

وتتيح أدوات الرقابة الأبوية للوالدين ربط حساباتهم بحسابات أبنائهم المراهقين وإدارة مجموعة من الإعدادات، من بينها تحديد ساعات لا يمكن خلالها استخدام ChatGPT، وتقليل المحتوى الحساس، وتعطيل الصوت أو الذاكرة، ومنع إنشاء الصور، إضافة إلى إيقاف استخدام محادثات المراهق في تدريب النماذج.

كما يمكن للوالدين تفعيل وضع الدراسة مباشرة من إعدادات الرقابة الأبوية، بما يسمح بتخصيص تجربة ChatGPT لتكون أكثر ملاءمة للتعلم.

وفي المقابل، لا تمنح هذه الأدوات الوالدين إمكانية قراءة محادثات أبنائهم أو مراقبة نشاطهم بشكل مباشر، إذ تقتصر الإشعارات الأمنية على الحالات المحددة التي ترى أنظمة الشركة أنها تستدعي تنبيهاً.

تحذيرات مرتبطة بإيذاء النفس

ولا تقتصر الإشعارات على العنف، إذ تشمل أيضاً الحالات التي ترصد فيها أنظمة OpenAI ومراجعون متخصصون مؤشرات على وجود مخاوف خطيرة مرتبطة بإيذاء المراهق لنفسه.

وتشير الشركة إلى أن الأنظمة ترصد مؤشرات محددة، ثم قد تخضع الحالات ذات الصلة بمخاوف إيذاء النفس لمراجعة من فريق متخصص قبل إرسال الإشعار إلى الوالد أو الوصي. ويمكن أن تصل التنبيهات عبر البريد الإلكتروني أو الرسائل النصية أو الإشعارات الفورية، بحسب الإعدادات المتاحة.

منظومة حماية أوسع

وتأتي هذه الإجراءات ضمن توجه أوسع لدى OpenAI لتعزيز الحماية المخصصة للمستخدمين دون سن 18 عاماً، مع فرض قيود إضافية على المحتوى الحساس والعنيف والمحتوى غير الملائم للفئات العمرية الأصغر.

وتؤكد الشركة أن إشعارات السلامة ليست نظام مراقبة فورياً ولا يمكنها رصد كل الحالات، كما أنها لا تُعد بديلاً عن تدخل الأسرة أو الاستعانة بالجهات المختصة عند وجود خطر مباشر.

وبذلك، تحاول OpenAI تحقيق توازن بين خصوصية المراهقين ودور الأهل في حمايتهم، عبر مشاركة معلومات محدودة فقط عندما ترى أن هناك مؤشرات تستدعي تدخلاً أو عندما يُحظر الحساب بسبب نشاط مرتبط بأعمال عنف.