أعلنت شركة OpenAI رسميًا عن إضافة ميزة أمان جديدة ومهمة لتطبيقها الشهير ChatGPT، تحمل اسم “جهة الاتصال الموثوقة”. تهدف هذه الميزة إلى توفير حماية إضافية للمستخدمين الذين قد يمرون بأزمات نفسية حادة أو تظهر عليهم علامات خطر إيذاء النفس خلال استخدامهم للذكاء الاصطناعي.
تأتي هذه الخطوة استجابةً لتزايد اعتماد المستخدمين على ChatGPT كوسيلة للتعبير عن مشاعرهم أو البحث عن دعم نفسي يومي. فقد كشفت الشركة في وقت سابق أن أكثر من مليون مستخدم أسبوعيًا يتطرقون لمواضيع تتعلق بإيذاء النفس أو الانتحار عبر المنصة، مما دفعها للتفكير في حلول تقنية لدعم المستخدمين في هذه الظروف الحرجة.
كيف تعمل ميزة “جهة الاتصال الموثوقة”؟
الميزة الجديدة مصممة خصيصًا للمستخدمين البالغين الذين تتجاوز أعمارهم 18 عامًا. تتيح للمستخدم إضافة جهة اتصال واحدة موثوقة من البالغين عبر إعدادات التطبيق مباشرة. بعد إرسال الدعوة، يجب على الطرف الآخر قبولها خلال أسبوع واحد، وإلا يمكن للمستخدم اختيار جهة اتصال أخرى.
عندما يرصد النظام مؤشرات خطر جدي تتعلق بسلامة المستخدم، يبدأ أولًا بتنبيهه وتشجيعه على التواصل مع صديقه أو أحد المقربين منه. يقدم ChatGPT أيضًا اقتراحات لطرق مناسبة لبدء هذا الحديث. وإذا استمر القلق بشأن سلامة المستخدم، ينتقل الأمر إلى فريق متخصص داخل OpenAI لمراجعة الحالة بشكل دقيق.
يتخذ هذا الفريق المختص قرارًا بشأن إرسال تنبيه إلى جهة الاتصال الموثوقة. هذا الإجراء يضمن أن التدخل يتم بعد تقييم واعٍ للحالة. يهدف النظام من خلال هذه العملية إلى توفير شبكة أمان إضافية تحافظ على خصوصية المستخدم قدر الإمكان.
مراجعة بشرية تضمن الخصوصية والدقة
أكدت OpenAI أن عملية إرسال التنبيهات ليست آلية بالكامل. بل تخضع لمراجعة دقيقة من “فريق صغير ومدرب خصيصًا” قبل إرسال أي رسالة تحذيرية. هذا الجانب البشري في المراجعة يهدف إلى تقليل التنبيهات غير الدقيقة أو الخاطئة.
من المهم التأكيد على أن جهة الاتصال الموثوقة لن تتلقى سجل المحادثات الكامل أو تفاصيلها الدقيقة. بل سيصلها مجرد إشعار يفيد بأن المستخدم قد يمر بوقت عصيب، وأن الشركة رصدت نقاشات قد تكون مرتبطة بإيذاء النفس. هذا الإجراء يهدف إلى الحفاظ على خصوصية المستخدم وفي نفس الوقت تقديم الدعم اللازم.
تهدف الشركة من هذا النظام إلى توفير تدخل مبكر وفعال يحافظ على السرية الفردية. كما تسعى للتأكد من أن أي تنبيه يتم إرساله مبني على تقييم دقيق وواعٍ، مما يعزز الثقة في المنصة كأداة مساعدة في الأوقات الصعبة.
هل يتحول ChatGPT إلى أداة دعم نفسي؟
يعكس إطلاق هذه الميزة التوجه المتزايد نحو استخدام روبوتات الذكاء الاصطناعي كوسيلة للدعم العاطفي والنفسي. هذا التطور يثير جدلاً واسعًا حول حدود دور الذكاء الاصطناعي في التعامل مع الحالات الإنسانية الحساسة. فبينما ترى OpenAI أن هذه الأدوات قد تساعد في حماية بعض المستخدمين، يحذر خبراء من الاعتماد الكلي على الأنظمة الذكية كبديل للدعم البشري أو المختصين النفسيين.
وفي سياق متصل، تؤكد OpenAI أنها عملت على تحسين آليات استجابة ChatGPT للحالات النفسية الحرجة. يأتي هذا التحسين بعد تقارير سابقة تحدثت عن ردود غير مناسبة من النظام في بعض المحادثات، مما يؤكد التزام الشركة بتطوير حلول أكثر حساسية وفعالية لدعم المستخدمين في الأوقات الحرجة.
تعليقات