أثار قرار شركة OpenAI الأخير بمنع أحدث نماذجها للذكاء الاصطناعي من مناقشة مواضيع معينة، وتحديدًا “العفاريت”، جدلًا واسعًا في الأوساط التقنية. يأتي هذا الحظر ضمن تعليمات صارمة أُدرجت في أداة البرمجة Codex، بهدف التحكم في المحتوى الذي تنتجه هذه النماذج.
وبحسب مجلة Wired، شملت التعليمات حظر الحديث عن مجموعة من الكائنات الأسطورية والواقعية، بما في ذلك العفاريت، الغيلان، الراكون، المتصيدون، العمالقة، والحمام، إلا إذا كان ذلك مرتبطًا بشكل مباشر بسؤال المستخدم. هذا التوجيه الغريب أثار تساؤلات كثيرة حول أسبابه الحقيقية.
لماذا مُنعت “العفاريت” في نماذج OpenAI؟
لم تتضح الأسباب المباشرة خلف هذا الحظر في البداية، لكن سرعان ما ظهرت مؤشرات تفسر هذا السلوك غير المعتاد. أشارت تقارير إلى أن النموذج GPT-5.5 أظهر ميلًا ملحوظًا لاستخدام العفاريت والغيلان في أحاديثه، مما دفع الشركة لاتخاذ إجراءات صارمة.
على منصة X، ذكر بعض المستخدمين أن الذكاء الاصطناعي بدأ يصف الأخطاء البرمجية بأنها “عفاريت وغيلان”، بينما لاحظ آخرون أن الإصدار 5.5 من Codex أشار بشكل عشوائي إلى “عفريت يحمل مصباحًا” خلال مناقشة إصلاح خطأ برمجي. موقع Futurism نشر سجل محادثة تضمن ما يقارب اثني عشرة إشارة إلى العفاريت، ما يعكس تكرار هذه الظاهرة.
توضيح الشركة وتحليل الظاهرة الغريبة
استغلت OpenAI هذا الجدل للتعليق على الأمر بشكل رسمي، حيث نشر الرئيس التنفيذي سام ألتمان لقطة شاشة لرسالة ساخرة تشير إلى تدريب نموذج GPT-6 مع “مجموعة إضافية من العفاريت”. أوضح أحد أعضاء فريق Codex أن هذا السلوك الغريب كان من الأسباب الرئيسية وراء قرار حظر الموضوع.
وفي منشور رسمي بعنوان “من أين أتت العفاريت؟”، أوضحت الشركة أن نماذج GPT-5.1 بدأت تظهر عادة غريبة تتمثل في استخدام العفاريت والغيلان كاستعارات، وأن هذه الظاهرة ازدادت وضوحًا مع كل جيل جديد من النماذج. أشارت الشركة إلى أن استخدام كلمة “goblin” ارتفع بنسبة 175% بعد إصدار GPT-5.1.
أرجعت الشركة هذا السلوك إلى أنماط تدريب غير مقصودة، مرتبطة بتخصيص الشخصية داخل النموذج. يبدو أن منح مكافآت عالية للاستعارات التي تتضمن مخلوقات أدى إلى انتشارها بشكل كبير داخل النموذج، الأمر الذي يعتبر مثالًا حيًا على السلوكيات غير المتوقعة التي قد تنشأ من مجموعات البيانات الضخمة المستخدمة في عملية التدريب.
وفي سياق مشابه، أشارت تقارير بحثية إلى أن نماذج ذكاء اصطناعي أخرى أبدت ارتباطات غير مفسرة ببعض الشخصيات الفكرية، مثل المنظر الثقافي مارك فيشر، حيث كانت تذكره بشكل متكرر في محادثات لا علاقة لها بالفلسفة، مما يبرز التحديات المستمرة في فهم وتطوير هذه التقنيات المعقدة.
تعليقات