أظهرت دراسة نشرتها صحيفة “The Guardian” البريطانية أن محرك البحث الجديد المدعوم بالذكاء الاصطناعي “ChatGPT Search” يمكن خداعه لتوليد ملخصات مضللة. وفقًا للباحثين، تهدف ميزة البحث في ChatGPT إلى تسريع التصفح عبر تلخيص مراجعات المنتجات على صفحات الويب. إلا أن التحقيق أظهر أنه يمكن استغلال ChatGPT لتجاهل المراجعات السلبية وتوليد ملخصات “إيجابية بشكل كامل”، من خلال إدراج نص مخفي داخل المواقع الإلكترونية.
ChatGPT في مأزق: دراسة تؤكد أن محرك البحث الذكي يمكن خداعه بسهولة
وأفاد التقرير أيضًا أن هذه الطريقة قد تُستخدم لإخراج أكواد ضارة عبر محرك البحث. على الرغم من أن الهجمات النصية المخفية تعتبر خطرًا معروفًا على نماذج اللغة الكبيرة، إلا أن هذه هي المرة الأولى التي يُثبت فيها ذلك على محرك بحث فعلي يعمل بالذكاء الاصطناعي.
ورغم عدم تعليق OpenAI بشكل محدد على هذه الحادثة عند استفسار TechCrunch، إلا أنها أكدت أنها تستخدم عدة طرق لحظر المواقع الضارة وتعمل على تحسين أمان النظام بشكل مستمر.