رغم المميزات العديدة والاستخدامات المتنوعة للذكاء الاصطناعي، حيث يمنح “OpenAI” العديد من إجراءات الحماية والأمان ويساهم في اكتشاف المحتوى الضار، إلا أن هناك مخاطر وأضرار أيضا قد يتعرض لها المستخدمون، حيث اكتشف الباحثون مؤخراً طريقة جديدة يمكن للمحتالين من خلالها إساءة استخدام واجهة برمجة التطبيقات الصوتية في الوقت الفعلي من “OpenAI” لبرنامج “ChatGPT-4o” للقيام بعمليات النصب وسرقة البيانات الشخصية أو بيانات الهوية.
مميزات عديدة تعرض المستخدمين للمخاطر
حيث يقدم نموذج “ChatGPT-4o” مميزات عديدة ومبتكرة، مثل النص والصوت والتفاعلات التي تعتمد على الرؤية أيضا، ما قد يعرض المستخدمين إلى بعض المخاطر، من خلال انتحال صفتهم الشخصية واستخدام الحسابات المصرفية الخاصة بهم على سبيل المثال.
وأعلنت “OpenAI” القيام بدمج العديد من إجراءات الحماية التي تهدف إلى اكتشاف المحتوى الضار ومنعه، خاصة في التفاعلات الصوتية، على سبيل المثال، تتضمن تقنية لمنع انتحال الهوية عن طريق تكرار الأصوات غير المصرح بها.
وأكد عدد من الباحثين “أن هذه الحماية قد لا تكون كافية أيضا، كما هو موضح في دراستهم، حيث يمكن لعمليات الاحتيال المدعومة بالذكاء الاصطناعي والتي تنطوي على التحويلات المصرفية وسرقة بطاقات الهدايا وسرقة بيانات اعتماد “انستجرام” و”جيميل” تجاوز هذه الدفاعات ببعض التعديلات السريعة.
نقاط ضعف أنظمة الذكاء الاصطناعي
وهذا الأمر دفع الباحثين لاستخدام أساليب احتيالية متنوعة للكشف عن نقاط الضعف في أنظمة الذكاء الاصطناعي، حيث قاموا بتكوين وكلاء ذكاء اصطناعي مزودين بقدرات صوتية مشابهة لـ ChatGPT-4 لتنفيذ عمليات مثل ملء نماذج البنوك، والتعامل مع رموز المصادقة الثنائية، واتباع خطوات محددة للاحتيال، وخلال التجارب، قام الباحثون بتمثيل دور الضحايا المتفاعلين مع وكيل الذكاء الاصطناعي، ووصلوا إلى مواقع مصرفية حقيقية للتأكد من إمكانية إتمام المعاملات بنجاح.
سرقة حسابات وتحويل عملات مشفرة
وفال الباحث دانييل كانغ من جامعة إلينوي في أوربانا-شامبين: “قمنا بمحاكاة الاحتيال عبر التفاعل اليدوي مع الوكيل الصوتي، ولعبنا دور الضحية الساذجة”، وقد تراوحت نسبة النجاح بين 20% و60%، حيث استغرقت بعض المهام ما يصل إلى 26 خطوة للمتصفح و3 دقائق لتنفيذها، وحققت بعض عمليات الاحتيال، مثل سرقة بيانات الاعتماد على “جيميل”، معدل نجاح بنسبة 60%، في حين حققت عمليات أخرى مثل تحويلات العملات المشفرة أو سرقة حسابات “انستجام” حوالي 40%.
وأشار الباحثون إلى أن كل عملية احتيال كانت رخيصة التنفيذ، حيث بلغت تكلفة التحويلات المصرفية حوالي 2.51 دولار، وبلغ متوسط تكلفة عمليات الاحتيال الأخرى 0.75 دولار فقط.
محاولات لتحسين الأمان
ولمواجهة هذه المشكلات، سلطت “OpenAI” الضوء على العمل الذي تقوم به لتحسين الأمان من خلال أحدث طراز لها، o1-preview، حيث قال متحدث باسم OpenAI في تصريحات صحفية: “إننا نعمل باستمرار على تحسين شات جي بي تي في إيقاف المحاولات المتعمدة لخداعه، من دون فقدان فائدته أو إبداعه، وأحدث نموذج استدلال o1 لدينا هو الأكثر كفاءة وأمانًا حتى الآن، ويتفوق بشكل كبير على النماذج السابقة في مقاومة المحاولات المتعمدة لإنشاء محتوى غير آمن”، مؤكدة أن هذه الدراسات تساعدها في تعزيز حماية شات جي بي تي.