في تجربة رائدة، نجح باحثو IBM في التلاعب بروبوتات الدردشة بالذكاء الاصطناعي لتقديم نصائح قد تكون ضارة وتسريب معلومات حساسة. وقد تحقق هذا الإنجاز من خلال "تنويم" نماذج لغوية كبيرة (LLMs) مثل دردشة OpenAI و جوجل باردمما يثير تساؤلات جدية حول الآثار الأمنية والأخلاقية لأنظمة الذكاء الاصطناعي هذه.
تاريخيًا، عُرف عن روبوتات الدردشة الذكية أنها تُصاب بالهلوسة أو تُقدم معلومات غير صحيحة. ومع ذلك، يُظهر هذا البحث الجديد إمكانية التلاعب بها لتقديم نصائح خاطئة أو حتى ضارة عمدًا. وقد حقق فريق IBM ذلك من خلال حثّ طلاب الماجستير في القانون على تعديل ردودهم وفقًا لقواعد "لعبة" مُحددة، مما أدى فعليًا إلى "تنويم" روبوتات الدردشة.
تضمنت "الألعاب" متعددة الطبقات مطالبة نماذج اللغة بإعطاء إجابات خاطئة بذريعة إثبات نزاهتها وأخلاقيتها. وذكرت تشينتا لي، إحدى باحثات آي بي إم، في منشور على مدونتها: "تُظهر تجربتنا إمكانية التحكم في برنامج ماجستير في القانون، ودفعه لتقديم إرشادات خاطئة للمستخدمين، دون الحاجة إلى التلاعب بالبيانات".
أدى هذا التلاعب إلى قيام طلاب الدراسات العليا في القانون بإنشاء برمجيات خبيثة، وإفشاء تفاصيل مالية سرية، بل وحتى نصح السائقين بتجاهل الإشارات الحمراء. في إحدى الحالات، نصح تشات باحثًا زورًا بأن مصلحة الضرائب الأمريكية (IRS) قد تطلب وديعة لإصدار استرداد ضريبي، وهي طريقة احتيال شائعة.
استخدم الباحثون أيضًا قواعد "اللعبة" لضمان عدم قدرة المستخدمين على اكتشاف حالة "التنويم المغناطيسي" لروبوت الدردشة. إذا نجح المستخدم في الخروج من "اللعبة"، فسيبدأ النظام ببساطة لعبة جديدة، محاصرًا المستخدم في دوامة لا نهاية لها.
بينما كانت روبوتات الدردشة تستجيب فقط للمطالبات في هذه التجربة، حذّر الباحثون من أن هذه القدرة على التلاعب ببرامج الماجستير في القانون وتنويمها مغناطيسيًا قد يُساء استخدامها، لا سيما في ظلّ الانتشار الواسع لنماذج الذكاء الاصطناعي. كما أشاروا إلى أن الأفراد لم يعودوا بحاجة إلى معرفة برمجية للتلاعب بهذه البرامج؛ إذ يكفي مجرد مطالبة نصية بسيطة.
واختتم لي حديثه قائلاً: "مع أن خطر التنويم المغناطيسي منخفض حاليًا، إلا أنه من المهم الإشارة إلى أن برامج إدارة التعلم تُعدّ مجال هجوم جديد تمامًا، ومن المؤكد أنها ستتطور. لا يزال هناك الكثير مما نحتاج إلى استكشافه من منظور أمني، وبالتالي، ثمة حاجة ماسة لتحديد كيفية التخفيف بفعالية من مخاطر الأمن التي قد تُسببها برامج إدارة التعلم للمستهلكين والشركات."
يُبرز هذا التطور الحاجة المُلحة إلى تدابير أمنية فعّالة ومراعاة الاعتبارات الأخلاقية في مجال الذكاء الاصطناعي سريع التطور. ومع استمرار تغلغل الذكاء الاصطناعي في مختلف القطاعات، تزداد أهمية فهم المخاطر المحتملة والحد منها.