لسوء الحظ، وجد برنامج Chat، وهو برنامج المحادثة الآلي المتطور الذي أحدث ثورة في عمليات البحث على الويب وبسط المهام المكتبية، خط عمل جديد وهو الاحتيال على وسائل التواصل الاجتماعي.
اكتشف باحثون من جامعة إنديانا بلومنغتون شبكة بوت نت، المعروفة باسم "فوكس 8"، وهي تعمل على منصة تواصل اجتماعي في وقت سابق من هذا العام. تتكون هذه الشبكة، المرتبطة بعدة مواقع إلكترونية للعملات المشفرة، من أكثر من 1,000 حساب، يُعتقد أن العديد منها يستخدم دردشة لتوليد منشورات وردود على مواقع التواصل الاجتماعي. صُمم المحتوى الذي تُنشئه هذه الروبوتات لإغراء المستخدمين الأبرياء بالنقر على روابط تُؤدي إلى مواقع تُروّج للعملات المشفرة.
يحذر ميكا موسر، الباحث الذي درس إمكانية نشر المعلومات المضللة باستخدام الذكاء الاصطناعي، من أن شبكة بوت نت Fox8 قد تكون مجرد بداية لما يمكن أن نتوقع رؤيته مع استمرار ارتفاع شعبية نماذج اللغة الكبيرة وبرامج الدردشة الآلية.
على الرغم من انتشارها الواسع، لم تستغل شبكة البوت نت الدردشة بكفاءة عالية. ومع ذلك، أثار اكتشافها مخاوف بشأن سهولة استغلال برامج الدردشة المتقدمة، مثل "الدردشة"، لأغراض خبيثة. ويُخشى أن تكون شبكات بوت نت أكثر تطورًا وأقل قابلية للكشف قيد التشغيل بالفعل.
يقول فيليبو مينسر، الأستاذ بجامعة إنديانا بلومنغتون، والذي شارك في البحث: "السبب الوحيد الذي جعلنا نلاحظ هذه الشبكة من البوت نت هو إهمالها". ويؤكد أن الجهات الخبيثة "الأفضل" ستتجنب على الأرجح أخطاء منشئي شبكة بوت نت فوكس 8.
لم تُعلّق شركة OpenAI، الجهة المسؤولة عن تطبيق Chat، على اكتشاف شبكة البوت نت بعد. تُحظر سياسة الاستخدام الخاصة بها منعًا باتًا استخدام نماذج الذكاء الاصطناعي الخاصة بها في عمليات الاحتيال أو نشر المعلومات المضللة.
تستخدم برامج الدردشة وغيرها من برامج الدردشة المتقدمة نماذج لغوية ضخمة لتوليد نصوص استجابةً للمطالبات. بفضل بيانات التدريب الكافية، والقدرة الحاسوبية، وملاحظات المُختبرين، تستطيع هذه البرامج الاستجابة بطرق متطورة للغاية لمجموعة متنوعة من المُدخلات. ومع ذلك، لديها أيضًا القدرة على نشر خطاب الكراهية، وإظهار التحيزات الاجتماعية، وتزييف المعلومات.
سيكون من الصعب تحديد شبكة بوت نت مُعدّة جيدًا تعتمد على الدردشة، وقد تخدع المستخدمين بفعالية وتتلاعب بخوارزميات وسائل التواصل الاجتماعي. يقول مينزر: "إنها تخدع المنصة والمستخدمين على حد سواء".
المخاوف بشأن احتمال إساءة استخدام تقنيات مثل Chat في حملات التضليل ليست جديدة. حتى أن OpenAI أجّلت إصدار نسخة سابقة من Chat بسبب هذه المخاوف.
يقول ويليام وانغ، الأستاذ بجامعة كاليفورنيا، سانتا باربرا، إنه من الضروري دراسة هذه الاستخدامات الإجرامية للدردشة في العالم الحقيقي. ويعتقد أن العديد من صفحات البريد العشوائي تُنشأ الآن تلقائيًا، مما يزيد من صعوبة...cult من الصعب على البشر رصد مثل هذه المواد. ومع التطور المستمر للذكاء الاصطناعي، سيزداد الأمر صعوبة. ويختتم قائلاً: "الوضع سيء للغاية".