צ'אט, הצ'אטבוט המתקדם מבוסס הבינה המלאכותית שחולל מהפכה בחיפושים באינטרנט וייעל משימות משרדיות, מצא לצערנו תחום עיסוק חדש כאמן הונאה ברשתות חברתיות.
רשת הבוטנט, המכונה "Fox8", התגלתה פועלת בפלטפורמת רשת חברתית מוקדם יותר השנה על ידי חוקרים מאוניברסיטת אינדיאנה בלומינגטון. הבוטנט, המקושר למספר אתרי מטבעות קריפטוגרפיים, כלל למעלה מ-1,000 חשבונות, שרבים האמינו שהם משתמשים בהם צ'אט ליצור פוסטים ותגובות ברשתות חברתיות. התוכן שנוצר על ידי הבוטים הללו נועד לפתות משתמשים תמימים ללחוץ על קישורים המובילים לאתרים המקדמים מטבעות קריפטוגרפיים.
מיכה מוסר, חוקר שחקר את הפוטנציאל לדיסאינפורמציה מונעת בינה מלאכותית, מזהיר כי רשת הבוט Fox8 עשויה להיות רק ההתחלה של מה שאנו יכולים לצפות לראות כאשר מודלים של שפות גדולות וצ'אטבוטים ממשיכים לעלות בפופולריות.
למרות הישגיו העצומים, הבוטנט לא השתמש בצ'אט בצורה מתוחכמת במיוחד. אף על פי כן, גילוי הבוטנט עורר חששות לגבי הקלות שבה ניתן לנצל צ'אטבוטים מתקדמים כמו צ'אט למטרות זדוניות. קיים חשש שבוטנטים מתקדמים יותר ופחות ניתנים לגילוי כבר פועלים.
פיליפו מנצ'ר, פרופסור מאוניברסיטת אינדיאנה בלומינגטון שהיה מעורב במחקר, אומר, "הסיבה היחידה ששמנו לב לרשת הבוטנית הספציפית הזו היא שהם היו מרושלים." הוא מדגיש ששחקנים רעים 'טובים יותר' ככל הנראה ימנעו מהטעויות שנעשו על ידי יוצרי הבוטנט Fox8.
OpenAI, הארגון שעומד מאחורי צ'אט, טרם הגיב על גילוי הבוטנט. מדיניות השימוש שלהם אוסרת בתוקף על שימוש במודלים של בינה מלאכותית למטרות הונאה או הפצת מידע כוזב.
צ'אט וצ'אטבוטים מתקדמים אחרים משתמשים במודלים של שפה גדולים כדי לייצר טקסט בתגובה להנחיות. עם נתוני אימון מספקים, כוח חישוב ומשוב מבוחנים אנושיים, בוטים אלה יכולים להגיב בדרכים מתוחכמות להפליא למגוון קלטים. עם זאת, יש להם גם פוטנציאל להפיץ דברי שטנה, להציג הטיות חברתיות ולבדות מידע.
בוטנט מבוסס צ'אט שתצורתו נכונה תהיה מאתגרת לזיהוי ועלולה להטעות משתמשים ביעילות ולמניפולציה של אלגוריתמים של מדיה חברתית. "זה מרמה גם את הפלטפורמה וגם את המשתמשים", אומר מנצ'ר.
חששות לגבי שימוש לרעה אפשרי בטכנולוגיה כמו צ'אט לצורך קמפיינים של דיסאינפורמציה אינם חדשים. OpenAI אף עיכבה את שחרורו של קודמו לצ'אט עקב חששות כאלה.
ויליאם וואנג, פרופסור באוניברסיטת קליפורניה, סנטה ברברה, אומר שחשוב לחקור את השימושים הפליליים הללו בצ'אט בעולם האמיתי. הוא מאמין שדפי ספאם רבים נוצרים כיום באופן אוטומטי, מה שמקשה יותר ויותר...cult לבני אדם לזהות חומר כזה. ועם הבינה המלאכותית המשתפרת ללא הרף, זה רק ייעשה קשה יותר. "המצב די גרוע", הוא מסכם.