Chat, передовий чат-бот на базі штучного інтелекту, який революціонізував веб-пошук та оптимізував офісні завдання, на жаль, знайшов нову сферу діяльності як шахрай у соціальних мережах.
Ботнет, відомий як Fox8, був виявлений на платформі соціальної мережі на початку цього року дослідниками з Університету Індіани в Блумінгтоні. Ботнет, пов’язаний з кількома веб-сайтами криптовалюти, складався з понад 1,000 облікових записів, багато з яких, як вважають, використовували Чат створювати публікації та відповіді в соціальних мережах. Контент, створений цими ботами, був розроблений, щоб спонукати невинних користувачів переходити за посиланнями, що ведуть на сайти з просуванням криптовалюти.
Міка Массер, дослідник, який вивчав потенціал дезінформації за допомогою ШІ, попереджає, що ботнет Fox8 може бути лише початком того, що ми можемо очікувати побачити, оскільки великі мовні моделі та чат-боти продовжують зростати у популярності.
Ботнет, попри свій широкий охоплення, не використовував Chat надто складним чином. Тим не менш, виявлення ботнету викликало занепокоєння щодо легкості, з якою просунуті чат-боти, такі як Chat, можуть бути використані для злочинних цілей. Існують побоювання, що більш просунуті та менш виявлювані ботнети вже можуть працювати.
Філіппо Менцер, професор Університету Індіани в Блумінгтоні, який брав участь у дослідженні, каже: «Єдина причина, чому ми помітили цей конкретний ботнет, полягає в тому, що вони були неохайними». Він наголошує, що «кращі» погані актори, швидше за все, уникнуть помилок, допущених творцями ботнету Fox8.
OpenAI, організація, що стоїть за Chat, поки що не прокоментувала виявлення ботнету. Їхня політика використання суворо забороняє використання їхніх моделей штучного інтелекту для шахрайства або поширення дезінформації.
Чат та інші просунуті чат-боти використовують великі мовні моделі для генерації тексту у відповідь на запити. Маючи достатні навчальні дані, обчислювальну потужність та відгуки від тестувальників-людей, ці боти можуть реагувати вражаюче складними способами на різноманітні вхідні дані. Однак вони також мають потенціал поширювати мову ворожнечі, демонструвати соціальні упередження та фальсифікувати інформацію.
Добре налаштований ботнет на основі чату буде складно ідентифікувати, і він може ефективно обманювати користувачів і маніпулювати алгоритмами соціальних мереж. «Він обманює як платформу, так і користувачів», — каже Менцер.
Занепокоєння щодо потенційного зловживання такими технологіями, як Chat, для дезінформаційних кампаній не є новими. OpenAI навіть відклав випуск попередника Chat через ці побоювання.
Вільям Ван, професор Каліфорнійського університету в Санта-Барбарі, каже, що вкрай важливо вивчити ці реальні злочинні способи використання Chat. Він вважає, що багато спам-сторінок зараз генеруються автоматично, що робить процес дедалі складнішим.cult щоб люди могли помітити такий матеріал. І з постійним удосконаленням штучного інтелекту це ставатиме лише важчим. «Ситуація досить погана», — підсумовує він.