Chat, усовершенствованный чат-бот на основе искусственного интеллекта, который произвел революцию в веб-поиске и оптимизировал офисные задачи, к сожалению, нашел себе новое занятие — мошенник в социальных сетях.
Ботнет, известный как Fox8, был обнаружен на платформе социальной сети в начале этого года исследователями из Университета Индианы в Блумингтоне. Ботнет, связанный с несколькими криптовалютными сайтами, состоял из более чем 1,000 учетных записей, многие из которых, как полагают, использовали Чат для создания публикаций и ответов в социальных сетях. Контент, созданный этими ботами, был разработан, чтобы побудить невинных пользователей перейти по ссылкам, ведущим на сайты, продвигающие криптовалюту.
Мика Массер, исследователь, изучавший потенциал дезинформации с помощью искусственного интеллекта, предупреждает, что ботнет Fox8 может быть только началом того, что мы можем ожидать, поскольку популярность крупных языковых моделей и чат-ботов продолжает расти.
Несмотря на свой огромный охват, ботнет не использовал Chat изощрённым образом. Тем не менее, его обнаружение вызвало опасения относительно лёгкости использования продвинутых чат-ботов, таких как Chat, в преступных целях. Существуют опасения, что более продвинутые и менее заметные ботнеты уже могут действовать.
Филиппо Менцер, профессор Университета Индианы в Блумингтоне, принимавший участие в исследовании, говорит: «Единственная причина, по которой мы заметили этот конкретный ботнет, заключается в том, что они были небрежными». Он подчеркивает, что «лучшие» злодеи, скорее всего, избегнут ошибок, допущенных создателями ботнета Fox8.
Организация OpenAI, стоящая за Chat, пока не прокомментировала обнаружение ботнета. Политика компании строго запрещает использование её ИИ-моделей для мошенничества или распространения дезинформации.
Чат-боты и другие продвинутые чат-боты используют обширные языковые модели для генерации текста в ответ на запросы. Благодаря достаточному количеству данных для обучения, вычислительной мощности и обратной связи от тестировщиков-людей эти боты могут реагировать впечатляюще сложными способами на самые разные входные данные. Однако они также способны распространять язык вражды, демонстрировать социальную предвзятость и фальсифицировать информацию.
Хорошо настроенный ботнет на основе чата будет сложно обнаружить, и он сможет эффективно обманывать пользователей и манипулировать алгоритмами социальных сетей. «Он обманывает и платформу, и пользователей», — говорит Менцер.
Опасения по поводу потенциального злоупотребления такими технологиями, как Chat, для проведения кампаний по дезинформации не новы. Из-за этих опасений OpenAI даже отложила выпуск предшественника Chat.
Уильям Ван, профессор Калифорнийского университета в Санта-Барбаре, считает крайне важным изучение реальных преступных способов использования чата. Он считает, что многие спам-страницы теперь генерируются автоматически, что значительно усложняет задачуcult для людей обнаружить такой материал. И с постоянным совершенствованием ИИ это будет только сложнее. «Ситуация довольно плохая», — заключает он.