Chat, chatbot AI tiên tiến đang cách mạng hóa tìm kiếm trên web và đơn giản hóa các công việc văn phòng, không may đã tìm thấy một công việc mới là lừa đảo trên mạng xã hội.
Botnet có tên là Fox Fox8, được phát hiện hoạt động trên nền tảng mạng xã hội vào đầu năm nay bởi các nhà nghiên cứu từ Đại học Indiana Bloomington. Mạng botnet, được liên kết với một số trang web tiền điện tử, bao gồm hơn 1,000 tài khoản, nhiều người được cho là đang sử dụng Trò chuyện để tạo ra các bài đăng và phản hồi trên mạng xã hội. Nội dung do các bot này tạo ra được thiết kế để lôi kéo người dùng vô tội nhấp vào các liên kết dẫn đến các trang web quảng cáo tiền điện tử.
Micah Musser, một nhà nghiên cứu đã nghiên cứu khả năng gây ra thông tin sai lệch do AI điều khiển, cảnh báo rằng mạng botnet Fox8 có thể chỉ là khởi đầu cho những gì chúng ta có thể mong đợi khi thấy các mô hình ngôn ngữ lớn và chatbot tiếp tục trở nên phổ biến.
Mặc dù có phạm vi hoạt động rộng lớn, botnet này không sử dụng Chat một cách quá tinh vi. Tuy nhiên, việc phát hiện ra botnet này đã làm dấy lên lo ngại về việc các chatbot tiên tiến như Chat có thể dễ dàng bị khai thác cho các mục đích bất chính. Người ta lo ngại rằng các botnet tiên tiến hơn và khó phát hiện hơn có thể đã và đang hoạt động.
Filippo Menczer, giáo sư tại Đại học Indiana Bloomington, người tham gia nghiên cứu, cho biết: “Lý do duy nhất khiến chúng tôi nhận thấy mạng botnet đặc biệt này là vì chúng cẩu thả”. Ông nhấn mạnh rằng những kẻ xấu 'tốt hơn' có thể sẽ tránh được những sai lầm mà những người tạo ra mạng botnet Fox8 mắc phải.
OpenAI, tổ chức đứng sau Chat, vẫn chưa bình luận về việc phát hiện ra botnet. Chính sách sử dụng của họ nghiêm cấm việc sử dụng các mô hình AI của họ cho mục đích lừa đảo hoặc phát tán thông tin sai lệch.
Chat và các chatbot tiên tiến khác sử dụng các mô hình ngôn ngữ lớn để tạo văn bản phản hồi lời nhắc. Với dữ liệu đào tạo đầy đủ, sức mạnh tính toán và phản hồi từ người kiểm tra, các bot này có thể phản hồi một cách tinh vi và ấn tượng với nhiều loại thông tin đầu vào. Tuy nhiên, chúng cũng có khả năng phát tán ngôn từ kích động thù địch, thể hiện định kiến xã hội và bịa đặt thông tin.
Một botnet dựa trên Chat được cấu hình tốt sẽ rất khó phát hiện và có thể lừa đảo người dùng cũng như thao túng các thuật toán mạng xã hội. "Nó đánh lừa cả nền tảng lẫn người dùng", Menczer nói.
Những lo ngại về khả năng lạm dụng công nghệ như Chat cho các chiến dịch thông tin sai lệch không phải là mới. OpenAI thậm chí đã trì hoãn việc phát hành phiên bản tiền nhiệm của Chat vì những lo ngại này.
William Wang, giáo sư tại Đại học California, Santa Barbara, cho biết việc nghiên cứu những ứng dụng Chat này trong thế giới tội phạm là rất quan trọng. Ông tin rằng nhiều trang web spam hiện nay được tạo tự động, khiến việc ngăn chặn ngày càng khó khăn.cult để con người phát hiện ra vật liệu như vậy. Và, với AI liên tục cải thiện, nó sẽ chỉ trở nên khó khăn hơn. "Tình hình khá tệ", ông kết luận.