Web aramalarında devrim yaratan ve ofis işlerini kolaylaştıran gelişmiş yapay zeka sohbet robotu Chat, ne yazık ki sosyal medya dolandırıcılığı alanında yeni bir iş kolu buldu.
"Fox8" olarak bilinen botnet, bu yılın başlarında Indiana University Bloomington'dan araştırmacılar tarafından bir sosyal ağ platformunda çalışırken keşfedildi. Birkaç kripto para birimi web sitesine bağlı olan botnet, çoğunun kullandığına inanılan 1,000'den fazla hesaptan oluşuyordu. sohbet sosyal medya gönderileri ve yanıtları oluşturmak için. Bu botlar tarafından oluşturulan içerik, masum kullanıcıları kripto para birimini tanıtan sitelere yönlendiren bağlantılara tıklamaya ikna etmek için tasarlandı.
Yapay zeka güdümlü dezenformasyon potansiyelini araştıran bir araştırmacı olan Micah Musser, büyük dil modelleri ve sohbet robotlarının popülaritesi artmaya devam ettikçe Fox8 botnet'in görmeyi bekleyebileceğimiz şeyin sadece başlangıcı olabileceği konusunda uyarıyor.
Botnet, geniş kapsamına rağmen, Chat'i çok gelişmiş bir şekilde kullanmıyordu. Bununla birlikte, botnet'in keşfi, Chat gibi gelişmiş sohbet robotlarının kötü niyetli amaçlar için ne kadar kolay istismar edilebileceği konusunda endişeleri artırdı. Daha gelişmiş ve daha az tespit edilebilir botnet'lerin halihazırda faaliyette olabileceğinden endişe ediliyor.
Araştırmaya katılan Indiana University Bloomington'da profesör olan Filippo Menczer, "Bu özel botnet'i fark etmemizin tek nedeni özensiz olmalarıydı" diyor. "Daha iyi" kötü oyuncuların Fox8 botnet'in yaratıcıları tarafından yapılan hatalardan muhtemelen kaçınacağını vurguluyor.
Chat'in arkasındaki kuruluş olan OpenAI, botnet'in keşfi hakkında henüz bir yorum yapmadı. Kullanım politikaları, yapay zeka modellerinin dolandırıcılık veya dezenformasyon yayma amacıyla kullanılmasını kesinlikle yasaklıyor.
Sohbet ve diğer gelişmiş sohbet robotları, komutlara yanıt olarak metin oluşturmak için büyük dil modelleri kullanır. Yeterli eğitim verisi, hesaplama gücü ve insan test uzmanlarından gelen geri bildirimlerle, bu robotlar çeşitli girdilere etkileyici derecede karmaşık yöntemlerle yanıt verebilir. Ancak, aynı zamanda nefret söylemi yayma, toplumsal önyargılar sergileme ve bilgi üretme potansiyeline de sahiptirler.
İyi yapılandırılmış bir Sohbet tabanlı botnet'i tespit etmek zor olabilir ve kullanıcıları etkili bir şekilde aldatıp sosyal medya algoritmalarını manipüle edebilir. Menczer, "Hem platformu hem de kullanıcıları kandırıyor," diyor.
Chat gibi teknolojilerin dezenformasyon kampanyaları için kötüye kullanılabileceği yönündeki endişeler yeni değil. Hatta OpenAI, bu tür korkular nedeniyle Chat'in öncülünün piyasaya sürülmesini bile erteledi.
Kaliforniya Üniversitesi, Santa Barbara'da profesör olan William Wang, Sohbet'in gerçek dünyadaki suç amaçlı kullanımlarını incelemenin çok önemli olduğunu söylüyor. Birçok spam web sayfasının artık otomatik olarak oluşturulduğuna ve bu durumun giderek daha zor hale geldiğine inanıyor.cult insanların bu tür materyalleri tespit etmesi için. Ve AI sürekli olarak geliştikçe, bu daha da zorlaşacak. "Durum oldukça kötü," diye sonlandırıyor.