Ang Chat, ang advanced na AI chatbot na nagbabago ng mga paghahanap sa web at nag-streamline ng mga gawain sa opisina, sa kasamaang-palad ay nakahanap ng bagong linya ng trabaho bilang isang social media scam artist.
Ang botnet, na kilala bilang "Fox8", ay natuklasang tumatakbo sa isang social networking platform mas maaga sa taong ito ng mga mananaliksik mula sa Indiana University Bloomington. Ang botnet, na naka-link sa ilang mga website ng cryptocurrency, ay binubuo ng mahigit 1,000 account, na pinaniniwalaan ng marami na gumagamit usap-usapan upang makabuo ng mga post at tugon sa social media. Ang nilalamang ginawa ng mga bot na ito ay idinisenyo upang akitin ang mga inosenteng user na mag-click sa mga link na humahantong sa mga site na nagpo-promote ng cryptocurrency.
Si Micah Musser, isang mananaliksik na nag-aral ng potensyal para sa disinformation na hinimok ng AI, ay nagbabala na ang Fox8 botnet ay maaaring simula pa lamang ng kung ano ang maaari nating asahan na makita habang ang malalaking modelo ng wika at mga chatbot ay patuloy na tumataas sa katanyagan.
Ang botnet, sa kabila ng malawak na abot nito, ay hindi gumamit ng Chat sa napaka sopistikadong paraan. Gayunpaman, ang pagtuklas ng botnet ay nagdulot ng mga alalahanin tungkol sa kadalian kung saan ang mga advanced na chatbots tulad ng Chat ay maaaring pinagsamantalahan para sa mga kasuklam-suklam na layunin. Pinangangambahan na ang mas advanced at hindi gaanong nakikitang mga botnet ay maaaring gumagana na.
Si Filippo Menczer, isang propesor sa Indiana University Bloomington na kasangkot sa pananaliksik, ay nagsabi, "Ang tanging dahilan kung bakit napansin namin ang partikular na botnet na ito ay dahil sila ay nanggigitata." Binibigyang-diin niya na malamang na maiiwasan ng mga 'mas mahusay' masamang aktor ang mga pagkakamaling ginawa ng mga tagalikha ng Fox8 botnet.
Ang OpenAI, ang organisasyon sa likod ng Chat, ay wala pang komento sa pagtuklas ng botnet. Mahigpit na ipinagbabawal ng kanilang patakaran sa paggamit ang paggamit ng kanilang mga modelo ng AI para sa mga scam o pagkalat ng disinformation.
Gumagamit ang chat at iba pang advanced na chatbots ng malalaking modelo ng wika upang bumuo ng text bilang tugon sa mga prompt. Sa sapat na data ng pagsasanay, computational power, at feedback mula sa mga human tester, ang mga bot na ito ay makakatugon sa napakahusay na sopistikadong paraan sa iba't ibang input. Gayunpaman, mayroon din silang potensyal na magpakalat ng mapoot na salita, magpakita ng mga pagkiling sa lipunan, at gumawa ng impormasyon.
Ang isang mahusay na na-configure na botnet na nakabase sa Chat ay magiging mahirap na tukuyin at maaaring epektibong linlangin ang mga user at manipulahin ang mga algorithm ng social media. "Nililinlang nito ang platform at ang mga gumagamit," sabi ni Menczer.
Ang mga alalahanin tungkol sa potensyal na maling paggamit ng teknolohiya tulad ng Chat para sa mga kampanya ng disinformation ay hindi na bago. Naantala pa ng OpenAI ang pagpapalabas ng isang nauna sa Chat dahil sa mga ganitong takot.
William Wang, isang propesor sa Unibersidad ng California, Santa Barbara, ay nagsabing mahalagang pag-aralan ang mga totoong-mundo na kriminal na paggamit ng Chat. Naniniwala siya na maraming mga spam na webpage ang awtomatikong nabubuo na ngayon, na ginagawa itong lalong difficult para makita ng mga tao ang naturang materyal. At, sa patuloy na pagpapabuti ng AI, lalo lang itong mahihirapan. "Ang sitwasyon ay medyo masama," pagtatapos niya.