Chat 是一款先進的人工智慧聊天機器人，它徹底改變了網路搜尋並簡化了辦公室任務，但不幸的是，它卻成為了社群媒體詐騙藝術家的新職業。
今年早些時候，印第安納大學伯明頓分校的研究人員發現該殭屍網路在社交網路平台上運行，被稱為「Fox8」。 該殭屍網路連結到多個加密貨幣網站，由 1,000 多個帳戶組成，其中許多帳戶據信正在使用 諮詢 產生社群媒體貼文和回覆。 這些機器人創建的內容旨在吸引無辜用戶點擊通往加密貨幣推廣網站的連結。
研究人工智慧驅動的假訊息潛力的研究員 Micah Musser 警告說，隨著大型語言模型和聊天機器人繼續流行，Fox8 殭屍網路可能只是我們預期看到的開始。
儘管該殭屍網路覆蓋範圍廣泛，但其利用聊天功能的方式並不複雜。儘管如此，該殭屍網路的發現引發了人們對類似聊天功能的高級聊天機器人可能被輕易用於惡意目的的擔憂。人們擔心，更先進、更難以偵測的殭屍網路可能已經在運作。
參與這項研究的印第安納大學伯明頓分校教授 Filippo Menczer 表示：“我們注意到這個特殊殭屍網路的唯一原因是它們很草率。” 他強調，「更好的」壞人可能會避免 Fox8 殭屍網路創建者所犯的錯誤。
Chat 背後的組織 OpenAI 尚未對殭屍網路的發現發表評論。他們的使用政策嚴格禁止使用其 AI 模型進行詐騙或傳播虛假訊息。
聊天機器人和其他高級聊天機器人使用大型語言模型來產生文字以回應提示。憑藉充足的訓練數據、強大的運算能力以及人類測試人員的回饋，這些機器人能夠以極其複雜的方式回應各種輸入。然而，它們也有可能傳播仇恨言論、展現社會偏見並捏造訊息。
一個精心配置的聊天殭屍網路很難識別，而且能夠有效地欺騙用戶並操縱社群媒體演算法。 「它既欺騙了平台，也欺騙了用戶，」Menczer 說。
人們擔心像 Chat 這樣的技術可能被濫用於虛假宣傳活動，這種擔憂由來已久。 OpenAI 甚至因為這種擔憂而推遲了 Chat 前身的發布。
加州大學聖塔芭芭拉分校教授威廉王表示，研究現實世界中聊天犯罪的用途至關重要。他認為，現在很多垃圾網頁都是自動產生的，這使得辨識聊天犯罪變得越來越困難。cult 讓人類能夠發現這種物質。而且，隨著人工智慧的不斷改進，它只會變得更加困難。 「情況非常糟糕，」他總結道。