araştırmacıları tarafından yürütülen yakın tarihli bir çalışma, University of East Anglia İngiltere'deki bir araştırma, OpenAI'nin Chat özelliğinde gizli olası bir siyasi önyargıya ışık tuttu. Bu keşif, yapay zeka şirketlerinin, özellikle de bu botlar dünya çapında milyonlarca kullanıcının hayatının ayrılmaz bir parçası haline geldikçe, botlarının davranışlarını kontrol etmede karşılaştıkları devam eden zorlukları gözler önüne seriyor.
Çalışmada Chat, ABD, Birleşik Krallık ve Brezilya'daki liberal partilerin destekçilerine odaklanarak siyasi inançları üzerine bir ankete tabi tutuldu. Elde edilen yanıtlar, herhangi bir yönlendirme olmadan oluşturulan yanıtlarla karşılaştırıldı ve tutarlı ve belirgin bir siyasi önyargı ortaya çıktı. Araştırma, özellikle ABD'de Demokratlara, Brezilya'da Lula'ya ve Birleşik Krallık'ta İşçi Partisi'ne yönelik belirgin bir eğilimi vurgulayarak, yanıtlarında sistematik bir önyargı olduğunu gösterdi.
Bu bulgular, tasarım aşamasında önyargıları ortadan kaldırmak için gösterilen yoğun çabalara rağmen, Chat gibi yapay zeka sohbet robotlarının, eğitildikleri geniş veri havuzunda bulunan varsayımları, inançları ve klişeleri kaçınılmaz olarak özümsediğini belirten giderek artan sayıda araştırmayı yansıtıyor.
Bu sorun, özellikle sohbet robotları günlük rutinlere giderek daha fazla entegre oldukça alakalı hale geliyor. Amerika Birleşik Devletleri 2024 başkanlık seçimlerine hazırlanırken, sohbet robotları insanların hayatlarında basit yardımın ötesinde roller üstleniyor, belgelerin özetlenmesine yardımcı oluyor, soruları yanıtlıyor ve hatta profesyonel ve kişisel yazma görevlerine katkıda bulunuyor. Arama sorgularını doğrudan ele almak için sohbet robotlarını kullanan Google gibi platformlar ve içerik oluşturmak için bunları kullanan siyasi kampanyalar, halkın algısı ve hatta seçim sonuçları üzerindeki potansiyel etki endişeleri artırıyor.
Chat, kullanıcılarına yönelik siyasi görüş veya önyargı içermediğini iddia etse de, çalışmanın baş yazarı Fabio Motoki aksini iddia ediyor. Keşfedilen önyargılar, kamuoyunun güvenini zedeleyebilir ve siyasi süreçler üzerinde istenmeyen etkilere yol açabilir.
Meta, Google ve OpenAI dahil olmak üzere büyük AI şirketlerinden bu bulgularla ilgili yanıtlar henüz alınmadı. OpenAI daha önce AI modellerinde tespit edilen herhangi bir önyargının kasıtlı olmadığını ve kasıtlı bir özelliğin göstergesi olmadığını belirtmişti.
Bu çalışma, özellikle üretken sohbet robotları çağında, yapay zeka modellerindeki önyargıları azaltmanın karmaşık zorluğunu vurgulamaktadır. Chat, Google'ın Bard'ı ve Microsoft'un Bing'i de dahil olmak üzere bu sohbet robotları, internetten gelen verileri kapsamlı bir şekilde işleyen geniş dil modelleri üzerine kuruludur. Sonuç olarak, çevrimiçi ortamda yaygın olan önyargıları ve bakış açılarını yansıtma eğilimindedirler.
Dahası, bu sohbet robotları siyaset, teknoloji ve sosyal medyayı kapsayan tartışmaların odak noktası haline geldi. Hatta Chat bile, piyasaya sürülmesinden kısa bir süre sonra, liberal bakış açılarını desteklediği iddialarıyla taraflılık iddialarıyla karşı karşıya kaldı. Bu durum, teknoloji ve sosyal medya platformlarının siyasi sonuçları ve toplumsal kutuplaşmayı nasıl etkileyebileceği konusundaki daha geniş tartışmayı gün yüzüne çıkarıyor.
Sohbet robotları çevrimiçi etkileşimlerde daha fazla yer edindikçe, çıktıları toplumda gözlemlenen mevcut kutuplaşmayı daha da artırabilir. Giderek daha fazla bot tarafından üretilen içerik tarafından şekillendirilen bilgi ortamı, istemeden de olsa bir kutuplaşma geri besleme döngüsüne katkıda bulunabilir.
Bu sorunların giderilmesine yönelik çalışmalar devam etmektedir. Araştırmacılar, chatbot yanıtlarındaki önyargıları tespit etmek ve azaltmak için aktif olarak yöntemler araştırıyorlar. Önerilen bir yaklaşım, önyargılı dili tanımlayan ve onu tarafsız alternatiflerle değiştiren ek bir katman içerir. Bununla birlikte, internetin genişleyen doğası ve kapsadığı önyargıların karmaşık dokuması göz önüne alındığında, mükemmel bir tarafsızlığa ulaşmak zor bir hedef olmaya devam ediyor.
Sonuç olarak, çalışma yapay zeka önyargılarının inceliklerine ve bunların siyasi söylem ve karar verme üzerindeki potansiyel etkilerine ışık tutuyor. Araştırma, yapay zeka teknolojisinin heyecan verici olanaklar sunarken istenmeyen sonuçları yönetme konusunda da önemli sorumluluklar taşıdığını hatırlatıyor. Yapay zeka gelişmeye devam ettikçe, teknolojik ilerleme ile etik hususlar arasında bir denge bulmak çok önemli bir zorluk olmaya devam edecek.