Chat'in ana kuruluşu olan OpenAI, 'süper zekâ' bilmecesini çözerek muazzam bir başarının eşiğinde görünüyor. Ancak bu potansiyel atılım, insanlığın geleceği için derin sonuçlar doğuruyor.
OpenAI'nin kurucu ortağı ve CEO'su Sam Altman'ın ani bir şekilde görevden alınması ve ardından yeniden atanması teknoloji dünyasında çokça tartışılan bir konu oldu. Bu hareketin katalizörü hakkında yeni fikirler ortaya çıkmaya devam ediyor ve The Information'ın bir raporu, iç karışıklığı Generative AI'daki önemli bir ilerlemeye bağlıyor. Bu gelişme, bu on yıl içinde veya daha da erken bir zamanda 'süper zekanın' ortaya çıkmasının önünü açabilir.
'Süper zeka', terimin de belirttiği gibi, insan yeteneklerini aşan bir zekayı ifade eder. Doğal olarak, yeterli koruma önlemleri olmadan bu tür bir zekaya sahip bir yapay zeka sisteminin oluşturulması ciddi endişelere yol açmaktadır.
Yönetim kurulunda da görev alan OpenAI Baş Bilim İnsanı Ilya Sutskever'in bu çığır açan girişime öncülük ettiği söyleniyor. Yapay zekanın daha temiz, bilgisayar tarafından üretilen verileri kullanarak benzeri görülmemiş sorunları ele almasını sağlıyor. Bu, yapay zekanın aynı sorunun birden fazla yinelemesi üzerinde eğitilmediği, ancak doğrudan eldeki sorunla ilgili olmayan bilgiler üzerinde eğitildiği anlamına geliyor. Sorunları bu şekilde çözmek, genellikle matematiksel veya bilimsel olanlar, akıl yürütmeyi gerektirir; bu, genellikle yapay zeka ile ilişkilendirilmeyen bir insan özelliğidir.
Sohbet, OpenAI'nin amiral gemisi ürünüdür GPT geniş dil modeli (LLM), görünürdeki zekâsı göz önüne alındığında, yanıtlarını formüle etmek için akıl yürütme kullandığı izlenimi verebilir. Ancak, Chat ile daha yakın bir etkileşimde bulunulduğunda, işlediği muazzam miktardaki veriden öğrendiklerini papağan gibi tekrarladığı ve sorgunuzla ilgili tutarlı cümleler kurma konusunda çoğunlukla doğru tahminlerde bulunduğu ortaya çıkar. Burada akıl yürütme devreye girmez.
The Information, Altman'ın yakın zamanda düzenlenen bir konferansta "kişisel bir not olarak, son birkaç haftadır, cehalet perdesini aralayıp keşif sınırlarını ileriye taşıdığımız bir odada bulunma fırsatı buldum" diyerek ima ettiği bu atılımın OpenAI'da şok dalgaları yarattığını öne sürüyor.
Tehdidi Ele Alma
Chat şu anda süper zekaya dair hiçbir belirti göstermese de, OpenAI'nin bu gücün bir kısmını GPT-4 Turbo ve gelecekteki 'akıllı ajanlar' gibi premium ürünlerine entegre etmek için adımlar attığı muhtemel.
Başlangıçta Sutskever tarafından desteklenen son yönetim kurulu eylemleri ile süper zeka atılımı arasında bir bağlantı kurmak abartılı görünebilir. Bildirilen atılım aylar önce gerçekleşti ve Sutskever ile bir diğer OpenAI bilim insanı Jan Leike'yi süper zeka için güvenlik önlemleri tasarlamakla görevli 'Superalignment' adlı yeni bir OpenAI araştırma grubu kurmaya yöneltti.
İlginç bir şekilde, süper zekanın geliştirilmesine öncülük eden şirket aynı zamanda bizi ondan koruyacak mekanizmalar da inşa ediyor; bu, Doktor Frankenstein'ın köylüleri alev silahlarıyla silahlandırmasını anımsatıyor.
Raporda belirsiz kalan şey, süper istihbarata doğru hızlı ilerlemeyi çevreleyen iç endişelerin doğrudan Altman'ın görevden alınmasına yol açıp açmadığıdır. Belki de genel şemaya göre bunun alakası yoktur.
Mevcut durumda Altman, OpenAI'daki görevine geri dönme yolunda, yönetim kurulu yeniden yapılandırıldı ve süper zekayı geliştirme ve ona karşı korunma arayışı devam ediyor.
Bu gelişmeleri kafa karıştırıcı bulanlar için, açıklama için Chat'e katılmak aydınlatıcı olabilir.