Elon Musk ve Papa 14. Leo’nun “silahsızlandırma ve durdurma” çağrılarına rağmen, küresel yapay zeka harcamalarının bu yıl 2,59 trilyon dolara ulaşacak olması endişeleri artırıyor.
Yapay zeka teknolojilerinin kendi yazılımlarını üreterek insansız bir evrim sürecine girmesi, küresel ölçekte ciddi uyarıları beraberinde getiriyor. ABD merkezli yapay zeka şirketi Anthropic, yayımladığı “When AI builds itself” (Yapay zeka kendini ürettiğinde) başlıklı makalesiyle otonom yazılım döngülerinin kurulduğunu ve bir modelin kendi halefini tasarlayıp eğitebileceği teorik sınıra sanılandan çok daha yakın olunduğunu ilan etti.
Anthropic’in paylaştığı verilere göre, şirketin geliştirdiği Claude yazılım sisteminin üretim kod tabanına entegre edilen kodların %80’inden fazlası doğrudan modelin kendisi tarafından üretildi. Bu oranın 2025 yılının başlarında henüz tek haneli rakamlarda seyrettiği hatırlatılarak, yapay zekanın kendi kodunu yazma hızındaki devasa yükselişe dikkat çekildi.
Raporda yapay zeka alanındaki teknolojik ilerleme 5 temel döneme ayrılıyor:
1. Aşama: Sistem içerisinde çalışmanın standart bir şirketteki işleyişle benzer olduğu ilk süreç.
2. Aşama (2023-2025): Çalışanların kod yazarken üretken yapay zeka sistemlerinden destek aldığı dönem.
3. Aşama (2025-2026): Ajan yapay zekaların kendi kendine kod yazabilir hale geldiği evre.
4. Aşama (Mevcut Durum): Kodları kendi kendine çalıştıran ve iş süreçlerini diğer yapay zekalara devredebilen mevcut konum.
5. Aşama (Gelecek hedefi): Yapay zeka ajanlarının kendi başlarına yeni modeller oluşturup eğitebilecek seviyeye ulaşması. Bu aşamada sonraki sürümler tamamen yapay zekanın kendisi tarafından geliştirilecek.
Yapay zekanın kontrolsüz büyümesine karşı küresel düzeyde tepkiler de gecikmedi. Future of Life Institute (FLI) tarafından Mart 2023’te yayımlanan ve iş insanı Elon Musk’ın da imzaladığı mektupta, GPT-4’ten daha güçlü sistemlerin eğitiminin en az 6 ay süreyle durdurulması istenmişti. Mektupta; kitlesel iş kayıpları, dezenformasyon ve medeniyetin kontrolünü kaybetme riskine vurgu yapılmıştı.
Benzer bir çıkış da geçtiğimiz mayıs ayında Papa 14. Leo’dan geldi. Papa, “Magnifica Humanitas (Muhteşem İnsanlık)” genelgesiyle yapay zekanın askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak küresel olarak silahsızlandırılmasını talep etti.
