Yapay zeka kendi kodunu yazıyor, evrimleşiyor. Anthropic’in raporu insanlığı alarma geçirdi. Önlem çağrıları artarken yatırımlar hız kesmiyor.
Yapay zeka teknolojilerinin kendi kodlarını yazarak insansız şekilde evrimleşebileceği bir eşiğe yaklaşması, uluslararası alanda önlem çağrılarını artırdı. ABD merkezli yapay zeka şirketi Anthropic, yayımladığı “When AI builds itself” başlıklı makalede, otonom yazılım döngülerinin kurulduğunu ve yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebildiği teorik eşiğin sanılandan çok daha yakın olduğunu belirtti.
Anthropic’in verilerine göre, Claude yazılım sisteminde entegre edilen kodların yüzde 80’inden fazlası doğrudan modelin kendisi tarafından yazıldı. Bu oranın 2025 yılı başında tek haneli rakamlarda olduğu vurgulandı. Şirket, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini belirtti.
Anthropic, yapay zekadaki gelişimi beş aşamaya ayırdı. İlk aşamada yapay zeka ile çalışma normal şirket işleyişine benziyor. İkinci aşamada (2023-2025) üretken yapay zekalardan yardım alınarak kod yazılıyor. Üçüncü aşamada (2025-2026) ajan yapay zekalar kendi kendine kod yazabilir hale geliyor.
Bugün gelinen dördüncü aşamada, yapay zeka ajanları kodları kendi başına çalıştırabiliyor ve işleri diğer yapay zekalara devredebilme yeteneği kazanıyor. Şirketin öngördüğü beşinci ve son aşamada ise ajanlar kendi başlarına modeller oluşturup eğitebilecek seviyeye ulaşacak. Bu durum, yapay zekanın gelecekteki sürümlerinin bizzat kendisi tarafından sürekli geliştirilmesine yol açacak.
Bu gelişmeler, dünya genelinde yapay zekanın durdurulması yönündeki çağrıları güçlendiriyor. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin de imzaladığı mektupta, GPT-4’ten daha güçlü sistemlerin eğitiminin en az altı ay süreyle durdurulması talep edilmişti. Mektupta, insan zekasıyla yarışan sistemlerin toplum, ekonomi ve demokrasi için derin riskler taşıdığı, dezenformasyon, kitlesel iş kayıpları ve medeniyetin kontrolünü kaybetme gibi senaryoların tehlikelerine dikkat çekilmişti.
Papa 14. Leo da Mayıs ayında yayımladığı genelgeyle yapay zekanın sadece teknik olarak durdurulmasını değil, aynı zamanda askeri, ekonomik ve bilişsel rekabetten arındırılarak silahsızlandırılmasını istedi. Ancak, yapay zeka alanındaki yatırımlar hızla artmaya devam ediyor. Gartner raporuna göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara, 2027’de ise 3,49 trilyon dolara ulaşması bekleniyor.
