Yapay zekanın insan müdahalesi olmadan kendi halefini üretme potansiyeline yaklaşması, küresel çapta 'yapay zekanın gelişimine ara verilmesi' çağrılarını yeniden gündeme getirdi. Son olarak Anthropic’in yayımladığı değerlendirme, yapay zekanın yazılım geliştirme süreçlerinde giderek daha otonom hale gelmesinin, sektör ve regülasyonlar açısından yeni bir döneme işaret ettiğini ortaya koyuyor.
Kod Yazabilen Yapay Zekadan Otonom Geliştirme Ajanlarına
Anthropic’in 'When AI builds itself' başlıklı çalışmasında, yapay zekanın yalnızca insanlara yanıt veren bir araç olmaktan çıkarak, kod yazan, kod çalıştıran ve başka yapay zeka ajanlarına görev devreden sistemlere evrildiği vurgulanıyor. Şirketin verilerine göre, Mayıs 2026 itibarıyla Anthropic’in kod tabanına birleştirilen kodun yüzde 80’den fazlası Claude adlı yapay zeka modeli tarafından yazıldı. Bu oran, Claude Code’un Şubat 2025’te araştırma ön izlemesine sunulmasından önce düşük tek haneli seviyelerdeydi. Anthropic, 2026’nın ikinci çeyreğinde tipik bir mühendisin 2024’e kıyasla günde 8 kat daha fazla kod birleştirdiğini belirtiyor. Ancak şirket, kod satırı sayısının kaliteyi ölçmediğini ve bu artışın gerçek üretkenliği abartabileceğini özellikle vurguluyor.
Recursive Self-Improvement ve Risk Tartışmaları
Yapay zekanın kendi kendini geliştirme süreci, 'recursive self-improvement' olarak adlandırılıyor. Bu kavram, bir yapay zeka sisteminin kendi mimarisini, eğitim sürecini veya halef modelini iyileştirme döngüsüne giderek daha fazla katılması anlamına geliyor. Anthropic, tam anlamıyla bu aşamaya henüz ulaşılmadığını ve bunun kaçınılmaz olmadığını belirtiyor. Ancak mevcut eğilimlerin, kurumların hazırlık kapasitesinden daha erken bir eşiğe ulaşılabileceği uyarısı, sektör ve kamuoyu nezdinde dikkat çekiyor. Özellikle yazılım geliştirme, siber güvenlik ve bilimsel araştırma gibi alanlarda yapay zekanın üretkenliği artırma potansiyeli büyük fırsatlar sunarken, denetim, güvenlik testi ve hesap verebilirlik gibi konularda yeni riskler ortaya çıkıyor.
Küresel Düzeyde Durdurma ve Yavaşlatma Çağrıları
Yapay zekanın gelişimine ara verilmesi yönündeki çağrılar, son yıllarda farklı aktörler tarafından gündeme getirildi. Mart 2023’te Future of Life Institute, GPT-4’ten daha güçlü sistemlerin eğitiminin en az 6 ay durdurulmasını talep eden bir açık mektup yayımladı. Center for AI Safety ise yapay zekadan kaynaklanan yok oluş riskini pandemi ve nükleer savaş gibi küresel öncelikler arasında ele alınması gerektiğini vurguladı. Kasım 2023’te düzenlenen AI Safety Summit’in ardından yayımlanan Bletchley Declaration, frontier AI risklerinin uluslararası işbirliğiyle yönetilmesi gerektiğine dikkat çekti. Anthropic ise tek taraflı bir duraklamanın sınırlı etkili olacağını, anlamlı bir yavaşlama veya geçici duraklamanın birden çok ülkedeki frontier laboratuvarlarının aynı koşullarda ve doğrulanabilir şekilde hareket etmesini gerektirdiğini belirtiyor.
Düzenleyici ve Ekonomik Gerilimler
Yapay zekanın hızla gelişmesi, düzenleyici kurumların da dikkatini çekiyor. AB Yapay Zeka Yasası, 1 Ağustos 2024’te yürürlüğe girerek genel amaçlı yapay zeka modelleri ve sistemik risk taşıyan sistemler için belge, risk azaltma ve bildirim yükümlülükleri getirdi. Bu düzenlemeler, 2025-2027 döneminde kademeli olarak devreye giriyor. Ancak sektörün yatırım iştahı azalmış değil. Gartner’ın Mayıs 2026 tahminine göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara ulaşması ve yıllık yüzde 47 artması bekleniyor. Bu ekonomik büyüklük, duraklatma çağrıları ile yatırım gerçekliği arasındaki gerilimi gözler önüne seriyor.
Yapay zekanın geldiği nokta, yalnızca teknoloji şirketlerinin değil, etik ve toplumsal aktörlerin de gündeminde. Mayıs 2026’da Papa Leo XIV’in yayımladığı 'Magnifica humanitas' metni, yapay zekanın savaş, dışlama ve tahakküm mantığından arındırılması gerektiğine dikkat çekerek tartışmayı teknik düzeyin ötesine taşıdı. Önümüzdeki dönemde, yapay zekanın kendi kendini geliştirme potansiyeli ve buna karşı alınacak önlemler, hem teknoloji dünyasında hem de uluslararası düzeyde tartışılmaya devam edecek.