Anthropic'ten yapay zeka uyarısı: "Çok yakında kontrolü kaybedebiliriz"

Önde gelen yapay zeka şirketi Anthropic, Claude modeliyle ilgili endişe verici bir eğilimin sürmesi halinde, insanların çok yakın bir gelecekte yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskiyle karşı karşıya olduğu uyarısında bulundu.

Şirket, Claude'un artık kendi kodunun yüzde 80'inden fazlasını yazdığını açıkladı; bu oran geçen yıl şubatta yüzde 10'un altındaydı. Anthropic, Claude'un yazdığı kodun halihazırda insanların yazdığıyla neredeyse eşit seviyede olduğunu ve önümüzdeki yıl içinde çok daha iyi hale gelmesinin beklendiğini iddia ediyor. Anthropic'ten Marina Favaro ve Jack Clark perşembe günü yayımlanan blog yazısında, "Bu eğilim, kendi halefini tamamen özerk bir şekilde tasarlayıp geliştirebilen bir yapay zeka sistemine işaret ediyor" diye yazıyor. Kendini inşa edebilen yapay zeka, teknoloji tarihinde büyük bir gelişme anlamına gelir ve bilim, sağlık ve diğer alanlarda dünyaya muazzam fayda sağlayabilir. Ancak tamamen özyinelemeyle kendini geliştirme, insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilir. Anthropic, yapay zeka alanındaki ilerlemelerin yakın zamana kadar tamamen insan mühendis ve geliştiricilere dayandığını belirtiyor. Ancak şirket, ilerlemeyi hızlandırmak amacıyla yapay zekasının geliştirilmesini giderek daha fazla yapay zeka sistemlerine devrediyor. Bu gelişmeler Claude'u, insan müdahalesi olmadan kendini geliştirebileceği "özyinelemeli kendini geliştirme" yoluna sokuyor. Anthropic, potansiyel sonuçlarla başa çıkmak için daha fazla zaman kazanmak amacıyla teknolojinin gelişimini etkin bir şekilde yavaşlatmanın "muhtemelen iyi bir şey" olacağını da ekliyor. Yoğun jeopolitik baskılar ve rekabet ortamında yapay zekayı geliştirme sürecinin yavaşlatılması veya durdurulması, muhtemelen sektör genelinde konsensüsün yanı sıra siyasi işbirliğini de gerektiriyor. Anthropic'in gönderisinde, "Anlamlı bir yavaşlama veya duraklama için birçok ülkede iyi kaynaklara sahip, en ileri teknolojinin eşiğinde veya yakınında yer alan birden fazla laboratuvarın aynı koşullar altında durmayı kabul etmesi gerekiyor" ifadeleri kullanılıyor. Anthropic, kendi kendini geliştiren yapay zeka sistemlerine hazırlanmak için gelecek aylarda politika yapıcılar, araştırmacılar ve diğer yapay zeka şirketleriyle birlikte çalışmayı planladığını belirtiyor. Yapay zeka geliştirilmesine ara verilmesi yönünde böyle bir çağrı ilk kez yapılmıyor; ChatGPT'nin piyasaya sürülmesinin ardından 2023'te binlerce teknoloji uzmanı, yapay zeka eğitimine 6 aylık bir moratoryum uygulanmasını talep etmişti. Kâr amacı gütmeyen kuruluş Future of Life Institutes organizasyonuyla kaleme alınan açık mektupta, toplum genelinde yapay zeka üzerindeki kontrolün kaybedilmesi tehlikesine değinilmiş ancak ara verilmesi sağlanamamıştı.