Yapay zeka firması Anthropic neden Trump yönetimine meydan okuyor?

Savunma ve sivil kullanımlar için yapay zeka araçları geliştiren teknoloji şirketlerinden biri olan Anthropic ile Amerika Birleşik Devletleri hükümeti arasında gerginlik yaşanıyor.

Associated Press ve Reuters haber ajanslarının isimsiz kaynaklara dayandırarak bildirdiğine göre, ABD Savunma Bakanı Pete Hegseth, şirkete yapay zeka araçlarının Pentagon tarafından nasıl kullanılabileceğine ilişkin kurallarını gevşetmesi için Cuma gününe kadar süre verdi; aksi takdirde hükümet sözleşmesini kaybetme riskiyle karşı karşıya kalacak. Ancak Anthropic, teknolojisinin ABD iç gözetiminde kullanılmasını ve insan müdahalesi olmadan hedefleri vurabilen otonom silahların programlanmasını engelleyen güvenlik önlemlerinden geri adım atmayı reddediyor. Anthropic, 2021 yılında eski OpenAI yöneticileri tarafından kurulan bir yapay zeka şirketidir. Bu, ABD Savunma Bakanlığı tarafından gizli operasyonlarda kullanılan ilk yapay zeka geliştirme sistemiydi ve merkezi Washington DC'deki Pentagon'da bulunuyor. Anthropic, popüler büyük dil modeli (LLM) Claude'u geliştirmesiyle tanınır ve hızla en önde gelen yapay zeka geliştirme şirketlerinden biri haline gelmiştir. LLM, kitaplar, arşivler, web siteleri, resimler ve videolar gibi büyük veri kümelerini analiz ettikten sonra insanlar tarafından oluşturulan içeriğe benzer metin, görsel veya sesli çıktı üreten bir yapay zeka teknolojisi türüdür. Askeri ve savunma amaçlı kullanımda, LLM'ler büyük miktarda metni özetleyebilir, verileri analiz edebilir, çevirebilir, yazıya dökebilir ve notlar hazırlayabilir. Teorik olarak, insan talimatına ihtiyaç duymadan hedefleri belirleyip vurabilen otonom veya yarı otonom silah sistemlerini desteklemek için de kullanılabilirler. Bununla birlikte, çoğu yapay zeka şirketinin bu kullanımı yasaklayan şartları vardır. Ancak Trump yönetimi, bu yapay zeka şirketlerinin ürünlerini kısıtlama olmaksızın kullanabilmek istiyor.  Pentagon kullanım koşullarının 'gereğinden fazla kısıtlayıcı olduğunu' ve bu şartlarda çalışmayı imkansız kılacak her türlü gri alanın bulunduğunu savunuyor. Pentagon yetkilileri, Anthropic ve diğer üç büyük yapay zeka laboratuvarı (OpenAI, Google ve xAI) ile yapılan görüşmelerde, ordunun bu araçları 'tüm yasal amaçlar' için kullanabilmesi konusunda ısrar ediyor. Pentagon halihazırda sosyal medya paylaşımlarından gizli silah taşıma izinlerine kadar kişisel verileri toplayabiliyor ve yapay zekanın bu yetkiyi sivilleri hedef alacak şekilde daha da güçlendirebileceğine dair gizlilik endişeleri bulunuyor.  Anthropic CEO'su Dario Amodei daha önce de, hükümetin yapay zekayı kontrolsüz kullanmasının etik açıdan sakıncalı olduğuna dair endişelerini dile getirmişti; bu endişeler arasında tamamen otonom silahlı insansız hava araçlarının ve muhalefeti takip edebilecek yapay zeka destekli kitlesel gözetimin tehlikeleri de yer alıyordu. Geçen ay yazdığı bir makalede, "Milyonlarca insanın milyarlarca konuşmasını inceleyen güçlü bir yapay zeka, kamuoyunun duyarlılığını ölçebilir, sadakatsizlik odaklarının oluşumunu tespit edebilir ve büyümeden önce onları ortadan kaldırabilir" diye yazmıştı. Amodei, Salı günü katıldığı bir podcast yayınında Pentagon'un taleplerine boyun eğmeyi reddetmesinin nedenini açıklarken, "otonom insansız hava aracı sürüleri" (insan müdahalesi olmadan hedeflere saldırabilen otonom insansız hava araçları) ve kitlesel gözetim konusundaki endişelerini yineledi. Amodei, "Askeri yapılarımızdaki anayasal korumalar, tamamen otonom silahlarla yasa dışı emirleri çiğneyecek insanların var olduğu fikrine dayanıyor," dedi ve otonom insansız hava araçlarının böyle bir ayrım yapamayacağını belirtti. Üst düzey bir Pentagon yetkilisi ise, Pentagon'un Anthropic'in etik kısıtlamalarına itiraz ettiğini, çünkü askeri operasyonların yerleşik sınırlamaları olmayan araçlar gerektirdiğini söyledi. Yetkili, Pentagon'un yalnızca yasal emirler verdiğini ve Anthropic'in araçlarını yasal olarak kullanmanın ordunun sorumluluğu olduğunu vurguladı.