Yapay zeka devi, başka bir yapay zeka tarafından hacklendi

ABD merkezli Cathedral, bir güvenlik testi kapsamında Anthropic’in kurum içi sistemlerine 12 saatten kısa sürede erişim yolları bulduğunu ileri sürdü.

Claude’un geliştiricisi Anthropic, siber güvenlik girişimi Cathedral’ın şirketin bazı kurum içi sistemlerine eriştiğini doğruladı. Dış araştırmacıların güvenlik açıklarını bildirmesini teşvik eden hata ödül programı kapsamında gerçekleştirilen testte, üçüncü taraf iş yazılımlarındaki açıklardan yararlanıldığı bildirildi. Cathedral’ın iddiasına göre, yapay zekâ ajanları 12 saatten kısa sürede toplantı dökümlerine, maaş ve iş teklifi bilgilerine, ayrıca kurum içi Slack mesajlarına ulaşılabilecek yollar buldu. Şirketin açıklaması, bu verilerin kamuya açık biçimde yayımlandığını değil, araştırmacıların erişimine açıldığını gösteriyor. Anthropic, erişimin satış, insan kaynakları ve bilişim teknolojileri sistemlerinden oluşan sınırlı bir alanı kapsadığını belirtti. Şirketin açıklamasına göre bu sistemlerde bazı müşteri ve iş ortaklarının iletişim bilgileri ile temel kullanıcı hesabı kayıtları bulunuyordu. Buna karşılık, kullanıcıların Claude’a gönderdiği mesajlara, modelin yanıtlarına, kaynak koduna ve model ağırlıklarına erişilmediği bildirildi. Anthropic ayrıca, aynı açıkların Cathedral dışındaki kişilerce kullanıldığına ilişkin bir kanıt bulunmadığını açıkladı. İlk olarak The Washington Post’un 26 Ekim tarihli haberinde gündeme gelen bulgular, şirketin idari ve satış süreçlerinde kullandığı üçüncü taraf yazılımlara odaklanıyor. Cathedral, ABD’de Hükümet Verimliliği birimi DOGE’nin eski çalışanları tarafından kurulan bir siber güvenlik girişimi olarak faaliyet gösteriyor. Anthropic’in açıklamasına göre, izleme sistemleri araştırmacıların bazı faaliyetlerini bildirim yapılmadan önce tespit etti ve erişim aynı gün kapatıldı. İlgili yazılımlar da sağlayıcılar açıkların giderildiğini doğrulayana kadar devre dışı bırakıldı.