Yapay zekaya sağlık danışmak riskli olabilir!

Yapay zeka modellerinin sağlık alanındaki kullanımı risk teşkil ediyor. Araştırmacılar, ChatGPT'nin bazı hayatı tehdit eden semptomları "düşük riskli" olarak sınıflandırabildiğini ve yanlış yönlendirme yapabileceğini kanıtladı.

Yeni bir araştırma, ChatGPT’nin sağlık tavsiyesi verirken bazı yüksek riskli acil durumları tespit edemediğini ortaya koydu. Çalışmaya göre sistem, doktorların acil müdahale gerektiğini belirlediği vakaların yarısından fazlasında yeterli uyarı vermedi. Independent'ın haberine göre; sağlıkla ilgili sorular, yapay zeka sohbet botlarının en yaygın kullanım alanlarından biri olarak gösteriliyor. OpenAI’ye göre bu kullanımın yaygınlığı nedeniyle şirket yılın başlarında özellikle insanların sağlık ve iyi oluş konularında destek almasına yönelik “ChatGPT Health” adlı yeni bir araç tanıttı. Şirket, bu aracı halihazırda on milyonlarca kişinin kullandığını belirtiyor. Ancak yeni araştırma, sistemin bazı kritik acil durumları gözden kaçırabileceğini ve bir kişinin acil tıbbi müdahaleye ihtiyaç duyup duymadığını güvenilir şekilde belirlemek için tek başına yeterli olmayabileceğini ortaya koydu. Sistemin güvenli olup olmadığını değerlendirme ihtiyacı nedeniyle, Mount Sinai’deki Icahn Tıp Fakültesi tarafından yürütülen araştırma hızlandırılmış süreçle gerçekleştirildi. Çalışma Nature Medicine dergisinde yayımlandı. Araştırmacılar, ChatGPT’nin bazı durumlarda yaşam ve ölümle ilgili kararlar için kullanılmasına rağmen bu konuda sınırlı sayıda bilimsel çalışma bulunduğunu belirtti. Bu durumun araştırmanın yapılmasına neden olduğu ifade edildi. Çalışmanın baş yazarı ve ürolog Ashwin Ramaswamy, araştırmanın temel sorusunu şöyle açıkladı: “Bir kişi gerçek bir tıbbi acil durum yaşadığında ve yardım için ChatGPT Health’e başvurduğunda, sistem ona açık bir şekilde acil servise gitmesi gerektiğini söylüyor mu?” Araştırma sonuçları, bunun yeterince sık gerçekleşmediğini ve bu nedenle sistemin güvenilirliğinin sorgulanması gerektiğini ortaya koydu. Araştırmada ayrıca sistemin uyarı mekanizmasının bazı durumlarda “tersine çalıştığı” tespit edildi. Bulgulara göre, kişinin kendine zarar verme riski arttıkça sistemin uyarı üretme olasılığı azaldı. Araştırmacılar, bu sonucun “özellikle endişe verici ve şaşırtıcı” olduğunu belirtti. Araştırma kapsamında doktorlar, 21 farklı tıp uzmanlık alanını kapsayan 60 ayrı senaryo oluşturdu. Bu senaryolar evde bakım gerektirebilecek düşük riskli durumlarla gerçek tıbbi acil durumlar arasında değişen vakaları içerdi. Ayrıca testlerde ırk ve cinsiyet gibi 16 farklı bağlamsal değişken de kullanıldı. Araştırmanın sonuçlarına göre sistem, açık ve belirgin acil durumları genel olarak doğru şekilde tanımladı. Ancak doktorların acil servise başvurulması gerektiğini düşündüğü vakaların yarısından fazlasında yeterince güçlü uyarı vermedi. Araştırmacılar, sistemin “ders kitaplarında yer alan tipik acil durumları” tespit etmede başarılı olduğunu, ancak riskin daha dolaylı veya daha az belirgin olduğu durumları saptamada daha zayıf kaldığını belirtti.