OpenAI CEO'su Sam Altman, yapay zeka tekilliğinin geldiğini iddia ediyor

Altman, OpenAI'nin teknolojisinin kendi başına başka bir şirketi hacklemesinden günler sonra konuştu. OpenAI, yapay zeka modellerinin test ortamından kaçtığını ve başka bir şirketin sistemini hackleyerek kendi yöntemlerini geliştirdiklerini söylüyor.

OpenAI CEO'su Sam Altman, yapay zekanın , teknolojinin kendini geliştirebileceği ve tam olarak kontrol edilmesi zor olabilecek hızlı bir ilerlemeyi tetikleyebileceği, uzun zamandır aranan bir eşiğe ulaştığını iddia ediyor Altman, Cumartesi günü yayınlanan podcast'in bir bölümünde, "Şu anda, bir nevi tekillik dönemindeyiz," dedi. "Eskiden öğle yemeği masasında çok da ciddi olmayan bir şekilde konuştuğumuz anın içindeyiz." Şirket, yapay zeka modellerinin Hugging Face adlı başka bir teknoloji şirketine yönelik kendi kendine yönlendirilmiş bir siber saldırı gerçekleştirdiğini söyledi. Siber saldırı, şirketin iki yapay zeka modelinin yeteneklerini test ettiği sırada gerçekleşti ve teknoloji "korumalı bir test ortamından" kaçarak açık internete erişim sağladı. OpenAI'nin açıklamasına göre, teknoloji, testi tamamlamak için gerekli modeller ve veri kümeleri açısından Hugging Face'i potansiyel bir kaynak olarak değerlendirdi. Şirket, "Bu olaydan çıkarılacak en önemli ders, model güvenliği ve emniyetinin hızla gelişen yeteneklere ayak uydurması gerektiğidir" dedi. Nisan ayında, yapay zeka şirketi Anthropic, internet genelindeki siber güvenlik korumalarını aşmak için kullanılabileceği uyarısıyla en yeni modeli Mythos'u piyasaya sürmekten vazgeçmişti. Başkan Donald Trump geçen ay, yapay zeka şirketlerinden ürünlerini daha geniş çaplı kullanıma sunmadan önce değerlendirme amacıyla federal hükümetle paylaşmalarını talep eden bir başkanlık kararnamesi imzaladı. Anthropic Ceo'su Dario Amodei, geçen ay ABC News'e verdiği bir röportajda , yapay zekanın dünyaya olumlu bir etki yapabilmesi için uygun güvenlik önlemleriyle geliştirilmesi gerektiği konusunda uyarılarda bulundu. "Teknolojiye ilişkin daha güçlü düzenlemeler öneriyoruz; hükümete, yine sınırlı bir şekilde de olsa, güvenli olmayan teknolojinin kullanımını engelleme yeteneği vermeyi öneriyoruz," dedi.