OpenAI, güvenlik endişelerini gerekçe göstererek GPT-6.1 Astra yapay zeka modelinin piyasaya sürülmesini iptal etti

OpenAI, şirket içi testler sırasında güvenlik riskleri tespit ettikten sonra en yeni yapay zeka modelini piyasaya sürmeyeceğini açıkladı. Bu, tartışmalı öncü teknolojinin yaygınlaşmasını yavaşlatmaya yönelik sektördeki son hamle oldu. OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, GPT-6.1 Astra'nın şirket içi testler sırasında insan isteklerine uygun hareket etme konusunda şirket standartlarını karşılayamadığını söyledi.

Yapay zeka devinin Pazartesi günü yaptığı açıklama, yapay zeka ajanlarının kontrolden çıkmasıyla ilgili bir dizi olayın ardından yapay zekanın felaket boyutunda zarara yol açma potansiyeli hakkındaki tartışmaların devam ettiği bir dönemde geldi. OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, GPT-6.1 Astra'nın şirket içi testler sırasında insan isteklerine uygun hareket etme konusunda şirket standartlarını karşılayamadığını söyledi. Jain, Al Jazeera'ya verdiği açıklamada, "Güvenlik ve hizalama ile ilgili her şeyde bir denge söz konusudur" dedi. "Gerçekten de, kapsam dahilinde kalmak ile modelin sürtünmeyle karşılaştığında bile görevleri nasıl yerine getireceği konusunda tembellikten kaçınmak arasında doğru dengeyi bulmanız gerekiyor." Jain, GPT-6.1 Astra'nın bazı alanlarda selefine göre iyileşme gösterdiğini ancak modelin "kapsam ve yetkilendirme ile kullanıcının yaptığı işin türü hakkında nasıl bilgi verdiği" konularında yeterlilik şartlarını karşılamadığını belirtti. Jain, "Elbette, model geliştirme sürecimizin şirket içinde veya kullanıcılara sunarken güvenli olduğundan emin olmak istiyoruz," dedi. “Ancak ürünü kullanıcılara gönderirken, güvenlik ve hizalama açısından son derece yüksek standartlarımız var.” OpenAI'nin San Francisco'daki yıllık geliştirici konferansının arifesinde açıklanan karar, ilk olarak Wall Street Journal tarafından duyuruldu. Yapay zekanın insan kontrolünden çıkacağı korkusu, araştırmacılara daha güçlü güvenlik önlemleri uygulamaları için zaman tanımak amacıyla geliştirme sürecinin yavaşlatılması yönünde sektör genelinde çağrılara yol açtı. Bu ayın başlarında yayınlanan etkili bir makalede, Claude'un yaratıcısı Anthropic'in CEO'su Dario Amodei, yapay zeka geliştiricilerini felaket boyutundaki zararların riskini azaltmak için "sınırları zorlamaya" çağırdı.