OpenAI, bir gün kendi faaliyetlerini daha güvenli hale getirmek için yapay zekadan yararlanabileceğini ancak bunun için bir dizi acil değişiklik gerektiğini belirtiyor.

Şirket, "otomatik bir yapay zeka araştırmacısı" geliştirmek ve bu sistemi "hizalama sorunu" (yapay zekanın insanlığın etik değerleriyle uyumlu davranmasını sağlama güçlüğü) üzerinde çalışmak için kullanmak istediğini kamuoyuna açıkladı. OpenAI, "yapay zeka sistemleri daha yetenekli ve otonom hale geldikçe, özellikle de araştırma ve geliştirme süreçlerinin daha büyük bir kısmını yapay zeka üstlenmeye başladıkça, bu çalışmanın giderek daha önemli hale geldiğini" belirtti.

Şirketin bu yorumları, özellikle "yinelemeli kendi kendini geliştirme" (RSI) olasılığına dair endişeler bağlamında, yapay zekanın mevcut durumuna ilişkin daha kapsamlı bir açıklamanın parçası olarak geldi. Bu kavram, yapay zekanın kendisini eğitebildiği ve insan gözetimi yerine kendi çalışmaları sayesinde gelişebildiği aşamayı ifade ediyor.

OpenAI ve diğer yapay zeka şirketleri bunun geliştirme hızında muazzam bir artışa yol açabileceğini öne sürüyor. Şirket yayımladığı yeni yazıda, bu teknolojinin "insanların yaşamlarını doğrudan iyileştireceğini" ve "dünya genelindeki insanların faydalanabilmesi için gelişmiş zeka teknolojilerinin maliyetini düşürebileceğini" belirtiyor.

Ancak şirket, otomatikleştirilmiş araştırmaların tehlikeli yapay zekaya karşı mücadelede de yardımcı olabileceğini ifade etti. OpenAI, "Otomatikleştirilmiş araştırmalar, hizalamayı önemli ölçüde iyileştirmemize ve giderek daha yetenekli hale gelen yapay zekaya karşı savunma mekanizmaları oluşturmamıza yardımcı olabilir zira otomatik bir yapay zeka araştırmacısı, aynı zamanda otomatik bir yapay zeka güvenliği araştırmacısı da olabilir" diye yazdı.

Bununla birlikte şirket, böyle bir gelişmenin tehlikeli olabileceğini ve güvenli biçimde gerçekleştirilebileceği zamana kadar hayata geçirilmemesi gerektiğini belirtti.

Şirket şu uyarıda bulunuyor:

Gerekli özen ve dikkat gösterilmeden gerçekleştirilmesi halinde RSI, insanların yapay zeka geliştirme süreci üzerindeki fiili kontrolünü kaybetmesine ve artık anlayamadıkları araştırma süreçlerini denetleyemez hale gelmesine yol açabilir. Bundan sonra yapay zeka daha tehlikeli, insan değerleriyle daha az uyumlu ve genel anlamda insanlar için bir tehdit unsuru haline gelebilir.

Şirket bu durumun yaşanmasını önlemek ve yapay zekanın kendi üzerinde çalışmasına olanak tanıyacak güvenliği sağlamak amacıyla bir dizi koruyucu önlem alınması çağrısında bulundu. Özellikle iki hususun altını çizdi: Yapay zeka güvenliği ve koruyucu önlemler konusunda yeni ulusal ve uluslararası standartların oluşturulması ve risklerin daha iyi görülmesini sağlayacak yeni ölçütler ve olay bildirim protokolleri geliştirilmesi.

ABD yönetiminden "yapay zeka endüstrisi teknik açıdan en ileri noktada bulunduğu ve finans, ticaret, savunma, teknolojiyle bilgi sistemleri gibi kritik alanlarda küresel ağlarda hâlâ ayrıcalıklı bir konumda bulunduğu" gerekçesiyle bu çalışmalara öncülük etmesi istendi.

Son haftalarda aralarında CEO Sam Altman'ın da bulunduğu OpenAI çalışanları, Anthropic gibi diğer önde gelen araştırma şirketlerinin, yapay zekanın geliştirilmesini yavaşlatma ve güvenli kalmasını sağlayacak yeni düzenlemeler getirme çağrılarına destek verdi. Ancak ABD yönetimi bu çağrıları açıkça reddetti. Başkan Donald Trump, sözkonusu adımların ABD'yi geride bırakacağını ve Çin'in bu teknolojinin geliştirilmesinde liderliği ele geçirmesine olanak tanıyacağını öne sürdü.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir

independent.com/tech

Independent Türkçe için çeviren: Çağatay Koparal