Yapay zekanın vaftiz babası diye bilinen öncü araştırmacı Geoffrey Hinton, güçlü yapay zeka sistemlerinin faaliyetlerini sınırlandırmaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısında bulundu.

Nobel ödüllü araştırmacı Hinton'ın da aralarında yer aldığı yaklaşık 400 bilim insanı, işletmelere ve hükümetlere felaket düzeyinde zarar verebilecek yapay zeka kaynaklı siber güvenlik olaylarını önlemeyi amaçlayan bir açık mektubu imzaladı.

Bu çağrı, çeşitli yapay zeka şirketlerinin kamuoyunda ses getiren güvenlik ihlallerini açıklamasının ardından geldi. Sözkonusu ihlaller, bir dizi deneysel OpenAI modelinin test ortamından kaçarak yazılım platformu Hugging Face'e saldırmasıyla başlamıştı.

Açık mektupta, "Yapay zekayı geliştirme ve kullanma uygulamalarında acil değişiklikler yapılmazsa, bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar, savunmasız durumdaki kritik altyapımıza çok daha fazla zarar verecek" ifadeleri yer alıyor.

Aşağıda imzası bulunan bilim insanları olarak biz, hem yapay zeka güvenliğine dair daha fazla araştırma yapılması hem de kontrol teknolojileri ve prosedürlerine daha fazla önem verilmesi gerektiğini savunuyoruz.

İmzacılar, gelecekteki yapay zeka risklerine karşı daha iyi koruma sağlamak için kuruluşlardan belirli adımlar atmalarını talep etti. Bu önlemler arasında "hava boşluğu" (airgapping) yöntemiyle deneysel modellerin internete erişiminin engellenmesi de yer alıyor.

Önerilen düzenleyici kurumun, yapay zeka sistemlerini kontrol altında tutmaya yönelik standartları belirlemesi ve şirketlerin güvenlik önlemlerindeki her türlü başarısızlığı "ders çıkarılması ve hesap verebilirliğin sağlanması amacıyla" bildirmesini zorunlu kılması öngörülüyor.

Mektup, Beş Göz istihbarat kurumlarının ortak açıklaması da dahil, küresel düzeyde yapay zeka güvenlik önlemlerinin artırılmasına yönelik pek çok çağrının ardından geldi.

Avustralya, Kanada, Yeni Zelanda, Birleşik Krallık ve ABD istihbarat kurumlarının haziranda yayımladığı açıklamada, "Kuruluş ve toplumların topyekun katılımıyla bir yanıt verilmesi gerekiyor" ifadeleri kullanılmıştı.

Siber risk artık yalnızca teknik bir sorun olarak ele alınamaz. Bu, işletmelerin karşı karşıya olduğu temel risklerden biri ve yöneticilerin sorumluluğunda.

Anthropic, OpenAI, Google ve Meta gibi ABD'nin önde gelen yapay zeka geliştiricileri, gönüllü güvenlik önlemleri almayı taahhüt ettikleri bir anlaşmayı geçen ay Beyaz Saray'da imzalamış ancak resmi bir mekanizma üzerinde mutabakata varılmamıştı.

ABD Başkanı Donald Trump, sektör genelinde güvenlik kuralları getirilmesi yönündeki çağrılara direnerek aşırı düzenlemenin, ABD'deki gelişmeyi yavaşlatıp Çin'in küresel yapay zeka yarışında avantaj elde etmesine yol açabileceğini öne sürüyor.

Profesör Hinton, salı günü Guardian'a verdiği röportajda Başkan Trump'ı yapay zeka hakkında hiçbir şey bilmeyen "yozlaşmış, bunak bir suçlu" diye tanımlamıştı.

Hinton, "Eminim petrol ve asbest şirketleri de [kendi kendilerini düzenlemeyi] isterdi" demişti.

Tütün şirketlerinin, paketlerin üzerindeki uyarıları tasarlamasına izin verilmesi gerektiğini mi düşünüyoruz?

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç