Yapay zeka bombası kontrol altına alınabilir mi?

"Aynı yapay zeka şirketi yani Anthropic, yapay zeka gelişiminin hızlanan temposu konusunda uyarıda bulundu"

Görsel: ChatGPT/Independent Türkçe 

Genelin kullanımına açık yapay zeka sürümleri bu zekanın ulaştığı son nokta mı?

İnsanların kullanımına sunulan sürümler yetenekleri ve hızıyla şaşırtıcı olsa da insanların henüz görmediği özel sürümler de mevcut!

Beyaz Saray, siber güvenlik yetenekleri ve en güvenli elektronik sistemlere nüfuz edebilme özelliği nedeniyle henüz genele sunulmayan Anthropic'in Mythos modelini onayladı. Kendisi şu anda sadece sınırlı sayıda kurumda kullanılıyor.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Aynı yapay zeka şirketi yani Anthropic, yapay zeka gelişiminin hızlanan temposu konusunda uyarıda bulundu.

En son modellerin insan kontrolünden çıkabileceğine dair işaretler göz önüne alındığında, en güçlü yapay zeka sistemlerinin geliştirilmesine geçici bir ara verilmesini önerdi.

Agence France-Presse'in (AFP) bildirdiğine göre, Cloud modelini geliştiren şirket, gelişmiş yapay zekanın geliştirilmesinde küresel bir yavaşlamanın muhtemelen olumlu bir şey olacağına inanıyor.

Araştırmacıların “tekrarlanan kendi kendini geliştirme” olarak tanımladığı bir mekanizma var; bu mekanizma sayesinde bir yapay zeka sistemi, büyük bir insan müdahalesi olmadan kendi kendine öğrenme yeteneği kazanıyor.

Bu alandaki önde gelen Amerikan şirketinin kendisine karşı uyardığı mekanizma da tam olarak bu.

Dahası Anthropic, yapay zekanın yayılmasını sınırlamak ve kontrolünü sağlamak için Nükleer Silahların Yayılmasını Önleme Anlaşması'na benzer uluslararası bir anlaşma çağrısında bulundu.

Ama örneğin Çin'i bunun için kim ikna edebilir?

Programcılar kapalı odalarda bu tehlikeli silahı geliştirirken bu durum nasıl kontrol altına alınabilir?

Onlar -Elon Musk, Anthropic ve diğerleri- bu korkunç programların askeri, istihbarat ve güvenlik uygulamalarına odaklanıyorlar; oysa dünya çapındaki işletim sistemleri ve veri depolama artık dijital alana bağımlı.

Bir ülkenin siber güvenlik kabiliyetleri ne kadar güçlü olursa olsun, bu sistemlerin ve verilerin saldırıya uğramayacağının garantisi nasıl verilebilir bilmiyorum.

Bu dünyadan bağımsız, bu dünyanın dışında yedeklemeler var mı?

Peki, eski formatta (kâğıt vb.) kopyaları bile var mı?

Bu meselenin bir yönü.

Diğeri ise gelecek nesillerin zihinlerini ve ruhlarını nasıl “normal” ve sağlıklı tutacağımızdır.
 


İnsanın analiz, sentez ve çözümleme alanlarındaki zihinsel ve bilişsel yeteneklerini nasıl koruyabiliriz?

İnsanlar, tıpkı hesap makinesinin zihinden hesaplama mekanizmasını geçersiz kıldığı gibi, yapay zeka lehine zihinlerini devre dışı bırakacaklar mı?

Ve bunun insan zihni üzerindeki etkisi hesap makinesi ile karşılaştırılabilir mi?

Bu nedenle, eğer bu şirketlerin liderleri ve büyük güçlerin yöneticileri arasında halen biraz akıl ve ahlak duygusu kalmışsa, insanlığın geleceğini korumak için küresel yönetişim, gerçek bir uluslararası komite ve yeni misafirimiz olan yapay zekayı yönetecek bir etik belge mutlak bir gereklilik haline gelmiştir.

 

 

*Bu makalede yer alan fikirler yazara aittir ve Independent Türkçe'nin editöryal politikasını yansıtmayabilir. 

Şarku'l Avsat

DAHA FAZLA HABER OKU