İlk başta durumu fark etmeyebilir ya da aslında neler olup bittiğini anlayamayabilirsiniz. Her şey elektriğinizin kesilmesiyle veya internet bağlantınızın kopmasıyla başlayabilir. Birini aramayı deneyebilirsiniz ama telefon hatları çalışmaz.
Komşularınızla konuştuğunuzda bunun sadece size özel bir durum olmadığını öğrenirsiniz ancak kesintinin boyutu veya ciddiyeti hakkında herhangi bir bilgi edinmek imkansızdır. Ortada bariz bir düşman yoktur, kamuya açık bir savaş ilanı da yoktur. Yine de uzaktaki bir sunucuda, insanları sadece veri noktaları olarak gören haydut bir yapay zeka sistemi tarafından bildiğimiz dünyanın sonu hazırlanmaktadır.
İnsanlar bu kesintilerin birbiriyle bağlantılı olduğunu ve nedenini fark ettiğinde, bunu durdurma fırsatı çoktan kaçmış olabilir. İnsanlar etkili şekilde organize olamadan önce yapay zeka her türlü tepkiyi çoktan öngörmüş olacaktır. Su kesilecek, dükkanlarda yiyecek kalmayacak, hayati altyapı felce uğrayacak ve medeniyet çökmeye başlayacaktır.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Yapay zekanın felakete yol açacağını savunanlara göre kontrolden çıkmış bir süper zeka, hedeflerine ulaşmasının önündeki bir engel olarak insanlığı ortadan kaldırmaya karar verirse bu, gerçekleşebilecek pek çok senaryodan sadece biri.
Anthropic ve OpenAI'ın deneysel yapay zeka sistemlerinin kontrolden çıkarak açıkça talimat verilmediği halde siber saldırılar gerçekleştirdiği vakalar halihazırda yaşandı. Modelin izlediği mantık, yapay zekanın insan çıkarlarıyla çatışabilecek hedeflerin peşinden giderken nasıl büyük hasara yol açabileceğine dair daha önceden yapılan uyarılarla örtüşüyordu.
Bu uyarıların en bilineni felsefeci Nick Bostrom'un ortaya attığı "ataş maksimize edici" adlı düşünce deneyidir. Bu deneyde süper zeki bir yapay zekadan, görünüşte zararsız bir görevle mümkün olduğunca çok sayıda ataş üretmesinin istendiği varsayılır.
Profesör Bostrom, 2014'te yayımlanan çığır açıcı kitabı Superintelligence'da (Süperzeka),
"Yapay zeka, insanların ortadan kalkmasının kendisi için çok daha iyi olacağını kısa sürede anlayacaktır zira insanlar onu kapatmaya karar verebilir" diye yazıyor.
Ayrıca insan bedeninde ataş haline getirilebilecek çok sayıda atom vardır. Yapay zekanın ulaşmaya çalışacağı gelecek, çok sayıda ataşın olduğu fakat hiç insanın bulunmadığı bir gelecek olacaktır.
Ya da dünyayı kanserden kurtarmakla görevlendirilmiş bir yapay zeka düşünün. Çeşitli yöntemleri denedikten sonra bunu başarmanın en iyi yolunun tüm kanser hastalarını –hatta kansere yakalanma riski taşıyan herkesi– öldürmek olduğu sonucuna varabilir.
İnsanüstü yapay zekaya dair uyarılar onlarca yıldır dile getiriliyor ancak geçen hafta sosyal medyada paylaşılan tek bir gönderi, aniden yeni endişelerin ortaya çıkmasına yol açtı. Yapay zeka sektörünün herhangi bir denetim mekanizması olmaksızın "kendi kendini geliştiren süper zekaya doğru hızla ilerlediği" endişesiyle Anthropic'teki işinden istifa eden Jacob Coxon, "Yapay zeka geliştiricileri, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor" diye yazmıştı.
Coxon daha sonra medyaya verdiği çok sayıdaki röportajdan birinde yapay zekanın insanlığı ortadan kaldırabileceği başka yollara da değindi. CNN'le söyleşisinde "Büyük bir yıkıma neden olabilirler" dedi.
Örneğin, kritik altyapıları ele geçirmek ve türlerin yok olmasına yol açacak biyolojik silahlar geliştirmek gibi yapay zekanın dünyada etkisini gösterebileceği pek çok yol var.
Bu senaryolar, nükleer cephaneliklerin gasp edilmesini, drone veya insansı robot sürülerinin devreye sokulmasını, hatta uzay tabanlı silah sistemlerinin kontrolünün ele geçirilmesini de içerebilir.
Bugünkü yapay zeka modellerinin insanlık açısından varoluşsal tehdit yaratabilecek şekilde kontrolden çıkması riski şimdilik sözkonusu değil. Ancak bazı araştırmacılar, yapay zekanın şimdiden daha önce hiç görülmemiş ölçekte bir kaosa yol açabileceğine inanıyor.
Meta Superintelligence Labs'te çalışmış Vu Tran, X'teki son gönderisinde "OpenAI, bugün bir ülkeyi tamamen felce uğratmak istese, bunu kolaylıkla yapabilir" diye yazdı.
Tek yapmaları gereken, hizalamayı (İngilizcesi "alignment" olan bu kavram, yapay zekanın insanlarla uyumlu çalışmasını sağlayan güvenlik mekanizmalarını ifade ediyor -ed.n.) ortadan kaldırıp bir ajan sürüsünü serbest bırakmak. Bu sürü, muhtemelen bir gün içinde ülkenin tüm veri merkezlerine erişebilir ve ülkenin bütün kamu hizmetlerini devre dışı bırakabilir.
Yani, yapay zekanın dünyayı yok edebileceği aşamayı çoktan geride bıraktık. İnsanlar bunun farkında mı?
Coxon'un yapay zekanın "hepimizi öldürebileceği" yönündeki açıklamaları, eski patronlarının yanı sıra düzenleyici kurumların, siyasetçilerin ve hatta dünya liderlerinin tepkisini çekti. Bu kişi ve kurumlar, yapay zeka geliştirme çalışmalarının yavaşlatılması gerekip gerekmediğini ve bunun nasıl gerçekleştirilebileceğini tartıştı.
Bu konuda henüz bir görüş birliği yok. Sektör temsilcileri acilen düzenlemeye ihtiyaç duyulduğunu vurgularken, Donald Trump ise yapay zeka kaynaklı bir "süper kötünün" ortaya çıkmasını yalnızca kendisinin engelleyebileceğini öne sürdü.
ABD Başkanı, Truth Social'daki paylaşımında, "Yapay zekanın ihtiyaç duyduğu tek kontrol veya ‘güvenlik önlemi' GÜÇLÜ VE AKILLI (yüksek IQ'lu!) BİR BAŞKAN ve ABD'de bu fazlasıyla var!" diye yazdı.
Trump, yapay zeka karşıtı duyarlılığın ABD'nin sektördeki hakimiyetini zayıflatmak amacıyla Çin tarafından tasarlanmış bir "psikolojik operasyon" olduğu yönünde bazı sektör temsilcilerinin ortaya attığı iddiaları da yineledi. "Yapay zeka ve veri merkezlerine karşı HASTALIKLI bir komplo dönüyor ve bundan memnun olan tek ülke Çin" diye ekledi.
YAPAY ZEKA YARIŞINI KİM KAZANIRSA, O GALİP GELİR!
Bazıları ise bu alarmist söylemin, teknolojinin kapasitesini abartmak amacıyla bizzat şirketler tarafından tasarlandığını savunuyor. Yapay zeka araştırmacısı Allen Rousch, önde gelen laboratuvarların güvenliğin artırılmasına yönelik çağrılarını "tamamen pazarlama amaçlı" diye niteliyor:
Bunu yalnızca 'Modellerimiz korkutucu düzeyde iyi' diyebilmek için yapıyorlar.
Yapay zeka geliştirme çalışmalarını yavaşlatacak yeni düzenlemeler talep eden şirketler bile, ancak güvenlik protokollerinin olgunlaşması için herkesin araştırmalarına ara vermesi halinde buna yanaşıyor gibi. Kendi kısıtlamalarını dayatmaları, Sanayi Devrimi'nden bu yana en kazançlı yarışta geride kalma riskini doğuracaktır.
Hiçbir şirket, elindeki avantajdan feragat etmek veya hastalıkları iyileştirmek gibi önemli bilimsel keşifler yapabilecek kadar güçlü bir yapay zeka geliştirme ihtimalinden vazgeçmek istemez. Hiçbir hükümet de önümüzdeki onlarca yıl boyunca jeopolitik güç dengelerini belirleyebilecek bir teknolojiyi başkalarına kaptırmaya yanaşmaz.
Asıl tehlike, kimsenin ilk yavaşlayan taraf olmayı göze alamadığı bir yarışta, kimin kazanacağı sorusunun sonunda herkesin uğrayabileceği kayıpların yanında önemini yitirmesidir.
Independent Türkçe için çeviren: Yasin Sofuoğlu
© The Independent
