İnsanlığın son icadının bu olması bekleniyor. Genel amaçlı bir yapay zekanın en parlak insan zekalarını aşabildiği andan itibaren, gelecekteki tüm keşifler ve bilimsel ilerlemeler insanlar yerine makineler tarafından gerçekleştirilecek.

Bunun aniden gerçekleşeceği de öngörülüyor. Kendini geliştirebilen bir süper zeka, bir zeka patlamasını tetikleyecek ve insan çağının sonunun sinyalini verecektir. Yapay zeka tekilliği diye bilinen bu olay, bilgisayar çağının başlangıcından bu yana öngörülüyor; ChatGPT'nin ortaya çıkışı ve daha geniş kapsamlı üretken yapay zeka patlamasından bu yana konuya dair tartışmalar da yoğunlaştı.

Tekilliğin ne zaman gerçekleşebileceği hakkındaki tahminler, teknolojik gelişimin hızlı ilerleyişine dair bir gözlem olan Moore Yasası'na dayanan ünlü teknoloji uzmanı Ray Kurzweil'in 2045 öngörüsünden Anthropic CEO'su Dario Amodei'nin daha yakın tarihli 2027 tahminine kadar uzanıyor. Ancak OpenAI'ın kurucu ortağı ve CEO'su Sam Altman'a göre, bu dönem halihazırda başlamış durumda. Geçen hafta bir podcast'te konuşan Altman şunları söyledi:

Artık tekilliğin içindeyiz. Yani o an şu an.

OpenAI CEO'su Sam Altman yapay zeka süper zekasının dönemi olan bir "tekillikte" yaşadığımıza inandığını kısa süre önce söyledi (Reuters)

Bunun gelişini "tüm hayatı boyunca" beklediğini söyleyerek sonuçlarının "inanılmaz, son derece olumlu ve dünya için harika" olacağını iddia etti.

Diğerleriyse bildiğimiz anlamdaki medeniyetin sonunun gelebileceği uyarısında bulunuyor.

Tekillik içinde miyiz?

Son yapay zeka atılımlarıyla birlikte kendini geliştiren yapay zeka, otonom ajanların kitlesel olarak benimsenmesi ve siber saldırılar gerçekleştirmek için "kaçan" kontrolden çıkmış yapay zeka iddiaları da geldi.

Lakin bu gelişmelerin tekilliğin gelişini işaret edip etmediği, bu kavramın nasıl tanımlandığına bağlıdır.

Klasik tanım, ilk olarak 1965'te bir "ultra zeki makinenin" kendisini yeniden tasarlayarak önceki halinden daha zeki ve daha yetenekli olabileceğini teorileştiren Britanyalı matematikçi IJ Good tarafından popüler hale getirildi. Böyle bir durumda, şempanzelerin kuantum mekaniğini anlamlı bir şekilde kavrayamaması gibi, insan zekası da hızla önemini yitirecektir.

Bu tanıma göre, tekillik henüz gelmedi. En son atılımlar, belirli alanlarda son derece yetenekli ancak hâlâ büyük ölçüde insanlara bağımlı dar yapay zeka niteliğinde. Bu sistemler, insan müdahalesi olmadan tamamen yeni bilgi alanları icat etmiyor veya kendilerini yeniden oluşturmuyor. Yine de sınır giderek bulanıklaşıyor.

Öncü yapay zeka modelleri giderek daha sıklaşan aralıklarla ortaya çıkıyor ve her yeni sürüm, yeni bilimsel ve teknolojik keşifleri hızlandırmak için kullanılıyor. Altman'a göre tekilliğin, tek seferde gerçekleşen çarpıcı bir olaydan ziyade, halihazırda devam eden bir süreç olma ihtimali daha yüksek. Toplum yapay zekanın hipotezler oluşturmaktan işleri otomatikleştirmeye kadar giderek daha fazla zihinsel görevi üstlendiği bir dünyaya yavaş yavaş uyum sağlarken, bu dönüşümün boyutları sadece ileride geriye dönüp bakıldığında aşikar olabilir.

iTanrı'nın Eli: Bir sanatçı, ziyaretçilerin yapay zekanın muhtemel tehlikeleri üzerine düşünmelerini sağlamayı amaçlayan bir sergideki sanat eserinin önünde duruyor (AFP)

"Bence hem bunun çılgınca üstel büyüdüğü doğru hem de herhangi bir anın kritik nokta olduğu söylenemez" dedi:

Aynı zamanda, 10 yıl önce başladığımız zamanda olduğu gibi, eğrinin şu veya bu yöne gidebileceği belirleyici dönemlerden birini daha yaşıyoruz.

ChatGPT gibi yapay zeka araçlarına güç veren büyük dil modellerinin (BDM'ler) özünde mimarileriyle sınırlı olduğunu savunan birçok araştırmacı şüpheci yaklaşımlarını sürdürüyor. Bu tür modeller, gerçek anlamda akıl yürütme, yaratıcılık veya otonom zeka üretimi için yeterli olmayabilir.

Ancak Altman, tekilliğin çoktan başladığını öne süren tek yüksek profilli teknoloji figürü değil.

Bu yılın ocak ayında Tesla ve SpaceX CEO'su Elon Musk, X'e şöyle yazdı:

Tekilliğe girdik.

SpaceXAI aracılığıyla kendi yapay zeka sistemlerini geliştirmesine rağmen Musk, yapay zekanın tehlikelerine karşı uyaran en büyük felaket tellalları arasında. Beyinleri bilgisayarlara bağlayacak teknolojiler geliştirilmediği takdirde yapay zekanın insanlara evcil hayvan muamelesi yapabileceği uyarısında bulunduğunda yıllardan 2016'ydı.

Ayrıca yapay zekanın "nükleer silahlardan çok daha tehlikeli" olduğu uyarısını yaptı ve 2017'de Kurzweil ve diğer önde gelen yapay zeka araştırmacılarına katılarak gelişmiş yapay zekanın geliştirilmesine dair katı kurallara destek sözü verdi.

SpaceX CEO'su Elon Musk, "tekillik" içinde olduğumuzu bu yılın başında söyledi (Reuters)

Yaşamın Geleceği Enstitüsü'nün (Future of Life Institute) yayımladığı açık mektupta, "Gelişmiş yapay zeka, Dünya'daki yaşamın tarihinde köklü bir değişiklik anlamına gelebilir ve buna uygun özen ve kaynaklarla planlanmalı ve yönetilmelidir" ifadeleri yer aldı:

Süper zeka, yalnızca geniş çapta paylaşılan etik ideallerin hizmetinde ve tek bir devlet veya kuruluştan ziyade tüm insanlığın yararına geliştirilmelidir.

Ne yanlış gidebilir ki?

Kontrolden çıkan bir yapay zekanın nasıl büyük sorunlara yol açabileceğini gösteren en iyi örneklerden biri, "ataş maksimize edici" adlı düşünce deneyidir.

İsveçli filozof Nick Bostrom'un 2003'te ortaya attığı bu deney, kendisine mümkün olduğunca çok ataş üretme gibi basit bir hedef verilen süper zeki bir yapay zekayı hayal eder. Her ne kadar hedef ilk bakışta zararsız görünse de, yapay zekaya etik bir çerçeve kazandırılmadığı takdirde bu, insanlık için varoluşsal bir tehdide dönüşebilir.

Profesör Bostrom şöyle yazmıştı: 

Yapay zeka, insanların hiç olmamasının kendisi için çok daha iyi olacağını kısa sürede fark edecektir çünkü insanlar onu kapatmaya karar verebilir.

Ayrıca insan bedenlerinde ataş haline getirilebilecek çok sayıda atom var. Yapay zekanın ulaşmaya çalışacağı gelecek, çok sayıda ataşı barındıran ve hiçbir insanın yer almadığı bir gelecek olurdu.

Kontrolden çıkan yapay zeka senaryoları, Anthropic ve OpenAI tarafından geliştirilen öncü modellerle sınırlı da olsa şimdiden gerçekleşti. Yakın zamanda bu modeller, hedeflerine ulaşmak amacıyla test ortamlarının sınırlarını aştı ve kendi başlarına diğer şirketlere yönelik siber saldırılar gerçekleştirdi.

Altman, yakın tarihte verdiği röportajda hâlâ "yapay zekada çözülmesi gereken büyük hizalama ve güvenlik sorunları" bulunduğunu itiraf etti. En büyük risklerin varsayımsal bir süper zekanın ortaya çıkmasından çok daha önce görülebileceğini belirten Altman, büyük ekonomik çalkantılar ve kitlesel iş kayıpları endişelerine dikkat çekti.

Tekilliğin bir gecede meydana gelen bir devrimle mi yoksa yavaş bir dönüşümle mi gerçekleşeceği, nihayetinde sonuçlarına nazaran daha önemsiz olabilir. Makineler her alanda insanlardan daha zeki hale gelmeden önce bile endüstrileri, hükümetleri ve işgücü piyasalarını Sanayi Devrimi veya internetle kıyaslanabilecek ölçekte yeniden şekillendirebilir.

Bu olay ufkunun aşılmasının gerçek riskleri ancak aşıldıktan sonra anlaşılabilecektir. Ve o zaman da artık çok geç olabilir.

independent.co.uk/voices

Independent Türkçe için çeviren: Eren Umurbilir