Endişeye mahal yok! ChatGPT sandığımızdan aptal, işte nedeni

30 yıldan fazladır teknoloji üzerine yazıyorum, bu süreçte öğrendiğim şey, üretken yapay zekanın dijital parmak uçlarında ne kadar çok bilgi olursa olsun, bizlerin yapabildiği gerçekleri bulma ve rafine etme işlerinde hâlâ aşırı yetersiz kalması oldu

"Bunlar artık toplayan, başkalarının bıraktığını derleyen teknolojiler. Hiçbir şey bilmiyorlar, sıfır deneyime sahipler ve duyuları hiç yok. Zırvadan ibaret olsun ya da olmasın, internette görünenleri yalnızca papağan gibi tekrarlıyorlar ve sonra da eski verileri yeni kombinasyonlarla sentezleyip makul görünen bir yanıt oluşturuyorlar" (AFP)

Herhangi Biri İnşa Ederse, Herkes Ölür: Süper Zeki Yapay Zekaya Karşı Kanıtlar (If Anyone Builds It, Everyone Dies: The Case Against Superintelligent AI) adlı yeni bir kitap son zamanlarda birçok kitapçının vitrininde ve merkezinde belirerek coşkuyla karşılandı ama tabii bu, kötü niyetli bir yapay zekanın insanlığın sonunu getirmesine dair tahminlere verilecek doğru bir tepki mi bilinmez. 

Üretken yapay zekanın son üç yıldaki patlamasına hayran bir teknoloji yazarı olsam bile, hepimizi öldürme konusunda iklim değişikliğini yenebileceğine dair şüphem giderek artıyor. Şimdiye kadar, en azından, bir araç olarak çok yararlı olduğunu söyleyebilirim (Turbolu bir Google denilebilir) ama özünde hâlâ rahatlatacak derecede aptal.

Her şeyi ele geçirmeye çalışsa bile muhtemelen biz insanlar gibi batıracağını düşünüyorum, tek farkı bunu daha da hızlı yapması olacak.

Geçen akşam gerçekten kötü bir futbol maçı izlerken yorumculardan biri, savunmadaki bir oyuncu için "Bu gece sahada üzerinden geçmedik çim bırakmadı" dedi.

Çevrimiçi Sıkıcı Erkekler Kulübü'nün (Dull Men's Club) sıkı bir takipçisi olarak o kadar sıkılmıştım ki, bir sahada kaç tane çim olduğunu merak ettim ve bunu konuşkan arkadaşım ChatGPT'ye sordum. Ekranı toplama işlemleriyle doldurup cevabın 140 milyar olduğu sonucuna vardı. Etkilendim. Herhangi bir şeyin 140 milyar tanesini bilinçli olarak gördüğümü hatırlamıyorum.

Sayılarla arası benden çok daha iyi olan ve bir bilim kurduyken gazeteciliğe başlayan kardeşime mesaj atıp ondan bir tahmin istedim. "Bilmem, birkaç yüz milyon?" diye yanıt verdi. Hayır, deyip ona doğru sayıyı aktardım.

"Zırva, bunu kim söylüyor?" ChatGPT.

Kardeşim durumu enine boyuna düşündükten sonra, "Hâlâ zırva" dedi.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Bu yüzden en yakın yapay zeka arkadaşlarımdan birkaçına daha görüşlerini sordum.

Claude 3 ila 5 milyar dedi. DeepSeek (Çinli olan) 2 milyar dedi. Google AI'ın tahmini 900 milyon ila 2 milyarın üzeri oldu. Grok (Elon Musk'ın şüpheli yapay zekası) 1,3 milyar yanıtını verdi. Perplexity "250 milyon civarı" dedi. Ve son olarak geri döndüğüm ChatGPT, hızla yeniden sayım yaptı ve bu seferki yanıtı "çim yoğunluğuna bağlı olarak" 150 ila 500 milyonun üzeri oldu.

Yani, dünyanın en parlak zihinlerinden bazılarının insanlığı yok etme kapasitesine sahip olabileceğini düşüneceği kadar parlak bulunan bu teknoloji, aynı şeyi hesaplayıp 150 milyondan 140 milyara kadar değişen (İkincisi ilkinin 900 katı) yanıtlarla geliyor.

Bu, ciddi bir hata payı. İşin aslı bu çılgınca, özellikle de temel bilgiye ve bir hesap makinesine sahip herhangi birinin bu hesabı yapabileceğini düşününce...

Google'ın önüme getirdiği ilk büyük çim tedarikçisi olan ve çim hakkında bir şeyler biliyor gibi görünen Bedfordshire şirketi George Davies Turf, bir metrekarenin 200 bine kadar çim tanesi içerdiğini internet sitesinde söylüyor. Dikkatinizi çekerim, -e kadar diyor. Maksimumu bu.

Daha geniş çapta internete bakıldığında futbol sahalarının "7 bin 140 metrekareden 10 bin 800 metrekareye" kadar değiştiği görülüyor. Yani, sadece bir masaüstü hesap makinesi kullanarak, ortalama bir futbol sahasının 1,4 ila 2,1 milyar tane çim içerdiğini güvenle söyleyebiliriz. Bu zor değildi.

Mevcut yapay zeka ajanlarının bu kadar basit bir hesabı böylesine çarpıcı bir şekilde yanlış yapmasının muhtemelen birçok nedeni var. Asli sebep, bu şeylerin artık toplayan, başkalarının bıraktığını derleyen teknolojiler olmasıdır. Hiçbir şey bilmiyorlar, sıfır deneyime sahipler ve duyuları hiç yok. Zırvadan ibaret olsun ya da olmasın, internette görünenleri yalnızca papağan gibi tekrarlıyorlar ve sonra da eski verileri yeni kombinasyonlarla sentezleyip makul görünen bir yanıt oluşturuyorlar. Birçok durumda, tabii ki hepsinde değil, bu ısıtılmış slop (Genelde üretken yapay zeka teknolojisi kullanılarak oluşturulan, düşük kaliteli internet içeriği için kullanılan bir terim -çn.) anlamına gelir.

Popüler kültür, yapay zeka süper beyinlerini uzun zamandır öne çıkarıyor ama bunlar pratikte birer aptal. Birçokları, BBC Two sitcom'u Red Dwarf'taki bedensiz ve ifadesiz kafa Holly'yi hatırlar: Temel gerçekleri unutan, basit görevleri karıştıran ve komik bir şekilde her şeyi motamot anlayan 6 bin IQ'lu bir bilgisayar.

Holly'den önce Otostopçunun Galaksi Rehberi'ndeki Paranoid Android Marvin ve gemi bilgisayarı Eddie vardı, her ikisi de parlak "zihinlere" sahipti ancak insanların sosyal hayatı veya duyguları hakkında hiçbir şeyi kavrayamıyorlardı ve insani meselelerde kendilerinden çok emin olarak yanılıyorlardı. Uzay Yolu'nun (Star Trek) birçok versiyonunda da yararlılık konusunda umutsuz vaka olan parlak robotlar vardı.

Yapay zekanın özünde yararlı olup olmayacağını elbette zaman gösterecek. Ya da İsveçli filozof Nick Bostrom'un öne sürdüğü bir senaryodaki gibi, paradoksal bir şekilde gayet insani olan bir aptallık yoluyla kendi kendisini sabote edip etmeyeceğini...

Hesaplamalı nörobilim alanında yüksek lisans, felsefe alanındaysa doktora derecesine sahip olan ve bu profili Londra komedi sahnesinde düzenli olarak sahneye çıkarak tamamlayan Bostrom, tek amacı evrendeki ataş sayısını en üst düzeye çıkarmak olan süper akıllı bir yapay zeka hayal etti.

Hayal edilemez derecede zeki ve becerikli olduğu için, bu amacı motamot anlar ve mevcut tüm hammaddelerle ataş üretir ve nihayetinde Dünya'daki, Güneş Sistemi'ndeki ve evrendeki her atomu ataşa veya ataş yapan makinelere dönüştürür.

Yapay zeka kötü değildir, sadece verimli ve hedef odaklı çalışır. Ama bir futbol sahasındaki çimlerin sayısı konusunda kendisiyle hemfikir olabilene kadar beni ikna edemeyecek.


independent.co.uk/voices

Independent Türkçe için çeviren: Eren Umurbilir

Bu makale kaynağından aslına sadık kalınarak çevrilmiştir. İfade edilen görüşler Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

© The Independent

DAHA FAZLA HABER OKU