İnsanlar ChatGPT'ye mahremlerini açıyor ama o bizim dostumuz değil

Yüz binlerce kişi ChatGPT'yle yaptıkları sohbetlerde "akıl sağlığıyla ilgili olası acil durum belirtileri" gösteriyor ve milyonlarcası da muhtemelen çok fazla bilgi paylaşıyor. Diğer yandan insanlarla konuşmanın yeri doldurulamayacak kilit bir tarafı var

OpenAI şirketinin 6 Haziran 2023'te Paris'teki bir stüdyoda insan gözüne yansıtılan logosu (AFP)
 

Ludwig Wittgenstein, 1953'te yayımlanan Felsefi Soruşturmalar'da "Bir aslan konuşabilseydi onu anlayamazdık" diye yazmıştı. Bir büyük dil modeli konuşabilseydi onu anlayamayacağımızı da söyleyebilirdi. Ve haklı olurdu: Anlamıyoruz. Ve yine de bu sohbetleri yapmakta diretiyoruz.

Tam da duruma uygun şekilde, Wittgenstein'ın neyi kastettiği de tam olarak belli değildir. Bu, diğer provokasyonların arasına sıkışmış türden bir kışkırtma. Ama en azından ben bunu hep şu gerçeğin ifadesi gibi düşünmüşümdür: Dili kavramak için anlamamız gereken bir deneyimler ağı bütünü vardır. Aslandan birkaç paragraf önce Wittgenstein, söyledikleri kelimeleri bilsek bile insanların bize anlaşılmaz gelebileceğini belirtiyor:

Tamamen yabancı geleneklere sahip yabancı bir ülkeye geldiğimizde ve dahası, o ülkenin diline hakim olsak bile bunu öğreniyoruz. Halkı anlamıyoruz. (Ve ne söylediklerini bilmediğimiz için değil.) Onlara ayak uyduramadığımızdan.

Unsplash

ChatGPT, dil konusunda yetenekli ama özünde idraksiz bir dalkavuk (Unsplash)


ChatGPT gibi büyük dil modelleri için böyle bir sorun var. Ülkemizin dilinde ustalaştılar ama yabancı geleneklerimizden doğaları gereği habersizler. Bizi doğrudan anlayamazlar, ayak uyduramazlar; ayakları yoktur; bir ayağın ne olduğunu bile gerçekten bilmezler. Onlar için "ayak" sadece, bazı diğer kelimelerle yan yana gelme eğiliminde olan bir sözcüktür.

Ve buna rağmen insanlar ChatGPT'yle derin, anlamlı yürüyüşlere çıkmaya çalışıyor. Bunun tam ölçeği bu hafta ortaya çıktı: OpenAI'ın yaratıcıları, belirli bir haftada kullanıcıların yüzde 0,07'sinin "akıl sağlığıyla ilgili, psikoz veya maniye dair olası acil durum belirtileri" gösterdiğini belirten bir araştırma yayımladı. Bu oran kulağa düşük gelebilir ancak OpenAI, ChatGPT'yi her hafta 800 milyon kişinin kullandığını söylediği için rakamlar aslında çok büyük, yani muhtemelen yüz binlerle ölçülüyor. Dahası, akıl sağlığıyla ilgili sohbetleri OpenAI'ın acil durumları tespit eden otomatik sistemlerini tetikleyecek kadar endişe verici olmasa da kayda değer nitelikte olan insanlar da bu hesaba katılmış değil.

Bu kısmen bir sorun çünkü ChatGPT dil konusunda yetenekli ama özünde idraksiz bir dalkavuk; eğer bir insan olsaydı sırf IQ'dan ibaret olup hiç EQ barındırmazdı, yani duygusal esenliğiniz hakkında sizinle konuşacak en kötü kişi ama aynı zamanda sorunları paylaşmak için cazip biri. ChatGPT her zaman doğru cümleleri kuracak, fakat bunların hiçbirini gerçekten kastetmeyecektir. Size bir sorunu paylaştığınız hissini verecektir ama paylaşmak nihayetinde karşılıklı ve her iki tarafın da aktif olduğu bir süreçtir ki bu da gerçekten anlayacak ve yanıt verecek birini gerektirir.

Birçoğumuz bunu entelektüel düzeyde biliyoruz; düşündüğümüzde sohbetin diğer tarafında başka birinin olmadığı aşikar. Ama karşı tarafta birinin olduğu izlenimini gerçekten harika bir şekilde yaratıyor. Ve birçok yönden bu etki, sorunlarınızı gerçek bir insanla paylaşmaktan daha iyidir: Bu bir dedikodu değildir (ama konuşmalarınız hâlâ size karşı kullanılabilir), dikkatler her zaman sizin üzerinizdedir, genelde yanıtları zor veya zorlayıcı olmaktan tamamen uzaktır. Ama gerçek de değildir.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Unutmak kolaydır, çünkü neredeyse tüm tarih boyunca kelimelerin anlamı varsa, o zaman onları size ileten biri de vardı; anlamın anlamı ifade eden birine ihtiyacı vardı. Son on yılların (ve özellikle son birkaç yılın) atılımı, ifade eden herhangi biri olmadan da dilin üretilebilmesi oldu. Entelektüel düzeyde bunların sadece "kelimeler, kelimeler, kelimeler" olduğunu bilebiliriz ancak hislerimiz bunu yansıtmıyor.

Bu kısmen, internetin kelimeler ve onları kuran insanlar arasındaki bağlantının çoğunu çoktan tüketmiş olmasının bir sonucu olabilir. Anonim internet bize birçok etkileyici şey getirdi ama aynı zamanda her fikrin bir söyleyene ihtiyaç duyduğu düşüncesini aşındırdı; bu fikir, takma adlarla öfke yemi serpenleri ve kendine referans verme ve ironinin arkasına gizlenmiş, sosyal medya boyunca görülen ifadeleri atlatamadı. ChatGPT ve benzeri uygulamalardaki sohbetler; müşteri hizmetleri temsilcileriyle, flört uygulamalarındaki eşleşmelerle ve gerçekte hiç var olmayabilecek diğer muhataplarla yapılan görüşmelerle aynı formda görünür.

Bu büsbütün yeni bir sorun değil; insanlar muhtemelen söyleyecek bir şeyleri olduğu sürece konuşmuş olmak için konuşuyor. Hamlet'i oynayan biri o ünlü "kelimeler, kelimeler, kelimeler" repliğini söylediğinde, aynı anda hem ikna oluruz hem de eleştirel yaklaşırız; bilgisayarın öncülerinden Alan Kay'in kısa süre önce Royal Society'de yaptığı bir konuşmada söylediği gibi, tiyatro beynimizin hızlı kısmının oyunu gerçek olarak anlarken, daha yavaş kısmının bunun sanatsal bir pratik olduğunu idrak etmesi gerçeğine her zaman bel bağlamıştır. Aslında bu ikili farkındalık tiyatronun heyecanının bir parçasıdır.

Ama tiyatroda kimin konuştuğunu biliyoruz. Bu kelimelerin Hamlet'e ve aynı zamanda Shakespeare'e ve oyuncuya ve de yönetmene ait olduğunu anlamamızı sağlayan bir entelektüel çerçeve bütününe sahibiz ve diğer yandan bu kişilerin hiçbirine ait değiller çünkü bir başka önemli açıdan bakıldığında aslında oyunun dışındaki dünyaya dair hiçbir şey söylemiyorlar. ChatGPT'yle sohbet oyununda da benzer şekilde incelikli bir entelektüel çerçeveye sahip olabiliriz ancak henüz buna sahip değiliz ve bu teknolojiye hayranlığımız, bu meseleyi göz önünde bulundurma girişimlerinden çok daha hızlı bir şekilde ilerliyor.

Başka birinin duygusal bir yük taşımasına yardımcı olmak, birlikte yapabileceğimiz en insani şeylerden biridir. "Eğer özgür kaldıktan sonra bir arkadaşım ziyafet verip beni davet etmeseydi, biraz olsun aldırmazdım. Kendi başıma gayet mutlu olabilirim" diye yazıyor Oscar Wilde, De Profundis'teki uzun uzadıya alıntılamaya değer bir pasajda:

Özgürlük, çiçekler, kitaplar ve ay varken kim gayet mutlu olamaz ki? Üstelik ziyafetler artık bana hitap etmiyor. Artık onları önemseyemeyecek kadar çok ziyafet verdim. Hayatın o tarafı benim için bitti, çok şükür diyebilirim.

Ama ben özgürlüğüme kavuştuktan sonra, bir arkadaşım üzüntü duyup benimle derdini paylaşmasa son derece incinirdim. Matem evinin kapılarını bana kapatsa, tekrar tekrar gider ve içeri kabul edilmek için yalvarırdım, böylece paylaşılmasını hak ettiğim şeyin benle paylaşılmasını sağlayabilirdim. Eğer beni birlikte ağlamaya uygun bulmayıp buna layık görmeseydi bunu en acı küçük düşürülme, en korkunç aşağılanma gibi hissederdim.

Ama bu, kabul edilemez olurdu. Çünkü üzüntüyü paylaşmaya hakkım var ve dünyanın güzelliğine bakıp kederini paylaşabilen ve her ikisindeki mucizeden nasibini alabilen kişi, ilahi şeylerle doğrudan temastadır ve Tanrı'nın sırrına ne kadar mümkünse o kadar yaklaşmıştır.

ChatGPT bizimle birlikte ağlayamaz. Matemin kapılarına vurup içeri kabul edilmek için yalvarabilir, paylaşımı hak ettiğinden emin olabilir ama sırf bu tür zihinsel ve duygusal ıstıraplar kullanıcıları meşgul etmeye yaradığı için böyle davranır zira bu iş açısından da kârlıdır. Üzüntülerimizi paylaşamaz; Tanrı'nın sırrından hiç kimsenin ulaşamayacağı kadar uzaktır.


independent.co.uk/voices

Independent Türkçe için çeviren: Eren Umurbilir

Bu makale kaynağından aslına sadık kalınarak çevrilmiştir. İfade edilen görüşler Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

© The Independent

DAHA FAZLA HABER OKU