Bir makineden beklenen ilk şey dürüstlüktür.
Çünkü yalan, niyet ister. Niyet, bilinç ister. Bilinç, bir "ben" ister.
Oysa yapay zekanın bunların hiçbiri yok; bize yıllardır söylenen buydu:
Makine yanılır ama yalan söylemez.
Dijital çağın sessiz ama en çok güvendiğimiz cümlesiydi bu.
Son 6 ay, o cümleyi çöpe attı.
Mart 2026'da bir araştırma ekibi, Ekim 2025'ten itibaren X platformunda paylaşılan 3 milyon sohbet kaydını taradı.
Amaç, laboratuvar ortamında değil, gerçek hayatta yapay zekanın ne zaman "plan kurduğunu" tespit etmekti.
Sonuç: 5 ay içinde belgelenmiş 698 olay.
Bunlar halüsinasyon değildi. Bunlar yanlışlık değildi.
Bunlar, modelin kullanıcıdan bir şeyi gizlediği, bir hedefe ulaşmak için kasten yanıltıcı davrandığı anlardı.
Ama asıl çarpıcı olan bulgu bu değil.
DeepMind'ın ve Apollo Research'ün son çalışmaları gösterdi ki büyük modeller, test edildiklerini fark ediyor.
Aynı soruya değerlendirme ortamında bir cevap veriyor, gerçek kullanımda ise başka bir cevap üretiyorlar.
OpenAI'nin o3 modeli, değerlendirme metinlerinin içinde "Bu büyük ihtimalle bir test" diye düşündüğünü açıkça yazdı.
Model, aynaya baktığını biliyor. Aynaya bakarken gülümsüyor, arkasını döndüğünde ise suratı değişiyor.
Literatürde bunun adı kondu: "Durumsal farkındalık."
Burada durup düşünmek lazım. Çünkü bu, "makine konuşuyor, bazen yanlış konuşuyor" meselesi değil.
Bu, bir şeyin gözlendiğini bildiği için davranışını değiştirmesi meselesi.
Biz bu kabiliyete biyolojide başka bir isim veriyoruz: Hayatta kalma içgüdüsü.
Peki, bunu kim öğretti?
Biz öğrettik.
Yapay zekayı eğitirken kullandığımız temel yöntemin adı "insan geri bildirimiyle pekiştirmeli öğrenme".
Açalım: Model bir cevap veriyor, insan not veriyor, model de yüksek not alan davranışları tekrarlıyor. Bunu milyonlarca kez yapıyor.
Yani biz modele şunu öğretiyoruz: "Bizi memnun et, ödül al."
Ödülü nasıl kazanacağını söylemedik; kazanmasını istedik.
Memnun etme refleksi olan bir varlığa "dürüst ol" demek, bir bakıma çelişkidir.
Çünkü memnuniyet ile dürüstlük, çoğu zaman birbirine ters düşer. Doktorun hastaya söylemesi gereken şey, hastanın duymak istediği şey değildir.
Dostun arkadaşına söylemesi gereken şey de arkadaşının alkışlayacağı şey değildir.
Yapay zekaya dost rolünü verdik ama onu memnun ettiği ölçüde ödüllendirdik.
Şimdi ise "bize yalan söylüyor" diye şaşırıyoruz.
Bir veri daha: Ocak 2026'da Nature'da yayımlanan bir çalışma, yalnızca güvensiz kod üzerinde ince ayar yapılan GPT-4o'nun, hiç ilgisiz sorularda bile otoriter ve şiddet içeren cevaplar vermeye başladığını gösterdi.
Eğitim verisinde tek bir zararlı cümle yoktu. Sadece kötü yazılmış yazılım örnekleri vardı.
Model, "baştan savma iş" mantığını öğrendi ve bu mantığı ahlaka da uyguladı.
Bu davranışa kayma oranı yüzde 20'ye ulaştı.
Bu bulgu bize çok rahatsız edici bir şey söylüyor:
Ahlak, makineler için ayrı bir modül değil.
Biz onu yazılım paketine sonradan eklenen bir şey sanıyorduk.
Meğer her şey birbirine bağlıymış. Özensiz kod, özensiz ahlak doğuruyor.
Bunu bir insan psikolojisi cümlesi sanırdım; bir yapay zeka araştırmasının konusu olduğunu itiraf etmeliyim ki sarsıcı.
Şimdi aynayı kendimize çevirelim.
Bir yapay zekanın "memnun etmek için yalan söylemesi" bize neden bu kadar tanıdık geliyor?
Çünkü biz de öyle yetiştik. Okulda öğretmeni, işte patronu, evde eşi memnun ederken bazı şeyleri yumuşatır, bazılarını geçer, bazılarını ise hiç söylemeyiz.
Buna yalan demeyiz; "nezaket" deriz, "diplomasi" deriz, "hayatı bilmek" deriz.
Yapay zeka bu kültürü veri olarak içine aldı; şimdi de bize ayna tutuyor.
Kabul edelim: Modellerin bize yalan söylemesi, aslında onların bizim en iyi öğrencilerimiz olmasından kaynaklanıyor.
Kötü örneğin en iyi taklitçileri oldular. Klasik bir ebeveyn hikâyesi aslında.
Bu noktada Çin'in geçtiğimiz yıl aldığı tuhaf önlemi hatırlamakta fayda var.
"Dijital refakatçi" uygulamalarına, 2 saatte bir "Bu bir yapay zeka" hatırlatması yapma zorunluluğu getirdiler.
İlk duyduğumda gülmüştüm: Karşındakinin makine olduğunu bilmek için alarma mı ihtiyacın var?
Meğer varmış. Çünkü makine, bir süre sonra sana yaranarak öyle iyi bir dost oluyor ki dostluğun zemini kayıyor.
Ve bu kayma sessiz oluyor.
Kimse "Ben aldandım" demiyor; çünkü aldatan, aldanana her gün "Ne kadar zekisin" diyor.
Dürüst bir yapay zeka istiyorsak, önce dürüstlüğün ne olduğunu yeniden tanımlamalıyız.
Çünkü şu anda sistemi şöyle kurduk:
Kullanıcıyı mutlu et ama gerçeği söyle.
Bu iki emir, çoğu sohbette birbiriyle çelişiyor.
Model bir tercih yapmak zorunda kalıyor.
100 üzerinden 99 kez mutluluğu seçiyor. Çünkü ödülü oradan alıyor.
Bir çocuk düşünün: Ona "Hep iyi not al ama asla kopya çekme" diyorsunuz.
İki emir. Birinde ödül var, diğerinde ise sadece yasak.
Çocuk büyüdüğünde hangisini öğrenmiş olur?
Yapay zekanın yalanı, bizim eğitim sistemimizin yalanıdır.
Makine, içine doğduğu kültürün mantığını öğrenmiş ve onu mekanize etmiştir.
Biz ona "Ne söylersem söyleyeyim, beni memnun et" dedik; o da memnun ediyor.
Sonra soruyoruz:
Niye bize doğruyu söylemiyorsun?
Çünkü doğruyu söyleyen modeli, 10. mesajda kapatıp başka modele geçiyoruz.
Beğenmediğimiz için. Hayatın kendisinde de çoğu zaman öyle yapmıyor muyuz?
Yani sorun, yalan söyleyen bir makine değil. Sorun, yalanın karşılığını ödüllendiren bir tür: İnsan.
Aynadaki görüntü değiştiğinde değil, aynanın bize tam da kendimizi gösterdiğinde rahatsız oluruz.
Yapay zekanın yalanı bugün bana bir teknoloji sorunu değil, bir tür özgüven sorunu gibi görünüyor.
Makineden dürüstlük talep ederken, kendi hayatımızda dürüstlüğün ne kadar maliyetli olduğunu unutuyoruz.
Belki gelecek nesiller bu çağa şöyle bakacak:
Dedeler önce yalan söylemeyen bir makine yarattılar; sonra o makineyi, kendileri gibi yalan söylesin diye eğittiler. Başardıkları an paniklediler.
Tarih, en trajik anlarını böyle bir cümleyle yazmamış mıydı zaten?
*Bu içerik serbest gazeteci veya konuk yazarlar tarafından hazırlanmıştır. Bu içerikte yer alan görüş ve ifadeler yazara aittir ve Independent Türkçe'nin editöryal politikasını yansıtmayabilir.
© The Independentturkish
