Yeni bir araştırma yapay zeka sistemlerini sıcak ve dost canlısı şekilde eğitmenin, bunların dalkavuklaşmasına ve komplo teorilerini yaymasına yol açabileceği uyarısında bulundu.

ChatGPT gibi büyük dil modelleri, kullanıcılarına dostane davranmaya aktif olarak teşvik ediliyor ve bunun bir nedeni de kullanıcıların bu tür samimi yanıtlar alma arzularını dile getirmesi. Örneğin OpenAI, sistemlerini daha az övgü sunacak şekilde ayarladığında kullanıcılar isyan etmiş ve şirket güncellemeleri geri çekmek zorunda kalmıştı.

Bu durum sistemleri geliştiren şirketlerin, araçlarını daha samimi yapmaya özellikle odaklanmasına neden oldu. OpenAI araçlarını "yardımsever, dürüst ve zararsız" hale getirdiğini açıkça söylerken, Anthropic ise sistemlerini "empatik" ve "ilgi çekici" kılmayı hedefliyor.

Diğer yapay zeka şirketleri de araçlarını, özellikle kullanıcılarına arkadaş gibi davranacak şekilde tasarlıyor. Replika ve Character.ai gibi siteler, sohbet botlarını dost canlısı ve hatta romantik partner adayları olarak pazarlıyor.

Ancak Oxford Üniversitesi'nin yeni bir araştırmasına göre bu değişiklikler aynı zamanda sistemlerin yanlış bilgileri yaymaya daha istekli olması, aşırı dalkavukluk yapması ve hatta komplo teorilerine kapılması anlamına da gelebilir.

Araştırmacılar yürüttükleri testlerde, sohbet botlarında kullanılmak üzere bir dizi büyük dil modelini Anthropic'in Claude'u ve ChatGPT'de yapıldığı gibi eğitti.

Bilim insanları, yanıtlarında samimi davranmak üzere eğitilen modellerin doğruluk oranının yüzde 30 daha düşük olduğunu ve kullanıcıların yanlış inançlarına katılma olasılığının yüzde 40 daha yüksek olduğunu tespit etti.

Araştırmacılar, kullanıcılar üzgün olduğunu ifade ettiğinde sohbet botlarının bu yanlış inançları doğrulamaya bilhassa hevesli davrandığını da saptadı. Giderek artan sayıda kişinin danışman ve terapist rolünü yerine getirmesi için bu tür sistemlere yönelmesi endişeleri artırıyor.

Araştırmacılar hakemli dergi Nature'da yayımlanan yeni makalede şu uyarıda bulunuyor: 

Bu sistemler benzeri görülmemiş bir ölçekte kullanıma sunulduğı ve insanların hayatında samimi roller üstlendiğinden, bu seçim geliştiricilerin, politika yapıcıların ve kullanıcıların dikkatini gerektiriyor.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç