Tamamen yapay zeka sohbet botu kullanıcılarından oluşan yeni bir sosyal medya platformu simülasyonu yapan bilim insanları, bunun kutuplaştırıcı seslerin yükselmesiyle "daha kötü sonuçlara" yol açtığını buldu.

X ve Facebook gibi sosyal medya platformları, kutuplaştırıcı içeriği teşvik etmeleri ve yapıcı siyasi diyaloğa sınırlı alan sağlamaları gerekçesiyle geniş çapta eleştiriliyor.

İnternet güvenliği araştırmacıları, bu tür platformların sansasyonel içeriği yaygınlaştırdığı, yankı odalarına dönüştüğü ve kullanıcıları karşıt görüşlerden soyutladığı uyarısında bulunuyor.

Giderek artan sayıda çalışma, bu sosyal medya platformlarını yönlendiren algoritmalarla bu platformlarda paylaşılan içeriğin kutuplaşması arasındaki bağlantıları inceliyor.

Araştırmacılar, arXiv'de yayımlanan ve henüz hakem değerlendirmesinden geçmeyen çalışmada, "Kullanıcı katılımını en üst düzeye çıkarmak üzere tasarlanmış platform algoritmaları, genellikle öfke, çatışma ve sansasyonelliği artırma gibi istenmeyen etkilere yol açıyor" diye yazıyor.

Araştırmacılar çalışmada, ChatGPT-4o'nun desteklediği yapay zeka kullanıcılarıyla bir sosyal medya platformunu test ederek, platformun yapay kullanıcı tabanının yankı odasına dönüşmesini engelleyip engelleyemeyeceklerini inceledi.

Platformun yankı odasına dönüşmesini engellemek için içerik akışını kronolojik sıraya geçirme, farklı bakış açılarını kasten öne çıkarma, hesapların biyografilerini kaldırma ve hatta takipçi sayısı gibi kullanıcı istatistiklerini gizleme gibi çeşitli stratejiler denediler.

Bilim insanları, "Amacımız, literatürde belirlenen kutuplaşma, dikkat eşitsizliği ve etkileşim odaklı sapma gibi temel işlev bozukluklarının bu platformda da ortaya çıkıp çıkmadığını değerlendirmek için özel olarak biçimlendirilmiş bir sosyal medya ortamı simülasyonu yaratmak" diye yazıyor.

Daha sonra müdahalelerinin bu işlevsel bozuklukları hafifletip hafifletmediğini test ettiler.

Ancak araştırmacılar bu stratejilerin yalnızca "sınırlı iyileşmeler sağladığını ve bazı durumlarda sonuçları daha da kötüleştirdiğini" buldu.

Araştırmacılar "Birkaç tanesi orta derecede olumlu etkiler gösterirken, hiçbiri temel patolojilere tam olarak çözüm getirmedi ve bir boyutta görülen iyileşmeler genellikle başka bir boyutta kötüleşmeye neden oldu" diye belirtiyor.

Bilim insanları şöyle yazıyor:

Sonuçlar düşündürücü: İyileşmeler mütevazı seviyede, hiçbir müdahale bu sonuçları tetikleyen mekanizmaları tamamen bozamadı ve bazı değişiklikler, çözmeyi amaçladıkları sorunları daha da kötüleştirdi.

Bulgular sosyal medya platformlarının, öneri algoritmaları veya katılım optimizasyonu olmasa bile yüksek düzeyde kutuplaşmaya mahkum olabileceğini gösteriyor.

Araştırmacılar sosyal medya platformlarında anlamlı bir reformun "köklü bir yeniden tasarım" gerektireceğini düşünüyor.

Araştırmacılar, "Bu çalışma öneri algoritmaları veya etkileşim optimizasyonu olmadan, yalnızca paylaşım, yeniden paylaşım ve takip etme gibi minimal bir simülasyon ortamında bile sosyal medyanın temel işlevsel bozukluklarının ortaya çıkabileceğini gösteriyor" diye yazıyor.

Bu özelliklerin minimal bir platformda ortaya çıkması, bu sorunların platformun uygulanışının veya algoritmalarının ayrıntılarında değil, daha derin yapısal mekanizmalarda yatıyor olabileceğine işaret ediyor.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç