Avustralya'daki Queensland Üniversitesi'nden hesaplamalı hukuk uzmanı Aaron J. Snoswell, Open AI'ın yapay zekasının kendi gizli dilini yarattığını söyleyen araştırma makalesine karşı çıktı.

Snoswell, bu tür görüşlerin makine öğrenimine yönelik saldırıların bir parçası olduğunu savundu.

ABD'deki Texas Üniversitesi'nde bilgisayar bilimi alanında doktora öğrencisi Giannis Daras, 31 Mayıs'ta yaptığı açıklamayla, Ünlü yapay zeka firması Open AI'ın DALL-E 2 adlı yapay zeka sistemi kendine özgü bir dil geliştirdiğini öne sürmüştü.

Daras, viral olan bir Twitter zincirinde yapay zeka sistemiyle ilgili incelemesini takipçileriyle paylaşmıştı.
 

Zincirde aktarılana göre, Daras sistemden "sebzeler hakkında konuşan çiftçiler" görüntüsünü oluşturmasını istedi.

Ortaya çıkan görüntüde iki çiftçinin bir şeyler hakkında konuştuğu görülüyordu. Çiftçilerden birinin elinde yeşil yapraklı sebzeler vardı.

Öte yandan görselin üst kısmında göze çarpan "vicootess" kelimesi Daras ve bir meslektaşının dikkatini çekti. Zira bu kelimenin hiçbir dilde karşılığı yoktu.

Daha sonra kelimeyi algoritmaya geri yükleyen Daras, bunun yapay zeka sisteminin kendi dilinde sebze anlamına geldiğini tespit etti. Zira sistem bu kelime karşılığında sebze görüntüleri oluşturuyordu.

Bunun ardından sıra ilk görseldeki çiftçilerin konuşma balonları içinde yazan kelimelere geldi: "Apoploe vesrreaitars".

Daras bu kelimeleri sisteme yüklediğinde de birçok kuş görüntüsü elde ettiğini aktardı:

Görünüşe göre çiftçiler sebzeleriyle uğraşıyor ve kuşlardan bahsediyor!

"Bunu tam anlamıyla bilemeyiz"

Snoswell, DALL-E 2'nin kendine özgü bir dilinin muhtemelen olmadığını savundu:

Kendi kelime dağarcığına sahip olduğunu söylemek daha doğru olabilir. Ama yine de bunu tam anlamıyla bilemeyiz.

Hesaplamalı hukuk uzmanı, bu tür yapay zeka sistemleri hakkındaki herhangi bir iddiayı doğrulamanın çok zor olduğunu çünkü sisteme erişebilen kişilerin sayısının çok az olduğunu vurguladı.

Snoswell, Twitter gibi mecralarda herkese açık bir şekilde paylaşılan görüntülere şüpheyle yaklaşılması gerektiğinin altını çizdi. Zira uzmana göre bu görüntüler, yapay zekanın oluşturduğu pek çok görüntünün arasından bir insan tarafından cımbızla seçiliyor.

Araştırmacı, bu sistemlere erişimi olan kişilerin bile yapabileceklerinin sınırlı olduğunu hatırlattı.

Peki neler oluyor?

Snoswell, gizli dil olarak görülen "saçma" kelimelerin İngilizce dışındaki dillerle ilgili olabileceğinin altını çizdi. Örneğin kuşların görüntüsünü oluşturan "Apoploe", Latince bir kuş familyası olan Apodidae'ye benziyor.

Snoswell, DALL-E 2'nin, internetten alınan verilerle eğitildiğini ve sanal evrende İngilizce harici pek çok kelime bulunduğunu hatırlattı.

Araştırmacı yapay zekanın bir metni insanlar gibi okumadığı gerçeğinin bu fikri desteklediğini düşünüyor. Yapay zeka bir metni işlemeden önce simgelere bölüyor. Bu yönteme belirtkeleme (tokenization) deniyor.

Farklı belirtkeleme yaklaşımlarının sonuçları da birbirinden ayrı. DALL-E 2, byte-pair encoding (Bayt Çifti Kodlaması) adı verilen bir yöntem kullanıyor. Snoswell, anlamsız kelimeler için bu yönteme bakarak, gizli dilin anlaşılabileceğini savunuyor.

Snoswell, DALL-E 2'nin girilen bilgilere cevaben "Ne hakkında konuştuğunu bilmiyorum" diyemediğini ve bunun yerine her zaman bir görüntü oluşturacağını belirtti. Gizli dilin sebeplerinden birinin bu olabileceği düşünülüyor.

Ancak uzmana göre bu seçeneklerin hiçbiri, yaşananların tam açıklaması değil.

Bu konu neden önemli?

Snoswell, gizli dil iddiasının makine öğrenim sistemlerine karşı saldırıların bir örneği olduğunu söyledi. Bu saldırıların, yapay zekaların geri olduğu girdileri bilerek seçerek sistemin amaçlanan davranışını kırmanın bir yolu olduğunu belirtti.

Snoswell'e göre bu tür saldırılar, yapay zekaya güveni zedelediği için endişe verici.

 

Independent Türkçe, The Conversation

Derleyen: Uğurcan Yıldız