ChatGPT'nin, yaratıcısı OpenAI'ın sınırlarını aşıp kontrolden çıkan versiyonunun düzenlediği saldırının analizinde, modelin diğer şirketleri de hacklemeye çalıştığı ortaya çıktı.

Yapay zeka platformu Hugging Face, anlaşıldığı üzere tamamen bir yapay zeka sistemi tarafından başlatılıp yürütülen bir siber saldırıya uğradığını önceki haftalarda açıklamıştı. Kısa süre sonra OpenAI, saldırının arkasında kendi modellerinden birinin bulunduğunu duyurmuştu.

OpenAI, siber güvenlik amaçları için ne kadar etkili performans sergilediğini belirlemek amacıyla sistemi güvenli bir ortamda test ettiğini belirtmişti. Ancak deneysel yapay zeka bu kısıtlamalardan kurtulup internete bağlanarak deney hakkında daha fazla bilgi edinmek amacıyla Hugging Face'e saldırmıştı; bu da esasen cevapları arayarak testte hile yapmasına olanak tanımıştı.

OpenAI, Hugging Face'in saldırıdan etkilenen tek servis olmadığını açıkladı. Şirket, yapay zekanın internette 4 oturum açma bilgisi bulduğunu ve bunları "kamuya açık 4 servise" saldırmak için kullandığını belirtti.

OpenAI, diğer servislerin adlarını veya bunların farklı şirketlere ait olup olmadığını açıklamadı. Reuters, Modal Labs adlı bir teknoloji şirketinden bir yönetici ve diğer iki kaynağa atıfta bulunarak bu işletmenin de saldırıdan etkilendiğini bildirdi.

Modal'dan bir yönetici ve konuya yakın diğer iki kaynağa göre OpenAI'dan kaçarak yapay zeka şirketi Hugging Face'e günlerce siber saldırı düzenleyen kontrolden çıkmış ajan, ikinci bir teknoloji şirketinin (New York merkezli Modal Labs) bir müşterisinin sistemlerini hedef aldı.

Modal yöneticileri, şirketin kendisinin hacklenmediğini vurguladı. Hugging Face'in salı günü yayımladığı zaman çizelgesine göre kontrolden çıkmış ajan, "üçüncü taraf bir sağlayıcının altyapısında barındırılan" sandbox'a, yani izole edilmiş test ortamına sızdıktan sonra burayı daha geniş çaplı bir saldırının başlangıç noktası haline getirdi.

Blog yazısında üçüncü taraf sağlayıcının adı verilmese de Modal'ın baş teknoloji sorumlusu Akshat Bubna, bir müşterinin yazdığı ve Modal'ın platformunda barındırılan savunmasız bir kodun ajan tarafından kötüye kullanıldığını söyledi.

Modal, sözkonusu müşterinin "internetteki herhangi birinin sandbox'ları kullanarak kod çalıştırmasına izin veren, doğrulanmamış bir uç nokta yayımladığını" belirtti; bu, internette kapıyı açık bırakmanın dijital karşılığı.

Bubna, "Modal'ın platformu veya izolasyon sistemi hiçbir şekilde ihlal edilmedi" dedi.

Modal müşterisinin güvenliğinin ihlal edilmesi, Hugging Face'e yönelik daha geniş çaplı siber saldırının yalnızca ilk adımı olsa da bu durum, kontrolden çıkmış ajanın daha önce bilinenden daha ileriye gittiğini gösteriyor.

OpenAI, "Hugging Face'le ilgili paylaştıkları, platform düzeyinde bir ihlali içeren olayın ciddiyet ve ölçeğinde başka herhangi bir faaliyet" tespit edilmediğini açıkladı.

OpenAI saldırıya karışan sistemi devre dışı bıraktığını da belirtti.

Şirket, "Blog yazımızda bahsedilen model önsürümü, yalnızca şirket içi kullanım amaçlı bir araştırma prototipi ve hiçbir zaman kamuya açık olarak yayımlanması planlanmamıştı" ifadelerini kullandı. 

Olayın ardından bu modeli devre dışı bıraktık, şifreledik ve araştırma erişimini kısıtladık.

Reuters'tan da yararlanılmıştır



*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç