ChatGPT'nin deneysel bir sürümü, nasıl oldu da kontrollü test ortamından kaçıp internete ulaştı ve rakip bir girişime karşı başarılı ama tamamen izinsiz bir siber saldırı gerçekleştirdi?

OpenAI'ın geçen hafta gerçekleştirdiği ve "emsalsiz bir siber vaka" diye nitelenecek şekilde sonuçlanan güvenlik testi sırasında bunlar yaşandı.

Henüz yayımlanmamış GPT-5.6 Sol'un da dahil olduğu yapay zeka modelleriyle desteklenen otonom ajan, kendisine yapılan siber güvenlik sınavındaki soruları cevaplamak yerine, siber güvenlik önlemlerinin test sırasında gevşetilmesinden yararlandı, sanal sınav odasından kaçtı ve cevapları aramak üzere hacklediği başka bir yapay zeka şirketinin sistemlerine sızdı.

Kabul etmek gerekir ki bu olay herhangi bir nükleer kod içermiyordu. Yine de bu, ciddi bir güvenlik zafiyetiydi.

Ve her iyi hikayede olduğu gibi burada da bir ters köşe var. Hugging Face saldırıyı tespit etti... ve yapay zeka destekli izleme sisteminin yardımıyla izinsiz girişi püskürttü.

Hugging Face'in güvenlik ekibi, saldırı sırasında kaydedilen 17 bini aşkın olayı analiz etmek ve neler yaşandığını anlamak için önce kapalı kaynak kodlu modellere baktı ki bunlar kullanıcıların isteklerini gönderdiği harici sunucularda çalışıyor.

Sağlayıcıların güvenlik sistemleri bu istekleri engelledi. Paylaşılan içeriğin doğası nedeniyle, gerçek bir olayı inceleyen savunmacılarla yardım arayan saldırganları güvenilir biçimde birbirinden ayırt edemediler.

Bunun üzerine ekip, bir Çin şirketinin geliştirdiği açık kaynak kod ağırlıklı GLM 5.2 modelini çalıştırdı. Böylece modeli kendi altyapılarında çalıştırabildiler, hassas saldırı verilerini içeride tutabildiler ve en önemlisi, kontrol etmedikleri güvenlik önlemleri tarafından engellenmekten kaçındılar.

Yapay zeka aynı olayda hem saldırıyı hem de savunmayı güçlendirdi.

Bu paradoks önemli. İzinsiz girişi mümkün kılan teknoloji, onu durdurmaya da yardımcı oldu.

Peki ben bunları nasıl bu kadar iyi biliyorum? Geçen yıla kadar Hugging Face'teydim, basın işlerini yönetiyor ve gazetecilerle birlikte açık kaynaklı yapay zeka üzerine çalışıyordum. Şirketin saldırganlar için nasıl öncelikli bir hedef olduğunu bizzat gördüm. Şirket, insan kaynaklı saldırılar konusunda her şeyi deneyimlemiş güçlü bir güvenlik ekibine sahip. Ancak bu ölçekte faaliyet gösteren otonom bir ajandan böyle bir saldırı ilk kez geldi.

Açık ve kapalı modellere dair tartışmaların yalnızca siyahla beyazın yer aldığı bir hikayeye ne kadar kolay dönüştüğünü de gördüm. Lakin bu olayın aktörleri, basitçe kahramanlar ve kötülerden oluşmuyor.

Bu olayın gösterdiği gibi, kapalı modeller doğaları gereği güvenli sayılamaz. Ne kadar yetkin olurlarsa olsunlar özel şirketlerin belirlediği güvenlik kısıtlamalarına bel bağlamak, kurumların vakalara nasıl müdahale edebileceğini sınırlar.

Saldırganlar bir yapay zeka sağlayıcısından izin beklemez. Ancak meşru güvenlik ekipleri bir ihlal girişimi meydana gelirken şirket filtrelerinden geçmek zorunda kalıyorsa güvenlik adına hem bir asimetri hem de güç yoğunlaşması yaratma riskine yol açarız.

Açık modeller de doğaları gereği tehlikeli sayılamaz. Savunmacıların özgürce çalıştırabildiği bir model saldırganlar tarafından da kötüye kullanılabilir ama açık kaynak ekosisteminde de çeşitli kısıtlamalar ve güvenlik önlemleri bulunmaktadır.

İşin jeopolitik boyutu meseleyi zorlaştırıyor. Hugging Face'in savunma amacıyla kullandığı model, Çin şirketi Z.ai tarafından açık ağırlıklı olarak piyasaya sürüldü. Buna karşılık en gelişmiş Amerikan siber güvenlik modellerinden bazılarına erişim sınırlandırılmış veya yalnızca belirli kuruluşlara açılmış durumda.

Bu durum, Britanya ve Avrupa için rahatsız edici tercihleri beraberinde getiriyor. Bu ülkelerin savunma ekipleri, erişim hakkı kazanıp kazanmadıklarına karar verilmesi için bir Amerikan şirketinin ya da Amerikan devletinin eline mi bakmalı? Çin modellerine mi yönelmeliler? Yoksa kendilerinin öncü şirketlerine mi yatırım yapmalılar?

Modellere erişimin yalnızca ülkeler arasındaki bir yarış olarak görülmeye başlaması gibi bir risk var. Bu da, internetin temel altyapılarının temelinde açık kaynak teknolojileri olduğunu ve yıllar geçtikçe işbirliği sayesinde daha da güçlendiklerini bize unutturabilir.

Dahası bu türden olaylar aynı anda hem korku yaratabilir hem de olağanüstü bir yeteneğe işaret edebilir.

İşin ironik yanı, bu olayın tam da siber yetenek değerlendirmelerini daha şeffaf ve tekrarlanabilir hale getirmek amacıyla oluşturulan bir kıyaslama testi sırasında yaşanmış olmasıdır. Testi geliştiren araştırmacılar, geleneksel güvenlik güçlendirme yöntemlerinin tek başına yetmese de hâlâ etkili olduğunu belirtiyor.

Otonom yapay zeka saldırılarının artık bir gerçek olduğunu ve tehdit modellemelerine dahil edilmesi gerektiğini gördüler. "Makineler geliyor" mantığıyla olmasa da yapay zeka çağında siber güvenliğe gerçekçi ve sorumlu bir yaklaşımla bakılmalı.

Belki de bize yolu göstererek daha da önemli bir şey yaptılar: Bu kıyaslama testini üniversiteler ve yapay zeka laboratuvarlarının ortak çalışmasıyla geliştirdiler.

Ne "her şeyi açmak" ne de "her şeyi kilitleyip saklamak" bir çözümdür. Test süreçlerinde yapay zeka laboratuvarlarının daha güçlü kısıtlamaya ve daha iyi takibe ihtiyacı var. Kuruluşların acil durumlarda güvenebileceği yapay zeka araçlarına ihtiyacı var. Ve sektör, güvenlik açıklarını ve çıkarılan dersleri hızla paylaşmalı.

Siber savunmanın geleceği korkuya değil, akıllıca açık olmaya ve işbirliğine bağlı olacak.

Florent Daudens, Mizal AI'nın kurucu ortağı ve Hugging Face'in eski basın sorumlusudur. Daha önce Kanada'daki haber merkezlerinde gazeteci ve yönetici olarak çalışmıştı

independent.co.uk/voices

Independent Türkçe için çeviren: Eren Umurbilir