ABD'li bir gazetecinin giriştiği yapay zeka deneyi, ses kopyalama algoritmalarının bankacılık sistemlerine yönelik tehlikesini gözler önüne serdi.
VICE muhabiri Joseph Cox, teknoloji firması ElevenLabs'in ürettiği, ücretsiz bir yapay zeka uygulamasını kullanarak kendi sesini kopyaladı.
Daha sonra bankasını arayan Cox, telesekretere yapay zeka üretimi ses dosyasını dinletti. Böylece sesli imza uygulamasını kandırmayı ve hesaplarına erişmeyi başardı.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Son günlerde ünlülerin seslerini kopyalayan yapay zeka araçları sosyal medyada büyük ilgi görüyor. Ancak bunun dolandırıcılık amaçlı kullanılabileceği çok tartışılan bir konu değildi.
Öte yandan bankaların ve telefon operatörlerinin güvenlik amaçlı getirdiği, "sesli imza" diye bilinen kimlik kontrolü uygulamasının yapay zekayla kolayca manipüle edilebildiği ortaya çıktı.
Cox, yapay zeka uygulamasına 5 dakikalık bir ses kaydı yükledi. Kayıtta muhabirin kendi sesi vardı.
Kopyalama süreci tamamlandıktan sonra yapay zeka, artık yazılı tüm metinleri Cox'un sesiyle seslendirebilir hale gelmişti.
Muhabir, böyle basit bir deneyin güvenlik sistemini atlatabildiğine "inanamadığını" ifade etti:
Bakiyelerime ve son işlemlerime ve para transferleri listemin de dahil olduğu bir dizi hesap bilgisine eriştim.
Cox, konuyla ilgili görüşlerini almak üzere ElevenLabs firmasıyla temasa geçtiğini ama firma yetkililerinin yorum yapmaktan kaçındığını yazdı.
"Yapay zekayla üretilen seslerin kötüye kullanımı dolandırıcılık ve bilgisayar korsanlığına kadar uzanabilir" diyen muhabir, sözlerini şöyle sürdürdü:
Bu deneyi yaptıktan sonra konuştuğum bazı uzmanlar, bankaların sesli kimlik doğrulama sistemini tamamen terk etmelerini istiyor.
Independent Türkçe, VICE, Biometric Update
Derleyen: Çağla Üren
