Suçlular, İtalyan süper araba üreticisine sızma amacıyla CEO Benedetto Vigna’nın sesinin yapay zeka ile üretilmiş bir versiyonunu kullanarak canlı bir telefon görüşmesi gerçekleştirdi.
Bu ayın bir Salı sabahı, saat on civarı, bir Ferrari NV yöneticisi, görünüşte CEO’dan gelen bir dizi beklenmedik mesaj almaya başladı.
“Hey, büyük bir satın alma planımızdan haberin var mı? Yardımına ihtiyacım olabilir,” diyen bir mesaj, CEO Benedetto Vigna’dan geliyormuş gibi görünüyordu.
Bloomberg tarafından görülen WhatsApp mesajları, Vigna’nın alışılmış iş cep telefonu numarasından gönderilmemişti. Profil resmi de farklıydı; ancak bu, gözlük takan CEO’nun takım elbise ve kravatla, kollarını kavuşturmuş bir halde Ferrari’nin atlı logonun önünde poz verdiği bir görüntüydü.
“Avukatımızın en kısa zamanda size göndereceği Gizlilik Sözleşmesi’ni imzalamaya hazır olun,” diyordu Vigna’nın taklitçisinden gelen bir başka mesaj. “İtalya’nın piyasa düzenleyicisi ve Milano borsa yönetimi bilgilendirildi. Hazır olun ve lütfen en yüksek dikkatle hareket edin.”
Olayın ardından, konuyla ilgili bilgi sahibi olan kişi göre, yaşananlar, uluslararası alanda tanınan bir işletmeye sızmayı amaçlayan bir canlı telefon görüşmesini gerçekleştirmek için kullanılan derin sahte araçların en son örneklerinden biriydi. Ancak, telefon görüşmesini alan yönetici durumu fark edince İtalyan süper araba üreticisi hiçbir zarar görmeden bu durumdan kurtuldu. Olayın hassasiyetinden dolayı kimliklerini açıklamak istemeyen kaynaklar, bu gelişmenin altını çizdi.
Vigna’yı taklit eden ses, son derece ikna ediciydi — güney İtalyan aksanının tam anlamıyla mükemmel bir taklidi.
Vigna derin sahtekarı, farklı bir cep telefonundan aradığını açıklamaya başladı; çünkü gizli bir konuyu tartışması gerekiyordu — Çin ile ilgili bazı engellerle karşılaşabilecek bir anlaşma ve gerçekleştirilmesi gereken belirsiz bir döviz koruma işlemi söz konusuydu.
Yönetici, duyduğu şey karşısında dehşete düştü ve şüpheleri kabarmaya başladı. Mekanik tonlamalardaki en ince değişimleri bile fark etmeye başladı; bu durum sadece şüphelerini artırdı.
“Üzgünüm, Benedetto, ama seni tanımlamam gerekiyor,” dedi yönetici. Ardından bir soru yöneltti: Vigna’nın kendisine birkaç gün önce tavsiye ettiği kitabın adı neydi (o kitap “Dönüşümün Aşılmaz Zorluğu: Dünyanın Sürekli Olma Hali İçinde Eylem, Öğrenme ve Uyuma” yazarı Alberto Felice De Toni’ye aitti)?
Bununla birlikte, telefon görüşmesi aniden sona erdi. Kaynakların ifadesine göre, Ferrari iç bir soruşturma başlattı. İtalya’nın Maranello şehrinde bulunan şirketin temsilcileri konuyla ilgili yorumda bulunmaktan kaçındı.
Bu, ünlü bir yöneticiyi taklit etme girişimlerinin ilk örneği değil. Mayıs ayında, reklam devi WPP’nin CEO’su Mark Read’ın da benzer şekilde karmaşık bir derin sahtekârlık dolandırıcılığının hedefi olduğu, ancak bu girişimin sonuçsuz kaldığı bildirilmişti. Bu dolandırıcılık, bir Teams görüşmesinde onun kılığına girmişti.
“Bu yıl, suçluların yapay zeka kullanarak ses klonlama girişimlerinde bir artış gözlemliyoruz,” dedi siber güvenlik eğitimi veren SocialProof Security’nin CEO’su Rachel Tobac bir röportajda.
Bu jeneratif yapay zeka araçları, ikna edici derin sahte (deepfake) görüntüler, videolar ve ses kayıtları üretebilse de, henüz birçok uzmanın uyardığı gibi geniş çapta bir aldatmaca yaratacak kadar ikna edici olduklarını kanıtlayamadılar.
Ancak bazı şirketler dolandırıcıların hedefi haline geldi. Bu yılın başlarında, ismi açıklanmayan bir çok uluslu şirket, dolandırıcıların Hong Kong’daki çalışanlarını derin sahtecilik teknolojisiyle kandırması sonucu HK$200 milyon (26 milyon dolar) kaybetti. Yalancılar, şirketin baş finansman sorumlusunun ve diğer kişilerin görüntülerini bir video görüşmesinde uydurarak kurbanı para transferine ikna ettiler.
Diğer firmalar, bilgi güvenliği alanındaki CyberArk gibi, yöneticilerini botlar tarafından dolandırıldıklarını nasıl anlayacakları konusunda eğitmeye çoktan başladı.
“Zaman meselesi sadece, bu yapay zeka destekli derin sahtecilik araçlarının şaşırtıcı bir doğrulukla daha da gelişeceği bekleniyor,” dedi İtalya’nın Politecnico di Milano’dan siber güvenlik profesörü Stefano Zanero, bir telefon görüşmesinde.