Yapay zeka teknolojisinin ilerlemesi, hem olumlu hem de olumsuz etkiler doğurarak bir dizi etik ve güvenlik sorununu da beraberinde getirmektedir. Son zamanlarda ortaya çıkan bir dolandırıcılık vakası, ünlü sunucu Esra Erol'u hedef alarak yapay zeka teknolojisinin karanlık yüzünü ortaya koymaktadır. Dolandırıcılar, Esra Erol'un meşhur bir videosunu kullanarak, yapay zeka yöntemiyle oluşturulan sahte bir videoyu sosyal medyada yayınlamışlardır.
Yapay zeka ile birçok şeyi yapmanın mümkün olduğunu özellikle sosyal medyada yapay zekanın ne kadar profesyonel kullanılabileceğini, yapay zeka ile oluşturulmuş fenomen manken Emily Pellegrini tasarımında da görmüştük. Instagram’da videolar çekerek içerik üreten bu manken aslında gerçek olmayan bir yapay zeka tasarımından ibaretken, binlerce takipçisi onun gerçekliğine inanmış hatta onunla evlenmek ve zaman geçirmek isteyenler de olmuştu. Yapay zeka teknolojileri insanları şaşırtacak kadar etkili kullanılabileceği gibi aynı zamanda tehlikeli de olabiliyor.
Esra Erol’un Sesi ve Görüntüsü Değiştirilmiş
Esra Erol'un avukatı Hülya Kuran, durumu kamuoyuna duyurarak yapay zeka ile gerçekleştirilen bu sahtekarlık girişimine karşı hukuki mücadele başlattıklarını belirtmiştir. Yapay zeka sayesinde Esra Erol'un sesi ve görüntüsü değiştirilerek, dolandırıcılık amacıyla kullanılmıştır. Bu olay, yapay zekanın kötü niyetli kullanımının ne kadar büyük bir tehdit oluşturabileceğini gösteren çarpıcı bir örnek olarak karşımıza çıkmaktadır. 
Görüntünün Sahte Olduğunu Duyurmaya Çalışan Erol, Hukuk Yoluna Gitti
Esra Erol, Instagram hesabından sahte videoyu ve orijinalini paylaşarak insanları bu tür dolandırıcılık yöntemlerine karşı uyarırken, avukatı da sosyal medya ve internet sitelerinde yapılan bu tür dolandırıcılıklara karşı hukuki süreç başlattıklarını açıklamıştır. Dolandırıcılar, Esra Erol'un ses ve görüntüsünü kullanarak, deepfake teknolojisiyle oluşturdukları sahte reklamlar aracılığıyla insanları maddi kayıplara uğratmaya çalışmışlardır.
Bu olay, yapay zekanın kontrolsüz kullanımının getirdiği risklere dikkat çekerek, dijital güvenlik konusunda toplumun bilinçlenmesi gerekliliğini vurgulamaktadır. Yapay zeka teknolojisinin potansiyeli büyük olmakla birlikte, kötü niyetli kişiler tarafından istismar edilme riski de bulunmaktadır. Bu nedenle, yapay zeka teknolojisinin etik ve yasal çerçeveler içinde kullanılması ve toplumu bilinçlendirmek adına önleyici tedbirler alınması önem arz etmektedir.
