Tanıştığını hayal et yeni biri. Bir flört uygulamasında veya sosyal medyada olsun, çevrimiçi olarak birbirinize şansınız ve konuşmaya başlıyorsunuz. Onlar gerçek ve ilişkilendirilebilir, bu yüzden DMS’den hızlı bir şekilde Telegram veya WhatsApp gibi bir platforma götürürsünüz. Fotoğraf alışverişi yapıyorsunuz ve hatta her birini video çağrısı yapıyorsunuz. Rahat olmaya başlıyorsun. Sonra aniden para getiriyorlar.
Belki de Wi-Fi erişimlerinin maliyetini karşılamanız gerekir. Ya da bu yeni kripto para birimini deniyorlar. Gerçekten erken başlamalısın! Ve sonra, ancak çok geç kaldıktan sonra, konuştuğunuz kişinin aslında gerçek olmadığını anlıyorsunuz.
Onlar bir aldatmaca çalıştıran birinin yüzünü gizleyen gerçek zamanlı AI tarafından üretilen bir derin peynir vardı.
Bu senaryo doğru olmak için çok distopik veya bilim kurgusal gelebilir, ancak zaten sayısız insana oldu. Son birkaç yıldır üretken AI’nın yeteneklerindeki artışla, dolandırıcılar artık gerçek zamanlı olarak kendilerini maskelemek için gerçekçi sahte yüzler ve sesler yaratabilirler. Ve uzmanlar, bu derin dişlerin romantizmden istihdamdan vergi sahtekarlığına kadar baş döndürücü bir çevrimiçi dolandırıcılık çeşitliliğini denetleyebileceği konusunda uyarıyor.
Kimlik doğrulama firması Sentilink ve Georgia State Üniversitesi’nde bir kriminoloji profesörü sahtekarlık bilgileri başkanı David Maimon, son altı yıldır AI romantizm dolandırıcılığı ve diğer AI sahtekarlarının evrimini izliyor. Maimon, “Özellikle 2023 ve 2024’e kıyasla, derin dişlerin hacminde dramatik bir artış görüyoruz” diyor.
“Çok fazla değildi. Ayda dört ya da beşten bahsediyoruz” diyor. “Şimdi, bunların yüzlerce kişiyi aylık olarak görüyoruz, bu da akıl almaz.”
Deepfores zaten çeşitli çevrimiçi dolandırıcılıklarda kullanılıyor. Örneğin, Hong Kong’daki bir finans çalışanı, derin bir desenli video görüşmesinde şirketin baş finans sorumlusu olarak poz veren bir dolandırıcıya 25 milyon dolar ödedi. Bazı Deep Tesenli dolandırıcılar, YouTube’da “sadece şakalar ve eğitim amaçları” için bir feragatname olan öğretim videoları bile yayınladı. Bu videolar genellikle AI tarafından oluşturulan yakışıklı bir genç adamın yaşlı bir kadınla konuştuğu bir romantizm aldatmaca çağrısı ile açılır.
Canlı bir sahte değil, bir ünlü veya politikacının önceden oluşturulmuş bir videosu gibi daha geleneksel derin dişler de daha yaygın hale geliyor. Geçen yıl, Yeni Zelanda’daki bir emekli, ülkenin başbakanının insanları satın almaya teşvik eden derin bir perisi içeren bir Facebook reklamını gördükten sonra bir kripto para birimi yatırım dolandırıcılığına yaklaşık 133.000 dolar kaybetti.
Maimon, Sentilink’in bir daire kiralamak veya vergi iadesi sahtekarlığına girmek için banka hesapları oluşturmak için kullanılan derin hasatları görmeye başladığını söyledi. Yetkili, artan sayıda şirketin de video iş görüşmelerinde derin hasar gördüğünü söylüyor.
Maimon, “İnsanların çevrimiçi olmasını gerektiren ve yüzleri birisiyle değiştirme fırsatını destekleyen her şey – mevcut olacak ve sahtekarlığın yararlanması için açılacak” diyor Maimon.