Jumio’ya göre, tüketicilerin %67’si üretici yapay zeka teknolojilerinin farkında ancak derin sahte bir videoyu tespit etme yeteneklerini abartıyorlar.
Tüketiciler arasında üretken AI farkındalığı
Tüketiciler arasında üretici yapay zeka ve derin sahtekarlık farkındalığı yüksektir — yanıt verenlerin %52’si bir derin sahte video tespit edebileceklerine inanıyor. Deepfake’lerin çıplak gözle tespit edilmesini önleyen bir karmaşıklık düzeyine ulaştığı gerçeği göz önüne alındığında, bu duygu tüketicilerin aşırı güvenini yansıtıyor.
UK Finance’in son rakamlarının, kimliğe bürünme dolandırıcılıklarının 2022’de Birleşik Krallık’a 177 milyon sterline mal olduğunu bulması düşünüldüğünde, bu endişe verici. web siteleri, üretken AI araçlarının kullanımı nedeniyle daha az yaygındır.
Federal Ticaret Komisyonu’na göre ABD’de tüketiciler, 2021’de 2,4 milyar dolardan 2022’de kimliğe bürünme dolandırıcılıklarına 2,6 milyar dolar kaybetti.
Deepfakes katlanarak daha iyi hale geliyor
Jumio verileri ayrıca, ödemeler ve kripto sektörlerinde daha yoğun bir varlıkla birlikte, dünya çapında ve endüstriler arasında giderek daha karmaşık hale gelen deepfake’lerin kullanımında istikrarlı bir artış olduğunu gösteriyor.
“Pek çok insan bir derin sahtekarlığı tespit edebileceklerini düşünüyor. Jumio’nun CTO’su Stuart Wells, kesinlikle aranacak anlatı işaretleri olsa da, derin sahtekarlıklar her zaman katlanarak daha iyi hale geliyor ve yapay zekanın yardımı olmadan tespit edilmesi giderek zorlaşıyor” dedi.
“İşletmeler, ağlarını ve müşterilerini tespit edip derin sahtekarlıklardan korumak için yapay zeka destekli teknolojiye giderek daha fazla ihtiyaç duyacak olsa da, tüketiciler kışkırtıcı görüntülere, videolara ve seslere şüpheyle yaklaşarak kendilerini koruyabilirler. Bazı hızlı araştırmalar genellikle bunun sahte olup olmadığını ortaya çıkaracaktır,” diye ekledi Wells.
Kimlik hırsızlığı endişeleri
Tüketiciler bu teknolojilerin daha fazla farkına vardıkça, bunların kimlik hırsızlığını körüklemek için nasıl kullanılabileceğine dair de yeni bir anlayış ortaya çıkıyor.
%57’si bunun sonucunda çevrimiçi kimlik hırsızlığının daha kolay hale geleceğine inanıyor ve Singapur’daki tüketiciler potansiyel zararlı kullanımlarını (%73) en iyi şekilde anlayanlar oldu. Bu seviyeler Meksika (%62), ABD (%49) ve Birleşik Krallık’ta (%43) tüketiciler arasında azalmaktadır.
Jumio’nun dijital kimlik şefi Philipp Pointner, “Kuruluşların, derin sahtekarlıkları tespit etme yeteneklerine ilişkin daha gerçekçi beklentiler geliştirmelerine yardımcı olmak için müşterilerini üretici yapay zeka teknolojilerinin nüansları konusunda eğitme görevi var” dedi.
“Aynı zamanda, en iyi eğitim bile bir dolandırıcının gelişen teknolojileri kullanmasını asla tamamen durduramaz. Çevrimiçi kuruluşlar, derin sahtekarlıkları tespit edebilen ve çalınan kişisel bilgilerin kullanılmasını önleyebilen çok modlu, biyometrik tabanlı doğrulama sistemlerini uygulamaya çalışmalıdır. Cesaret verici bir şekilde, araştırmamız, işletmelerin hızlı bir şekilde harekete geçmesi gereken bu kimlik doğrulama biçimine yönelik güçlü bir tüketici iştahını gösterdi.”
Tüketicilerin %68’i kendilerini çevrim içi olarak doğrulamak için dijital kimlik kullanmaya açık. Fiziksel kimlik (ehliyet veya pasaport gibi) yerine dijital kimliği tercih edecekleri sektörlerin başında finansal hizmetler (%43), devlet (%38) ve sağlık hizmetleri (%35) gelmektedir.