McAfee’ye göre Amerikalıların %23’ü yakın zamanda siyasi bir deepfake ile karşılaştıklarını ve daha sonra sahte olduğunu keşfettiklerini söyledi.
Pek çok Amerikalının, yapay zeka teknolojilerinin gelişmişliği sayesinde neyin gerçek, neyin sahte olduğunu çözemediği göz önüne alındığında, siyasi ve diğer deepfakelere maruz kalan gerçek insan sayısının çok daha yüksek olması bekleniyor.
Yanlış bilgi ve dezenformasyon en önemli endişelerdir
Yanlış bilgi ve dezenformasyon, Amerikalılar için temel endişeler olarak ortaya çıktı; Başkan Joe Biden’ın sahte bir otomatik aramasını içeren son olay, bunun yaygın bir sorun haline gelebileceğinin bir örneğini oluşturdu. Deepfake’lerin en endişe verici potansiyel kullanım alanları sorulduğunda seçimle ilgili konular ön plandaydı.
Spesifik olarak, %43’ü seçimleri etkilemeyi, %37’si halkın medyaya olan güvenini zedelemeyi, %43’ü kamuya mal olmuş kişileri (örneğin politikacılar veya tanınmış medya figürleri) taklit etmeyi ve %31’i tarihi gerçekleri çarpıtmayı söyledi.
“Bu seçim sezonunda deepfake’ler yaratan sadece düşman hükümetler değil, bu artık herkesin öğleden sonra yapabileceği bir şey. Klonlanmış ses ve deepfake video oluşturmaya yönelik araçlar kullanıma hazırdır ve ustalaşması yalnızca birkaç saat sürer; bunların hepsinin gerçek olduğuna sizi ikna etmek ise yalnızca birkaç saniye sürer. Yapay zekanın sesleri ve görselleri kolaylıkla manipüle edebilmesi, özellikle kritik bir seçim yılında içeriğin özgünlüğü konusunda kritik soruları gündeme getiriyor. McAfee’nin CTO’su Steve Grobman, “Yapay zeka sayesinde bu yıl birçok açıdan demokrasi oylamada yer alıyor” dedi.
Yapay zeka tarafından oluşturulan içeriğin geniş çapta mevcut olduğu ve gerçekçi görsel ve işitsel içerik oluşturabildiği bir dünyada, görmek artık inanmak anlamına gelmiyor. Tüketiciler artık gerçek haberleri sahte haberlerden ayırt ederken kendi gözlerine ve içgüdülerine güvenemiyor.
Seçim yılında Deepfake’ler
İnsanların %66’sı deepfake konusunda bir yıl öncesine göre daha fazla endişe duyuyor. Ankete katılanların %53’ü yapay zekanın çevrimiçi dolandırıcılıkların tespitini zorlaştırdığını söylüyor.
Amerikalı sosyal medya kullanıcılarının %72’si, sahte haberler ve dolandırıcılık gibi yapay zeka tarafından oluşturulan içerikleri tespit etmekte zorluk çekiyor. İnsanların yalnızca %27’si bir arkadaşından veya sevdiği birinden gelen bir aramanın gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunu tespit edebileceklerinden emin.
Kutuplaşmanın yaşandığı bir seçim yılı boyunca siyasi ortam ısındıkça, deepfake teknolojisine ilişkin endişeler de artıyor. İnsanlar, sevdiklerinin veya ünlülerin yapay zeka tarafından üretilen ses klonları tarafından kandırılabiliyorsa, insanları sesin siyasi bir figürden geldiğini düşünmeye ikna etmek için tasarlanan yapay zeka tarafından oluşturulan ses tarafından kandırılma olasılığı, siyasi söylemi ve seçim sonuçlarını önemli ölçüde etkileyebilir.
Geçtiğimiz 12 ayda, insanların %43’ü deepfake içerik gördüğünü, %26’sı deepfake dolandırıcılığıyla karşılaştığını ve %9’u deepfake dolandırıcılığının kurbanı olduğunu söyledi.
Deepfake dolandırıcılığıyla karşılaşan veya mağdur olan kişilerden:
- %31’i bir tür yapay zeka ses dolandırıcılığı yaşadıklarını söyledi (örneğin, bir arkadaş veya sevdiklerine benzeyen bir çağrı, sesli mesaj veya sesli not aldılar ve bunların aslında bir ses klonu olduğuna inandılar).
- %23’ü, bir siyasi adayın (kamuya mal olmuş bir kişinin taklidi) videosu, resmi veya kaydıyla karşılaştıklarını ve ilk başta bunun gerçek olduğunu düşündüklerini söyledi.
- %40’ı bir ünlünün videosuna, görüntüsüne veya kaydına rastladıklarını ve bunun gerçek olduğunu düşündüklerini söyledi.