Yapıcı Yarın Komitesi Politika Araştırma Direktörü Duggan Flanakin tarafından
“Deepfakes, dijital çağ için son bir sınırı çok iyi temsil edebilir.” – Rimon Hukuku Uygulayıcı Avukat, Jon Mechanic
“Canlı mı yoksa Memorex mi?” Ella Fitzgerald’ın yüksek bir notaya vurarak camı kırdığı bir videonun canlı mı yoksa Memorex kasetinde mi olduğunu tahmin etmemizin istendiği 1970’lerin günleri.
1987’de icat edilen başka bir sahte teknoloji olan Photoshop’un belki de en unutulmaz kullanımı 1989’du. TV Rehberi kapakta Oprah Winfrey ile ilgili sorun. Ancak bu, 1960’ların gözdesi Ann-Margaret’in vücudunun üzerine yerleştirilmiş Oprah’ın kafasıydı – hiçbir kadının önceden bilgisi veya izni olmadan.
Hızla öfke haline gelen “Deepfake” videolar, yapay zeka, makine öğrenimi ve diğer teknolojilerden yararlanarak, örneğin gerçek bir kişinin yüzünü bir başkasının yüzüne bindirerek gerçek kişinin bir şey söylüyor veya yapıyormuş gibi görünmesini sağlayın aslında yapmadılar. Teknoloji o kadar ileri ki, “canlı mı yoksa Memorex mi” olduğunu söylemek oldukça zor olabilir.
Bununla birlikte, derin sahtekarlıklar, insanları kampanyalara katkıda bulunmaya veya aceleci satın almalar yapmaya ikna etmek için ünlü bir kişiliği kullanmak gibi hain amaçlarla kullanılabilir; gerçekten de vicdansızlar artık teknolojiyi iş ve siyaseti çarpıtmak için kullanıyor.
Küresel şirket Rimon Law’ın Kanadalı avukatı Jon Mechanic, bana büyük ekran destanlarına, Broadway yapımlarına ve televizyon dizilerine devasa meblağlar yatıran eğlence endüstrisinin, bir başrol oyuncusu olduğunda projeleri tamamlamak için derin sahte ürünler kullanmaya başlayabileceğine dikkat çekti. veya icracı ölür veya aciz hale gelir.
Deepfakes, Netflix’in kült animasyon dizisi BoJack Horseman’ın 2. sezonunda önemli bir olay örgüsüydü.
BoJack, “Secretariat”ı çekmekten vazgeçti, ancak stüdyonun filmi onsuz tamamlamak için onun görüntüsünü taradığını öğrendi. Bir stüdyo bunu bir insan aktöre yapsaydı, sonuçları bir düşünün.
Diğerleri, Nicolas Cage ve John Travolta’nın birbirlerinin kimliğine bürünmek için yüz nakli yaptırdıkları 1997 yapımı “Face/Off” filmini hatırlayabilir.
Mechanic, deepfake kullanma potansiyelinin eğlence sektöründe – aktörler, yapımcılar ve özellikle de deepfake kullanan yapımlarda “yıldız” olabilecek ölü aktörlerin mülkleri için – çok sayıda yasal sorunu gündeme getirdiğine dikkat çekiyor. Yine de bir başka endişe, canlı aktörlerin önemli rollerini ölü yıldızların derin sahte görüntülerine kaptırabilmeleridir.
Bu korku, kısmen, film içindeki filmde yapay zeka süper güzelliğinin “gerçek hayattaki bir aktrisin” yerini aldığı Andrew Niccol’un 2002 yapımı “S1m0ne” filminden kaynaklanıyor olabilir.
S1m0ne bir gecede hem izleyicileri hem de eleştirmenleri hayrete düşüren bir yıldız olur. Yine de gerçeği bilen hiç kimse aldatmacanın ahlakını sorgulamaz.
Deepfake, eğlence kişilikleri için iki ucu keskin bir kılıç olsa da, politik alanda kullanımının daha derin sonuçları vardır.
Nazi “gazetecisi” ve savaş suçlusu Julius Streicher’den (yayıncısı) alıntı yaparak forvet Ve Zehirli MantarSahte ve Yahudi aleyhtarı görseller kullanarak nefret alevlerini körükleyen,
Tamirci, böyle bir canavarın elindeki modern derin sahte araçlarla verebileceği zararı düşündü.
Emma Woollacott, hem eğlence hem de yanlış bilgi için artan kullanımına işaret ederek deepfake’i “yeni siber güvenlik sınırı” olarak adlandırıyor.
İşin komik tarafı, beş teknoloji çalışanı, kısa bir süre önce bir görüntülü arama sırasında patronlarının yüzünü vücutlarının üzerine yerleştirdi ve daha sonra viral olan bir video yayınladı.
Pek de komik olmayan yönüyle, Woollacott sahte bir Elon Musk’ın içeriden öğrenenlerin ticaretiyle ilgili ipuçları verdiği veya derinden sahte bir politikacının yeni bir politikayı açıkladığı bir video hayal ediyor.
2019’da dolandırıcıların, Birleşik Krallık’taki bir CEO’yu 243.000 dolardan dolandırmak için ses üreten yapay zeka yazılımı kullandığı bildirildi. Deepfake dolandırıcıları – organize suç üyeleri de dahil olmak üzere – gerçekten de farkında olmayan kurbanları dolandırmak için rutin olarak sahte hesaplar oluşturur.
Bir iProov anketi, finans sektöründeki siber güvenlik uzmanlarının dörtte üçünün derin sahte dolandırıcılıkla ilgili endişelerini dile getirdiğini ortaya çıkardı; yaklaşık üçte ikisi tehdidin kötüleşmesini bekliyor.
İki Belçika örneği, deepfake’in ortaya koyduğu fırsatları ve ikilemleri gösteriyor.
Belçikalı deepfake sanatçısı Chris Ume “America’s Got Talent”in yetenekli jüri üyeleri Simon Cowell, Howie Mandell ve Terry Crews’un yüzlerini üç opera şarkıcısının vücutlarına yerleştirdi ve programda ilerledi. Deepfake ile herkes çok eğlendi.
Ancak iki yıl önce, Belçika’nın Extinction Rebellion radikalleri, Belçika başbakanı Shophie Wilmès’in COVID-19’u iklim kriziyle ilişkilendirdiğini gösterdiği iddia edilen bir deepfake video yayınladı.
Makine öğrenimi ve yapay teknolojinin sesini ve benzerliğini yeniden ürettiği video, “…pandemiler daha derin bir ekolojik krizin sonuçlarından biridir” dedirtti.
Sınır İşletmesi editör Mike Leaño, VMware siber güvenlik stratejisti Rick McElroy’dan derin sahtekarlık yapanların da bu teknolojiyi tehlikeli kuruluşlara erişim sağlamak için kullandığını öğrendi.
İş e-postalarına sızarak yetkisiz fon transferleri gerçekleştirir, sahte sözleşmeler oluşturur, fikri mülkiyeti çalar, sahte sanal çalışanlar ekler ve kurumsal casusluk gerçekleştirir.
Bu suçlarla mücadele etmek için şirketler, aktarımlar veya veri yayınları için çok düzeyli kimlik doğrulama prosedürleri kullanır. Ek bir savunma hattı oluşturmak için, çalışanlara derin sahtekarlıkları tespit etmeleri için ek eğitim sağlayabilirler.
Başka bir teknoloji yöneticisi Leaño’ya, kuruluşların artık geleneksel veri kaynaklarını mobil ve sosyal medya ve kamu hizmetleri ödemeleri gibi alternatif kimlik verileriyle katmanlandırdığını söyledi.
2023’te, deepfake dedektörlerinin sürekli gelişen deepfake teknolojisine ayak uydurması için devam eden bir savaş var.
Bazı eyaletler, özellikle seçim müdahalesi ile ilgili olarak, deepfake teknolojisinin kullanımını düzenleyen yasalar çıkardı.
Ancak Federalist Society yazarı Matthew Feeney, örnek olarak Kaliforniya ve Teksas’taki yasaların, hükümetin siyasi söylemi sınırlama konusunda zorlayıcı bir çıkarı olduğunu göstermekte başarısız olduğunu söylüyor.
California ACLU yasama direktörü Kevin Baker, eyalet yasasının “… yalnızca seçmenlerin kafa karışıklığına, kötü niyetli davalara ve ifade özgürlüğünün bastırılmasına yol açacağını” iddia ediyor. Ve Teksas yasası, parodi ve hiciv için istisnalar içermiyor.
Federal düzeyde, eski Senatör Ben Sasse, bir dizi zarar olarak algıladığı şeyleri ele almak için derin yasa çıkardı; temsilci
Yvette Clarke, derin sahte içeriğin etiketlenmesini zorunlu kılmaya çalıştı; ve diğerleri, etkileşimli bilgisayar hizmetlerinin yasa dışı faaliyetleri önlemek için “makul adımlar” atmasını zorunlu kılmak için İletişim Ahlakı Yasası’nın 230. Bölümünü değiştirmeye çalıştı.
Ancak Feeney, özel sektörün derin sahte dolandırıcılık ve yanlış bilgilendirmeyi savuşturmak için en güçlü kartlara sahip olabileceğini öne sürüyor.
Mechanic, kendi eyaleti olan Quebec’in Fransa’nın Napolyon Yasasından ilham alan bir medeni kanuna dayandığını ve ayrıca, adlarının, görüntülerinin ve seslerinin kötüye kullanılmasına karşı bireylerin mahremiyet haklarını topluca koruyan bir insan hakları ve özgürlükler sözleşmesine sahip olduğunu belirtiyor.
Öte yandan, bankalar, sigortacılar ve “tamamlama garantörleri”, örneğin bir başrol oyuncusu ölürse veya iş göremez hale gelirse, o aktörün imajına ve itibarına dayanan önemli kredileri veya yatırımları korumak için atılması gereken adımları belirleyen sözleşmeler hazırlayabilir. .
Ancak Mechanic, toplum olarak hem deepfake teknolojisinin olumlu kullanımlarına izin veren hem de olumsuzluklarına karşı koruma sağlayan uygun bir yasal çerçeve oluşturmanın henüz ilk aşamalarında olduğumuzu kabul ediyor.
İçerik oluşturucuları filmlerde, TV şovlarında ve yeni medya içeriğinde deepfake kullanırken yasalara uymaya özen göstermeye çağırıyor.
Yetenek de teknolojiyi kullanarak yeni gelir akışları için fırsatları araştırmalıdır. Öte yandan Mechanic, bireyleri ve işletmeleri derin sahtekarlıkları tespit etmek ve kötü niyetli kullanımlarına karşı haklarını anlamak için gözlerini ve kulaklarını dört açmaya çağırıyor.
Yazar hakkında
Duggan Flanakin, Yapıcı Bir Yarın İçin Komite’de (CFACT) Politika Araştırma Direktörüdür. Flanakin aynı zamanda Chicago Tribune, International Business Times, Real Clear Energy ve International Policy Digest gibi yayınlarda imzası bulunan başarılı bir yazardır.