Aldatma ve medya manipülasyonu her zaman savaşın bir parçası olmuştur, ancak AI onları yeni bir seviyeye taşımıştır. Embut, 2024’te her beş dakikada bir derin dişlerin oluşturulduğunu bildirirken, Avrupa Parlamentosu bu yıl AB genelinde 8 milyonun dolaşacağını tahmin ediyor.
Teknolojiler, tek bir atış yapmadan bir ülkeyi istikrarsızlaştırabilir. İnsanlar kötü haberlere daha hızlı yanıt verir ve onu yayma olasılığı daha yüksektir. Bunun da ötesinde, sahte bilgileri tespit etmekte çok kötüdürler. İngiltere’deki göçmen karşıtı isyanlar, sosyal medyadaki yanlış iddiaların kontrolden çıkabileceğini ve gerçek dünyadaki şiddete dönüşebileceğini gösteriyor.
Yanlış açıklamalar, doktorlu ses talimatları ve manipüle edilmiş görüntüler yapan liderlerin sahte videoları hükümetleri sallayabilir veya kamuoyunu şekillendirebilir. İşletmeler de güvenli değil. Yanlış duyurular veya sahte yönetim kurulu ifadeleri hisse senedi fiyatlarını ve yatırımcı güvenini etkileyebilir.
Bazı sosyal medya platformları içerik denetimini azalttı ve bu materyalin viral olmasını daha da kolaylaştırdı.
Jeopolitikte derin dişlerin kullanımı
Bilgiyi kontrol eden kimin anlatıyı kontrol ettiğini söylüyorlar. Geçmişte, TV ve gazeteler kamu algısını şekillendirdi, ancak bugün sosyal ağlar çok daha fazla insana ulaşıyor. Derin dişlerin gerçek gücü, medya alanını kirletmek ve güvensizliği ekmekten kaynaklanmaktadır. İnsanlar gördüklerine güvenmeyi bıraktıklarında, görüşleri şekillendirilebilir veya manipüle edilebilir.
Son yıllarda, otoriter rejimler demokratik seçimlere daha fazla müdahale ediyor ve sahte haberler yayılıyor. Özellikle Rusya, sık sık dünya çapında seçimleri etkilemeye çalışmakla suçlanıyor. Bu, birçok korku ve ses klonunun seçimlerin bütünlüğünü zayıflatabileceği ve hatta seçim kampanyalarının yüzünü değiştirebileceğinden, bu yaygın endişeyi artırdı.
Slovakya’nın seçimlerinden hemen önce, sahte bir ses klibi, seçim sahtekarlıklarını tartışan bir adayı gösterdiği iddia edildi. Klip viral oldu ve seçimin sessizlik döneminde serbest bırakılması sonucu başka bir aday lehine etkilemiş olabilir.
Seçim müdahalesinin yanı sıra, dünyanın dört bir yanındaki silahlı çatışmalarda derin dişler de kullanılmaktadır. Orta Doğu’da, Ukrayna’daki çatışmalar ve Hindistan ve Pakistan arasındaki son kısa savaş da ilgili tüm taraflar tarafından kullanılan çok sayıda derin fener üretti.
Rusya’nın Ukrayna’yı işgalinin başlangıcında, başkan Volodymyr Zelensky’nin derin bir buluşma videosu ortaya çıktı ve burada birliklerinin teslim olmasını talep etti.
Bu, savaşın artık sadece mermiler ve bombalarla yapılmayacağı gelecek savaşlar için bir model olabilir.
Kuruluşlar ve işletmeler üzerindeki etki
Rakipler veya rakipler, stratejik olarak önemli olan şirketleri hedefleyebilir ve ürünleri veya hizmetleri hakkında şüphe yaratabilir. Bir ürünün güvenli olmadığını iddia eden üst düzey bir yöneticinin sahte bir videosu çevrimiçi olarak yayılabilir, müşteri güvenini ve yatırımcının güvenini sarsabilir. Hisse senedi fiyatları düşebilir, ortaklar sözleşmeleri sorgulayabilir ve tedarik zincirleri bozulabilir.
On yöneticiden sekizi AI odaklı yanlış bilginin işlerine nasıl zarar verebileceği konusunda endişeli.
Fabrikasyon bir video tartışılsa bile, hasar genellikle yapılır. İnsanların gerçeği kabul etmesi zaman alır ve dezenformasyon kampanyaları videonun gerçek olduğu ve yetkililerin sakladığı fikrini zorlamaya devam edebilir.
Deeprafes’ı düzenlemek için küresel çabalar
Ülkeler yeni yasalar ve düzenlemelerle büyüyen derin kesme sorunuyla başa çıkmaya başlıyor. AB AI Yasası, AI tarafından oluşturulan içerikten kaynaklanan risklerin nasıl ele alınacağı da dahil olmak üzere AI’yi güvenli ve şeffaf bir şekilde kullanmak için kurallar koyar. Bu yaklaşımı takiben Danimarka, derin dişlerin oluşturulmasını ve paylaşımını kısıtlamak için telif hakkı yasalarını güncelliyor ve insanlara kendi imajları ve sesleri üzerinde kontrol sağlıyor.
Amerika Birleşik Devletleri’nde, Take It Down Yasası, 48 saat içinde zararlı derin dişlerin kaldırılmasını gerektirir ve onları dağıtan herkes için federal cezalar getirir.
Mano Bank baş risk sorumlusu Andrius Popovas, “Hükümetler ve uluslararası kuruluşlar, düzenleme, politika formülasyonu, uygulama ve uluslararası işbirliği yoluyla AI sahtekarlığıyla mücadelede önemli bir rol oynamaktadır” dedi.
AI ile DeepFakes ile Mücadele
Paradoksal olarak, DeepFakes ile mücadelede çözüm AI modellerinde yatmaktadır. Gelişmiş AI sistemleri, içeriği denetlemeye, gerçekleri kontrol etmeye ve yanlış bilgileri tespit etmeye yardımcı olmak için kalıplara, dile ve bağlamlara bakabilir. Ama aynı zamanda sınırlamalarının da farkında olmalıyız.
Derin dişleri tespit etmek, bunları yapmaktan çok daha zordur, çünkü etiketlemek için çok fazla insan çalışması gerektiren gerçek ve sahte içerikli büyük veri kümelerine ihtiyaç duyar. Politikacılar ve ünlülerin tespit edilmesi daha kolaydır, çünkü onlar üzerinde bol miktarda veri vardır, ancak sıradan insanların korunması daha zordur. Birçok algılama sistemi de yeni derin dişler türlerini ele almak için mücadele etmektedir. Genellikle bilinen yöntemler üzerinde iyi çalışırlar, ancak farklı nesil teknikleriyle karşılaştığında başarısız olurlar.