Mesajlaşma hizmeti Telegram ve diğer platformlar aracılığıyla dağıtılan derin sahte teknolojinin, önümüzdeki iki yıl içinde dünya çapında üç milyar insan seçimlerde oy kullanmaya hazırlanırken, yapay zeka (AI) tarafından üretilen bir dezenformasyon seli ortaya çıkarması muhtemel.
Güvenlik analistleri, Telegram Messenger uygulamasında, kullanıcıların derin sahte videolar oluşturmasına yardımcı olan otomatik botlardan, özel sahte videolar oluşturmayı teklif eden kişilere kadar, derin sahte hizmetleri tanıtan 400'den fazla kanal tespit etti.
Güvenlik şirketi Check Point'in araştırmasına göre, kod barındırma ve ortak projelere yönelik en büyük web tabanlı platform olan GitHub'da da 3.000'den fazla derin sahte teknoloji deposu belirlendi.
Check Point'in baş teknoloji uzmanı Oded Vanunu, Computer Weekly'ye şunları söyledi: “Bu, bayrağı kaldırmanın ve seçimlerde milyarlarca insanın oy vereceğini, devasa, derin bir sahte altyapının bulunduğunu ve bu altyapının büyüdüğünü söylemenin zamanıdır.”
Derin sahte hizmetler dijital iz bırakmaz. Bunun, IP adreslerini kara listeye almak veya dijital imzalarını tanımlamak gibi teknolojik önlemler yoluyla derin sahtekarlıkları kontrol etmeyi zorlaştırdığını söyledi.
Bot ağları, sahte hesaplar ve anonimleştirilmiş hizmetlerle birleşen derin sahte araçlar, bir “aldatma ekosistemi” yarattı.
Deep fake fiyatları video başına 2 dolardan dizi başına 100 dolara kadar değişiyor ve bu da kötü aktörlerin yanıltıcı içerik oluşturmasına olanak tanıyor. Bu içerik, dünyanın en kalabalık ülkelerinde yapılacak olan seçimleri etkilemek ya da istikrarsızlaştırmak için kullanılabilir. önümüzdeki 12 ay – yüksek hacimlerde ucuza.
Vanunu, GitHub ve Telegram'da reklamı yapılan AI hizmetlerini kullanarak bir fotoğraftan derin sahte bir video veya birinin sesinden derin sahte bir ses parçası oluşturmanın mümkün olduğunu söyledi.
OpenAI'nin Şubat ayında Sora yapay zeka videosunu yayınlamasıyla seçim manipülasyonuyla ilgili daha fazla endişe ortaya çıktı. Yazılım, metin istemlerinden foto-gerçekçi videolar oluşturabilir, bu da yüksek kaliteli videoların üretimini son derece kolay hale getirir.
Ses klonlama
Sahte ses klipleri oluşturmak için hedefin sesinin perde, ton ve konuşma stili gibi özelliklerini öğrenebilen ses klonlama teknolojisi de risk oluşturuyor.
Derin sahtekarlıklar oluşturmaya yönelik reklamı gösteren Telegram ekran görüntüsü
Ses derin sahtelerinin üretilmesi, görsel verilerin karmaşık manipülasyonunu gerektiren derin video sahtelerine göre önemli ölçüde daha kolaydır.
İşçi Partisi lideri Keir Starmer'ın derin sahte ses klipleri, Ekim 2023'teki İşçi Partisi konferansından hemen önce Birleşik Krallık'ta dağıtıldı. Bu görüntüler, parti liderinin personele kötü davrandığını ve İşçi Partisi konferansına ev sahipliği yapan Liverpool'dan nefret ettiğini söylediğini gösteriyordu.
Ve Ocak 2024'te New Hampshire'daki seçmenler, Başkan Joe Biden'ın derin sahte sesli versiyonundan telefon çağrıları aldı. Sahte Biden kaydı, New Hampshire ön seçimlerinde insanları oy vermekten caydırmak amacıyla seçmenleri evde kalmaya çağırdı.
Ses klonlama ucuzdur; fiyatları ayda 10 dolardan başlar, daha gelişmiş özellikler için ayda birkaç yüz dolara yükselir. Yapay zeka tarafından üretilen sesin maliyeti saniyede 0,006 dolar kadar düşük.
Kişiselleştirilmiş dezenformasyon
Check Point'in küresel baş bilgi güvenliği sorumlusu ve İskoç hükümetinin siber güvenlik danışmanı Deryck Mitchelson, yapay zekanın, sosyal medya paylaşımlarından derlenen profillerine ve kişisel ilgi alanlarına göre hazırlanmış sahte haberlerle insanları hedeflemek için giderek daha fazla kullanılacağını söyledi.
Yapay zeka, bir bireyin sosyal medyadaki bağlantılarını dezenformasyon ve yanlış bilgilendirmeyle hedef alarak seçimleri etkilemeye çalışan kişilerin daha da ileri gitmesine olanak tanıyacak.
Bu, hedeflerin hem sosyal medya akışlarında aldıkları gönderilerden doğrudan etkileneceği hem de yanıltıcı içerik paylaşan tanıdıklarından dolaylı olarak etkileneceği anlamına geliyor.
“Yapay zeka seçimleri çalabilir mi? Hayır, olacağını sanmıyorum. Seçimleri etkileyebilir mi? Mitchelson, “Bu yıl dünya çapında yapacağımız tüm seçimlerin sahte haberlerden etkileneceğine şüphe yok” dedi.
Yapay zeka hükümetleri istikrarsızlaştırabilir
Davos'taki Dünya Ekonomik Forumu (WEF), Ocak ayında yapay zekanın ürettiği dezenformasyon ve yanlış bilginin ekonomilerin karşı karşıya olduğu en önemli kısa vadeli risklerden biri olduğu konusunda uyardı.
“Dünya çapında bu yıl yaptığımız tüm seçimlerin sahte haberlerden etkileneceğine şüphe yok”
Deryck Mitchelson, Kontrol Noktası
Carolina Klint, Marsh McLennan'ın Avrupa Ticari Direktörü ve WEF'in katılımcılarından biri Küresel riskler raporu 2024Computer Weekly'ye dezenformasyon ve yanlış bilginin yayılmasının meşru olarak seçilmiş hükümetleri istikrarsızlaştırabileceğini söyledi.
“İnsanlar burada çok fazla etkinin, kamuoyunun çok fazla değiştiğinin, seçmenlerin neye karar verdikleri konusunda çok fazla çekiş ve itmenin olduğunu fark etmeye başlıyorlar” dedi. “Sonuçlar toplandığında bu hükümetin adil seçilmediğine dair meşru bir iddia ortaya çıkacak.”
Derin sahtelikleri tespit etmek
ABD Federal İletişim Komisyonu, New Hampshire'da kullanılan derin sahte Biden kaydının ardından Şubat 2024'te yapay zeka tarafından oluşturulan robotik çağrıları yasakladı.
Ancak derin sahteleri tanımlamak zordur. Vanunu'ya göre Telegram'da sunulan derin sahte hizmetler, izlenebilir dijital parmak izi bırakmayan kapalı “korumalı alanlarda” çalışacak şekilde tasarlandı.
Facebook veya Instagram gibi bir sosyal medya platformuna derin sahtekarlık yüklendiğinde, platform derin sahtekarlığı kendi bilgisayar koduna sarıyor. Bunun, kökenini ve meşruiyetini gösterecek orijinal meta verilerin tersine mühendislik yapılmasını ve kodunun çözülmesini imkansız hale getirdiğini söyledi.
Uygulamada bu, sosyal medya hizmetlerinin, isteseler de istemeseler de, derin sahtekarlıklara karşı ön cephe savunması olacağı anlamına geliyor.
Vanunu, “Platformlar derin sahtekarlığı alıp hızlandırarak milyonlarca veya binlerce milyonlarca insana zamanında ulaşabilmesini sağlıyor, dolayısıyla teknoloji açısından darboğaz platformdur” dedi.
Dijital filigranlar
Yapay zeka tarafından oluşturulan içeriği tanımlamak için dijital filigranları zorunlu kılmak bir çözümdür, ancak kusursuz bir çözüm değildir, çünkü derin sahte bir görüntüyü sıkıştırarak dijital filigranları kaldırmak mümkündür.
Michelson, teknoloji şirketlerinin derin sahtekarlıkları tespit etme ve etkisiz hale getirme yollarını geliştirmek için kolluk kuvvetleri ve siber güvenlik uzmanlarıyla birlikte çalışması gerektiğini söyledi.
Bu arada hükümetlerin ve teknoloji şirketlerinin, halkı bilinçlendirme kampanyaları aracılığıyla, derin sahtekarlıkları ve dezenformasyon girişimlerini tespit etme becerileri konusunda insanları eğitmeleri gerekecek.
