FBI’ın Davranışsal Analiz Birimi’nde (BAU) sertifikalı eski bir profil uzmanı olan ve siber aldatma ve çevrimiçi etki konusunda uzmanlaşmış Tim Pappa tarafından.
GenAI hedef kitlelerin tutum ve inançlarını etkilemek için operasyonel hale getirildikçe, birçok siber tehdit istihbaratı ve politika topluluğu, üretken yapay zekanın oluşturduğu tehditle giderek daha fazla ilgileniyor.
Ancak aynı zamanda bu belgelenmiş yöntemlerin nasıl işe yaradığını da okumaya devam ediyoruz. Olumsuz izleyicileri veya anlatıları çok etkiledi.
GenAI’nin Etkisindeki Tutarsızlık
Koşuda veya diğer güç gösterilerinde olağanüstü düzeyde performans gösterebilen bir sporcu düşünün. Rakip bir kriket takımına katılacağını duydun.
Ancak onu oynarken gördüğünüzde hiçbir şeye vuramıyor gibi görünüyor. Nasıl oynanacağını bilmiyor. Tüm doğal atletik yeteneğine rağmen, nasıl doğru şekilde vuracağını veya atacağını bilmiyor.
Evet, genel atletik performansı nedeniyle korkutucu görünüyor, ancak kriket topunu nasıl fırlatıp vuracağını öğrenene kadar o takımda etkili bir oyuncu değil.
Bu, siber aktörlerin hedef kitleleri etkilemek için ölçeklenebilir üretken yapay zekayı nasıl uyguladığını veya uygulamayı düşündüğünü kavramsallaştırmanın bir yoludur.
Buna denizaşırı izleyicileri hedef alan Batı yanlısı siber aktörler de dahil olmak üzere herkes dahildir.
‘Batı Yanlısı’ Anlatı Anlatımlarının Etkinliği
2022 yazında yayınlanan bir rapor, bu “Batılı yanlısı” anlatıların çoğunun etkileşim oluşturma ve etki oluşturma konusunda ne kadar etkisiz göründüğünü vurguladı.
Sosyal medya platformları, bu hesapların nasıl sanatsal, yabancı dilde içerik oluşturduğunu ve etkileşimi ve sosyal medya yanıtını teşvik etmek için harekete geçirici mesajlar oluşturduğunu belgelemiş olsa da, bu hesapların çoğunun Twitter’da bir avuç dolusu beğeni veya retweet’ten fazlası yoktu ve dörtte birden az bir kısmı da bu hesaplardan oluşuyordu. Hesapların binin üzerinde takipçisi vardı.
Medya kuruluşu gibi davranan bu hesapların neredeyse yarısı, muhtemelen daha geniş kitlelere ulaşmaya çalışan, yayınlanan içeriklerine toplu hashtagler ekledi. Ancak yine sınırlı bir izleyici tepkisi vardı.
FBI’ın Davranışsal Analiz Birimi’nde (BAU) sertifikalı eski bir profil uzmanı olarak deneyimlerime göre, doğru platformda doğru dilde bile geniş kitlelere geniş çapta hitap etmek işe yaramıyor.
Anlatılar da dahil olmak üzere içerik, kullandıkları ve güvendikleri platform türlerini, sahip oldukları ilişkilerin türünü veya bu ilişkilerin hedeflenen birey veya grubun kararlarını nasıl etkilediğini anlayan hedef bireyler için özel olarak hazırlanmalıdır.
İnsanların, bu davranışsal ilişkisel bağlamların dışında bile, bu tür içerikleri nasıl işlediğini ve buna nasıl yanıt verdiğini genel olarak anlamak için yerleşik teorik çerçeveler vardır.
Geçtiğimiz kırk yıl boyunca iletişim araştırmacıları, içeriğin bilişsel ve tutumsal işlenmesi için nispeten benzer koşulları belirlediler.
Bu ikili işleme modelleri veya koşulları genellikle insanların, içeriğin kendileriyle ne kadar alakalı olduğuna ve bu içeriği işlemek için ne kadar motive olduklarına bağlı olarak içerik hakkında düşünmeye, tüketmeye veya paylaşmaya daha fazla veya daha az zaman harcadıklarını ortaya koymaktadır.
Bu, özellikle içerik oluşturucuların izleyicileri etkilemeye çalışmak için aynı yöntemlerle daha üretken yapay zeka içeriğini ölçeklendirip uygulayabildiği, “koordineli orijinal olmayan davranışın” giderek büyüyen bu ortamında önemlidir.
Bu modeller, yaratıcının içeriği ne olursa olsun, büyük ölçüde tanıdık olmayan izleyicilere ve bilinmeyen kullanıcıların içeriğe yanıt vermesine bağlı olarak etkileme girişimlerinin hala başarısız olabileceğini öne sürüyor.
Bu içeriğe erişmeye çalışan herhangi bir zorluk varsa, insanlar bu içeriği işleme konusunda motive olamayabilir veya bu içeriği başkalarıyla paylaşma konusunda daha az motive olabilirler. İzleyicilerin içeriği işlemek veya anlamakta zorluk çekmeleri durumunda, içeriği inceleme olasılıkları daha yüksek olabilir.
Herhangi bir içerikle ilgilenme konusunda kültürel veya dini hassasiyetler varsa, izleyiciler muhtemelen o içerikle karşılaşmayacaktır, hatta içeriğe agresif tepkiler bile verebilir.
İzleyiciler, söz konusu içerikle veya içerik oluşturucularla bir şekilde ilişkilendirilmenin olası sonuçları nedeniyle içerikle etkileşime geçemez veya içerik oluşturucuları takip edemez. Bunlar genel hususlardır, ancak ciddi hususlardır.
Bu düşünceler, bu son raporlardaki kontrollü hesapların sınırlı başarısının bir kısmını açıklayabilir, ancak bireylere ve izleyicilere yönelik bu ikili işleme modelleri, benzersiz bir şekilde üretken yapay zeka içeriği olsa bile geçerlidir.
Ölçeklenebilir programlarla geniş kitleleri etkilemeye yönelik diğer başarısız girişimleri gözlemleme veya inceleme deneyimimin çoğu anekdot niteliğinde olsa da, bireylerin ve birey gruplarının izleyici olarak içeriği veya anlatıları nasıl işlediğinin psikolojik temelleri, bunun neden işe yaramadığını tutarlı bir şekilde açıklayan entegre bir teorik çerçeve sağlar. .
Kötü Niyetli Etki Siber Operasyonlarında Gelecekteki Zorluklar
Yukarıdaki araştırma literatürü bu çerçeveyi anlamanın başlangıcıdır.
Ancak sınır adımı etkili bir şekilde GenAI kullanımını içersin veya içermesin içerik veya anlatıları davranışsal olarak operasyonel hale getirmek, bu tanımlanmış hedef için hazırlanmış içerik veya anlatılarla tanımlanmış bir hedefe sahip olmaktır.
Kötü niyetli siber aktörler, GenAI programları daha dinamik hale gelse bile, bu yeni yıl boyunca ölçeklenebilir GenAI’yi davranışsal olarak operasyonel hale getirmek için mücadele etmeye devam edecek.
Bu muhtemelen, kötü niyetli etki girişimlerini gerçekleştirmek için GenAI programlarının artan kullanımını vurgulayan, ancak herhangi birinin davranışsal olarak nasıl etkilendiğine dair sınırlı bir ölçüm gördüğümüz, yukarıda açıklanan aynı türden raporların daha fazlasıyla sonuçlanacaktır.
Yasal Uyarı: Bu misafir yazısında ifade edilen görüş ve görüşler yalnızca yazar(lar)a aittir ve The Cyber Express’in resmi politikasını veya konumunu yansıtmayabilir. Yazar tarafından sağlanan her türlü içerik kendi görüşüne aittir ve herhangi bir dini, etnik grubu, kulübü, kuruluşu, şirketi, kişiyi veya herhangi bir kişiyi veya herhangi bir şeyi kötüleme amacı taşımaz.