Deepfores ve dezenformasyon sahtekarlık ve iş risklerini körüklemektedir. Büyük dil modellerindeki (LLMS) ilerlemelerle güçlendirilen yapay zeka, gerçekçi görüntüler, klonlanmış sesler, derin peynir videoları ve diğer içerik biçimleri oluşturabilir. Bu nedenle, herkes Dünya Ekonomik Forumu, 2026 yılına kadar çevrimiçi içeriğin yaklaşık% 90’ının sentetik olarak üretileceği konusunda uyarıyor. Birçok meşru AI uygulaması mevcut olsa da, AI tarafından üretilen görüntülerin, seslerin, videoların ve metnin manipülasyonu, malign aktörler tarafından dezenformasyon kampanyalarını ekmek için yaygın olarak kullanılır. Bu genel olarak toplum için önemli bir zorluk yaratırken, işletmeler mali sahtekarlığı, üst düzey yöneticilerin kimliğine bürünmek, itibar hasarı ve ilgili siber güvenlik olaylarını azaltmak için mücadele ediyor.
Basitçe söylemek gerekirse, yanlış bilgi yanlış bilginin yanlışlıkla paylaşılmasıdır, dezenformasyon yanlış anlatıların zarar vermek amacıyla kasıtlı olarak paylaşılmasıdır. Memler, makyaj web siteleri ve derin peynir videoları bazı örneklerdir. Bu tehditlerin ağırlığını göstermek için, WEF’nin 2024 küresel risk raporu, hileli bilgileri iklim ve jeopolitik gerilimlerden önce bile en yüksek küresel risk olarak tanımladı.
Dezenformasyon kutuplaşmaya katkıda bulunabilir, önyargıları güçlendirebilir, kamuoyunu manipüle edebilir ve demokratik süreçlere, liderlere ve kurumlara olan güveni aşındırabilir. Dezenformasyon kampanyaları en çok seçmen ve anket sonuçlarını etkilemek için seçimlerde veya referandumda istihdam edilmiştir.
Teknolojideki devrimin dezenformasyonun yayılmasını körüklediğini varsayabilsek de, gerçekte, insan motivasyonları ve bilişsel mekanizmalar insanların dezenformasyonla etkileşimlerinden sorumludur. Yanlış olanlar bunun farkındadır ve bu nedenle yanlış bilgileri yaymak için bilişsel önyargılardan yararlanırlar. İnsanların dezenformasyon için düşmesinin birkaç nedenine bakalım:
- Aşırı güvene yol açan bilişsel kopukluk: IPROOV’tan yakın zamanda yapılan arama, insanların sadece% 0,1’inin gerçek ve sahte içeriği tespit etmede yetkin olduklarına inanmasına rağmen, gerçek ve sahte içerik arasında doğru bir şekilde ayrım yapabileceğini ortaya koydu. Dezenformasyon için düşüyoruz çünkü manipüle edilmiş içeriği tespit etme yeteneğimizden aşırı güveniyoruz.
- Algıyı manipüle etmek için duyguları manipüle etmek: Artan duygusal yoğunluk, olumlu veya olumsuz, kişinin dezenformasyona olan inancını artırır ve kişinin dezenformasyon ve gerçek haberler arasında ayrım yapma kapasitesini tehlikeye atar. Bu aynı zamanda sosyal medya kuruluşlarının yanlış içerik, ekran veya yanlış içeriği filtrelemek için daha fazla sorumluluk almasını gerektirir.
- Yanıltıcı Gerçek Etkisi: Tekrarlama, bilgilerin daha inandırıcı görünmesini sağlar; Yanıltıcı gerçek etkisi olarak adlandırılan bir süreç. Bireylerin de tekrarlanan bilgileri paylaşma olasılığı yeni bilgilerden daha fazladır.
- Onay yanlılığı: Çoğumuzun doğasında var olan önyargılardan biri, onay yanlılığı veya değerlerimiz ve inançlarımızla aynı fikirde olan bilgileri tercih etme eğilimidir. Nasıl düşündüğümüz veya bir şeylerin olmasını istediğimizle birleşen bilgileri kabul etme ve tutumlarımızı yansıtan bilgileri doğrulama olasılığı daha düşüktür.
Deepfores potansiyel olarak işletmeler için felaket sonuçlarına yol açabilir, güven ve güvenliği aşındırır. Rakipler, çalışanları kimlik hırsızlığı, hileli işlemler ve diğer kötü niyetli faaliyetlerle uğraşmaya yönelik gerçek koşulların, bireylerin ve etkinliklerin gerçekçi taklitleri yaratır. İyi hazırlanmış ve odaklanmış bir derin pasife videosu, çalışanları, yüklenicileri veya ortakları bir sistem ihlali yürütme veya etkinleştirme konusunda kandırabilir veya şantaj yapabilir. Atıfta belirtilen bir örnekte, Hong Kong çokuluslu bir şirketteki bir finans personeli, derin yatan finans müdürü ile bir video konferansında iken dolandırıcılara 25 milyon dolardan fazla göndermeye başladı.
Sosyal medya platformlarının bolluğu ve çevrimiçi olarak kolayca erişilebilir kişisel içerikler nedeniyle, Malign aktörleri potansiyel hedefler hakkında korkutucu miktarda bilgiye sahiptir. AI Tools, mikro hedef bireylere derin dişler üretebilir, beğenilerini, beğenmediklerini ve endişelerini uyarlayabilir. Yangını körüklemek, DeepFakes ile birlikte kullanıldığında büyük ölçekli sömürüye neden olabilecek inandırıcı kimlik avı kampanyalarının hazırlanmasına yardımcı olan LLM’lerdir.
Şirketler, derin hatların iş karar verme üzerindeki etkisini büyük ölçüde göz ardı etmiştir. Yöneticiler, gerçek ve derinlikte manipüle edilmiş içerik arasında giderek daha fazla ayrım yapamazlar, bu da stratejik hatalar, finansal kayıplar ve itibar zarlarına neden olur.
Dezenformasyon tehdidi aslında bir tür bilişsel savaştır. Teknolojik savunmaların derin dişli ve dezenformasyona karşı koymada rol oynadığı bir rolü vardır, ancak Arsenal’deki tek silah olmamalıdır. Kuruluşlar, çalışanlar arasında bilişsel esnekliği teşvik eden güvenlik merkezli bir kültür geliştirmelidir. Bunu birkaç şekilde yapabilirler:
Çalışan Eğitimi: Kullanıcıları bilgi kaynağını ve içeriğini doğrulamaya ve yanıt vermeden ve paylaşmadan önce kırmızı bayrakları tanımlamaya motive eden eğitim ve güvenlik farkındalık girişimlerinin uygulanması. Periyodik simüle edilmiş kimlik avı egzersizleri, çalışanları daha şüpheci olmaları için eğitecek, alışılmadık konuşma kalıpları veya görsel tutarsızlıklar dahil olmak üzere manipülasyon belirtileri belirleyecek, sosyal mühendislik dolandırıcılıklarına doğru yanıt verecek ve AI yakıtlı tehdit taktikleri hakkında bilgilendirilecek.
Eleştirel düşünceyi teşvik edin: Şirketler, kullanıcıları daha güçlü bir güvenlik kültürünü geliştirmeye, manipülatif tehditlere karşı koymaya ve kullanıcıların kendilerine sunulan bilgileri yüz değerinde kabul etmek yerine sorgulamalarını ve eleştirmelerini sağlayacak eleştirel düşünme becerilerini geliştirmeye teşvik etmelidir.
Bir Olay Yanıt Planı Dağıtım: IR planının, söz konusu itibar riskinin farkındalığı ile yanlış bilgilendirme ve derin dişlerin yayılmasını engellemek için önlemleri olmalıdır. Olayların analizi, kuruluşların gelecekteki müdahale planlarını geliştirmelerine ve çalışan girdilerine ve elde edilen bilgilere göre eğitim programlarını gözden geçirmelerine yardımcı olacaktır.
Dezenformasyona karşı koymak için, rakiplerin saldırılarında konuşlandırdığı aynı bilişsel faktörleri kapsamlı bir şekilde anlamalıdır. Kuruluşlar, bu tür manipülatif saldırılara karşı korumak için teknolojik savunmalar, kullanıcı farkındalık kampanyaları ve düzenleyici politikaların bir karışımını uygulamalıdır.
