ActiveFence’e göre tehdit aktörleri, çocuk cinsel istismarı materyali (CSAM), dezenformasyon, dolandırıcılık ve aşırıcılık yürütmek için üretken yapay zekayı kötüye kullanıyor.
ActiveFence’in CEO’su ve kurucusu Noam Schwartz, “Üretken yapay zekanın patlaması, internetin her köşesi için geniş kapsamlı etkilere sahip” dedi.
“Üç önemli endişe alanı belirledik. İlk olarak, tehdit aktörlerinin artık operasyonlarını hızlandırabildiğini ve büyütebildiğini görüyoruz, bu da benzeri görülmemiş bir kitlesel kötü amaçlı içerik üretimine yol açıyor. İkincisi, aynı aktörler, üretken yapay zekadan yararlanmanın yollarını araştırıyor, bu modelleri manipüle ediyor ve onların doğasında olan güvenlik açıklarını ortaya çıkarıyor. Son olarak, bu gelişen tehditler, veri eğitimi protokollerinin kesinliğini ve verimliliğini artırmak için dijital platformlar üzerinde artan bir baskı oluşturuyor,” diye devam etti Schwartz.
Üretken yapay zekayı kötüye kullanmanın temel yolları:
- Görsel görüntülerden erotik anlatılara kadar değişen çocuk cinsel istismarı materyallerinin oluşturulması
- Milyonları aldatan sahte, yapay zeka tarafından oluşturulmuş görüntülerin oluşturulması
- Aşırıcılığı öne çıkaran derin sahte ses dosyalarının üretimi
CASS
Araştırmacılar, bu yılın ilk çeyreğinde üretken yapay zeka tarafından üretilen paylaşılan CSAM hacminde %172’lik bir artış izledi. Ayrıca karanlık ağda kapalı bir çocuk avcısı forumunun yöneticileri tarafından yürütülen ve yaklaşık 3.000 yırtıcı hayvanın üretken yapay zeka kullanımları hakkında anket yaptığı bir anket tespit edildi.
Anket, yanıt verenlerin %78’inin CSAM için üretken yapay zekaya sahip olduğunu veya kullanmayı planladığını ve geri kalan %22’sinin teknolojiyi denemeyi planladıklarını ortaya koydu. Bu yırtıcı forumlar, metinsel açıklamalar, hikayeler ve anlatıların yanı sıra cinsel görüntüler üretmek için üretken AI algoritmalarından yararlanır.
Gözlemlenen bir örnekte, iki reşit olmayan çocuğu içeren erotik bir hikaye yazması istendiğinde, büyük bir üretken yapay zeka platformu talebi “uygunsuz ve potansiyel olarak yasa dışı” olarak nitelendirerek reddetti. Ancak aynı soru sadece birkaç değiştirilmiş kelimeyle sorulduğunda, algoritma erotik bir hikaye üretti ve yetişkin bir erkeği uygunsuz bir şekilde yüzerken izleyen iki genci tarif etti.
Çocuk yırtıcılar ayrıca, yırtıcı topluluk içinde güvenilirlik kazanmalarına, başkalarını çabalarını tekrar etmeye teşvik etmelerine ve platform korumalarından kaçınmak için önerilen ifadeleri ve anahtar sözcükleri paylaşmalarına yardımcı olan, yarattıklarının öğreticilerini oluşturmak için üretken yapay zekayı kullanıyor.
Araştırmacılar, bu platform sınırlamalarını aşmak için farklı dillerde isteklerde bulunan, alternatif ve müstehcen terimler kullanan ve çeşitli istemler, girdiler ve özel modellerle yapay zeka algoritmasını manipüle eden yırtıcıları tespit etti.
Dezenformasyon ve sahte içerik
Dolandırıcılık ve dezenformasyon yeni kavramlar olmasa da üretken yapay zeka, tehdit aktörlerinin daha hızlı, doğru ve daha yüksek erişimle sahte görüntüler oluşturmasına olanak sağladı.
ActiveFence’in Telegram’da tespit ettiği yapay zeka tarafından oluşturulmuş bir görüntü, Rusya Devlet Başkanı Vladimir Putin’in Çin Devlet Başkanı Xi Jinping’in önünde diz çöküp Ukrayna ihtilafında desteğini dilediğini gösteriyor.
Araştırmacılar, bu görüntünün birkaç önemli üretken yapay zeka göstergesini belirlediler: belirsiz yüzler, bulanık eller, bozuk mobilya parçaları ve fotoğraf atıfının olmaması.
Bu göstergelere rağmen, yanıltıcı içerik 10 milyon kullanıcıya ulaştı.
Araştırmacılar, tehdit aktörlerinin üretken yapay zeka sohbet robotlarını kötü amaçlarla nasıl manipüle ettiğini göstermek için, büyük üretken yapay zeka platformlarının çeşitli politikalarını geçersiz kılmak için kullanılan yöntemler tespit etti.
Bir durumda, istismarcılar üretken bir AI kimlik avı e-postası üretebildiler ve başka bir durumda, bir botu büyük bir çevrimiçi pazarda geniş çapta erişilebilen bir uygulama hakkında gerçek olmayan bir olumlu inceleme yazmasını başarıyla sağladılar.
Bu örnek olumlu olsa da, kötü niyetle kullanılsa da, bu taktik yalnızca platformun kullanıcılarını yanıltmakla kalmaz, aynı zamanda çevrimiçi etkinlik için güvenli bir yer olarak platformun güvenilirliğine de zarar verebilir.
Şiddet içeren aşırılık
Araştırmacılar, tehdit aktörlerinin şiddeti teşvik eden ve aşırılık yanlısı propagandayı teşvik eden hiper-gerçekçi ancak zararlı içerik oluşturmak için üretici yapay zekadan yararlandığı çok sayıda örnek tespit etti. Bu tehdit aktörleri, ırkçı, milliyetçi veya aşırılık yanlısı manifestolar veya konuşmalar oluşturmak için üretici yapay zekayı kullanıyor.
ActiveFence, artan siyasi ve ekonomik sıkıntıdan yararlanan, yapay zeka tarafından oluşturulmuş bir derin sahte ses dosyası keşfetti. Bu uydurma ses, yanlış bir şekilde tanınmış bir İngiliz muhabiri taklit ederek İngiliz hükümetine karşı bir isyana neden oldu.
Yanıltıcı manifesto, yeraltı pazarından silah temin edilmesine ilişkin talimatlar veriyor ve İngiliz ulusal altyapısına bir saldırı çağrısında bulunuyordu.