Bu Help Net Security röportajında, Mano Bank Risk Direktörü Andrius Popovas, kimlik avı saldırıları ve derin sahtekarlıklar gibi en yaygın yapay zeka odaklı dolandırıcılık planlarını tartışıyor. Yapay zekanın kurbanları kandırmak için videoları ve sesleri nasıl manipüle ettiğini açıklıyor ve dikkat edilmesi gereken önemli tehlike işaretlerini vurguluyor.
Popovas ayrıca profesyonellerin bu dolandırıcılıkların önünde kalmalarını sağlayacak stratejileri ve hükümetlerin yapay zeka dolandırıcılığıyla mücadeledeki rolünü de özetliyor.
Günümüzde en yaygın olan yapay zeka destekli dolandırıcılık planları nelerdir?
Uygulamalarımıza göre en yaygın olanı, yapay zekanın gerçek şirketleri taklit eden çok gerçekçi kimlik avı e-postaları veya diğer mesajlar (SMS, Viber, WhatsApp vb.) oluşturarak kullanıcıları şifreler veya kredi kartı numaraları gibi hassas bilgileri ifşa etmeleri için kandırdığı kimlik avı saldırılarıdır.
Deepfake olaylarının sayısı da giderek artıyor. Bunlar, gerçek kişilerin kimliğine bürünebilen ve hassas veya kişisel bilgilere başarılı bir şekilde erişebilen, yapay zeka tarafından oluşturulan videolar veya ses kayıtlarıdır. Ayrıca sosyal mühendislik ve hesap ele geçirmelerden de bahsetmeliyim.
Yapay zeka araçları, kişiselleştirilmiş dolandırıcılıklar oluşturmak için sosyal medya profillerini analiz edebilir. Yapay zeka ayrıca dolandırıcıların hesap şifrelerini tahmin etmelerine veya kırmalarına yardımcı olarak Kredi ve Kredi Başvurusu Dolandırıcılığı için kullanıcı hesaplarının kontrolünü ele geçirmelerine olanak tanıyor. Dolandırıcılar, veri girişini otomatikleştirerek ve çalıntı veya sentetik kimlikleri kullanarak kredi veya kredi için sahte başvurular gönderebilir.
Yapay zekanın kurbanları kandırmak için videoları ve sesleri nasıl manipüle ettiğini ve insanların hangi spesifik tehlike işaretlerini araması gerektiğini açıklayabilir misiniz?
Yaygın olarak deepfake olarak bilinen videoların ve seslerin yapay zeka tarafından manipülasyonu, gerçekçi ancak değiştirilmiş içerik oluşturmak için makine öğrenimi algoritmalarını kullanır. Yapay zeka algoritmaları, videolardaki yüzleri değiştirerek sanki bir başkasının gerçekte hiç yapmadığı bir şeyi söylüyor ya da yapıyormuş gibi görünmesini sağlıyor; çoğu zaman kötü niyetli amaçlarla. Deepfake ses teknolojisi, mevcut kayıtları analiz ederek kişinin sesini kopyalayabiliyor. Bu, dolandırıcılık amacıyla veya konuşmaları manipüle etmek için kullanılabilecek, belirli bir kişiye benzeyen seslerin oluşturulmasına olanak tanır.
Bu nedenle, görüntülü veya sesli arama alırsanız şu kırmızı işaretlere dikkat etmeniz gerekir: garip yüz hareketleri (Doğal olmayan ifadelere, uyumsuz dudak hareketlerine veya garip göz hareketlerine bakın), tutarsız aydınlatma (Doğal videolarda genellikle sahne boyunca tutarlı bir ışıklandırma bulunur. Işıklandırma sert kontrastlar veya uyumsuz gölgelerle birlikte sönük görünüyorsa, bu bir manipülasyon işareti olabilir), bulanıklık (Yüzün değiştirildiği kenarlar bulanık, bozuk veya pikselli görünebilir, özellikle sahte ve gerçek kısımlar arasındaki geçiş düzgün değilse), ses anormallikleri (Ses robotik geliyorsa, duygudan yoksunsa veya taklit edilen kişinin konuşma tarzına uymuyorsa sahte olabilir). Bu işaretlerin farkında olmak, bireylerin derin sahtekarlıkların veya yanlış bilgilerin kurbanı olmaktan kaçınmasına yardımcı olabilir.
Tanıdık olmayan videolara ve seslere, özellikle de hassas veya tartışmalı konuları içeriyorlarsa, her zaman eleştirel bir gözle yaklaşın.
Finans ve siber güvenlik sektörlerindeki profesyoneller yapay zeka tabanlı dolandırıcılıkların önünde nasıl kalabilir?
İşte birkaç etkili yaklaşım:
1. Tüm personelin kimlik avı girişimlerini, derin sahtekarlıkları ve diğer yapay zeka kaynaklı dolandırıcılıkları tanıyacak şekilde eğitildiğinden emin olun.
2. Anormallikleri tespit edebilen ve potansiyel dolandırıcılık faaliyetlerini gerçek zamanlı olarak tanımlayabilen yapay zeka odaklı güvenlik çözümlerini uygulayın.
3. İşlem modellerini analiz etmek ve dolandırıcılık göstergesi olan şüpheli davranışları işaretlemek için makine öğrenimini kullanın.
4. Yeni tehditler, taktikler ve etkili karşı önlemler hakkında bilgi paylaşmak için sektördeki meslektaşlarımız ve siber güvenlik kuruluşlarıyla birlikte çalışın.
5. Sistemlerdeki ve süreçlerdeki zayıflıkları belirlemek için rutin sızma testleri ve güvenlik denetimleri gerçekleştirin.
Yapay zeka dolandırıcılığıyla mücadelede hükümetlerin ve uluslararası kuruluşların rolü nedir? Büyüyen bu soruna çözüm bulmak için şu anda yürürlükte olan herhangi bir uluslararası standart veya çerçeve var mı?
Hükümetler ve uluslararası kuruluşlar, düzenleme, politika oluşturma, uygulama ve uluslararası işbirliği gibi çeşitli temel işlevler aracılığıyla yapay zeka dolandırıcılığına karşı mücadelede önemli bir rol oynamaktadır. Şu anda bu çerçeveleri ve standartları kullanıyoruz:
OECD AI ilkeleri: OECD, sahtekarlık da dahil olmak üzere riskleri azaltmak için şeffaflığın ve hesap verebilirliğin önemini vurgulayan yapay zekaya yönelik tavsiyeler ortaya koymuştur.
Avrupa Birliği Yapay Zeka Yasası: AB, güvenliği sağlamak ve dolandırıcılığa yol açabilecek olanlar da dahil olmak üzere riskleri azaltmak için yapay zekanın geliştirilmesini ve yaygınlaştırılmasını düzenlemeyi amaçlayan Yapay Zeka Yasası da dahil olmak üzere düzenleyici çerçeveler üzerinde çalışıyor.
NIST Yapay Zeka Risk Yönetimi Çerçevesi: ABD’deki Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), dolandırıcılık da dahil olmak üzere yapay zekayla ilişkili riskleri ele alan ve net standartlar ve uygulamaların ana hatlarını çizen çerçeveler geliştiriyor.
Yapay zeka dolandırıcılığının oluşturduğu riskleri azaltmaya yardımcı olabilecek yeni ortaya çıkan teknolojiler veya yenilikler var mı?
Belki blockchain teknolojisi: Blockchain’in merkezi olmayan yapısı, işlemlerin ve verilerin doğruluğunun doğrulanmasına yardımcı olabilir ve dolandırıcılık faaliyetlerinin fark edilmemesini zorlaştırabilir. Akıllı sözleşmeler süreçleri otomatikleştirip uyumluluğu sağlayarak dolandırıcılık potansiyelini azaltabilir.