Üretken Yapay Zeka (AI) sınırsız potansiyele sahiptir ancak aynı derecede kullanılabilir. Bu, WormGPT’nin ve ardından “Google Bard’ın karanlık versiyonu” olarak adlandırılan DarkBART’ın geliştirilmesiyle belirgin hale geldi.
AI’nın son gelişimi, çok çeşitli alanlarda ve endüstrilerde uygulanabilir ve gelişimi ve olanakları sürekli olarak genişlemektedir.
Bununla birlikte, hiper-gerçekçi videoların ve ses dosyalarının oluşturulduğu video ve ses derin sahtelerinin yükselişiyle, gerçek ve uydurma içerik arasında ayrım yapmayı zorlaştıran endişe verici bir eğilim ortaya çıktı.
Derin sahte ses kullanımı, tasvir edilen kişinin konuşma kalıplarını ve tonunu inandırıcı bir şekilde taklit edebildikleri için özellikle önemli bir tehdit oluşturur.
Bu teknolojinin önemli mali kayıplara yol açma, itibarı zedeleme ve hatta büyük ölçekte yanlış bilgi yayma potansiyeli var.
Deepfake’lerin kullanımı yeni bir kavram olmasa da, üretici yapay zekadaki ilerlemeler, bunların kötüye kullanıldığını tespit etmeyi son derece zorlaştırdı.
Bu, bireyleri, kuruluşları ve genel olarak toplumu bu yeni ortaya çıkan tehditlerden korumak için derin sahte ses algılama çözümlerine acil bir ihtiyaç duyulmasını gerektiriyor.
Sahte ve gerçek içerik arasında ayrım yapabileceğinizi düşünüyor musunuz?
Orijinalliği ayırt etme konusunda temel bir anlayışa sahip olsanız da olmasanız da, bu makale size farkı belirlemenize yardımcı olacak değerli ipuçları sağlamayı amaçlamaktadır.
“Derin öğrenme” ve “sahte” kelimelerinin birleşiminden oluşan Deepfake, araca eklenen orijinal örneklere derinden benzemek için sahte içeriğin manipüle edilmesiyle oluşturulur. Deepfake seslerde içerik, başka biri gibi taklit etmek ve ses çıkarmak için ses örnekleri kullanılarak oluşturulur.
Hassas ayrıntıları istemek için bireylere, iş arkadaşlarına veya siber suçun diğer hedeflerine sesli arama yapmak da dahil olmak üzere birçok şekilde kullanılabilir.
Ses Deepfake Tespiti, Saatin İhtiyacı
Deepfake ses ve video oluşturmaya yönelik kullanıcı dostu araçların erişilebilirliği önemli bir soruyu gündeme getiriyor: “Ses deepfake’lerini nasıl tespit edebiliriz?”
Derin sahte seslerin tespiti, ayrıntılara çok dikkat etmeyi ve siber güvenlik alanındaki en son gelişmelerden haberdar olmayı gerektirir.
Kaspersky tarafından hazırlanan bir raporda, siber güvenlik şirketi Voice Deepfake’i tespit etmenin yollarını vurguladı:
- Tehdit, istek veya soru içeren hileli aramalar, arka plandan gelen rahatsız edici gürültüyle genellikle kalitesiz olabilir.
- Konuşmadaki monotonluk, derin ses sahtekarlığını tespit etmenin başka bir yoludur.
- Bazı kelimelerin telaffuzu kafa karıştırıcı olabilir. Bot, TA ve Tehdit Aktörü arasında ayrım yapamayabilir ve bu nedenle kısaltmalar için kelimeleri telaffuz edebilir.
- E-posta, aramalar veya whatsapp yoluyla gönderilen sesli derin mesajlar, şifreleri veya hesap ayrıntılarını paylaşmak gibi acil eylem gerektiren acil görünebilir.
Mesajın ve talebin veya talebin gerçekliğini doğrulamak için ilgili kişiyi aramanız veya onunla iletişime geçmeniz her zaman tavsiye edilir.
2021’de derin sahte bir ses dolandırıcılığında, bir suçlu, Alman ana şirketinin CEO’su olarak poz veren İngiltere merkezli bir enerji şirketini aradı.
İngiltere CEO’su tarafından kabul edilen CEO’nun sesinde Alman aksanıyla konuşurken para transferi istediler.
Transfer yapıldı ve kayıplar yaşandı. Birleşik Krallık CEO’su, para transferi isteyen ikinci bir aramanın Avusturyalı bir numaradan yapıldığını öğrendiğinde bir şeylerin ters gittiğini hissetti.
Haberlerde dolaşan politikacıların konuşmaları veya ünlülerin başka bir ünlünün dolandırıcılık yaptığı iddiasıyla yaptığı açıklamalar şeklinde kullanılabilecek hileli sesin daha iyi algılanmasıyla ses derin sahte tespit araçları geliştiriliyor.
Tıpkı derin sahte ses teknolojisi gibi, derin sahte ses algılama teknolojisi de suçlular tarafından mükemmele yakın ses elde etmek için kullanılan daha yeni taktikleri barındıracak şekilde gelişiyor. Ancak şu ana kadar mükemmelliğe ulaşılamamıştır.
Kaspersky, “Bir ses parçasının sahte mi yoksa gerçek bir insan konuşması mı olduğunu belirlemek için dikkate alınması gereken birkaç özellik var: konuşmanın tınısı, tarzı ve tonlaması.”
Kaspersky Kıdemli Veri Bilimcisi Dmitry Anikin, ses derin sahtekarlıklarının teknolojik ihtiyaçlarına değinerek, “Şu anda yüksek kaliteli derin sahtekarlıklar oluşturma teknolojisi yaygın kullanım için mevcut değil” dedi.
Dmitry, “Büyük olasılıkla, saldırganlar gerçek zamanlı olarak sesler oluşturmaya çalışacak – örneğin birinin akrabasını taklit etmek ve para çekmek için” diye ekledi.
Deepfake ses tespiti için, suçlular tarafından yaratıldığı gibi duygulara veya aciliyet hissine dayalı kararlar almamak önemlidir.
Rapor, ayrıntıları veya parayı kimseyle paylaşmayın ve diğer uçtaki doğru kişi olduğundan emin olmak için dolandırıcının gerçekliğini çapraz kontrol etmek için aramayı durdurun.
Bir sesli deepfake mesajı yoksayılırsa güvenliği doğrudan etkilemeyebilir. Bu nedenle, potansiyel olarak gerçek güvenlik sorunlarına yol açabileceğinden, dikkatli olmanız ve istenen verilerle yanıt vermekten kaçınmanız önerilir. Dikkatli davranmak ve herhangi bir işlem yapmadan önce daha fazla doğrulama beklemek daha iyidir.