McAfee, Project Mockingbird olarak bilinen yapay zeka destekli Deepfake Ses Algılama teknolojisini duyurdu.
Bu yeni, özel teknoloji, insanların parasını ve kişisel bilgilerini çalan, siber zorbalığa olanak tanıyan ve önde gelen kişilerin kamuoyundaki imajını manipüle eden dolandırıcılıklar gerçekleştirmek için yapay zeka tarafından üretilen sesleri kullanan siber suçluların artan tehdidine karşı tüketicileri korumaya yardımcı olmak için geliştirildi.
Giderek daha karmaşık hale gelen ve erişilebilir hale gelen Üretken Yapay Zeka araçları, siber suçluların zor durumdaki bir aile üyesinin kimliğine bürünmek için ses klonlama kullanmak ve para istemek gibi son derece ikna edici dolandırıcılıklar oluşturmasını kolaylaştırdı. Genellikle “ucuz sahte” olarak adlandırılan diğerleri, birinin ağzından çıkan kelimeleri değiştirmek için sahte ses ekleyerek haber programları veya ünlü röportajları gibi orijinal videoları manipüle etmeyi içerebilir; bu, güvenilir veya bilinen bir kişinin başlangıçta söylenenden farklı bir şey söylediği izlenimini verir.
McAfee’nin yenilik ve tehdit istihbaratı kolu olan McAfee Labs, tüketicilerin gerçek içeriği dijital olarak değiştirilmiş içerikten ayırma konusunda karşılaştığı giderek artan zorluğu öngörerek, yapay zeka tarafından oluşturulan sesi tespit etmek için eğitilmiş gelişmiş bir yapay zeka modeli geliştirdi. McAfee’nin Project Mockingbird teknolojisi, bir videodaki sesin muhtemelen yapay zeka tarafından üretilip üretilmediğini belirlemek için yapay zeka destekli bağlamsal, davranışsal ve kategorik algılama modellerinin bir kombinasyonunu kullanıyor. Şu anda %90’lık bir doğruluk oranıyla McAfee, kötü niyetli “ucuz sahte” veya derin sahtekarlıklar için oluşturulmuş yapay zeka içeriğini tespit edip bunlara karşı koruma sağlayabiliyor ve tüketicilere benzersiz koruma özellikleri sağlıyor.
McAfee CTO’su Steve Grobman şunları söyledi: “McAfee’nin en yeni AI algılama yetenekleriyle, müşterilere, insanların dijital dünyalarını anlamalarına ve içeriğin göründüğünden farklı olma olasılığını değerlendirmelerine yardımcı olmak için %90’ın üzerinde doğrulukla çalışan bir araç sunacağız.” “Dolayısıyla, tıpkı %70 yağmur ihtimalini gösteren bir hava durumu tahmininin gününüzü planlamanıza yardımcı olması gibi, teknolojimiz de içeriğin göründüğü gibi olup olmadığı konusunda bilinçli kararlar vermenizi sağlayacak bilgilerle sizi donatıyor.”
“Bu AI tespit teknolojisinin kullanım durumları çok geniş kapsamlıdır ve AI tarafından oluşturulan dolandırıcılık ve dezenformasyondaki artışın ortasında tüketiciler için paha biçilmez olduğu kanıtlanacaktır. McAfee’nin deepfake ses algılama yetenekleriyle, neyin gerçek neyin sahte olduğunu bilmenin gücünü doğrudan tüketicilerin eline sunacağız. Tüketicilerin, klonlanmış bir ünlünün sınırlı süreli yeni bir hediye talebinde bulunduğu ‘ucuz sahte’ dolandırıcılıklardan kaçınmasına yardımcı olacağız ve ayrıca tüketicilerin bir başkan adayı hakkında bir video izlerken bunun gerçek mi yoksa kötü amaçlı yapay zeka tarafından mı oluşturulduğunu anında bilmelerini sağlayacağız. Bu, yapay zeka çağında korumayı tamamen yeni bir seviyeye taşıyor. Kullanıcılara yeni yapay zeka odaklı dünyamızdaki nüanslarda gezinmeleri, çevrimiçi gizliliklerini, kimliklerini ve refahlarını korumaları için netlik ve güven vermeyi amaçlıyoruz” diye devam etti Grobman.
Bu yeni yapay zeka teknolojisinin tanıtılması, McAfee’nin tüketicilerin dijital yaşamlarını korumak için platformlar arası ve birden fazla kullanım senaryosuna hizmet eden kapsamlı bir yapay zeka modelleri portföyü geliştirmeye odaklandığının bir başka kanıtıdır.
Neden Mockingbird Projesi
Alaycı kuşlar, öncelikle diğer kuşların şarkılarını taklit etmeleri veya “alay etmeleri” ile bilinen bir kuş grubudur. Alaycı Kuşların neden alay ettiğine dair kanıtlanmış bir neden olmasa da, davranışın ardındaki teorilerden biri, dişi kuşların daha fazla şarkı söyleyen erkekleri tercih etmesi, dolayısıyla erkeklerin onları kandırmak için alay etmesidir. Benzer şekilde siber suçlular, tüketicileri dolandırmak amacıyla ünlülerin, etkileyicilerin ve hatta sevdiklerinin seslerini “alay etmek” veya kopyalamak için Üretken Yapay Zeka’dan yararlanıyor.
Deepfake teknolojisiyle ilgili derin endişeler
Tüketiciler, gördükleri veya duydukları şeyin gerçek mi yoksa sahte mi olduğunu belirlemek için duyularının ve deneyimlerinin yeterli olduğuna artık güvenmedikleri için, bu dolandırıcılıkların karmaşık doğasından giderek daha fazla endişe duyuyorlar. McAfee’nin Aralık 2023 Deepfakes Anketi’nin sonuçları şunları ortaya çıkardı:
Deepfake deneyimleri ve bakış açıları:
- Amerikalıların büyük çoğunluğu (%84) deepfake’lerin 2024’te nasıl kullanılacağı konusunda endişeli.
- Amerikalıların %68’i artık bir yıl öncesine göre deepfake konusunda daha fazla endişe duyuyor.
- Amerikalıların üçte birinden fazlası (%33) kendilerinin (%16) veya tanıdıkları birinin (%17) deepfake dolandırıcılığı gördüğünü veya yaşadığını söyledi; bu durum %40 ile en çok 18-34 yaş grubundakiler için belirgindir.
2024’te deepfake kullanımına ilişkin en önemli endişeler:
- Amerikalıların yarıdan fazlası (%52) derin sahtekarlıklardaki artışın seçimleri etkileyeceğinden, halkın medyaya olan güvenini sarsacağından (%48) ve tanınmış kişilerin kimliğine bürünmek için kullanılacağından (%49) endişe duyuyor.
- Yapay zeka ve derin sahtekarlıklar sayesinde dolandırıcılıkların çoğalmasına ilişkin endişeler de %57 ile kayda değer bir oran.
- Deepfake’lerin siber zorbalık için kullanılması Amerikalıların %44’ünü endişelendiriyor; insanların üçte birinden fazlası (%37) ayrıca deepfake’lerin müstehcen içerik oluşturmak için kullanılmasından da endişe duyuyor.
On yıldan fazla bir süredir McAfee, milyonlarca küresel müşteriyi çevrimiçi gizlilik ve kimlik tehditlerinden korumak için yapay zekayı kullanıyor. McAfee, birden çok modeli paralel olarak çalıştırarak sorunların çeşitli açılardan kapsamlı bir analizini gerçekleştirebilir. Örneğin, tehdit türlerini anlamak için yapısal modeller, tehdidin ne yaptığını anlamak için davranış modelleri ve belirli bir tehdidin temelini oluşturan verilerin kökenini izlemek için bağlamsal modeller kullanılır.
Birden fazla modeli aynı anda kullanmak, McAfee’nin müşterilere en etkili bilgileri ve önerileri sunmasına olanak tanır ve şirketin insanların gizliliğini, kimliğini ve kişisel bilgilerini koruma taahhüdünü güçlendirir.