Sumsub, görsel varlıklardaki derin sahtekarlıkların ve sentetik sahtekarlığın tespitini sağlayan bir dizi model olan For Fake’s Sake’i piyasaya sürdü.
Bu ilk katkının ardından Sumsub, modellerin yeteneklerini daha da geliştirmek için yapay zeka araştırma topluluğundan gelen geri bildirimlerden yararlanacak.
Sumsub, görsel verileri analiz etme ve gerçek bireyleri yapay zeka tarafından oluşturulan sahte kişilerden ayırma konusunda geniş deneyime sahiptir. Sumsub’un şirket içi AI/ML Araştırma Laboratuvarı, bu uzmanlığı ürün geliştirmenin ötesine genişleterek, deepfake ve sentetik sahtekarlık tespiti için dört farklı makine öğrenimi odaklı modelden oluşan For Fake’s Aşkına’yı geliştirdi.
Bu sürümle Sumsub, insanların yapay zeka tarafından oluşturulan içerikle sorumlu bir şekilde etkileşime geçmesine olanak tanıyan deneysel bir teknik strateji sunuyor. Bu araç aynı zamanda diğer yapay zeka destekli araçlarla uyum sağlama ve büyüme potansiyeline de sahiptir. Sahte Aşkına, kullanıcıların yüklenen bir görselin yapay olarak oluşturulmuş olma ihtimalini tahmin etmelerine olanak tanır.
Yapay zeka topluluğu tarafından oluşturulan yönergeleri takip eden Sumsub, eğitimli modeller için veri kümelerini ve ölçümleri açıklayan ayrıntılı kartlar sağlar. Sumsub’un dahili testleri, modellerin tipik görüntü değişikliklerini doğru bir şekilde tespit etmedeki etkinliğini gösterse de, alternatif içerik analizi yöntemleriyle birleştirildiğinde, yapay zeka tarafından oluşturulan görüntüler güvenle tanınabiliyor.
Sumsub CTO’su Vyacheslav Zholudev, “Mevcut çözümlerimizi sürekli olarak yükselterek ve canlılık aracımızın yeni geliştirilmiş deepfake dedektörü de dahil olmak üzere yeni özellikler geliştirerek, deepfake tehlikesiyle ve sentetik dolandırıcılığın olumsuz etkileriyle mücadele etmek için önemli çabalar gösterdik” dedi. .
“Müşterilere en kaliteli ürünü sunmak bir şeydir. Ancak, derin sahtekarlıkların (çevrimiçi ortamda gerçek kişilerin kimliğine bürünülmesi, kişisel verilerin çalınması, yanlış bilgilerin yayılması, sosyal mühendislik ve daha fazlası) oluşturduğu çok yönlü tehditler hakkında şeffaf bir kamusal söylemi sürdürme kararlılığımız da aynı derecede hayati önem taşıyor. Açık kaynak aracımız, Sumsub’un, ürün geliştirmenin yanı sıra, şirketler ve daha geniş anlamda halkın ücretsiz kullanımı için güvenli ve kapsayıcı bir dijital geleceği güçlendirme misyonumuzu yerine getirme yönünde attığı birçok adımdan yalnızca birini temsil ediyor” diye ekledi Zholudev.
Sumsub’un en güncel dahili verilerine göre, 2022’nin ikinci yarısıyla karşılaştırıldığında 2023’ün ilk yarısı dünya çapında büyük bir deepfake vakası salgınını beraberinde getirdi. Deepfake sayısı Büyük Britanya’da %84, ABD’de %250 arttı. Almanya ve İtalya’da %300’den fazla ve Fransa’da %500’den fazla.
Yapay zeka kaynaklı kimlik dolandırıcılığı vakalarının sayısındaki en çarpıcı artış Avustralya (%1300), Vietnam (%1400) ve Japonya’da (%2300) görüldü.
“Yapay zeka teknolojileri ilerledikçe, bunların kullanımına ilişkin düzenlemelerin sıkılaştırılacağını öngörüyoruz. Örneğin, yakında tüm sentetik görsellere filigran uygulanması zorunlu hale gelebilir. Ancak dolandırıcılar, özellikle 2024 ABD başkanlık seçimleri öncesinde sürekli olarak düzenlemeleri aşmanın yollarını arayacaklar,” diye açıklıyor Sumsub AI/ML Başkanı Pavel Goldman-Kalaydin.
“Yapay zeka tarafından oluşturulan sahtekarlığa karşı mücadelede daha fazla gelişme için bir referans noktası olarak deneysel sentetik görüntü algılama modellerimizi paylaşmaktan mutluluk duyuyoruz. Bir sektör olarak uyanık kalmalı ve çabalarımızı birleştirmeliyiz; ekibimiz en son trendlere, kullanıcı geri bildirimlerine ve topluluk içgörülerine dayanarak sürekli gelişmeye kararlıdır.”