Microsoft, bugün, insanların hassas medyalarından oluşturdukları dijital karmaları kullanarak Bing’den zararlı mahrem resim ve videoları proaktif bir şekilde kaldırmak için StopNCII ile ortaklık kurduğunu duyurdu.
StopNCII, Revenge Porn Helpline tarafından işletilen ve insanların telefonlarından medya yüklemeden samimi resim ve videolarının dijital karmalarını oluşturmalarına olanak tanıyan bir projedir. StopNCII daha sonra bu karmaları, Facebook, TikTok, Reddit, Pornhub, Instagram, OnlyFans ve Snapchat gibi ortakları tarafından kaldırılan, aynı veya benzer görselleri çevrimiçi olarak bulmak için kullanılan bir veritabanına ekler.
Microsoft, Mart ayında StopNCII ile PhotoDNA teknolojisini paylaşarak, kişilerin görüntü veya videolarının cihazlarından çıkmadan gelişmiş dijital karma oluşturma olanağı sağladı.
Mart ayındaki duyuruda, “StopNCII.org’un halihazırda kullandığı karma teknolojisine (PDQ) benzer şekilde, PhotoDNA, tespit edilen zararlı görüntülerin dijital bir parmak izine dönüştürülmesini sağlayan ek bir işlemdir; bu daha sonra endüstri platformlarıyla paylaşılarak rızaya dayanmayan mahrem görüntü istismarı materyallerinin tespit edilip kaldırılmasını sağlar” denildi.
Microsoft bugün, Bing arama dizinindeki mahrem görüntüleri kaldırmak için StopNCII’nin karma veritabanının pilot uygulamasını yaptıklarını duyurdu. Microsoft, bu veritabanını kullanarak Ağustos sonuna kadar 268.899 görüntü üzerinde işlem yaptıklarını söylüyor.
Yapay zekanın yükselişi, çevrimiçi olarak paylaşılan samimi olmayan fotoğraflardan derin sahte çıplaklık görüntülerinin daha fazla üretilmesine de yol açtı. Bu görüntüler sahte olsa da, istismar edilenler için de aynı derecede rahatsız edici olabilir.
DeepTrace’in (şimdiki adıyla Sensity) 2019 tarihli bir raporu, internetteki deepfake videoların %96’sının pornografik nitelikte olduğunu ve neredeyse hepsinin bir kadının benzerliğinin rızası olmadan kullanıldığını gösterdi. Bu görüntülerin çoğu “intikam pornosu” olarak, gasp için veya ahlaksız siteler tarafından gelir elde etmek için yükleniyor.
Ne yazık ki, AI tarafından oluşturulan görüntüler PhotoDNA karmalarıyla eşleşmeyi zorlaştırıyor. Bu durumlarda, etkilenenler görüntüleri manuel olarak Microsoft, Google ve diğer çevrimiçi medya şirketlerine bildirmelidir.
Microsoft, etkilenen kişilerin Endişe Bildir sayfasını kullanarak gerçek veya sentetik görsellerin Bing arama dizininden kaldırılmasını talep edebileceklerini söylüyor.
Google bu girişime katılmamış olsa da, onlar da gizlilik içeren görsellerin indekslerinden kaldırılmasına yönelik yönergeler ve bir yol sağlıyor.