Yapay Zeka ve Makine Öğrenimi, Yönetişim ve Risk Yönetimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Firma, Veri Toplama Normları Nedeniyle Özelliği AB ve Birleşik Krallık’ta Kullanmayacak
Rashmi Ramesh (raşmiramesh_) •
23 Ekim 2024
Meta, ünlülerin deepfake’lerini içeren dolandırıcılık reklamlarını tespit etmek için sosyal medya platformlarında yüz tanıma teknolojisini kullanıma sunuyor.
Ayrıca bakınız: İşletmenizin Başarısını Artırmaya Yönelik Varsayılan Olarak Güvenli Strateji
Meta’nın içerik politikasından sorumlu başkan yardımcısı Monika Bickert, özelliğin aynı zamanda Facebook veya Instagram hesaplarına erişimi engellenen kullanıcıların kimliklerini, selfie videoları çekip profil fotoğraflarıyla karşılaştırarak doğrulamayı da amaçladığını söyledi. Kullanıcılar aynı amaçla devlet tarafından verilmiş kimlik kartlarının fotoğraflarını da yükleyebilirler.
“Ünlü tuzağı reklamları” olarak adlandırılan deepfake dolandırıcılıkları, kullanıcıları paralarından vazgeçmeleri için kandırmak amacıyla popüler kişiliklerin yapay zeka tarafından oluşturulan görüntülerini kullanıyor. Meta, dolandırıcılık reklamlarındaki resimleri ünlülerin profil resimleriyle karşılaştırarak bunların doğruluğunu doğrulamak için yüz tanıma aracını kullanmayı planlıyor. Bickert, programa şu anda yalnızca “küçük bir grup ünlünün” kaydolduğunu söyledi.
Temmuz ayında yapay zeka tarafından oluşturulduğundan şüphelendiği içerikleri etiketleme biçiminde değişiklik yaptığını ve bu tür içerikler için “Yapay Zeka Bilgisi” etiketi görüntülediğini duyurdu.
Bu ayın başlarında Meta, Avustralya Mali Suçlar Borsası’ndan Nisan ayından bu yana 102 rapor aldıktan sonra sosyal medya platformlarındaki “ünlülerin tuzağı” dolandırıcılık reklamlarının 8.000’ini kaldırdığını söyledi.
Bickert, şirketin yerel veri toplama yasalarını ihlal edeceği için bu özelliği Avrupa Birliği ve Birleşik Krallık’ta kullanmayacağını söyledi.
Bu, şirketin, hükümet soruşturmaları, mahremiyetin geri tepmesi ve düzenleyici kaygılar nedeniyle, fotoğraflardaki kişileri otomatik olarak tanımlayan Facebook’taki bir “etiketleme” özelliğini geri almaya zorlanmasından sonra, on yıl içinde şirketin yüz tanıma sisteminde yaptığı ilk büyük genişlemedir. Bir milyardan fazla kullanıcının yüz verilerini sildi. Şirket o dönemde yüz tanıma teknolojisini hala insanların kimliğini doğrulamak ve sahtekarlığı ve kimliğe bürünmeyi önlemek için “güçlü bir araç” olarak gördüğünü açıklamıştı.
Bickert, şirketin en son testlere başlamadan önce politika yapıcılar, düzenleyiciler ve gizlilik ve güvenlik uzmanlarıyla ortaklık kurduğunu söyledi. Şirket, gevşek veri toplama ve depolama uygulamalarıyla defalarca manşetlerde yer almasına rağmen, son yüz tanıma projesinde güvenlik ve gizliliği nasıl yöneteceğinin ayrıntılarını açıklamadı.
Şirket, beta testlerinin sonuçlarına bağlı olarak önümüzdeki birkaç ay içinde hesap kurtarma için yüz tanıma özelliğini tüm kullanıcılara sunmayı planlıyor. Ünlülere yönelik yem reklam testlerini Aralık ayında başka bir ünlü grubunu kapsayacak şekilde genişletecek.