18 yaşın altındaki kişiler tarafından gönderilen veya alınan Instagram çıplak fotoğrafları, uçtan uca şifrelenmiş (E2EE) doğrudan mesajları (DM’ler) tarayabilen cihaz tabanlı yazılımla tespit edilecek ve bulanıklaştırılacak.
İstemci tarafı özelliğinin lansmanı, polisin ve düzenleyicilerin karşı çıktığı Facebook Messenger’ın mevcut ve Instagram’ın planladığı E2EE’nin küresel kullanıma sunulmasıyla aynı zamana denk geliyor.
E2EE, Meta’nın halihazırda çocukların cinsel istismarına yönelik materyalleri (CSEM) tespit etmek, kaldırmak ve raporlamak için kullandığı sunucu tabanlı yazılımla birlikte çalışamaz.
Zorunlu E2EE arka kapılarına karşı geri adım atılmasının ardından, Birleşik Krallık ve Avustralya’daki çevrimiçi güvenlik gözlemcileri, yasa dışı içeriği tespit etmek ve kaldırmak için alternatif bir yöntem olarak, kullanıcıların cihazlarından veya devlete ait aracı sunuculardan gelen iletişimleri taramayı yakın zamanda önerdi.
Bununla birlikte, Birleşik Krallık ve Avustralya düzenleyicilerinin E2EE sağlayıcılarını uygulamaya zorladığı cihaz tabanlı içerik tarama teknolojisinin aksine, Instagram’ın Çıplaklık Koruması özelliği yasa dışı materyalleri engellemiyor.
Varsayılan olarak gençler için olan ve yetişkinlerin kullanımına sunulan ayarlar, kullanıcıları cinsel sömürü dolandırıcılığı ve intikam pornosunun tehlikeleri konusunda uyarıyor ancak yine de tespit edilen çıplak görüntülerin bulanıklığını kaldırmalarına izin veriyor.
Geçtiğimiz mali yılda 5054 kullanıcının verilerini Avustralya’nın çeşitli kolluk kuvvetlerine ve düzenleyici kurumlarına aktaran şirket, yaptığı açıklamada “Birisi bunları bize bildirmeyi seçmediği sürece Meta’nın bu görüntülere erişimi olmayacak” dedi. .
e-Güvenlik Komiseri Vekili Toby Dagg şunları söyledi: iTnews özelliği “memnuniyetle karşıladığını”, ancak “bu araçların uzun vadeli etkinliği ve zaman içinde kullanımı hakkında Meta’dan daha fazla bilgi almasını da memnuniyetle karşılayacağını” söyledi.
Suça karşı platformlar taranıyor
Dagg, eSafety’nin “teknoloji devleri Apple, Meta, Microsoft ve Google’ın sahip olduğu hizmetler de dahil olmak üzere 29 hizmete yönelik şeffaflık bildirimlerinin”, Xbox Live, Facebook, Instagram, TikTok ve Twitch’in çocuk bakımını tespit etmek için dil analizi işleminin kullanımının haritasını çıkardığını söyledi. şu anda kullanıyor.
“Araştırmacılarımıza verilen raporlar, bu olayların arkasındaki suçluların [sexual extortion] Dolandırıcılıklar başlangıçta sosyal medya hizmetlerinde çekici bir genç kadın gibi davranarak iletişim kurarken, en sık hedeflenenler Instagram ve Snapchat’tir.”
eSafety’nin 2022’de yayımladığı rapora göre, şifrelenmediğinde Facebook, Instagram, TikTok, Twitch, Google Chat, Twitter, TikTok, Snapchat, Xbox Live ve Discord mesajları doğrulanmış CSEM için taranıyor [pdf] ve 2023 [pdf] açıklığa kavuşmuş.
Instagram, Facebook, YouTube, Discord ve Twitch de yeni CSEM’yi tespit etmek için doğrulanmış CSEM konusunda eğitilmiş yapay zekayı kullanıyor.
Algılama ve engelleme rejimini otomatikleştirin
Dagg, eSafety’nin platformların tespit yazılımlarını değerlendirmeye yönelik “şeffaflık yetkilerinin”, “Avustralya’daki çevrimiçi ürün ve hizmet sağlayıcılarının, çocukların cinsel istismarına yönelik materyaller de dahil olmak üzere zararlı materyal riskini ele almak için daha fazlasını yapmasını gerektiren yeni zorunlu kodlarla el ele çalıştığını” söyledi. bakım.”
Birleşik Krallık ve Avustralya’da Meta, Apple, Signal ve diğer E2EE sağlayıcıları, düzenleyicinin sağlayıcı için “teknik olarak mümkün” olduğunu düşündüğü durumlarda, şifrelemeden önce içeriği tarayan, tespit eden ve engelleyen çözümleri zorunlu kılabilecek endüstri kurallarına dahil edilmelerine karşı çıkıyorlar. soru.
“Teknik fizibilite”, “son kullanıcıların çevrimiçi güvenliğine yönelik risk düzeyi dikkate alınarak, hizmet sağlayıcıların harekete geçme maliyetlerine katlanmasının makul olup olmadığına” bağlıdır.
eSafety, bir cihazdan veya devlete ait bir sunucudan gelen iletişimleri taramanın, “şirketlerin uçtan uca şifrelenmiş hizmetlerinden herhangi birinde sistematik güvenlik açıkları veya zayıflıklar tasarlamasını” zorunlu kılmak anlamına gelmeyeceğini söyledi.
Meta’nın sunumu [pdf] eSafety’ye, endüstri kuralları “şifreleme yöntemlerini daha az etkili hale getirebilecek” çözümleri hariç tutmak için “teknik olarak fizibilite”yi açıkça tanımlamadığı sürece, sağlayıcıları sistematik güvenlik açıkları veya zayıflıklar tasarlamaya zorlayabileceklerini söyledi.
Apple’ın iMessage için benzer cihaz tarafındaki çocuk güvenliği özellikleri gibi, Meta’nın çıplaklık koruma özelliği de muhtemelen yetkililere zararlı E2EE materyallerinin üçüncü taraflarca doğrudan engellenmeden veya rapor edilmeden azaltılabileceğini göstermeyi amaçlıyor.
eSafety’nin Uçtan uca şifrelemeye ilişkin Güncellenmiş Pozisyon Beyanı [pdf]Ekim ayında yayınlanan Apple’ın çocuk güvenliği özelliğinin “şifrelemeyi zayıflatmadan ve gizliliği korurken, cihaz tarafındaki araçların E2EE ile birlikte kullanılabileceğini geniş ölçekte gösterdiğini” söyledi.
Ancak şunu da ekliyor: “Apple’ın müdahalesi, yasa dışı malzeme veya etkinliğin paylaşılmasını engellememesi veya hesapların hizmet tarafından yasaklanmasına olanak vermemesi açısından sınırlıdır.”
eSafety, Apple’ın iCloud çözümünü daha çok destekliyordu [pdf]Apple, gizlilik savunucularının tepkisinden sonra durduruldu.
iCloud çözümü, kullanıcıların aygıtlarındaki içeriği, yedeklemelerine yüklenmeden önce tarardı; Yasadışı malzeme tespit edildiğinde polis uyarılırdı.
Apple’ın kullanıcı gizliliği ve çocuk güvenliği direktörü Erik Neuenschwander bir e-postada şunları söyledi: [pdf] W tarafından elde edildikızgın Projenin, “veri hırsızlarının bulup kullanabileceği yeni tehdit vektörleri” yaratabileceği ve işlev kayması yoluyla otoriter gözetime yol açabileceği endişeleri nedeniyle terk edildiği belirtildi.
“Kullanıcılar, bir tür gözetim aracının, siyasi faaliyet veya dini zulüm gibi diğer içerikleri gözetlemek üzere yeniden yapılandırılmadığından nasıl emin olabilir?” Ağustos ayında Apple’ın çözümü yeniden benimsemesini destekleyen bir çocuk hakları grubuna gönderilen e-postada şunlar yazıyordu.