Yaklaşık 500 bilim adamı ve araştırmacı, AB’nin sohbet kontrol teklifinin en son versiyonunun dijital güvenliği zayıflatırken çocuklar için anlamlı koruma sağlayamadığını belirten açık bir mektup imzaladı. İmzacılar 34 ülkeyi temsil ediyor ve ETH Zürih, Johns Hopkins Üniversitesi ve Max Planck Güvenlik ve Gizlilik Enstitüsü gibi önde gelen kurumlardan araştırmacıların yanı sıra Ku Leuven’den tanınmış kriptograf Bart Preneel’i içeriyor.
Mektup, 24 Temmuz’da yayınlanan ve görüntülere ve URL’lere tarama gereksinimlerinin kapsamını daraltan düzenlemenin gözden geçirilmiş bir taslağına yanıt veriyor. Daha önceki taslaklar arasında metin ve ses iletişimi tespiti vardı. Araştırmacılar, küfürlü materyallerin daha hızlı raporlanması ve kaldırılması için hükümler gibi bazı değişiklikleri memnuniyetle karşılarken, temel kusurların kaldığını iddia ediyorlar.
Tespit teknolojisi ile ilgili ana endişeler
Araştırmacılar, teklifin gerektirdiği teknolojinin, yüz milyonlarca kullanıcı ölçeğinde bilinen veya yeni çocuk cinsel istismar materyallerini (CSAM) güvenilir bir şekilde tespit edemeyeceğini belirtiyor. Mevcut sistemlerin etkili olması için çok fazla yanlış pozitif ve yanlış negatif ürettiği konusunda uyarıyorlar. Bir görüntüdeki küçük değişiklikler bile son teknoloji dedektörleri atlayabilir ve tarama zorunlu hale gelirse kaçınma taktiklerinin hızlı bir şekilde değişmesi beklenir.
Mektup ayrıca, daha önce görülmemiş CSAM’ı tanımlamak için makine öğrenimini kullanma planına da meydan okuyor. Yazarlara göre, AI’nın CSAM’ı gençler arasındaki rızaya dayalı fotoğraflar gibi diğer özel görüntülerden ayırt edebileceğine dair bir kanıt yoktur. Bu tür sistemlerin hatalara eğilimli olacağı ve yasadışı materyalleri paylaşmak amacıyla kolayca manipüle edileceği konusunda uyarıyorlar.
Şifreleme ve gizlilik riskleri
Merkezi bir itiraz, cihazdaki taramanın uçtan uca şifreleme (E2EE) ile uyumsuz olmasıdır. Araştırmacılar, şifrelemeden önce özel verilerin taranmasının tek bir başarısızlık noktası getirdiğini ve harici taraflara özel kalmak için verilere erişim sağladığını açıklar. Bu yaklaşımın, vatandaşlar, gazeteciler, politikacılar ve kolluk kuvvetleri tarafından kullanılan Signal ve WhatsApp gibi mesajlaşma uygulamalarının güvenliğini aşındıracağını savunuyorlar.
Sinyal, düzenleme zorunlu cihazda tarama gerektirirse, hizmetini AB’den çekeceğini zaten belirtti. Araştırmacılar ayrıca fonksiyon sürünmesi ile ilgili endişelerini dile getirerek, aynı teknolojinin daha sonra siyasi mesajlar gibi diğer içerik türlerini taramak için kullanılabileceğini belirtiyor.
Yaş doğrulaması üzerindeki endişeler
Teklif zorunlu yaş doğrulama ve değerlendirme önlemlerini içermektedir. Mektup, bu kontrollerin VPN’ler veya alternatif hizmetler aracılığıyla kolayca kaçındığını savunuyor. Daha da önemlisi, zorunlu yaş doğrulaması çevrimiçi anonimlik ve ifade özgürlüğünü zayıflatabilir ve büyük teknoloji şirketleri tarafından sağlanan test edilmemiş çözümlere bağımlılıklar yaratabilir.
Önerilen Yol İleri
Araştırmacılar, taramaya odaklanan “tekno çözücü” yaklaşım olarak tanımladıkları şeyden uzaklaşmayı çağırıyorlar. Bunun yerine, çevrimiçi güvenlik ve rızası konusunda eğitim, travmaya duyarlı raporlama hotlinleri ve yasadışı içeriğin daha hızlı yayından kaldırılması gibi kanıtlanmış önlemler önerirler. Kötüye kullanımı ortadan kaldırmanın, herkes için dijital güvenliği zayıflatmak yerine temel nedenlerinin ele alınmasını gerektirdiğini vurgularlar.