Gizlilik kampanyacıları, Parlamentoyu, Matrix Chambers’ın hukuki görüşü yasallığıyla ilgili “gerçek ve önemli sorunları” belirledikten sonra, teknoloji şirketlerini insanların iletişimlerini yasa dışı içerik için taramaya zorlayacak olan, hükümetin yaklaşmakta olan Çevrimiçi Güvenlik Yasasındaki bir maddeyi ele almaya çağırıyorlar.
Dan Squires KC ve Matrix Chambers’tan Emma Foubister tarafından Açık Haklar Grubu’na (ORG) iletilen görüş, platformların çevrimiçi iletişimleri daha yayınlanmadan önce engellemesini ve engellemesini gerektireceğinden, yasa tasarısının kullanıcı içeriğinin taranmasına ilişkin önlemlerinin “önceki kısıtlama anlamına geldiğini” buldu.
Ayrıca yasa dışı içeriği tespit etmek için yapay zeka (AI) algoritmalarının ve diğer otomatik yazılımların kullanılmasıyla ilgili bir dizi sorunun altını çizerek, “görevin onlar olmadan nasıl yerine getirilebileceğini görmenin zor olduğunu” belirtti.
Mevcut haliyle, yasa tasarısının 9. maddesi, çevrimiçi platformlara, kullanıcıların terörizm ve çocukların cinsel istismarından yasadışı göçe veya intihara yardımcı olduğu kabul edilen herhangi bir içeriğe kadar geniş bir yelpazedeki materyalleri kapsayan belirli “yasadışı içerik” ile “karşılaşmasını” önleme görevi yüklüyor.
Bunu başarmak için yasa tasarısı, platformların kullanıcılarının içeriğini yüklenmeden önce proaktif olarak görüntülemesini ve engellemesini gerektirecek, böylece başkalarının yasa dışı sayılan materyalleri görmesi engellenecek.
Bu gerekliliklere, firmaları “proaktif” müşteri tarafı tarama (CSS) ve diğer algılama teknolojilerini yüklemeye zorlayabilecek olan, çevrimiçi zarar düzenleyici Ofcom’a yönelik yeni yetkiler eşlik edecek, böylece içerik yüklenmeden önce analiz edilebilirler. Bu önlemler, Birleşik Krallık vatandaşlarının iletişimlerinin gizliliğini ve güvenliğini baltalayacağını öne sürdükleri uçtan uca şifreleme (E2EE) hizmetleri için özellikle endişe vericidir.
“Bize göre, yasa tasarısı şu anki haliyle yasalaşırsa, bu ülkede kamusal iletişim ve tartışmanın düzenlenme biçiminde büyük bir değişikliği temsil edecek. Bilgi vermek ve almak için ifade özgürlüğü haklarına yönelik temel ihlalleri riske atıyor” diye yazdı avukatlar.
“Tasarı, sosyal medya platformlarının AI veya diğer yazılımlar aracılığıyla materyalleri yüklenmeden önce taramasını ve yasa dışı olabilecek içeriği engellemesini gerektirecek. Bu, ifade özgürlüğü üzerindeki ön kısıtlamadır ve özel şirketler tarafından özel ve hiç şüphesiz gizli süreçlerin kullanılması yoluyla gerçekleşecektir.
“Öngörülemeyen ve öngörülemeyen şekillerde ve tamamen anlaşılmaz süreçlerle ve azınlık dini veya ırksal gruplara karşı ayrımcılık yapma riski taşıyan şekillerde ifade özgürlüğüne müdahaleye yol açacaktır.”
ORG’de ifade özgürlüğü politika yöneticisi Monica Horten şunları söyledi: “Potansiyel olarak yasa dışı olmalarının yanı sıra, bu öneriler Birleşik Krallık’ta milyonlarca insanın ifade özgürlüğünü tehdit ediyor. Bu, hükümetin ayrıntıları doldurmadan Parlamento’dan bir yasa çıkarmasını beklemesinin bir başka örneğidir.”
Computer Weekly, yasal görüş hakkında Bilim, Yenilik ve Teknoloji Bakanlığı ile temasa geçti ve şunları söyledi: “Çevrimiçi Güvenlik Yasası, Avrupa İnsan Hakları Sözleşmesi ile uyumludur. Bu çığır açan yasa, çocukları zorbalık, tımarlama ve pornografiden koruyarak Birleşik Krallık’ı çevrimiçi olmak için dünyadaki en güvenli yer haline getirecek.
“Tasarıya göre, platformlar, bir dizi açık korumada belirtildiği gibi, ifade özgürlüğünü korurken hizmetlerindeki yasa dışı içerikle mücadele etmek zorunda kalacak.”
Belirli sorunlar
Görüş, teknoloji şirketlerini neyin yasa dışı içerik olup olmadığı konusunda kendi kararlarını vermeye zorlamanın sonuç olarak “önemli sayıda yasal gönderinin sansürlenmesi” riskini ortaya koyması da dahil olmak üzere, yasa tasarısıyla ilgili bir dizi belirli sorunu özetledi.
İçeriği geniş ölçekte filtrelemek için AI algoritmalarının ve otomatikleştirilmiş yazılımların yüksek olasılıkla kullanılması göz önüne alındığında, bunun özellikle sorunlu olduğunu ekledi.
Mevcut göçmenlik suçlarının, teknoloji platformlarının proaktif olarak denetlemesi gereken yasa dışı içerik listesine dahil edilmesi örneğini vurgulayarak – bu, firmaların İngiliz Kanalı’nı geçen insanların “bu etkinliği olumlu bir şekilde gösteren” videolarını kaldırmaya zorlanabileceği anlamına gelir – görüş, bir AI algoritmasının içeriğin “olumlu” olup olmadığına nasıl karar vereceğini tahmin etmenin zor olduğunu belirtti.
“Görüntü herhangi bir metin olmadan yayınlanmışsa ne olur? Bu görüntülerin yasa dışı olup olmadığına karar vermek için gereken yasal süreç olmaksızın yayınlanmadan önce kaldırılması, mültecilere ve yasa dışı göçe yönelik muameleyle ilgili kamuoyunda önemli bir tartışmada caydırıcı bir etkiye sahip olabilir.”
Ayrıca, AI ve diğer otomatikleştirilmiş teknolojilerin sıklıkla “doğal önyargılar” içerdiğini gösteren ve “tarama sistemlerinin azınlık etnik veya dini gruplarla ilgili veya bunlar tarafından yayınlanan içeriği orantısız bir şekilde engellemesi” gibi açık bir risk oluşturduğunu gösteren önemli ve büyüyen bir araştırma grubu olduğunu da sözlerine ekledi.
Bu, genel bir şeffaflık ve hesap verebilirlik eksikliği ile birleşecek, çünkü tasarı şu anda şirketlere, kullanıcılara içeriklerinin neden kaldırıldığına dair bir neden sunma veya hatta bu durumu onlara bildirme zorunluluğu getirmiyor.
“Önceki kısıtlamayı teşvik eden acımasız uygulama koşullarının aksine, kullanıcıların aşırı gayretli eylemlere itiraz etmelerine olanak tanıyan hükümler … sınırlıdır” dedi ve şirketlerin şikayet prosedürlerini yürütmekle yükümlü olacak olsa da, bu şikayetlerin ele alınması gereken zaman çizelgeleri hakkında hiçbir bilgi ve şikayetlerle yeterince ilgilenilmemesi için herhangi bir yaptırım süreci bulunmadığını da sözlerine ekledi.
Kasım 2022’de yayınlanan, Index on Censorship tarafından Matthew Ryder KC’den yaptırılan önceki bir yasal görüş, Ofcom tarafından yayınlanan ve özel mesajlaşma hizmetlerinin mesajların içeriğini filtrelemek için “akredite” bir teknoloji devreye sokmasını gerektiren teknik bildirimlerin, kitlesel ölçekte devlet tarafından zorunlu tutulan gözetim anlamına geldiğini ortaya koydu.
Ryder, “Ofcom, Birleşik Krallık vatandaşlarının toplu gözetleme yetkileri konusunda GCHQ (2016 Soruşturma Yetkileri Yasası uyarınca) gibi Birleşik Krallık’ın casus teşkilatlarından daha geniş bir görev alanına sahip olacak” diye yazdı.
Çevrimiçi Güvenlik Yasa Tasarısı tarafından önerilen gözetim yetkilerinin yasaya uygun olması pek olası değildi ve yasal itirazlara açık olacaktı, dedi: “Şu anda, bu düzeyde bir devlet gözetimi ancak ulusal güvenliğe yönelik bir tehdit varsa Soruşturma Yetkileri Yasası kapsamında mümkün olacaktır.”
WhatsApp, Signal ve Threema dahil olmak üzere şifreli mesajlaşma hizmetleri sunan bir dizi teknoloji şirketi de daha önce hükümeti, şifreli iletişimin gizliliğini baltalamakla tehdit ettiğini öne sürerek yasa tasarısında acil değişiklikler yapmaya çağırdı.
İçişleri Bakanlığı, Çevrimiçi Güvenlik Yasa Tasarısının uçtan uca şifrelemeyi yasaklamadığını ve mesajlaşma servislerinin şifrelemelerini zayıflatmasını gerektirmeyeceğini savunuyor.