Ofcom’un yeni güvenlik uygulama kurallarına göre, sosyal medya firmaları etkili yaş kontrolleri yapmalı ve çocuklara zararlı içerik öneren “uysallaştırılmış toksik algoritmalar” uygulamalıdır.
Ofcom tarafından 8 Nisan 2024’te yayınlanan çocuk güvenlik kuralları, sosyal medya şirketlerinin, hizmetlerini kullanan 18 yaşın altındaki kişileri korumak için Çevrimiçi Güvenlik Yasası (OSA) tarafından kendilerine getirilen yeni yasal yükümlülüklere uymalarına yardımcı olmak için tasarlanmış 40’tan fazla önlem içeriyor.
Ekim 2023’te kabul edilen OSA tarafından dijital platformlara getirilen yükümlülükler, çocukların zararlı veya yaşa uygun olmayan içeriklere (pornografi veya kendine zarar vermeyi teşvik eden gönderiler gibi) erişimini engellemeleri gerektiği anlamına geliyor; yaş sınırlarının uygulanması ve yaş kontrolü önlemlerinin uygulanması; ve sundukları hizmetlerin çocuklara yönelik oluşturduğu tehlikelere ilişkin risk değerlendirmeleri yürütürler.
Aynı zamanda yasa dışı içeriğin hızla kaldırılması veya ilk etapta görünmesinin engellenmesi yükümlülüğünü de içerir.
Yasalara göre Ofcom, çocukların erişebileceği tüm internet hizmetlerinin (sosyal medya ağları ve arama motorları dahil) sağlam yaş kontrolleri gerçekleştirmesini bekliyor; algoritmalarını bu çocukların yayınlarından en zararlı içeriği filtreleyecek şekilde yapılandırmak; ve bu içeriğe karşı hızlı bir şekilde harekete geçilmesini sağlayan içerik denetleme süreçlerini uygulamak.
“Yeni çevrimiçi güvenlik yasalarına uygun olarak, teklif ettiğimiz kurallar çocukları daha güvende tutma sorumluluğunu kesinlikle teknoloji şirketlerine yüklüyor. Ofcom CEO’su Melanie Dawes, “Kişiselleştirilmiş yayınlarında çocuklara zararlı içerik gönderen agresif algoritmaları ehlileştirmeleri ve çocukların yaşlarına uygun bir deneyim yaşaması için yaş kontrolleri getirmeleri gerekecek” dedi.
“Mevcut endüstri standartlarının çok ötesine geçen önlemlerimiz, Birleşik Krallık’taki çocukların çevrimiçi güvenliğinde bir adım değişiklik sağlayacaktır. Bunlar yürürlüğe girdikten sonra platformların hesap vermesini sağlamak için tüm uygulama yetkilerimizi kullanmaktan çekinmeyeceğiz. Bu, bugün çocuklara ve ebeveynlere verdiğimiz bir sözdür.”
Taslak kurallar aynı zamanda teknoloji şirketlerinin uyumluluğunu sağlamaya yönelik önlemleri de içeriyor; bu önlemler arasında, çocukların güvenliğiyle ilgili görevlere uyumdan sorumlu kıdemli bir kişinin görevlendirilmesi; çocukların güvenliğiyle ilgili tüm risk yönetimi faaliyetlerinin yıllık üst düzey incelemesi; ve çalışanların çocukların korunmasına ilişkin standartları belirleyen bir çalışan davranış kuralları.
Ofcom, daha önce tespit edilmemiş çocuk cinsel istismarı materyali (CSAM) ve içeriği de dahil olmak üzere, yasa dışı içeriği ve çocuklara en zararlı içeriği proaktif olarak tespit etmek için yapay zeka (AI) dahil olmak üzere otomatik araçların nasıl kullanılabileceği konusunda bu yılın sonlarında ek bir istişare başlatacağını söyledi. intiharı ve kendine zarar vermeyi teşvik etmek.
Artık taslak kodlar üzerinde açık bir istişare yapılıyor ve taslakların bir yıl içinde sonuçlandırılması ve bunların üç ay sonra yürürlüğe girmesi planlanıyor.
Digital şöyle dedi: “Hükümet, Ofcom’u bu yasayı uygulamakla görevlendirdi ve bugün düzenleyici kurum net bir şekilde konuştu: Platformlar, gençlerin gerçek dünyada deneyimlediği yaş kontrolü türlerini tanıtmalı ve çevrimiçi ortamda zararlı materyallerle kolayca karşılaşabilecekleri anlamına gelen algoritmaları ele almalıdır.” sekreter Michelle Donelan. “Bu önlemler uygulamaya konulduğunda Birleşik Krallık’taki çocukların çevrimiçi dünyayı nasıl deneyimledikleri konusunda temel bir değişiklik getirecek.”
Bindmans hukuk firmasının medya ortağı Tamsin Allen, Ofcom’un önerilerinin “cesaret verici bir ilk adım olduğunu, ancak taahhütlerinin kanıtının büyük teknolojiye uyum başarısızlıkları nedeniyle yaptırım uygulama istekliliği olacağını” söyledi. Kanun onlara, şirketlere küresel cironun %10’una kadar ceza verme yetkisi veriyor; bu büyük meblağlar, sonunda büyük teknolojinin zırhını delebilecek kadar büyük meblağlar.”
Devam eden endişeler
Ancak OSA, hem teknoloji şirketleri hem de sivil toplum kuruluşları arasında şifreli iletişim, mahremiyet ve ifade özgürlüğünü zedeleyebilecek bazı hükümler konusunda endişelere neden oldu.
Örneğin, Open Rights Group’taki (ORG) gizlilik kampanyacıları, çocukların erişimini kısıtlamak için fotoğraflı kimlik eşleştirme, yüz yaşı tahmini ve yeniden kullanılabilir dijital kimlik hizmetleri dahil olmak üzere yaş güvencesi sistemlerinin uygulanmasının, bireylerin ifade özgürlüğünü istemeden de olsa kısıtlayabileceğini söyledi. aynı zamanda onları artan siber güvenlik risklerine maruz bırakıyor.
Yönetici direktör Jim Killock, “Yetişkinler bir seçimle karşı karşıya kalacak: Ya içeriğe erişmeyerek ifade özgürlüklerini sınırlandıracaklar ya da kendilerini veri ihlalleri ve kimlik avı sitelerinden kaynaklanacak artan güvenlik risklerine maruz bırakacaklar” dedi.
“Bazı yurt dışı sağlayıcılar, bu katı önlemlere uymak yerine platformlarına Birleşik Krallık’tan erişimi engelleyebilir. Ayrıca, özellikle cinsellik, cinsiyet kimliği, uyuşturucular ve diğer hassas konularla ilgili olan eğitim ve yardım materyallerinin, denetleme sistemleri tarafından gençlere verilmemesinden endişe duyuyoruz.
“Bu önlemlerle çocuklara yönelik riskler devam edecek. Düzenleyicilerin yaklaşımlarını, çocukların karşılaşabilecekleri riskleri anlamalarını sağlayacak bir yaklaşıma kaydırmaları gerekiyor, özellikle de gençlerin içerik arayabileceği durumlarda, bu içeriğin kendileri için mevcut olup olmadığına bakılmaksızın.”
Biyometri firması Yoti’nin CEO’su Robin Tombs, “çocuk güvenliği söz konusu olduğunda sihirli bir çözüm yokken” etkili yaş kontrol teknolojisinin çocukları çevrimiçi zararlı içeriğe erişimden korumanın önemli bir parçası olacağını savundu.
“Yaş güvencesinin kapsayıcı ve herkes için erişilebilir olmasını sağlamak amacıyla, insanlara yaşlarını nasıl kanıtlayacakları konusunda bir seçenek sunulması önemlidir. Neyse ki Ofcom, yüz yaşı tahmini, yeniden kullanılabilir dijital kimlik hizmetleri ve fotoğraflı kimlik eşleştirmenin son derece etkili çözümler olduğunu fark etti” dedi.
Şifreleme riskleri üzerine, WhatsApp, Signal ve Element gibi şifreli mesajlaşma ve e-posta hizmetleri, Ofcom’un yasa dışı içerik açısından şifreli iletişimleri izlemek için “akredite teknoloji” kurmalarını talep etmesi halinde daha önce İngiltere’den çekilme tehdidinde bulunmuştu.
Bu, yasanın 122. maddesinin Ofcom’a, teknoloji şirketlerine, CSAM içerip içermediklerini kontrol etmek için her mesajın ve e-postanın içeriğini tarayarak şifrelenmiş hizmetlerin güvenliğini ve gizliliğini zayıflatacağını iddia ettikleri sistemleri kurmalarını zorunlu kılma yetkisi vermesine dayanmaktadır.
Taslak kodlarda hiçbir şey şifrelenmiş hizmetlerden bahsetmese de Ofcom, hizmetlerin belirli durumlarda belirli yasa dışı içerik türleriyle başa çıkmak için akredite teknolojileri kullanmasını zorunlu kılmak için 2024’ün ilerleyen dönemlerinde “teknoloji bildirimleri” kullanımına ilişkin belirli teklifler yayınlayacağını söyledi.
“Bunun, bu yetkileri nasıl kullanacağımıza ilişkin rehberliği, minimum doğruluk standartlarına ilişkin hükümete tavsiyelerimizi ve akreditasyon teknolojilerine yaklaşımımızı kapsamasını bekliyoruz” dedi.