Lordlar, canlı yüz tanıma (LFR) teknolojisinin perakendeciler tarafından kullanılmasıyla ilgili “ciddi endişelerini” dile getirdi ve bu teknolojinin özel şirketler tarafından güvenli ve etik kullanımını sağlamak için yeni yasalar talep ediyor.
Mayıs 2024’te Lordlar Kamarası Adalet ve İçişleri Komitesi (JHAC), kısmen polisin ve perakendecilerin perakende suçlarla başa çıkmak için hem canlı hem de geriye dönük yüz tanımayı (RFR) nasıl kullandığına odaklanan, hırsızlıkla mücadele konusunda bir soruşturma başlattı.
JHAC, soruşturmasının ardından İçişleri Bakanlığı’na perakendede yüz tanıma konusundaki endişelerini ayrıntılarıyla anlatan bir yazı yazdı ve Birleşik Krallık hükümetine, genel ilkeleri belirleyen ve özellikle yeni teknolojilerin kullanımına ilişkin asgari standartları belirleyen yeni mevzuatı öne sürmesi çağrısında bulunuyor. özel şirketler tarafından suç önleme amacıyla kullanılıyor.
Perakendecilerin yerelleştirilmiş veritabanları ve bilinen mağaza hırsızlığı suçlularının izleme listelerini oluşturmak için sıklıkla birbirleriyle işbirliği yapacakları gerçeğini vurgulayan Lordlar, dahil edilmek için herhangi bir suç eşiğinin bulunmadığını ve bunun bir dizi soruna yol açabileceğini açıkladı.
“Bu, bir kişinin özel bir yüz tanıma izleme listesine yerleştirilebileceği ve bir güvenlik görevlisinin takdirine bağlı olarak herhangi bir polis raporu hazırlanmadan ve kişiye bu konuda bilgi verilmeden kendi ana caddesinde (ve bölgedeki abone perakendecilerde) kara listeye alınabileceği anlamına geliyor. İzleme listesine eklendi” dediler İçişleri Bakanlığı’na.
“Etkili bir şekilde özelleştirilmiş polis teşkilatının sonuçları, özel veri tabanındaki girişlerle eşleştirilen veriler temelinde alınan kararların gizli doğası ve veri tabanına yanlış girilmiş olabilecek kişilere başvurulmaması konusunda endişe duyuyoruz.” Yanlış bir tanımlama nedeniyle veri tabanına erişim sağlandı” diye eklediler.
“Potansiyel GDPR konusunda endişeliyiz [General Data Protection Regulation] algoritmalardaki önyargı ve ayrımcılık nedeniyle ihlaller ve yanlış tanımlama riski.
Hak ve özgürlüklere yönelik riskler
Big Brother Watch kampanya grubundan elde edilen kanıtlara dikkat çeken komite, Avrupa Birliği’nin (AB) Yapay Zeka Yasasının, bireylerin hak ve özgürlüklerine yönelik oluşturduğu olağanüstü riskler göz önüne alındığında LFR’nin kullanımını “genel olarak yasakladığını” vurguladı. Kullanılan algoritmalardan kaynaklanan önyargı ve ayrımcılık; sistemlerin koyu tenli kişiler için daha az doğru sonuç verdiğini gösteren çalışmalar.
Komite, Eylül 2024’te perakendecilerden, ilgili güvenlik ve etik kaygılar nedeniyle (yeni birincil mevzuatla giderilebileceğine inanılan) LFR’nin mağaza hırsızlığıyla mücadelede sınırlı bir fayda sağlayacağını duymuş olsa da, aynı zamanda polisle birlikte çalışarak kimlik tespitlerini otomatik olarak gerçekleştireceğini de söyledi. Suçluların olaydan sonra RFR ile cezalandırılması standart uygulama olmalıdır.
Örneğin Co-op Grubu’nun halkla ilişkiler ve yönetim kurulu sekreteryası müdürü Paul Garrard, Lords’a, örgütün mağaza hırsızlığını gerçek zamanlı olarak tespit etmek için LFR’yi kullanmamasına rağmen, bir hırsızlığı bildirirken polis için bir “kanıt paketi” derleyeceğini söyledi. RFR yazılımı aracılığıyla çalıştırılacak CCTV ve personel tarafından giyilen kamera görüntüleri gibi materyalleri içerecektir.
Kendisi, bazı polis güçlerinin derlenen görüntüleri alıp milyonlarca gözaltı görüntüsünü içeren ve çoğu İçişleri Bakanlığı tarafından yasa dışı olarak saklanan Polis Ulusal Veri Tabanında (PND) bulunan fotoğraflarla karşılaştıracak olmasına rağmen, bunun şu anda geçerli olmadığını ekledi. Polisin sağlanan görüntüleri veri tabanından otomatik olarak kontrol etmesi standart bir uygulamadır.
Ekim 2023’te Birleşik Krallık hükümeti, M&S, Boots ve Co-op dahil olmak üzere Birleşik Krallık’ın en büyük 14 perakendecisinin etrafında dönen Project Pegasus adında bir iş-polis ortaklığı başlattı. RFR yazılımını kullanan PND.
“Pegasus’un organize perakende suçlarla mücadelede attığı olumlu adımlara” dikkat çeken JHAC, yerel veya üretken suçlulardan ziyade özellikle mağaza hırsızlığının organize suç boyutlarına odaklanan programın devamını memnuniyetle karşılayacağını ve bunun için bir ceza alması gerektiğini ekledi. İçişleri Bakanlığı fonunun bir sonraki yılı.
Açıklamada, “Perakendecilerin suçu polise bildirebileceği süreci hızlandırmak için gelişmiş raporlama sistemlerinin geliştirilmesini tavsiye ediyoruz” denildi. “Buna, perakende satış ortamında bir suç işlendiğinde Polis Ulusal Veri Tabanında ve ceza adaleti vaka yönetim sistemlerinde tespit edilecek bir ‘perakende bayrağının’ getirilmesi de dahildir.”
Önceki bulguların yinelenmesi
JHAC ayrıca, yüz tanıma ve çeşitli suç “tahmin” araçları da dahil olmak üzere Birleşik Krallık polisi tarafından ileri algoritmik teknolojilere ilişkin daha önce yaptığı araştırmada, teknolojinin etkinliği veya sonuçları kapsamlı bir şekilde incelenmeden polis ve İçişleri Bakanlığı tarafından kullanıldığının tespit edildiğine dikkat çekti. “ilerledikçe uyduruyorlar”.
Ayrıca durumu, yukarıdan aşağıya strateji, hesap verebilirlik ve şeffaflık eksikliği ile karakterize edilen “yeni bir Vahşi Batı” olarak tanımladı. “Teknolojilerin potansiyel maliyetleri ve gizlilik hakları, özgürlükler ve ayrımcılık da dahil olmak üzere bunların uygulanmasından kaynaklanabilecek ve kaynaklanabilecek sorunlar göz önüne alındığında, hukukun üstünlüğüne zarar gelmesini önlemek için daha güçlü bir yasal çerçevenin gerekli olduğunu düşünüyoruz.” söz konusu.
JHAC’ın özellikle LFR’nin polis tarafından kullanımını inceleyen kısa bir takip soruşturması, aynı zamanda, uygun inceleme veya hesap verebilirlik olmadan teknolojinin kullanımını hızla genişlettiklerini ve konuşlandırmaları için açık bir yasal dayanaktan yoksun olduklarını ortaya çıkardı. Ancak hükümet, soruşturmanın ardından halihazırda “kapsamlı bir yasal çerçevenin” mevcut olduğunu iddia etti.
JHAC, İçişleri Bakanlığı’na hırsızlık soruşturma mektubunda, “Daha önceki tavsiyemizi yineliyoruz ve özellikle özel şirketler tarafından suç önleme tedbirleri için kullanılmasıyla ilgili olarak yeni teknolojilerin düzenlenmesi gerektiğine inanıyoruz” dedi. “Bu yaklaşımın, aşırı derecede kuralcı bir yasanın inovasyonu engelleyebileceği endişeleri ile teknolojilerin güvenli ve etik kullanımını sağlama ihtiyacı arasında bir denge kuracağını düşünüyoruz.”
Computer Weekly, JHAC soruşturmasının bulguları hakkında, yüz tanımanın kullanımını yöneten kapsamlı bir çerçevenin halihazırda mevcut olduğu yönündeki görüşünün hâlâ devam edip etmediği de dahil olmak üzere İçişleri Bakanlığı ile temasa geçti.
İçişleri Bakanlığı sözcüsü, “Mağaza hırsızlığı rekor düzeyde” dedi. “Bu hükümet, düşük değerli mağazalardan hırsızlık için 200 £ eşiğini kaldırarak ve bunu mağaza çalışanlarına yönelik saldırılar için özel bir suç haline getirerek güçlü adımlar atıyor. Yüz tanıma teknolojisi, polisin suçluları tespit etmesine ve onları adalete teslim etmesine yardımcı olan önemli bir araçtır. Sokaklarımızı güvende tutmak ve halkın polisimize olan güvenini yeniden sağladığımızdan emin olmak için kullanımını sürekli olarak gözden geçiriyoruz.”
Hem Parlamento hem de sivil toplum, kolluk kuvvetlerinin biyometri kullanımını yönetecek yeni yasal çerçeveler oluşturulması yönünde defalarca çağrıda bulundu; bunlar arasında Birleşik Krallık’ın eski biyometri komisyon üyelerinden ikisi olan Paul Wiles ve Fraser Sampson da yer alıyor; Matthew Ryder QC tarafından yapılan bağımsız bir yasal inceleme; Birleşik Krallık’ın Eşitlikler ve İnsan Hakları Komisyonu; ve Avam Kamarası Bilim ve Teknoloji Komitesi, LFR konusunda Temmuz 2019’a kadar bir moratoryum çağrısında bulundu.
Ekim 2023’te istifa etmeden önce görevde olduğu süre boyunca Sampson, kamusal alan gözetiminin ölçeği ve kapsamı konusunda netlik eksikliğinin yanı sıra Birleşik Krallık polis teşkilatında biyometrik verilerle ilgili genel “saklama kültürü” hakkındaki endişeleri de vurguladı.