Biyometri ve gözetleme kamerası komiseri, Birleşik Krallık’ta polisin yapay zeka (AI) ve biyometri kullanımını düzenlemek için açık, kapsamlı ve tutarlı çerçevelere ihtiyaç olduğunu söyledi.
Biyometrinin saklanması ve kullanılmasından sorumlu komisyon üyesi olarak Fraser Sampson, gözetim kamerası komiseri rolüyle İngiltere, Galler ve Kuzey İrlanda’da polisin DNA ve parmak izlerini kullanmasını denetlemekten ve kamuya açık alanlarda güvenlik kameralarının kullanımını izlemekten sorumludur. .
Kasım 2022’de içişleri bakanı Suella Braverman’a teslim edilen ve 9 Şubat 2023’te Parlamento’nun önüne sunulan ikili görevini kapsayan ilk yıllık raporda Sampson, Birleşik Krallık polisinin yapay zeka ve yüz tanıma kullanımını kapsamlı bir şekilde ele aldı. ayrı ama bağlantılı rollerinin kesişimi.
Sampson, “Biyometri ve gözetim alanları hem giderek daha önemli hale geliyor hem de giderek daha fazla birbiriyle ilişkili hale geliyor” dedi.
“Raporumda dile getirilen sorunların birçoğunun, yapay zeka güdümlü biyometrik gözetimdeki yetenek patlamasının sunduğu fırsatlara ve ortaya koyduğu tehditlere acilen uyanmamız gerektiğini gösterdiğine inanıyorum. Başarısız olursak, sunabileceği potansiyel faydaları kaçırma ve ortaya koyduğu potansiyel tehlikelere maruz kalma riskine gireriz.”
Canlı yüz tanıma (LFR) gibi biyometrik gözetleme teknolojilerinin “şüphesiz mahremiyete müdahale edebileceğini ve diğer insan hakları hususlarını gündeme getirebileceğini”, ancak ciddi suçlarla mücadeleye ve diğer temel hakların korunmasına da “şüphesiz” yardımcı olabileceğini ekledi. yaşam hakkı veya aşağılayıcı muamele görmeme hakkı gibi.
“Halkın yüz tanımaya ve diğer gelişmekte olan biyometrik gözetleme teknolojilerine ne ölçüde müsamaha göstereceği, büyük ölçüde bunların yasal, sorumlu bir şekilde ve bir dizi açık ilkeye göre kullanıldığından emin olacak mekanizmaların mevcut olduğuna inanıp inanmamalarına bağlı olacaktır. kullanım, yalnızca teknolojinin mümkün kıldığı şeyler tarafından değil, toplumun kabul edilebilir kabul ettiği şeyler tarafından belirlenir” dedi.
Yapay zeka güdümlü biyometri ile ilişkili potansiyel tehlikelerle başa çıkmak için Sampson, “uygun düzenleme ve hesap verebilirliği sağlamak için açık, kapsamlı ve tutarlı bir çerçeveye ihtiyacımız olduğunu” ekledi.
Hem Parlamento hem de sivil toplum, polisin ileri algoritmik teknolojileri kullanmasına ilişkin bir Lordlar Kamarası soruşturması da dahil olmak üzere, kolluk kuvvetlerinin biyometri kullanımını yönetmek için defalarca yeni yasal çerçeveler için çağrıda bulundu; İngiltere’nin eski biyometri komiseri Paul Wiles; Matthew Ryder QC tarafından bağımsız bir yasal inceleme; Birleşik Krallık Eşitlikler ve İnsan Hakları Komisyonu; ve Temmuz 2019’a kadar LFR’de bir moratoryum çağrısında bulunan Avam Kamarası Bilim ve Teknoloji Komitesi.
Ancak hükümet, “zaten kapsamlı bir çerçevenin” yürürlükte olduğunu savunuyor.
Polis Bakanı Chris Philip, rapora yanıt olarak şunları yazdı: “Söylediğiniz gibi, polisin sahip olduğu yetenekler sürekli artıyor ve polisin sunduğu fırsatları halkın güvenini koruyacak şekilde kullanmalarını desteklememiz doğru. ”
Polis AI ve LFR ile ilgili endişeler
Raporun kendisinde Sampson, LFR’nin savunucuları ve muhalifleri arasındaki temel gerilimin, LFR’nin kullanımıyla ilgili algılanan şeffaflık ve hesap verebilirlik eksikliğinden ve polis güçlerinin konuşlandırmalarının neden ve nasıl olduğunu kanıtlamaları için herhangi bir açık gerekliliğin bulunmamasından kaynaklandığını belirtti. gerekli ve orantılıdır.
“Hükümetin zorunlu kimlik kartları kavramını terk etmesinden bu yana on yıldan fazla zaman geçti, ancak diğer insanları arayan standart bir polis gözetimi modelinden otomatik, sanayileşmiş bir sürece (bazılarının tanımladığı gibi, hattan bir hareket) geçiş yapıyoruz. balıkçılıktan derin okyanus trolüne)” diye yazdı.
“Bu bağlamda, yapay zeka tarafından oluşturulan seçim temelinde sokaklarımızda, ulaşım merkezlerinde, sahaların dışında veya okul alanlarında durdurulabileceğimiz ve sınav görevlisini tatmin edecek şekilde kimliğimizi kanıtlamamız gerekebileceğine dair endişeleri kabul etmeliyiz. algoritmanın kendisi.”
Sampson, teknolojinin geriye dönük olarak tanıkların yerini tespit etme potansiyelinden özellikle endişe duyduğunu ekledi; College of Police tarafından Mart 2022’de yayınlanan ve mağdurların yanı sıra suç tanıklarının da yüz tanıma izleme listelerine dahil edilebileceğini öne süren kılavuzda belirtildiği gibi.
Terör saldırıları veya doğal afetler gibi geçmişe dönük yüz tanımanın “meşru olarak önemli bir katkı sağlayabileceği” herhangi bir durumun “neyse ki nadir ve tamamen istisnai” olduğunu söyledi.
Polis, belirli bir olayda bulunduğu söylenen herkesi takip etmek için algoritmalar kullanmaya başlarsa, “bu yeni ve biraz uğursuz bir gelişme” dedi.
“Bir hayırsever grubun tanımladığı gibi, böyle bir durum hepimizin kalıcı bir polis kimlik geçit törenine gönülsüz katılımcılar olmamız anlamına gelir.”
Kamu Özel Sektör Ortaklıkları
Sampson ayrıca, Birleşik Krallık’ın biyometrik gözetleme kapasitesinin büyük çoğunluğunun özel sektöre ait olduğunu ve yalnızca polis teşkilatları ile özel sektör arasındaki sözleşmeye dayalı düzenlemeler kapsamında erişilebileceğini kaydetti.
Bu “bağlamsal dönüşümün”, biyometrik gözetim ekosisteminde yer alan her aktörü kapsayacak şekilde bütüncül bir sistem yaklaşımı benimsemesi gereken herhangi bir yeni düzenlemeye yansıtılması gerektiğini söyledi: “Sistematik bir ortamda, parçanın kirlenmesi bütünü kirletir.”
Yüz tanıma ve çeşitli suç “tahmin” araçları da dahil olmak üzere Birleşik Krallık polisi tarafından gelişmiş algoritmik teknolojilerin kullanımına ilişkin 10 aylık bir soruşturmanın ardından, Lordlar Kamarası İçişleri ve Adalet Komitesi (HAJC), Kıdemli pozisyonlardakilerden AI sistemleri, ancak “etkinliklerinin kapsamlı bir değerlendirmesine karşılık gelen bir taahhüt tespit etmedik” dedi.
HAJC ayrıca, PSED kapsamında politika ve uygulamalarının nasıl ayrımcı olabileceğini düşünmek zorunda olan polis güçleri ile genellikle haklarını korumak isteyen özel sektör tedarikçileri arasındaki çıkar çatışmasından kaynaklanan bir dizi “şüpheli satış uygulamasına” dikkat çekti. fikri mülkiyet ve ticari sırlar.
Örneğin, Ağustos 2020’de Güney Galler Polisinin LFR teknolojisini kullanması, kısmen polisin Kamu Sektörü Eşitlik Görevine uymaması nedeniyle Temyiz Mahkemesi tarafından yasa dışı kabul edildi.
Kararda, söz konusu davadaki tedarikçinin – Japon biyometri firması NEC’in – sisteminin ayrıntılarını SWP’ye açıklamayı reddettiği, yani gücün teknolojiyi ve etkilerini tam olarak değerlendiremeyeceği belirtildi.
Kararda, “Ticari gizlilik nedeniyle üretici, test edilebilmesi için ayrıntıları açıklamaya hazır değil” dedi. “Bu anlaşılabilir olabilir, ancak bizim görüşümüze göre bu, bir kamu makamının 149. madde kapsamındaki kendi devredilemez görevini yerine getirmesine olanak sağlamaz.”
Diğer önemli endişeler
Sampson’ın raporu, yüz tanıma ve yapay zekanın yanı sıra, Otomatik Plaka Tanıma (ANPR) kullanımındaki görev sürünmesi ve Birleşik Krallık hükümetinin ortak rolünü ortadan kaldırma planları da dahil olmak üzere, ikili komiserlik işlevleri tarafından kapsanan bir dizi başka konuyu da tartışıyor.
İlk olarak 1976’da tanıtılan ve İngiltere’nin askeri olmayan en büyük veri tabanı olan ANPR’de Sampson, kullanımının neredeyse tamamen düzensiz olduğunu ve sağlam bir yasal çerçevesi olmadığını söyledi.
Sistemin artık araç dışı verileri yakalamak ve insanları, davranışları, dernekleri, ağları ve alışkanlıkları izlemek gibi orijinal olarak tasarlandığından çok daha fazlasını yapabileceğini; sadece sürücü açısından değil, aynı zamanda araçta bulunan kişiler açısından da. “Polis tarafından ANPR kullanımına yönelik hiçbir eleştiri yapmadığımı eklemeliyim – aslında tam tersi – ancak orijinal polislik ve yasa uygulama amaçları için sonuçları olabilecek görev sürünme potansiyelini vurgulamalıyım” dedi. “Şu anda eksik olan ve bunun tek, homojen bir sistem olmamasının karmaşıklığıyla daha da kötüleşen, sistemin yapısal bir temeline yönelik açık bir ihtiyaç var.”
Bu, Sampson’ın biyometrik ve güvenlik kamerası yetkilisi olarak ikili işlevini kapsayan ilk birleşik rapor olsa da, sonuncusu da olabilir.
Kasım 2021’de Birleşik Krallık hükümeti, Sampson’ın rollerini, o sırada Sampson’ın kendisinin “kötü tasarlanmış” olarak tanımladığı Bilgi Komiserliği Ofisi (ICO) kapsamında daha fazla birleştirmeyi önerdi.
Raporunda, “Hükümetin tüm bu işlevleri ICO’ya devretmemeye karar verdiğini görmek beni biraz rahatlatsa da, Veri Koruma ve Dijital Bilgi Yasa Tasarısındaki teklif, Güvenlik Kamerası Kodunu ve ona eşlik eden işlevleri siliyor. istişarede önerildiği gibi ICO tarafından üstlenilmeleri için hüküm vermekten daha fazla.”
Ocak 2022’de Parlamento tarafından gözden geçirilmiş Gözetleme Kamerası Uygulama İlkeleri onaylandı ve özellikle polis ve yerel makamlar tarafından yüz tanıma teknolojisinin kullanımı da dahil olmak üzere kamusal alan gözetiminin kullanımına yöneliktir.