Üniversite araştırmacıları, İngiltere ve Avrupa Polisi tarafından canlı yüz tanıma (LFR) sistemlerinin gerçek dünyadaki testi, teknolojinin yeterli önlemler veya gözetim olmadan yerel nüfus üzerinde test edildiği büyük ölçüde dengesiz bir “Wild West” dir.
Londra, Galler, Berlin ve Nice’teki kolluk kuvvetleri tarafından LFR denemelerinin karşılaştırmalı bir çalışmasına göre, “Wild-In” testi, LFR gibi LFR gibi sistemlerin gerçek dünyadaki dağıtım ortamlarında gerçek dünyaya göre gerçekleştirilen sistemlerin nasıl performans göstermesiyle ilgili bilgileri toplamak için önemli bir fırsattır.
Birmingham Hukuk Fakültesi’nde Hukuk, Etik ve Bilişimde Disiplinlerarası Profesör Üyesi Karen Yeung ve Guanghua Hukuk Fakültesi’nde bir araştırma profesörü olan Wenlong Li tarafından yayınlanan makalede, net rehberlik ve yönetişim çerçevelerinin, epistematik olarak sorgulanmasını sağlamak için yürürlüğe girmesi gerektiğini ekledi.
Bu olmadan, yazarlar “Bu tür testlerin ‘gösterilerden biraz daha fazlası olacağından’ endişeleniyoruz – kamuoyunun tartışması ve müzakere eksik olduğu tartışmalı siyasi gündemleri desteklemek için güçlü ve istilacı dijital teknolojilerin kullanımını meşrulaştırmak için kullanılan kamu performansları, devletin yasal olarak geliştirilen teknolojilere dayanarak, kamu hakimlerinin çok kısa sürede, kamu hakimlerinin çok kısa süresi olan”.
LFR sistemlerinin sorumlu bir şekilde incelenmesini sağlamak için Yeung ve Li, özellikle kötüye kullanım ve aşırıya kaçma kapasitesi göz önüne alındığında, “son derece güçlü, müdahaleci ve ölçeklenebilir özelliklerini” dikkate almanın “hayati” olduğunu söyledi.
İnsanların haklarına müdahale etme kapsamı göz önüne alındığında, yazarlar, polisin kullanımını haklı çıkarmak istiyorsa, teknolojinin istenen faydalarını üretmedeki etkinliğinin “son derece yüksek bir eşikten geçmesi gerektiğini” söyledi.
Teknolojinin şu anda İngiltere veya Avrupa’da gerçekleşmeyen etkilerinin titiz ve tam bir muhasebesi olmadan, haklarımızı ve özgürlüklerimizi destekleyen koşulların “artımlı ve sinsi kaldırılmasına” yol açabileceğini de sözlerine ekledi.
“Devlet müdahalesi olmadan kamusal alanlardaki yasal işlerimizi ve bu özgürlüğün sağladığı kendi kendini yaratma ve kalkınma fırsatını ciddiye alırsak, o zaman uyanık olmalıyız” dedi.
“Bu, ekonomik ve diğer maliyetleri göz önüne alındığında, aslında değerli sosyal faydalar sağladıklarını ve bu tür testleri sorumlu bir şekilde üstlendiklerini göstermek için bu teknolojileri sorumlu bir şekilde test etme ihtiyacını da içeriyor.”
Sorunlu Denemeler
2016-2020 arasında 10 konuşlandırmada yapılan Met’in LFR denemelerinin örneğini vurgulamak – Yeung ve Li, bu testlerin “denemeler” olarak karakterizasyonunun aktif polis operasyonlarına benzerlikleri göz önüne alındığında “ciddi sorgulanabilir” olduğunu söyledi.
“Although described as ‘trials’ to publicly indicate that their use on these occasions did not necessarily reflect a decision to adopt and deploy FRT on a permanent basis, they were decidedly ‘real’ in the legal and social consequences for those whose faces triggered a match alert,” they wrote, adding that this means the trials were limited to the systems operational performance in relation to a specific organisational outcome (making arrests), rather than attempting to evaluate its wider sosyo-teknik süreçler ve etkiler.
“Tipik olarak canlı FRT kullanmaktan aktığı varsayılan birincil fayda, tanımlamak Ve kavramak Yüz görüntüleri FRT saat listelerinde depolanan bireyler. Olsun Aslında Gerçek dünya ortamlarında bu organizasyonel faydaları üretir bilinmemektedir ve sistematik olarak test edilmemiştir ”dedi.
Yazarlar ayrıca, otomatik LFR uyarılarının yasal tutuklamalara dönüştürülmesinin, çoklu teknik, organizasyonel, çevresel ve insan bileşenlerinin başarılı bir şekilde entegrasyonunu gerektirmesine rağmen, bunun MET tarafından yeterince kavranmadığını da ekledi.
Örneğin, hatalı eşleşmeler potansiyeli göz önüne alındığında, sadece bir LFR maç uyarısının üretilmesinin kendi başına makul şüphe oluşturacak kadar (İngiltere polisinin insanları yasal olarak durdurmak ve gözaltına almak için göstermesi gerektiğini) belirtmişlerdir.
“İngiltere ve Galler’deki polis memurları bireyleri durdurmaya ve onlara kim oldukları ve ne yaptıkları hakkında sorular sorma hakkına sahip olsalar da, bireyler bir suçun komisyonuna dahil olduklarına dair makul şüphe yokluğunda bu soruları cevaplamak zorunda değiller” diye yazdı.
“Buna göre, polis memurlarının yüzü izleme listesiyle eşleşen bir bireyi durdurma ve sorgulama girişimi, bireyin yasal olarak bu nedenle işbirliği yapmak zorunda olmadığı temelinde gerçekleştirilmelidir.”
‘Müdahale etme varsayımı’
Bununla birlikte, makul şüphe gerektirmesine rağmen, Yeung ve Li, Londra denemelerinin önceki değerlendirmelerinin, memurlar arasında fark edilebilir bir “müdahale etmek için varsayım” belirlediğini, yani algoritma tarafından söylenirse bir bireye dahil olmalarının standart bir uygulama olduğunu da sözlerine ekledi.
LFR’nin işleyişinde nüanslı dinamikler göz önüne alındığında, makale açık organizasyon politikası, operasyonel protokoller ve uygun memur eğitimi ihtiyacını vurgulamaktadır.
Yeung ve Li ayrıca, aranan bireylerin tespitinin Londra davalarının belirtilen hedefi olsa da, gücün ve temsilcilerinin henüz kanıtlanmamış suçun bozulması ve caydırılması gibi bir dizi yardımcı fayda olduğunu iddia ettiğini belirtti.
“Belirgin olduğunda bile caydırıcılık etkilerinin doğrulanması zordur ve LFR, suçun ele alındığını görünür bir sembol sağlayarak topluma güvence sunmak temelinde haklı olmasına rağmen, LFR’nin suç korkusunu ortadan kaldırmada olumlu bir etkisi olduğu iddialarını desteklemek için hiçbir kanıt sağlanmamıştır.” Dedi.
Yeung ve Li, ulusal fiziksel laboratuvar (NPL) tarafından bağımsız değerlendirmeler yapıldığında bile, 2019 raporunun “denemelerin LFR’nin Milletvekillerinin tehlikeli insanları durdurmasına ve Londra’yı daha güvenli hale getirmesine yardımcı olacağını gösterdiğini ve bu sonucun nasıl ulaşıldığına dair somut bir kanıt sunmadan” ekledi.
Yazarlar benzer şekilde, 2017-2020 yılları arasında 69 “operasyonel” dava yürüten Güney Galler Polisi’ni (SWP) eleştirdiler – Cardiff Üniversitesi araştırmacılarının testlerin bağımsız bir değerlendirmesini oluşturmaya katılan “teknolojinin suç önleme üzerindeki etkilerini ölçemediğini” belirtti.
Ayrıca SWP’nin izleme listesi oluşturmasında, özellikle de dahil olan görüntülerin kalitesi ve listelerin toplam boyutu ile ilgili olarak, geniş çapta değişen titizlik eksikliğini vurguladılar.
“Denemeleri değerlendiren Cardiff araştırmacıları bile, ‘bir fark yaratıyor gibi görünse de, kamuoyu büyüklüğü ve kompozisyonu ile ilgili kararlar’,“ gerçekçi ve kanıt yaklaşımı ”için“ gerçekçi ve kanıt yaklaşımı ”çağrısıyla sonuçlandığını,“ İzleme listesinin büyüklüğünün ve kompozisyonunun nasıl ve neden önemli olduğunu belirleyemediklerini belirtti.
Met ve SWP’nin “operasyonel” deneme yaklaşımı hakkında daha fazla yorum yapan yazarlar, sonuç olarak “yanlış negatiflerin tanımlanamadığını ve ölçülemediğini” de sözlerine ekledi.
“Başka bir deyişle, yüz görüntüleri FRT izleme listesine dahil edilen ve bir eşleşme uyarısını tetiklemeden kameranın önünden geçen bireylerin sayısı (yani ‘kaçanlar’) algılanamadı ve ölçülemedi” dedi.
“Dolayısıyla, Londra ve Galli denemelerden elde edilen sonuçlar Olumsuz Aslında yazılım eşleştirme doğruluğunun göstergeleri, çünkü yalnızca kaydedilmiş doğru ve yanlış pozitiflerle ilgili veri üretebilirler. ”
NPL değerlendirmelerinin geçerliliği hakkında daha fazla yorum yapan Yeung ve Li, yanlış negatifler hakkında hiçbir şeyden bahsetmediğini, “muhtemelen bu verilerin ‘canlı’ hedefleri tanımlamak ve yakalamak için tasarlandığı göz önüne alındığında bu veriler toplanamadığını belirtti.
Sosyo-teknik değerlendirmeler gerekli
İngiliz LFR denemelerinden farklı olarak, Yeung ve Li, Nice ve Berlin’deki denemelerin halkın rastgele şüpheli olmayan üyeleri yerine bilgilendirilmiş olur veren gönüllüleri nasıl kullandığını ve fonksiyonel performanslarını operasyonel, anlam yerine teknik olarak değerlendirmeye çalıştıklarını vurguladı.
Ancak, her vakanın da kendi sorunları vardı. Nice, örneğin, sadece sekiz gönüllü dahil olurken, daha sonra, rıza göstermeyen yoldan geçenler ile karıştırılan Berlin’deki gönüllülerin, vericiler tarafından kaydedilen hız ve sıcaklıklarını içeren “onlar hakkında toplanan tüm kişisel veriler” hakkında bilgilendirilmedikleri ortaya çıktı.
Berlin’in daha mütevazı amaçlarına ve sistemin teknik işlevselliğini test etmek için Nice denemelerine rağmen-Londra ve Galler’de canlı operasyonel ortamlardaki sistemleri test etmeye çalışan denemelerle karşılaştırıldığında-yazarlar, Berlin ve Nice denemelerinin benzer şekilde LFR’nin gömüldüğü daha geniş sosyo-teknik sistemleri hesaba katmadıkları açıktı.
“Bu denemelerin hiçbiri, teknolojinin gerçek dünyadaki faydalar sağladığına dair açık kanıtlar üretmedi. operasyonel verimlilik Kolluk kuvvetleri tarafından suçlu şüphelileri bulurken, tanımlar ve yakalarken veya ne kadar tarafından yakalandılar ”dedi.
Yeung ve Li, LFR’nin polis tarafından kullanımının “önemli ama dikenli yasal ve etik tehlikeler” üretmesine rağmen, bunların onları dağıtmak isteyen polis ajansları tarafından henüz kavranmadığı sonucuna varmışlardır.
“En azından yüksek haklar aracı teknolojileri, özellikle de canlı FRT gibi uzaktan konuşlandırılabilecek biyometrik gözetim sistemleri için, temel haklar ve demokratik özgürlük üzerindeki olumsuz etkilerinin gereklilik ve oranın yasal testlerine uygun olarak haklı gösterilebileceği gibi gerçek dünya faydaları kanıtlarında ısrar etmeliyiz” dedi.
“Başka bir deyişle, canlı FRT’nin güvenilirliğini belirlemek, yazılımın alandaki eşleşen yeteneklerinin kanıtlarından daha fazlasını gerektirir. Ayrıca, yazılımın, funtegreal hakları açısından sosyal olarak faydalı olarak uygun bir şekilde kabul edilebilecek bir şekilde değerlendirilebilecek bir şekilde, konuşlandırma organizasyonuna beklenen faydalar elde edip edemeyeceğini test etmeyi gerektirir.
Met ve SWP Yanıt
Makaleye yanıt veren bir Met polis sözcüsü: “LFR kullanımımızın hem yasal hem de orantılı olduğuna inanıyoruz, Londralıları güvende tutmada kilit bir rol oynuyor.
“Bu yüzden Ulusal Fiziksel Laboratuvarı bağımsız testler yapmak için görevlendirdik. Bu, Met’in teknolojiyi adil ve adil bir şekilde nasıl kullanacağını anlamasına yardımcı oldu.”
Daha fazla operasyonel deneyim kazanıldıkça, dağıtımların başarısının arttığını da sözlerine ekledi. “2023’ün sonunda, Londra’daki suç sıcak noktalarına LFR dağıtma stratejisine geçtik” dedi. “Paydaşlar ve toplumla çok yakın çalışıyoruz ve bu teknolojinin geliştirilmesi için güçlü bir destek görüyoruz.”
Güç, 2025’te şimdiye kadar sadece 12 yanlış uyarının olduğunu, teknolojinin 2,5 milyondan fazla insanın yüzünü taradığını ve 2024’ün başından bu yana LFR’nin kullanımının 1.300’den fazla kişinin tutuklanmasına yol açtığını da sözlerine ekledi.
Ayrıca vurguladı Kamu Tutum Anketleri 2024 yılının son çeyreğinde Belediye Başkanı Polis ve Suç Ofisi tarafından görevlendirilen, ankete katılanların% 84’ünün özellikle ciddi ve şiddetli suçluları belirlemek, mahkemeler tarafından istenenleri bulmak ve kendileri için risk altındaki kişileri bulmak için teknolojinin kullanımını desteklediğini göstermiştir.
Makaleye yanıt veren SWP, LFR testinin NPL tarafından bağımsız olarak yapıldığını söyledi.