Milletvekilleri canlı yüz tanıma konusunda ilk kez tartışıyor


Milletvekilleri, polisin canlı yüz tanıma (LFR) kullanımını ilk kez tartıştı ve bu özelliğin, şu anda polis görevlendirmelerini yöneten yamalanmış mevzuat ve resmi kılavuzlar yerine belirli bir yasayla düzenlenmesi gerektiği konusunda fikir birliği oluştu.

13 Kasım 2024’teki Westminster Hall tartışması boyunca, her iki ön sıranın üyeleri de dahil olmak üzere milletvekilleri, LFR gözetiminin mahremiyet üzerindeki etkileri; önyargı, doğruluk ve ırk ayrımcılığıyla ilgili sorunlar; polis tarafından kullanımını düzenleyen açık bir yasal çerçevenin bulunmaması; ve bunun daha geniş çapta yaygınlaştırılmasının insanların polise olan azalan güvenini nasıl daha da azaltabileceği.

LFR’nin bir suçla mücadele aracı olarak etkinliği konusunda fikir ayrılıkları olsa da, milletvekilleri büyük ölçüde bu teknolojinin polis tarafından kullanılmasıyla ilgili meşru endişeler olduğu konusunda hemfikirdi ve teknolojinin uygun şekilde düzenlenmesi ihtiyacı konusunda fikir birliği oluştu.

Tartışmaya katılan milletvekillerinin çoğunluğu, teknolojinin polis tarafından kullanımına ilişkin şimdiye kadar neden hiçbir tartışma yapılmadığından da açıkça yakındı.

Yıllar boyunca yazılı soru ve yanıtlar şeklinde LFR’ye ilişkin Parlamento incelemesi sınırlı olsa da, Muhafazakar Milletvekili John Whittingdale tarafından çağrılan tartışma, milletvekillerinin polisin LFR kullanımını ilk kez açıkça tartıştığı sekiz yıl içinde oldu. İlk olarak Ağustos 2016’da Metropolitan Polisi tarafından Notting Hill Karnavalı’nda konuşlandırıldı.

İlk konuşlandırmadan bu yana, Parlamento ve sivil toplumdan kolluk kuvvetlerinin teknolojiyi kullanımını yönetecek yeni yasal çerçeveler oluşturulması yönünde defalarca çağrılar yapıldı. Bunlar arasında Lordlar Adalet ve İçişleri Komitesi’nin (JHAC) hırsızlık, polis algoritmaları ve polisin yüz tanımasıyla ilgili üç ayrı soruşturması; Birleşik Krallık’ın eski biyometri komisyon üyelerinden ikisi, Paul Wiles ve Fraser Sampson; Matthew Ryder QC tarafından yapılan bağımsız bir yasal inceleme; Birleşik Krallık’ın Eşitlikler ve İnsan Hakları Komisyonu; ve Avam Kamarası Bilim ve Teknoloji Komitesi, LFR konusunda Temmuz 2019’a kadar bir moratoryum çağrısında bulundu.

Ekim 2023’te istifa etmeden önce görevde olduğu süre boyunca Sampson, kamusal alan gözetiminin ölçeği ve kapsamı konusunda netlik eksikliğinin yanı sıra Birleşik Krallık polis teşkilatında biyometrik verilerle ilgili genel “saklama kültürü” hakkındaki endişeleri de vurguladı.

Bununla birlikte, İçişleri Bakanlığı ve polis teşkilatları, 1984 tarihli Polis ve Kriminal Kanıt Yasası’nı (PACE) içeren bir “kapsamlı yasal çerçevenin” halihazırda mevcut olduğunu defalarca ileri sürmüştür; Veri Koruma Yasası 2018; Özgürlüklerin Korunması Yasası 2012; Eşitlik Yasası 2010; Soruşturma Yetkileri Yasası 2000; İnsan Hakları Yasası 1998; ve suçu önlemek ve tespit etmek için ortak hukuk yetkileri.

Tartışma, polislik bakanı Diana Johnson’ın, yeni İşçi Partisi hükümetinin polisin LFR kullanımına ilişkin pozisyonunu özetlemesiyle sona erdi ve teknolojinin “polislik için dönüştürücü olma potansiyeline” sahip olmasına rağmen, kullanımıyla ilgili “yanlış tanımlama, kötüye kullanım, insan haklarına etkisi ve bireysel mahremiyet”.

Ayrıca, Met’in LFR’yi kullanmasının bu yıl şimdiye kadar 460 tutuklamayla sonuçlandığını (bunların arasında 45’ten fazla kayıtlı cinsel suçlunun da koşullarını ihlal ettiği gerekçesiyle) bulunduğunu belirten Johnson, yüz tanımanın halihazırda veri koruma, eşitlik ve güvenlik ilkelerine tabi olduğunun açık olmasının önemli olduğunu söyledi. insan hakları hukukunun yanı sıra genel hukuk yetkileri ve Polis Koleji’nin rehberliği.

“Bu hükümet, dile getirilen endişeleri dinlemek ve dikkatlice düşünmek için zaman ayırmanın yanı sıra, polisin canlı yüz tanımayı halkın güvenini koruyacak ve sürdürecek şekilde kullanmasını en iyi şekilde nasıl sağlayabileceğimizi istiyor.” söz konusu.

“Mevcut ve gelecekteki kullanımını göz önünde bulundururken, mahremiyet endişelerini sokaklarımızı güvende tutmak için polise yüklediğimiz beklentilerle dengelememiz gerekiyor… Bu nedenle, bu düşünceyi bilgilendirmek için önümüzdeki aylarda bir katılım programına kararlıyım.”

Johnson, polis teşkilatıyla ilk görüşmelerin ardından (üst düzey yetkililerin açık bir çerçeve eksikliğinin teknolojiyi kullanmalarını engellediğini söylediği) hükümetin, yıl bitmeden düzenleyici kurumlar ve sivil toplum gruplarıyla bir dizi yuvarlak masa toplantısı düzenleyeceğini de sözlerine ekledi. ileriye yönelik düşüncelerini bilgilendirmek için yıl.

Doğruluk sorunları

Doğruluk ve önyargı konusunda, hükümetteyken polisin bu teknolojiyi daha fazla kullanması için baskı yapan ve LFR izleme listelerinin Birleşik Krallık’ın pasaport veri tabanına bağlanması çağrısında bulunan gölge içişleri bakanı Chris Philp, Ulusal Fizik Laboratuvarı tarafından yakın zamanda yapılan bir araştırmaya dikkat çekti. (NPL), belirli ortamlarda kullanıldığında polisin LFR sistemlerinde “istatistiksel olarak anlamlı” ırksal önyargı bulunmadığını tespit etti.

Philp, “Bu teknoloji yaklaşık yedi yıl önce ilk kez tanıtıldığında, algoritmanın o zamanki işleyişinde ırksal önyargı olduğuna dair raporlar (doğru raporlar) vardı” dedi. “Algoritma o günlerden bu yana büyük ölçüde geliştirildi ve ülkenin önde gelen test laboratuvarı olan Ulusal Fizik Laboratuvarı tarafından kesin bir şekilde test edildi.”

Kendisi, NPL’nin özellikle Japon biyometri firması NEC tarafından sağlanan Neoface V4 yüz tanıma yazılımını kullanırken hem Met hem de Güney Galler Polisinin “yüz eşleşme eşiğini” ayarlayarak cinsiyet ve etnik kökene göre “adil” sonuçlar elde edebileceğini tespit ettiğini belirtti. 0,6 (sıfır en düşük benzerliği ve bir de en yüksek benzerliği gösterir).

Ancak diğer milletvekilleri buna itiraz ederek, polisin belirli bir eşik değerinde LFR kullanarak doğruluğu arttırmış olabileceğini ancak bu eşiği herhangi bir zamanda düşürmelerini engelleyecek hiçbir kuralın mevcut olmadığını belirtti.

İşçi Partisi Milletvekili Dawn Butler, daha sonra şunları ekledi: “Yanlış beyan ya da yanlış kimliklendirilmemiş kişiler diye bir şey yoktur ve polis teşkilatının bu sayıyı düşürmesi de çok kolaydır çünkü bu konuda adli bir denetimimiz yoktur.” LFR yazılımı, 0,6’ya ayarlanmış olsa bile, kalabalığın içinde insanları hızlı bir şekilde tespit etmek üzere eğitilmiş uzman memurlar olan polis “süper gözcüleri”nden daha az doğruluğa sahipti.

“Bir polis teşkilatının satın aldığı bu sistemin paranın karşılığını verdiğini kanıtlamaya çalıştığı bir durum olabilir ve bir polis memurunun 0,6’da çok fazla isabet almadığını, daha fazla isabet alabilmesi için onu 0,5’e düşürdüğünü hayal edebilirsiniz, bu da, bu da daha fazla kişinin yanlış tanımlanması anlamına gelecektir.

“Bu konuyla ilgili düzenleme yapılması gerekiyor. Birinin özgürlüğünü elinden almak toplumda yapabileceğimiz en ciddi şeylerden biridir, dolayısıyla bunu hızlandıracak bir şey sunacaksak çok dikkatli düşünmeliyiz.”

Irksal önyargı ve güven

Lambeth İşçi Partisi Milletvekili Bell Ribeiro-Addy ayrıca, özellikle polis veri tabanındaki veya çevrimiçi olarak kamuya açık kaynaklardan alınan görsellerin yanlış etiketlenmesi durumunda, bu eşiği kullanırken bile hataya yer olduğunu savundu.

Beyaz olmayan insanlar halihazırda orantısız bir şekilde durduruluyor ve daha yüksek oranlarda aranıyor ve potansiyel olarak kusurlu teknolojinin kullanımı yalnızca etnik azınlıkların durdurulma, aranma ve hatta muhtemelen yanlış bir şekilde gözaltına alınma oranını artırmaya hizmet edecek

Bell Ribeiro-Addy, Lambeth İşçi Partisi Milletvekili

“Görüntülerin yanlış etiketlenmesi ve masum insanların polisle gereksiz çekişmelere maruz kalması neredeyse kaçınılmaz… Metropolitan Polisi’nin yüz tanıma algoritması üzerinde yaptığı kendi testi, siyahi insanları ve kadınları tanımlamaya çalışırken orantısız derecede daha yüksek yanlışlık oranları tespit etti.” dedi ve sivil özgürlükler grubu Big Brother Watch tarafından 2023 yılında yapılan ve teknolojinin kullanılmaya başlanmasından bu yana Birleşik Krallık polisinin LFR uyarılarının %89’undan fazlasının örgüt üyelerini yanlış tanımladığını ortaya koyan bir araştırmaya dikkat çekti. ilgili kişiler olarak kamuoyuna duyurulur.

“Beyaz olmayan insanlar zaten orantısız bir şekilde durduruluyor ve daha yüksek oranlarda aranıyor ve potansiyel olarak kusurlu teknolojinin kullanılması yalnızca etnik azınlıkların durdurulma, aranma ve hatta muhtemelen yanlış bir şekilde gözaltına alınma oranını artırmaya hizmet edecek.”

Ayrıca, LFR yoluyla artan durdurmaların, özellikle halihazırda aşırı polis denetimine tabi tutulan ve yetersiz hizmet alan etnik azınlık toplulukları arasında polise olan güveni daha da azaltabileceğini ve polisin DNA veya parmak izi gibi diğer biyometrik bilgileri toplamasına ve kontrol etmesine izin verilmesinin mümkün olduğunu savundu. Sokaktaki insanlardan şu soru kabul edilmeyecektir: “Bu müdahaleci, otomatik biyometrik yazılıma neden farklı bir şekilde bakmalıyız?”

Polis ve LFR tedarikçileri, izleme listesinde yer alan görsellerden herhangi biriyle eşleşmemesi halinde insanların biyometrik verilerinin anında silineceğini iddia ederken, bağımsız milletvekili Iqbal Mohammed, Google’ın gizli tarayıcısının, şirketin kimlik bilgilerinin çalındığı ortaya çıkana kadar nasıl “çok özel” olması gerektiğini vurguladı. bu verileri Birleşik Krallık veri yasalarını ihlal edecek şekilde saklamak. “Şirketlerin size bazı şeylerin anında silindiğini söylemesi her zaman doğru değildir” dedi.

Diğer milletvekilleri çeşitli şekillerde, LFR’nin daha da yaygınlaştırılmasının “mevcut eşitsizlikleri ve ayrımcılığı daha da artıracağını”, “daha fazla bölünmeye ve polise güvensizliğe yol açacağını” ve “özel yaşam, toplanma özgürlüğü ve özgürlük hakları da dahil olmak üzere” bazı temel haklarımızı zayıflatacağını” iddia etti. ifade ve ayrımcılık yapmama.

Yargı denetimi ve özel mevzuat

Muhafazakar Milletvekili David Davis, teknolojinin yargısal denetiminin gerekliliğini ve bunun kullanımına ilişkin net kurallar belirleyen özel mevzuatın gerekliliğini vurguladı ve bunun yasal olmayan yönergelere veya polisin takdirine bırakılmaması gerektiğini savundu.

Çok sayıda milletvekili aynı zamanda LFR’nin geleceği hakkında da konuştu; bunlar arasında görevin yavaşlaması potansiyeli ve Birleşik Krallık’ın altı milyon CCTV kamerasını yüz tanıma yazılımına bağlama olasılığı da vardı ve teknolojinin daha geniş çapta kullanılmasından önce yasaların yürürlükte olması gerektiğini savundu.

“Teknoloji kaymaya eğilimlidir. Çok eski zamanlardan beri… otomatik plaka tanıma özelliğini kullanıma sunmuştuk [ANPR] Liverpool’dan Londra’ya gelen IRA teröristlerini izlemek için. Asıl amacı buydu, ancak daha sonra herhangi bir yasal değişiklik veya Parlamento onayı olmadan bir düzine başka şey için kullanıldı” dedi Davis.

Muhammed ayrıca, spesifik mevzuat ve yargı denetiminin olmayışının, polisin kötüye kullanımı ve aşırı erişimi için büyük bir alan yarattığını söyledi ve bunun, protesto hakkı etrafındaki sivil özgürlükleri baltalamak için nasıl kolayca kullanılabileceğinin altını çizdi. “Yüz tanıma, izlenme veya kimlik tespit edilme korkusu nedeniyle bireyleri protestolara veya halka açık toplantılara katılmaktan caydırabilir” dedi.

Pek çok şüphe var, bu yüzden muhtemelen bu şüpheleri giderene kadar bu teknolojinin kullanımını durdurmayı düşünmeliyiz.

Bobby Dean, Liberal Demokrat Milletvekili

Met’in 2016’daki ilk konuşlandırmasından bu yana LFR doğruluğunun büyük ölçüde arttığını ve bunun polise getirebileceği operasyonel faydaları kabul ettiğini belirten Philip, aynı zamanda teknolojinin yasama kontrolü ve yargı gözetimi ihtiyacını da vurguladı.

“Croydon’da, [LFR] A sınıfı uyuşturucu temini, ağır bedensel zarar, dolandırıcılık, ev içi hırsızlık gibi suçlar da dahil olmak üzere, normalde tutuklanmayacak olan yaklaşık 200 kişinin tutuklanmasıyla sonuçlandı. [and] iki tecavüzden aranan bir adam” dedi. “Bu teknoloji olmasaydı hâlâ özgürce yürüyor olacaklardı.”

Philip, “kurallar ve düzenlemeler söz konusu olduğunda tam bir boşluk olduğunu söylemek doğru olmasa da, bu kuralların yerinin ulusal düzeyde açıklığa kavuşturulması yararlı olacaktır” diye ekledi.

Birleşik Krallık’ın, çeşitli durumlarda uzaktan biyometrik tanımlamayı yasaklayan Yapay Zeka Yasası (AIA) ile suçluların serbest kalmasına izin vereceği gerekçesiyle Avrupa Birliği’nin ulaştığı noktaya kadar gitmesini görmek istemeyeceğini söyledi. , bir çeşit “düzenleme yapma yetkisini” kullanmayı, yeni birincil mevzuattan daha mantıklı bir yaklaşım olarak görüyor.

Bir milletvekili – Liberal Demokrat Bobby Dean – en azından bu teknolojinin kullanımını kontrol edecek birincil mevzuat oluşturulana kadar polisin bu teknolojinin konuşlandırılmasına tamamen son verilmesi çağrısında bulundu: “Sanırım bugün bu odadan açıkça görülüyor ki, çok çok fazla şüphe var. , dolayısıyla muhtemelen bu şüpheleri giderene kadar bu teknolojinin kullanımını durdurmayı düşünmeliyiz.”



Source link